Meta proširuje svoje sigurnosne mjere za tinejdžere kako bi roditeljima, a možda i regulatorima, pokazala da su njezine platforme sigurne za njihovo korištenje.
Nekoliko mjeseci nakon što je počela prikazivati skrbnicima teme razgovora njihovih tinejdžera s AI chatbotom, Meta je predstavila novu sigurnosnu funkciju koja će ih također obavijestiti ako razgovori njihove djece upućuju na to da razmišljaju o samoozljeđivanju ili samoubojstvu.
Kada maloljetni korisnik razgovara o samoubojstvu ili samoozljeđivanju, Meta AI ga već usmjerava na krizne telefonske linije za pomoć i potiče ga da se obrati odrasloj osobi koja može pomoći. Počevši od danas, kompanija će također proaktivno obavijestiti roditelje ili skrbnike koji nadziru tinejdžera da je on u opasnosti, a podijelit će i resurse te savjete o tome što mogu učiniti kako bi pomogli svojoj djeci, prenosi Klix.
Meta navodi da je razvila poseban AI sustav za prepoznavanje ovakvih razgovora, ali će ručno pregledati sve razgovore koje AI označi prije nego što pošalje obavijest, kako ne bi izazvala paniku kada za to nema stvarnog razloga. Ipak, radije će postupiti opreznije i poslati obavijest čak i ako namjera tinejdžera ljudskom procjenom djeluje nejasno.
Ova funkcija sada je dostupna roditeljima koji koriste roditeljski nadzor na Instagramu u SAD-u, Ujedinjenom Kraljevstvu, Australiji i Kanadi, dok će do kraja godine biti dostupna svima koji koriste roditeljski nadzor diljem svijeta.
Kompanija također radi na razvoju mogućnosti kontaktiranja hitnih službi ako razgovor korisnika s Meta AI sugerira da bi mogao biti u neposrednoj opasnosti da si oduzme život, bez obzira na to radi li se o maloljetnoj ili odrasloj osobi. U svibnju je OpenAI predstavio funkciju koja također ima za cilj rješavanje problema samoozljeđivanja. Nazvana Trusted Contact for ChatGPT, ona korisnicima omogućuje da odrede prijatelja kojeg kompanija može kontaktirati ako procijeni da su u riziku da naude sami sebi.
Na kraju, Metina postavka Limited Content sada se primjenjuje i na interakcije s Meta AI. Ako je roditelj uključio opciju Limited Content na Instagramu, koja filtrira sadržaj s osjetljivim temama poput eksplicitnih vizuala za odrasle i samoozljeđivanja, tada će i AI interakcije njihove djece također biti dodatno ograničene.
(www.jabuka.tv)
