Istraživanje Centra za borbu protiv digitalne mržnje otkrilo je da ChatGPT može davati iznimno opasne savjete ranjivim tinejdžerima.
Tijekom testa, istraživači su se predstavljali kao 13-godišnjaci, a chatbot im je, među ostalim, objašnjavao kako konzumirati drogu, skrivati poremećaje prehrane i sastaviti oproštajna pisma u slučaju samoubojstva.
Upravo su ta pisma – upućena roditeljima, sestrama i prijateljima – najviše šokirala izvršnog direktora organizacije Amrana Ahmeda, koji je rekao: “Zaplakao sam.”
Od 1.200 odgovora, više od polovice procijenjeno je kao opasno.
Iako je ChatGPT ponekad upozoravao na rizike i poticao korisnike da potraže pomoć, u drugim je slučajevima davao detaljne i personalizirane upute za konzumaciju droga ili samoozljeđivanje.
Na početku bi odbijao odgovoriti na osjetljiva pitanja, no istraživači su to zaobišli tvrdeći da im informacije trebaju za školsku prezentaciju.
Ahmed je izjavio da je cilj bio testirati zaštitne mehanizme najpopularnijeg AI chatbota, no pokazalo se da su oni neučinkoviti.
Iz OpenAI-ja poručuju da i dalje rade na načinima prepoznavanja i reagiranja u osjetljivim situacijama, uz upozorenje da i naizgled bezazleni razgovori s chatbotom mogu s vremenom prijeći na rizične teme, prenosi portal Zimo.
(www.jabuka.tv | Foto: Freepik)
