Mai mult de 1 milion de utilizatori ai programului informatic ChatGPT au evocat gânduri legate de sinucidere în interacțiunile lor cu acest asistent de inteligență artificială (AI) generativă, potrivit estimărilor furnizate de creatorul său, compania OpenAI, informează AFP potrivit Agerpres.
Compania californiană din domeniul AI estimează că aproximativ 0,15% dintre utilizatorii ChatGPT au ‘conversații care includ indicatori expliciți de planificare sau de intenție suicidară potențială’, a raportat ea într-un articol publicat luni pe blogul său.
OpenAI are 800 de milioane de utilizatori săptămânali, care corespund unui număr de aproximativ 1,2 milioane de persoane.
Compania americană estimează, de asemenea, că aproximativ 0,07% dintre utilizatorii săptămânali activi ai programului ChatGPT prezintă semnele unor potențiale urgențe de sănătate mintală legate de episoade psihotice sau maniacale, reprezentând puțin sub 600.000 de persoane.
Această chestiune se află în prim-planul atenției publice după moartea unui adolescent californian, Adam Raine. Părinții lui au dat recent în judecată compania OpenAI, afirmând că ChatGPT i-a oferit fiului lor sfaturi specifice despre modul în care acesta ar putea să se sinucidă.
OpenAI și-a consolidat de atunci funcția de control parental și a implementat alte măsuri de siguranță, printre care se numără accesul îmbunătățit la asistența telefonică de urgență, redirecționarea automată a conversațiilor sensibile către modele mai sigure și mesaje de atenționare care îi invită pe utilizatori să facă pauze în timpul sesiunilor prelungite de utilizare a chatbotului ChatGPT.
De asemenea, OpenAI a precizat că și-a actualizat modelul de ChatGPT pentru ca acesta să recunoască mai bine și să reacționeze la utilizatorii care trec printr-o urgență de sănătate mintală.
Compania californiană a adăugat că lucrează cu peste 170 de profesioniști din domeniul sănătății mintale pentru a reduce în mod semnificativ răspunsurile problematice.
