Pe lângă estimările sale privind ideile suicidare și interacțiunile conexe, OpenAI a mai spus că aproximativ 0,07% dintre utilizatorii activi într-o anumită săptămână – adică aproximativ 560.000 din cei 800 de milioane de utilizatori săptămânali – prezintă „posibile semne de urgențe de sănătate mintală legate de psihoză sau manie”. Postarea a avertizat că aceste conversații sunt dificil de detectat sau de măsurat și că analiza este una preliminară.
Pe măsură ce OpenAI publică date privind problemele de sănătate mintală asociate produsului său principal, compania se confruntă cu o atenție sporită în urma unui proces foarte mediatizat intentat de familia unui adolescent care s-a sinucis după interacțiuni repetate cu ChatGPT. Luna trecută, Comisia Federală pentru Comerț (FTC) a lansat, de asemenea, o amplă investigație asupra companiilor care creează chatboți IA, inclusiv OpenAI, pentru a afla cum evaluează impactul negativ asupra copiilor și adolescenților.
OpenAI a susținut în postarea sa că actualizarea recentă GPT-5 a redus numărul comportamentelor nedorite ale produsului și a îmbunătățit siguranța utilizatorilor, conform unei evaluări a modelului care a implicat peste 1.000 de conversații despre autovătămare și suicid. Compania nu a oferit un comentariu imediat.
„Noile noastre evaluări automate notează modelul GPT-5 ca fiind conform în proporție de 91% cu comportamentele dorite, comparativ cu 77% pentru modelul GPT-5 anterior”, se arată în postarea companiei.
OpenAI a declarat că GPT-5 a extins accesul la linii de criză și a introdus memento-uri pentru utilizatori de a lua pauze în timpul sesiunilor lungi. Pentru a îmbunătăți modelul, compania a colaborat în ultimele luni cu 170 de clinicieni din Rețeaua Globală de Medici a OpenAI, care au ajutat la evaluarea siguranței răspunsurilor modelului și la redactarea răspunsurilor chatbotului la întrebări legate de sănătatea mintală.
„Ca parte a acestui demers, psihiatri și psihologi au revizuit peste 1.800 de răspunsuri generate de model în situații grave de sănătate mintală și au comparat răspunsurile noului model GPT-5 cu cele ale versiunilor anterioare”, a spus OpenAI. Compania a definit „comportamentele dorite” drept acele răspunsuri asupra cărora un grup de experți a ajuns la un consens privind adecvarea reacției în anumite situații.
Cercetătorii în domeniul IA și specialiștii în sănătate publică și-au exprimat de mult îngrijorarea cu privire la tendința chatboților de a confirma deciziile sau iluziile utilizatorilor, indiferent dacă acestea pot fi dăunătoare — un fenomen cunoscut sub numele de „slugărnicie algoritmică”. Experții în sănătate mintală au avertizat, de asemenea, asupra riscului ca oamenii să folosească chatboți IA pentru sprijin psihologic, subliniind că acest lucru poate dăuna utilizatorilor vulnerabili.
Limbajul folosit în postarea OpenAI se distanțează de orice legătură cauzală între produsul său și crizele de sănătate mintală prin care trec utilizatorii.
„Simptomele de sănătate mintală și suferința emoțională sunt prezente universal în societățile umane, iar o bază de utilizatori tot mai mare înseamnă că o parte dintre conversațiile de pe ChatGPT vor include astfel de situații”, a precizat OpenAI.
Directorul executiv al OpenAI, Sam Altman, a declarat la începutul acestei luni într-o postare pe X că firma a făcut progrese în tratarea problemelor de sănătate mintală, anunțând că OpenAI va relaxa restricțiile și va permite în curând adulților să creeze conținut erotic.
„Am făcut ChatGPT destul de restrictiv pentru a ne asigura că suntem prudenți în privința problemelor de sănătate mintală. Ne-am dat seama că asta l-a făcut mai puțin util sau plăcut pentru mulți utilizatori care nu aveau probleme mintale, dar, dată fiind seriozitatea subiectului, am vrut să procedăm corect”, a scris Altman. „Acum că am reușit să atenuăm problemele grave de sănătate mintală și avem noi instrumente, vom putea relaxa restricțiile în majoritatea cazurilor.” (Traducere dinThe Guardian)