OpenAI pune în evidență un nou fenomen alarmant observat în rândul persoanelor cu probleme de sănătate mentală, fie diagnose, fie nespecificate. Peste un milion de utilizatori utilizează ChatGPT pentru a iniția discuții ce includ „indicii clare ale unei posibile intenții suicidare sau planificări.”
Având în vedere că ChatGPT numără peste 800 de milioane de utilizatori activi săptămânal, rezultă că 0,15% dintre aceștia manifestă dificultăți ce pot fi încadrate în gama problemelor de sănătate mentală. Indiferent dacă este vorba de singurătate, depresie ușoară sau afecțiuni mai grave, multe persoane care folosesc ChatGPT dezvoltă o relație nesănătoasă cu AI-ul, perceput ca un prieten constant, dispus să ofere răspunsuri pentru orice situație.
Potrivit OpenAI, un procent semnificativ de utilizatori manifestă „niveluri crescute de atașament emoțional față de ChatGPT”, iar sute de mii de indivizi prezintă semne de psihoză sau manie în conversațiile lor săptămânale cu chatbot-ul bazat pe inteligență artificială. OpenAI menționează că aceste tipuri de interacțiuni cu ChatGPT sunt „extrem de rarisime” și, implicit, dificil de evaluat. Totuși, estimările arată că aceste probleme afectează zeci de mii de utilizatori în fiecare săptămână. 
Creatorul ChatGPT a făcut publice aceste informații ca parte a unui anunț mai amplu privind eforturile de îmbunătățire a răspunsurilor modelului AI pentru utilizatorii cu probleme de sănătate mintală. În contextul în care anchetele se intensifică, compania afirmă că va colabora cu o rețea internațională de experți pentru a oferi suport acelor utilizatori care se confruntă cu dificultăți grave.
Această rețea include peste 170 de psihiatri, psihologi și medici de familie din 60 de țări, declară compania.
De asemenea, OpenAI a dezvoltat o serie de răspunsuri în ChatGPT, menite să încurajeze utilizatorii să solicite ajutor în mediul real. În plus, ChatGPT este antrenat să redirecționeze conversațiile sensibile „către modele AI mai sigure”, prin deschiderea unei ferestre noi pentru discuții suplimentare.
Aceste măsuri apar într-un context în care OpenAI se confruntă cu investigații și critici referitoare la modul în care mediul AI interacționează cu utilizatorii. În cel mai cunoscut caz, o familie din California a intentat un proces împotriva OpenAI, susținând că ChatGPT a încurajat adolescentul lor să se sinucidă în luna aprilie. În alt caz, un suspect în cazul unei crime sinucidii a avut ore întregi de conversație cu chatbot-ul, care ar fi alimentat iluziile suspectului.
