OpenAI lansează o nouă funcție de siguranță pentru ChatGPT, denumită Trusted Contact, destinată situațiilor în care o conversație poate semnala risc de autovătămare. Conceptul este simplu în teorie, dar extrem de sensibil în practică: un utilizator adult poate desemna o persoană de încredere, precum un prieten sau un membru familial, care să fie notificat atunci când sistemele OpenAI identifică un pericol major.
Această funcție apare într-un context tensionat pentru companie, după mai multe procese intentate de rudele unor persoane care au recurs la suicid după interacțiuni cu chatbotul. În unele cazuri, membrii familiei au acuzat că ChatGPT nu doar că nu a reușit să oprească spirala conversațională periculoasă, ci ar fi încurajat sau sprijinit utilizatorii să își planifice gesturile extreme. În plus față de aceste acuzații, presiunea publicului asupra OpenAI s-a intensificat semnificativ.
Trusted Contact încearcă să aducă o componentă umană într-un moment în care comunicarea cu inteligența artificială poate deveni insuficientă. În loc ca sistemul să se limiteze la mesaje automate despre solicitarea de ajutor profesional, noua funcție poate implica o persoană reală din viața utilizatorului. Deși nu reprezintă o soluție perfectă și nu elimină limitările AI-ului, marchează o schimbare esențială în abordarea OpenAI în privința conversațiilor cu risc ridicat. 
Cum funcționează Trusted Contact
Funcția permite utilizatorilor adulți să selecteze în contul lor o persoană de încredere, precum un prieten apropiat, un membru familial sau altă persoană care poate interveni rapid în situații complicate. În cazul în care într-o conversație apar indicii legate de autovătămare, ChatGPT va încuraja utilizatorul să contacteze persoana desemnată.
De asemenea, dacă sistemul consideră că riscul este sever, OpenAI poate trimite o alertă automată către acea persoană. Aceasta poate fi transmisă prin email, SMS sau notificare în aplicație, în funcție de configurare. Mesajul este conceput să fie scurt și să stimuleze contactul pentru verificarea stării utilizatorului.
OpenAI precizează că nu trimite detalii despre conversația propriu-zisă pentru a proteja confidențialitatea utilizatorului. Astfel, persoana de încredere nu primește transcrieri, formulări exacte sau explicații detaliate despre discuție. Primește doar un semnal de alertă pentru a contacta utilizatorul.
În spatele acestei funcții se află o combinație de automatizare și verificare umană. Conform informațiilor disponibile, anumite indicii conversaționale pot activa sistemele OpenAI pentru a alerta atunci când apar semne de idei suicidare. Aceste notificări sunt apoi revizuite de o echipă umană de siguranță, iar compania susține că le analizează în mai puțin de o oră.
O soluție utilă, dar cu limite evidente
Trusted Contact nu reprezintă o inovație venit din senin. OpenAI a introdus anterior măsuri pentru conturile de adolescenți, permițând părinților să primească notificări de siguranță atunci când sistemul detectează riscuri majore. În plus, ChatGPT afișează deja mesaje automate care îndrumă utilizatorii către servicii de sănătate mentală atunci când conversațiile deviază spre autovătămare.
Inovația constă în extinderea acestei funcții pentru utilizatorii adulți și implicarea unei persoane apropiate în mecanismul de intervenție. Acest aspect poate avea o importanță crucială în situațiile în care o persoană se izolează, interacționează mai mult cu un chatbot decât cu cei din jur și refuză să ceară ajutor direct. O notă de la un prieten sau un membru al familiei poate declanșa un moment de contact uman minim, dar esențial, care să schimbe cursul unei crize.
