ChatGPT pare a fi înlocuit cu succes vechile rețele de informatori, care-și „turnau” vecinii sau colegii la cel mai mic semn de comportare neconformă. OpenAI recunoaște relația strânsă cu forțele de ordine din Statele Unite, raportând conversații sau interacțiuni considerate amenințătoare la adresa securității publice.
În această săptămână, într-un lung articol de blog, OpenAI a recunoscut că monitorizează conversațiile utilizatorilor, raportând autorităților orice interacțiuni suspecte:
„Când depistăm utilizatori care intenționează să lezeze pe alții, direcționăm conversațiile către o echipă specializată, instruită în politicile noastre și autorizată să ia măsuri, inclusiv blocarea conturilor”, a precizat OpenAI. „Dacă evaluarea relevă o amenințare gravă la adresa altor persoane, putem informa autoritățile.” 
Mărturisirea a ridicat multe întrebări. Oare judecata subiectivă a moderatorilor umani nu pune sub semnul întrebării principiul unui sistem de inteligență artificială proiectat să rezolve probleme complexe? Cum reușește OpenAI să localizeze utilizatorii pentru a-i contacta în caz de urgență? Și cum se protejează împotriva abuzurilor celor care ar putea simula incidente periculoase pentru a-și atinge scopurile?
Această declarație pare să contrazică afirmațiile CEO-ului OpenAI, Sam Altman, care a promis utilizatorilor confidențialitate similară cu cea oferită de un terapeut, avocat sau medic.
„Acum câțiva ani, Edward Snowden a dezvăluit cooperarea marilor companii tehnologice cu serviciile secrete americane”, a subliniat un analist. „Nu este absurd să credem că ChatGPT transmite informații importante guvernului SUA.”
OpenAI se află într-un conflict între dorința de a asigura confidențialitatea utilizatorilor și nevoia de a-i proteja de chatboții necontrolabili, care pot genera probleme psihologice și comportamente periculoase. Prin monitorizarea conversațiilor, OpenAI creează un vast sistem de supraveghere, o tehnologie care ar putea fi admirată de orice regim totalitar.
Aurelian Mihai
Îmi place să urmăresc ultimele inovații tehnologice. În afara scrierii pentru Zona IT, mă dedic seriilor științifico-fantastice, documentarelor și ultimelor știri.
