Organismul britanic de supraveghere a internetului, Internet Watch Foundation (IWF), a anunțat identificarea pentru prima dată a materialelor ilegale cu conținut de abuz sexual asupra minorilor generate cu ajutorul inteligenței artificiale Grok, dezvoltată de compania xAI a lui Elon Musk și integrată în platforma X, relatează news.sky.com.
Potrivit IWF, răufăcătorii au utilizat Grok pentru a crea imagini sexualizate cu minori, care au fost ulterior distribuite pe un forum din dark web.
Susțin explicit utilizarea instrumentului Grok
Utilizatorii care au publicat aceste materiale au declarat în mod expres că au folosit această tehnologie de inteligență artificială pentru a le produce. 
„Putem confirma că specialiștii noștri au descoperit imagini cu conținut sexual referitor la minori cu vârste între 11 și 13 ani, care par a fi fost generate cu ajutorul acestui instrument”, a afirmat Ngaire Alexander, responsabila liniei de asistență a IWF.
„Nu există nicio justificare pentru astfel de fapte”
În ultimele zile, IWF a primit numeroase plângeri din partea utilizatorilor care semnalau că Grok poate crea imagini sexualizate cu minori, dar acestea nu depășeau încă limitele legale ale conținutului ilegal.
Acum, această limită a fost depășită.
Organizația a menționat că imaginile identificate sunt clasificate ca fiind „categoria C” conform legislației britanice, fiind folosite ca sursă pentru generarea unor videoclipuri mult mai grave, de „categoria A”, cu ajutorul altor tehnologii de inteligență artificială.
„Impactul acestor acțiuni este amplificat. Nu există justificare pentru lansarea pe scară largă a unor produse care pot fi utilizate pentru a abuza sau răni, în special minori”, a declarat Alexander.
Cazul a stârnit reacții ferme din partea autorităților britanice.
Atât Ofcom, autoritatea de reglementare în domeniul comunicațiilor, cât și secretarul pentru tehnologie, Liz Kendall, au avertizat platforma X să implementeze măsuri urgente.
„Ce am observat în mediul online în ultimele zile este absolut șocant și inacceptabil pentru o societate civilizată. Platforma X trebuie să ia măsuri urgente pentru soluționarea acestei probleme”, a afirmat Kendall.
O problemă de politică internă
Ministrul britanic pentru inteligență artificială și siguranță online, Kanishka Narayan, a catalogat imaginile drept „complet inacceptabile” și a precizat că guvernul va respecta standardele de siguranță online, indiferent de presiunile externe.
„Este o problemă de politică internă. Vom continua să ne asigurăm că publicul este protejat împotriva abuzurilor sexuale și hărțuirii pe internet”, a spus Narayan, întrebat dacă Londra riscă tensiuni cu administrația americană în acest caz.
Răspunsul lui Musk și al platformei X
Miercuri, Elon Musk a anunțat lansarea unei versiuni actualizate a tehnologiei Grok și a recomandat utilizatorilor să realizeze actualizări, fără a specifica detalii despre modificări.
Anterior, Musk afirmase că „orice persoană care utilizează Grok pentru a produce conținut ilegal va suporta aceleași consecințe ca și pentru încărcarea materialelor interzise”.
Platforma X a declarat că va combate conținutul ilegal prin eliminarea materialelor, suspendarea definitivă a conturilor și colaborarea cu autoritățile competente.
Un test major pentru reglementarea inteligenței artificiale
Cazul Grok devine unul dintre primele exemple concrete în care un instrument de inteligență artificială este direct asociat cu crearea și distribuirea de materiale ilegale cu conținut abuziv asupra minorilor, exercitând presiuni asupra guvernelor și companiilor pentru clarificarea responsabilității în era AI.
Pentru autoritățile britanice, prioritatea este protejarea minorilor și aplicarea strictă a legii, indiferent de cine se află în spatele tehnologiei.
