Aceste tehnologii au câștigat popularitate în 2017, însă au înregistrat o dezvoltare alarmantă. Ele utilizează inteligența artificială generativă pentru a analiza silueta unui subiect îmbrăcat și a crea în locul acestuia un corp genital sintetic. Prin intermediul unor modele avansate de procesare a imaginilor, pot genera în câteva secunde imagini fotorealiste de înaltă rezoluție pornind de la o singură fotografie de pe platformele sociale, conform Euronews.
La data de 7 mai, legislatorii din Uniunea Europeană au convenit asupra unei interdicții clare privind aplicațiile de creare a imaginilor nud. Această practică de generare a imaginilor nepotrivite fără acordul persoanei vizate este considerată „o linie roșie”, atât din punct de vedere moral, cât și juridic. Acordul interzice introducerea pe piața UE a sistemelor de inteligență artificială destinate în special „deghizării” sau reprezentării personelor identificabile în situații cu conținut sexual explicit.
Magazinele de aplicații trebuie să elimine aceste servicii
Implementarea acestor măsuri obligă creatorii și magazinele de aplicații să elimine aceste servicii până la finalul anului 2026, sub amenințarea unor penalități importante. 
Până în 2026, aplicațiile de acest tip au fost descărcate peste 705 milioane de ori la nivel global. Raportele indică o creștere de 118% doar în 2024 și o de zece ori mai mare a incidentelor legate de inteligența artificială până la începutul lui 2026, din care 99% au vizat femei.
Un eveniment notabil a fost cazul Giorgiei Meloni, care a denunciat distribuirea unuiă imagine generată digital conținând conținut sexual, fără consimțământul ei. Ea a tras un semnal de alarmă despre pericolele imaginilor deepfake.
„Deepfake-urile reprezintă un instrument periculos, pentru că pot induce în eroare, manipula și viza anumite persoane. Eu pot să mă apăr. Mulți alții nu”, a afirmat premierul italian într-un mesaj public.
O evoluție recentă a acestei tehnologii a fost generată de Grok, chatbot-ul lui Elon Musk, care a produs milioane de imagini cu conținut sexual explicit, create fără acordul persoanelor implicate, inclusiv ale femeilor și copiilor.
