Site-urile abandonate, adesea directionate spre funcţionalitatea AI Overviews a Google, sunt achiziţionate în masă, alături de alte domenii web inactive. Acestea devin platforme de propagare a informaţiilor false, concepute pentru a „contamina” sistemele de chatbot precum ChatGPT, Gemini şi altele. Inteligența artificială poate absorbi cu uşurinţă aceste date, întemeindu-se pe credibilitatea anterioară a site-urilor compromise.
În urma dispariţiei site-urilor legitime, apare o vastă reţea de pagini fantomă, rezultatul achiziţionării în masă a site-urilor abandonate şi a domeniilor expirate. În timp ce utilizatorii umani pot distinge mai uşor frauda, algoritmii ChatGPT sunt programaţi să absoarbă automat orice sursă de informaţii online.
Răspunsurile generate de ChatGPT sunt formulate într-un mod convingător, creând dificultăţi în identificarea informaţiilor provenite din surse nesigure. Indicatorii surselor nu sunt întotdeauna suficienţi; utilizatorii nu investighează constant originea datelor. În rezultat, rezumatele de la AI Overviews şi răspunsurile ChatGPT pot înlocui sursele legitime, facilitând răspândirea dezinformării şi fraudelor. 
Analizele lui James Brockbank, CEO Digitaloft, au evidențiat cazuri în care ChatGPT citează conţinut de pe site-uri manipulat anterior.
Un exemplu este al unui cabinet de avocatură, al cărui site a fost modificat pentru a promova cazinouri. Un alt exemplu este transformarea unui site afiliat Națiunilor Unite într-o platformă pentru cazinouri online.
Acest tipar se observă la diferite site-uri, domenii web inițial credibile fiind redirecţionate către scopuri frauduloase. Astfel de conţinuturi neautorizate sunt interpretate de ChatGPT şi alte sisteme de chat ca fiind legitime, putând compromite acurateţea şi credibilitatea răspunsurilor utilizatorilor.
Producătorii de conţinut fraudulos au găsit o cale eficientă de a-şi creşte profiturile, profitând de faptul că ChatGPT, spre deosebire de motoarele de căutare tradiţionale, nu verifică în mod adecvat sursele de informații online.
Ca urmare, conţinutul neautorizat de pe site-urile compromis apare frecvent în răspunsurile generate de ChatGPT, fără ca utilizatorii să-şi dea seama de nesiguranţa acestora.
Problema este amplificată de tendinţa ChatGPT de a favoriza conţinutul recent, chiar şi atunci când acesta nu reprezintă o continuitate cu conţinutul anterior al site-ului, afectând credibilitatea generală a sistemului. Deci, site-urile pot «deceda» în urma redirectionării traficului spre sisteme de chatbot, care pot fi contaminate de conținut de calitate îndoielnică provenit de pe site-uri anterior credibile.
Aurelian Mihai
Îmi place să fiu la curent cu cele mai recente inovații și gadgeturi din tehnologie. Când nu scriu articole pentru Zona IT, mă dedic serialelor științifico-fantastice, documentarelor sau탐험 internetului pentru informații interesante. În weekend, prefer să mă plimb cu bicicleta sau să călătoresc cu familia.
