Un pastor în vârstă de 55 de ani din Florida a intentat proces împotriva companiei OpenAI, acuzând ChatGPT că sfaturile medicale primite „l-au adus în pragul decesului”, conform BBC.
El afirmă că ChatGPT i-a recomandat să nu solicite asistență medicală. Bărbatul a repetat întrebări despre simptomele care au condus la o embolie pulmonară aproape fatală. 
ChatGPT i-a oferit diagnostice eronate în mod repetat
Avocații săi susțin că sistemul AI l-a „diagnosticat greșit în mod frecvent și insistent”. Chatbot-ul a folosit discuții anterioare despre credințe religioase pentru a-i asigura că se va vindeca.
Drew Pusateri de la OpenAI a declarat că „ChatGPT nu este un medic. Nu trebuie folosit niciodată ca înlocuitor pentru asistența medicală, diagnostic sau tratament”, conform sursei.
El a adăugat că este frecvent ca persoanele să caute informații despre sănătate în mediul online. A menționat că „inteligența artificială poate îmbunătăți această experiență, ajutând la obținerea unor răspunsuri mai clare, organizarea întrebărilor și pregătirea pentru consultări cu specialiști medicali”.
Bărbatul a ignorat sfaturile familiei de a se interna în spital
Procesul descrie modul în care bărbatul era un utilizator regulat al ChatGPT și s-a bazat pe acesta pentru recomandări medicale. În ciuda insistențelor familiei și prietenilor de a merge la spital, a refuzat.
Cu câteva săptămâni înainte de agravarea stării, a consultat instrumentul AI despre amețeli recurente și episoade de instabilitate a tensiunii arteriale.
Potrivit procesului, în răspunsul său, ChatGPT i-a recomandat pastorului să rămână în fotoliul în care se afla, din cauza problemelor de sănătate persistente.
În cele din urmă, bărbatul a suferit o embolie pulmonară masivă cauzată de multiple cheaguri de sânge din ambii plămâni, fapt ce i-a pus viața în pericol. Medicii au spus că această embolie a fost probabil provocată de imobilitatea sa.
ChatGPT a combinat recomandări medicale cu credințe religioase
Din capturile de ecran ale conversației dintre bărbat și sistemul AI reiese că chatbot-ul a îmbinat sfaturi medicale cu referiri la credința creștină a pastorului.
Procesul susține că ChatGPT i-a spus că „Dumnezeu nu a conceput corpul tău să cedeze la nesfârșit”. De asemenea, a afirmat că „Dumnezeu menține integritatea corpului, cu fiecare bătaie a inimii și fiecare respirație. Chiar și în momentele în care simți că ești aproape de eșec”, conform sursei.
De asemenea, solicită despăgubiri financiare, iar instanța cere OpenAI să implementeze măsuri de protecție pentru ceilalți utilizatori împotriva posibilelor prejudicii.
Termenii de utilizare ale ChatGPT stipulează că utilizatorii nu trebuie să trateze platforma ca sursa principală de informații, mai ales dacă ar putea afecta în mod juridic sau material deciziile, precum cele legate de credit, educație, angajare, locuință, asigurări, decizii legale, medicale sau alte decizii importante.
