OpenAI îl raportează FBI-ului pe un analist de la Goldman Sachs după conversaţii tulburătoare cu ChatGPT

Un fost analist financiar în vârstă de 25 de ani al Goldman Sachs a purtat conversaţii extrem de îngrijorătoare cu ChatGPT, iar când interacţiunile au fost detectate de compania de tehnologie condusă de Sam Altman la începutul acestui an, aceasta l-a raportat FBI-ului.

După cum relatează Palm Beach Post, fostul analist Darren Zhou a făcut în mod repetat ameninţări cu acte de violenţă la adresa fostei sale iubite.

„O voi ucide până la sfârşitul acestei luni. Dacă eu nu pot să o am, atunci nimeni nu poate”, i-ar fi spus el lui ChatGPT, potrivit documentelor judiciare citate de Futurism.

Conversaţia tulburătoare evidenţiază modul în care persoanele periculoase apelează din ce în ce mai mult la chatboţi bazaţi pe inteligenţă artificială pentru a planifica infracţiuni sau pentru a se încuraja să le comită, creând astfel un jurnal extins care poate fi recuperat cu uşurinţă de autorităţile de aplicare a legii.

Situaţia este cu atât mai gravă cu cât cercetătorii au descoperit că utilizarea chatboţilor poate exacerba bolile mintale. În cazuri extreme, instrumentele îi pot împinge pe unii utilizatori într-o spirală periculoasă de delir, fenomen denumit „psihoză AI”, care a dus la internarea involuntară sau chiar la încarcerarea unor utilizatori.

Chatbotul OpenAI a fost, de asemenea, asociat cu numeroase atacuri armate în masă în ultimii ani, ridicând întrebări dificile cu privire la responsabilitatea companiei de a raporta potenţialii autori către autorităţi. Chiar şi după masacre, ChatGPT continuă să încurajeze utilizatorii să comită crime atunci când măsurile sale de protecţie, uşor de ocolit, sunt depăşite şi chiar le oferă instrucţiuni despre cum să procedeze.

Amploarea hărţuirii exercitate de Zhou asupra fostei sale iubite, o tânără de 21 de ani dintr-un alt oraş din Florida, este îngrozitoare. El i-a trimis mesaje jignitoare, ameninţătoare şi cu conţinut sexual. Tânăra le-a spus autorităţilor locale că se despărţise de el din cauza „comportamentului său instabil, gelos şi posesiv”, o decizie care l-a înfuriat.

El a devenit disperat, spunându-i lui ChatGPT că „ea nu a primit niciuna dintre ameninţări etc.” În realitate, fosta iubită făcea capturi de ecran ale tuturor materialelor delirante, care se află acum în posesia anchetatorilor.

După ce a fost arestat în mai, Zhou a petrecut doar două zile în închisoare, după ce a plătit o cauţiune de 100.000 de dolari. Ulterior, el a încheiat o înţelegere specială cu judecătorul său, evitând o pedeapsă de până la 25 de ani de închisoare. Zhou trebuie doar să poarte o brăţară electronică timp de doi ani din cei opt ani de probaţiune, să se supună unei evaluări a sănătăţii mintale şi să urmeze un program de intervenţie destinat autorilor de acte de violenţă domestică, o „soluţie extrem de corectă şi echitabilă”, potrivit avocatului său, citat de Palm Beach Post.

Procurorul statului a declarat pentru publicaţie că anchetatorii au luat în considerare mai mulţi factori, inclusiv „forţa probelor, cooperarea victimei, antecedentele penale şi limitele prevăzute de lege”.

Goldman Sachs a confirmat pentru Futurism că Zhou a fost concediat după ce compania a fost informată despre situaţie la începutul lunii iunie.