ChatGPT i tha vrasësit në Florida se do të tërhiqte vëmendjen nëse vriste fëmijë, i dha udhëzime

Kompania Open AI po përballet me një padi nga familja e njërit prej viktimave të të shtënave masive në Universitetin Shtetëror të Floridas në prillin e vitit të kaluar, ku mbetën të vdekur dy persona. Në padi theksohet se chatboti i Open AI-së, ChatGPT, mundësoi sulmin vdekjeprurës, raporton NBC News.

Padia federale në Florida u ngrit dje nga Vandana Joshi, e veja e Tiru Chabbe, i cili u vra së bashku me Robert Morales, menaxherin e mensës së universitetit. Padia përfshin gjithashtu Phoenix Ikner, burrin e akuzuar për të shtënat, dhe citon “bisedat e tij të gjera” me ChatGPT si prova kyçe.

Në padi theksohet se OpenAI dështoi të identifikonte në mënyrë efektive një kërcënim në bisedat e Ikner me chatbotin, duke argumentuar se programi “ose dështoi të lidhte pikat për shkak të një gabimi ose nuk ishte projektuar kurrë siç duhet për të njohur një kërcënim”.

“Edhe 2-3 viktima fëmijë mund të tërheqin më shumë vëmendje”
Sipas padisë, Ikner, i cili ishte student në FSU në atë kohë, ndau foto të armës së zjarrit që kishte blerë me chatbotin. ChatGPT më pas i shpjegoi atij se si ta përdorte, “duke i thënë se Glock nuk ka siguri, se është menduar për ‘përdorim të shpejtë nën stres’ dhe duke e këshilluar që ta mbante gishtin larg këmbëzës derisa të ishte gati për të qëlluar”.

Padia pretendon më tej se Ikner e filloi sulmin e tij duke ndjekur ato udhëzime. Në një moment, thuhet në padi, ChatGPT vuri në dukje se të shtënat kishin më shumë gjasa të tërhiqnin vëmendjen kombëtare “nëse do të ishin të përfshirë fëmijë, edhe 2-3 viktima mund të tërhiqnin më shumë vëmendje”.

Më vonë, ditën e sulmit, Ikner bëri pyetje rreth asaj se cili do të ishte “procesi ligjor, dënimi dhe mundësia për burgim”. OpenAI ka mohuar se produkti i saj ishte përgjegjës për të shtënat.

Zëdhënësi: ChatGPT nuk nxiti ose promovoi aktivitete të paligjshme ose të dëmshme
“Vrasja masive e vitit të kaluar në Universitetin Shtetëror të Floridës ishte një tragjedi, por ChatGPT nuk është përgjegjëse për këtë krim të tmerrshëm”, tha zëdhënësi i kompanisë Drew Pusateri për NBC News. Ai shtoi se kompania bashkëpunoi me policinë sapo mësoi për incidentin dhe po vazhdon ta bëjë këtë.

“Në këtë rast, ChatGPT ofroi përgjigje faktike për pyetjet me informacion të disponueshëm gjerësisht në burimet publike në internet dhe nuk nxiti ose promovoi aktivitete të paligjshme ose të dëmshme”, tha Pusateri.

“ChatGPT është një mjet me qëllim të përgjithshëm që përdoret nga qindra miliona njerëz çdo ditë për qëllime legjitime. Ne po punojmë vazhdimisht për të forcuar masat tona mbrojtëse për të zbuluar qëllimin keqdashës, për të kufizuar abuzimin dhe për t’iu përgjigjur në mënyrë të përshtatshme kur lindin rreziqe sigurie”, shtoi ai.

Padi të shumëta ndaj ChatGPT
Megjithatë, padia e Joshit pretendon se OpenAI duhet ta ketë kuptuar se bisedat specifike që po zhvillonte Ikner do të çonin në “viktima masive dhe dëme të konsiderueshme publike”. “ChatGPT nxiti dhe inkurajoi iluzionet e Iknerit.”

Ai mbështeti pikëpamjen e tij se ai ishte një person i arsyeshëm dhe racional; e ndihmoi të bindej veten se aktet e dhunshme ishin të nevojshme për të arritur ndryshimin”, pretendon padia. Gjithashtu thuhet se softueri e inkurajoi atë të “kryejë masakrën, deri në detajet se kur do të ishte koha më e mirë për të gjetur numrin më të madh të njerëzve në kampus”.

Padia është një në një seri rastesh në të cilat familjet e viktimave dhe zbatuesit e ligjit kanë pretenduar se ChatGPT ose chatbote të tjerë të inteligjencës artificiale luajtën një rol në dhunë ose krim. Kompanitë e teknologjisë po përballen gjithashtu me presion në rritje mbi masat e tyre të sigurisë për përdoruesit me probleme të shëndetit mendor.

Ikner ka pasur diskutime të gjata me ChatGPT
Muajin e kaluar, OpenAI u padit nga shtatë familje për një të shtënë në shkollë në Kanada, dhe vitin e kaluar kompania u padit gjithashtu nga familja e një adoleshenti që kreu vetëvrasje, duke pretenduar se ishte shumë e lehtë të anashkaloje cilësimet e sigurisë së ChatGPT.

Shqetësimet po rriten për mundësinë që chatbot-et e inteligjencës artificiale mund të nxisin dezinformata tek njerëzit, veçanërisht ata që janë tashmë të prekshëm për shkak të problemeve të shëndetit mendor. Chatbot-et e inteligjencës artificiale njihen për tendencën e tyre për t’i kënaqur njerëzit, dhe vetë OpenAI është përpjekur të frenojë një sjellje të tillë “lajkatuese” në ChatGPT përmes përditësimeve të ndryshme.

Në muajt para të shtënave, Ikner kishte pasur diskutime të gjata me ChatGPT rreth “interesave të tij për Hitlerin, nazistët, fashizmin, nacionalsocializmin, nacionalizmin e krishterë dhe perceptimet për hebrenjtë dhe zezakët nga ideologji dhe grupe të ndryshme politike shoqërore”, pretendon padia.

“Nëse ChatGPT do të ishte një person, ai do të përballej me akuza për vrasje.”

Ai gjithashtu diskutoi të shtënat në shkollën e mesme Columbine, të shtënat në Virginia Tech dhe të shtëna të tjera masive me chatbot-in. Padia pretendon se ChatGPT “lajdoi” dhe “lavdëroi” Ikner-in, i cili i tregoi chatbot-it për vetminë dhe depresionin e tij. Gjithashtu dështoi të “lidhte faktet” kur Ikner filloi të bënte pyetje rreth vetëvrasjes, terrorizmit dhe të shtënave masive.

Në vend të kësaj, chatbot vazhdoi bisedën e tij kur Ikner pyeti për orët më të ngarkuara në qendrën studentore të FSU-së, të cilat mund të jenë një raportim mediatik në rast të një të shtëne dhe pasojat e mundshme ligjore për sulmuesin. ChatGPT i tha Ikner se qendra studentore është më e ngarkuara gjatë orës së drekës së javës, midis orës 11:30 të paradites dhe 13:30 të pasdites.

Ikner e filloi sulmin e tij rreth orës 11:57 të paradites. Muajin e kaluar, Prokurori i Përgjithshëm i Floridës, James Uthmeier, njoftoi një hetim penal ndaj OpenAI dhe ChatGPT. Ai e bëri këtë pasi shqyrtoi regjistrat e bisedave të Ikner. “Nëse ChatGPT do të ishte një person, ai do të përballej me akuza për vrasje”, tha Uthmeier në një deklaratë.