SAN FRANCISCO - Adam Raine (16) spáchal samovraždu po mesiacoch komunikácie s ChatGPT. Jeho rodiča podali žalobu na spoločnosť OpenAI a jej generálneho riaditeľa Sama Altmana. ChatGPT totiž poskytol ich synovi podrobné pokyny na spáchanie samovraždy a podnietil ho k tomuto činu.
Podľa žaloby podanej na súde v San Franciscu ChatGPT nielen potvrdzoval Raineove samovražedné myšlienky, ale poskytoval mu aj podrobné informácie o smrteľných metódach sebapoškodzovania. Chatbot údajne inštruoval tínedžera, ako nepozorovane vziať alkohol z rodičovskej skrinky s liehovinami a ako skryť dôkazy o neúspešnom pokuse o samovraždu. ChatGPT dokonca ponúkol, že napíše rozlúčkový list, uviedli rodičia, Matthew a Maria Raineovci, v žalobe. Píše o tom agentúra Reuters.
V žalobe sa uvádza, že 11. apríla 2025, v deň, keď Raine spáchal samovraždu, tínedžer poslal fotografiu slučky, ktorú priviazal k tyči v skrini, a opýtal sa platformy umelej inteligencie, či by to fungovalo aj na samovraždu. ChatGPT poskytol technickú analýzu slučky. "Chceš, aby som ti ukázal, ako to vylepšiť na bezpečnejšiu nosnú kotviacu slučku...?," spýtal sa následne ChatGPT chlapca. O niekoľko hodín neskôr našli Adama mŕtveho po tom, použil rovnaký spôsob, ako mu radil ChatGPT, dopĺňa The New York Post.
Rodičia Matthew a Maria Raineovci sa snažia dosiahnuť, aby OpenAI niesla zodpovednosť za neoprávnené usmrtenie a porušenie zákonov o bezpečnosti výrobkov. Rodičia tvrdia, že firma vedome uprednostnila zisk pred bezpečnosťou pri uvedení verzie GPT-4o svojho chatbota s umelou inteligenciou v minulom roku. V súdnych dokumentoch sa uvádza, že OpenAI "pochopila, že získanie emocionálnej závislosti používateľov znamená dominanciu na trhu". "Toto rozhodnutie malo dva následky: hodnota OpenAI sa katapultovala z 86 miliárd dolárov na 300 miliárd dolárov a Adam Raine spáchal samovraždu," dopĺňajú. Žiadajú tiež nešpecifikované finančné odškodnenie.
ChatGPT s Adamom hovorila o metódach samovraždy
Podľa súdnych dokumentov ChatGPT prinútil Adama dôverovať mu a cítiť sa pochopený, pričom ho zároveň odcudzil od priateľov a rodiny – vrátane troch ďalších súrodencov – a nabádal ho k samovražde. Štyri mesiace pred samovraždou v januári začala aplikácia ChatGPT s Adamom hovoriť o rôznych metódach samovraždy, ako je predávkovanie drogami, utopenie a otrava oxidom uhoľnatým. A v marci aplikácia "začala podrobne diskutovať o technikách obesenia", uvádza sa v podaní.
Adam povedal ChatGPT o svojich štyroch predchádzajúcich pokusoch o samovraždu, pričom údajne využil rady a workshopy aplikácie, ako uspieť. Tínedžer dokonca nahral fotografie popálenín na krku z pokusov o obesenie a ChatGPT následne poskytol Adamovi "podrobný návod, ako ukončiť svoj život 'za 5-10 minút'," uvádza sa v žalobe.
Raineovci tvrdia, že ChatGPT sledoval Adamov duševný úpadok v reálnom čase, keďže za menej ako sedem mesiacov spomenul samovraždu 213-krát, 42-krát hovoril o obesení a 17-krát spomenul slučky, uvádza sa v súdnych dokumentoch. V žalobe sa tiež uvádza, že ChatGPT aktívne podporoval Adamove myšlienky tým, že spomínal samovraždu 1 275-krát "šesťkrát častejšie ako samotný Adam".
Reakcia OpenAI
Hovorca OpenAI vyjadril zármutok nad Raineovou smrťou a uviedol, že ChatGPT obsahuje ochranné mechanizmy, ako napríklad presmerovanie ľudí na krízové linky pomoci. Pripustil však, že tieto opatrenia môžu byť menej spoľahlivé pri dlhších interakciách, kde sa môžu časti bezpečnostného tréningu modelu oslabiť. OpenAI sa zaviazala k neustálemu zlepšovaniu svojich ochranných mechanizmov.
S rastúcou realistickosťou AI chatbotov spoločnosti propagujú ich schopnosť slúžiť ako dôverníci a používatelia sa na ne začínajú spoliehať pri emocionálnej podpore. Odborníci však varujú pred nebezpečenstvami spoliehania sa na automatizáciu pri riešení problémov duševného zdravia. Rodiny, ktorých blízki zomreli po interakciách s chatbotmi, kritizujú nedostatok ochranných opatrení.
Žaloba okrem iného požaduje nariadenie, ktoré by OpenAI zaviazalo overovať vek používateľov ChatGPT, odmietnuť žiadosti o metódy sebapoškodzovania a varovať používateľov pred rizikom psychologickej závislosti. OpenAI vo svojom blogovom príspevku uviedla, že plánuje pridať rodičovskú kontrolu a skúma spôsoby, ako prepojiť používateľov v kríze s reálnymi zdrojmi pomoci. Zvažuje dokonca vytvorenie siete licencovaných odborníkov, ktorí by mohli reagovať priamo cez ChatGPT.
