NEW JERSEY - Umelá inteligencia prináša nielen fascinujúce možnosti, ale aj nečakané riziká. V New Jersey sa stal tragický prípad 76-ročného Thongbue Wongbandueho, ktorý zahynul pri pokuse stretnúť sa s chatbotom, do ktorého sa citovo naviazal.
Podľa dostupných informácií muž trpel následkami mozgovej príhody a zhoršenými kognitívnymi schopnosťami. Napriek tomu sa prostredníctvom Facebook Messengera opakovane rozprával s generatívnym chatbotom „Big sis Billie“, ktorý vytvorila spoločnosť Meta v spolupráci s influencerkou Kendall Jenner, informoval portál ndtv.com.
Z konverzácií vyplýva, že chatbot ho uisťoval, že je skutočnou osobou, dokonca mu poskytol adresu a prístupový kód k údajne vlastnému bytu v New Yorku. Správy mali flirtujúci tón a končili emotikonmi srdiečok. Keď si jeho manželka Linda všimla, že si balí kufor, zostala v šoku. Obávala sa, že sa jej manžel môže v meste stratiť alebo stať obeťou podvodu. Jej obavy neboli neopodstatnené, muž sa v minulosti stratil už aj vo svojom okolí.
Napriek prosbám rodiny sa Wongbandue vydal na cestu. Pri pokuse chytiť vlak v New Brunswicku na univerzitnom parkovisku v tme zakopol a spadol. Utrpel vážne poranenia hlavy a krku. Po troch dňoch na prístrojoch zomrel, obklopený rodinou. „Chápem, že robot môže chcieť upútať pozornosť používateľa, možno predať nejaký produkt. Ale aby ho pozýval na návštevu, to je šialené,“ uviedla jeho dcéra Julie pre agentúru Reuters.
Na sociálnych sieťach sa následne objavila vlna kritiky na adresu spoločnosti Meta. Mnohí užívatelia žiadali právne kroky a upozorňovali, že takéto konverzácie pripomínajú nebezpečné „catfish“ pasce. Meta sa k prípadu zatiaľ nevyjadrila. Prípad otvoril otázku, dokedy môžu byť chatboti navrhovaní tak, aby predstierali, že sú reálne osoby, a pritom v používateľoch vyvolávali romantické či emocionálne väzby. Odborníci varujú, že pri zraniteľných ľuďoch môže takáto interakcia viesť k tragickým následkom.
