CANBERRA - Austrálsky pacient utrpel vážnu otravu a skončil v nemocnici po tom, čo sa riadil odporúčaním chatbota a nahradil soľ toxickou chemikáliou. Lekári preto dôrazne upozorňujú používateľov umelej inteligencie, aby nepreceňovali funkcie tohto informačného systému, pretože v žiadnom prípade nedokáže nahradiť odbornú lekársku pomoc.
Umelá inteligencia (AI) preniká takmer do každého aspektu každodenného života. Od rezervácie dovoleniek až po písanie e-mailov sa chatboty stávajú obľúbeným nástrojom pre rýchle odpovede. Pre mnohých sa fráza „opýtaj sa ChatGPT“ stala samozrejmosťou. Odborníci však varujú, že v oblasti zdravotných rád sa nebezpečne pohybujeme na neprebádanom území, informoval portál indy100.com.
Dôkazom je muž z Austrálie, ktorý skončil v nemocnici so vzácnou a nebezpečnou formou otravy po tom, čo sa riadil radou od ChatGPT. Pacient sa údajne snažil znížiť príjem soli (chloridu sodného) a zlepšiť svoje celkové zdravie. Podľa podrobnej lekárskej správy zverejnenej v časopise Annals of Internal Medicine, mu ChatGPT údajne odporučil nahradiť bežnú soľ bromidom sodným. Bez ďalšieho overenia alebo konzultácie s lekárom si muž túto látku objednal cez internet a zaradil ju do každodennej stravy.
A v čom bol problém? Bromid sodný nie je potravinový doplnok. Bežne sa využíva ako dezinfekcia vody, sanitizačný prostriedok, likvidátor slizu, baktericíd, algicíd, fungicíd a prípravok proti mäkkýšom. Táto kľúčová informácia však v chatbotovej odpovedi chýbala. Asi tri mesiace po zaradení bromidu sodného do stravy začal muž trpieť paranoidnými bludmi a v jednom momente tvrdil, že sa ho snaží otráviť sused.
„Počas prvých 24 hodín hospitalizácie prejavoval pacient rastúcu paranoju a sluchové aj zrakové halucinácie, ktoré po pokuse o útek vyústili do nedobrovoľného psychiatrického zadržania pre vážne ohrozenie,“ uviedli lekári. Po stabilizovaní liekmi bol pacient schopný opísať celý kontext, vrátane toho, akú úlohu v celej situácii zohralo použitie ChatGPTu. Krvné testy potvrdili, že trpí bromizmom, čiže vzácnym a vážnym stavom spôsobeným toxickým hromadením bromidov v tele.
Ich bezpečná hladina je zvyčajne pod 10 mg/l. U tohto muža dosiahla neuveriteľných 1 700 mg/l. „Je dôležité si uvedomiť, že ChatGPT a iné systémy umelej inteligencie môžu generovať vedecké nepresnosti, nedokážu kriticky posúdiť výsledky a môžu podporovať šírenie dezinformácií,“ uzavreli odborníci v publikovanej prípadovej štúdii. Tento incident je varovným signálom: hoci môže byť AI úžasným pomocníkom, nemala by nahrádzať rady kvalifikovaných zdravotníkov. V oblasti zdravia môže totiž dôvera chatbotu spôsobiť jeho používateľovi nebezpečné následky.
