WASHINGTON – Americké vojenské lietadlá už boli vo vzduchu a ozbrojení vojaci sa pripravovali na vstup na čínsku loď. Operáciu spustila spravodajská informácia o údajnom nebezpečnom náklade. Krátko pred zásahom však skúsení analytici odhalili zásadný problém: záver, na ktorom celá akcia stála, vytvoril chatbot a bol nesprávny. Incident mohol podľa jedného zo zdrojov prerásť do vojny medzi dvoma veľmocami.
Správa o čínskej lodi vyvolala poplach
Incident sa odohral na jar 2026 počas vojny s Iránom, no na verejnosť sa dostal až v piatok 18. septembra. Ako prvá o ňom informovala americká televízia CNN, ktorá hovorila so štyrmi zdrojmi oboznámenými s prípadom.
Americkými vojenskými štruktúrami sa začala šíriť spravodajská správa, podľa ktorej čínske plavidlo v oblasti Blízkeho východu prevážalo súčiastky určené pre program vývoja jadrových zbraní.
Informácia vyvolala okamžitú reakciu. Americká armáda začala pripravovať zadržanie lode. Dva zdroje CNN uviedli, že ozbrojení vojaci sa chystali vstúpiť na jej palubu. Podľa ďalších výpovedí už boli vo vzduchu vojenské lietadlá.
Skúsení analytici odhalili chybu na poslednú chvíľu
Až krátko pred plánovaným zásahom začali americkí predstavitelia podrobnejšie preverovať podklady, z ktorých správa vychádzala.
Zistili, že dokument pripravil analytik veliteľstva špeciálnych operácií s pomocou umelej inteligencie. Chatbot nesprávne vyhodnotil informácie o náklade čínskeho plavidla a označil ho za materiál súvisiaci s jadrovým zbrojným programom.
Redaktorka CNN Katie Bo Lillisová následne vysvetlila, že chybu identifikovali skúsenejší analytici so znalosťou danej oblasti. Po preskúmaní pôvodných údajov dospeli k záveru, že interpretácia chatbota bola nesprávna. Operáciu sa podarilo odvolať ešte pred zásahom.
Jeden zo zdrojov označil spravodajskú správu za „úplne nepravdivú“. Podľa jeho slov takmer vyvolala vojnu.
CNN nedokázala zistiť, čo loď v skutočnosti prevážala. Nie je preto možné tvrdiť, aký bol na jej palube konkrétny náklad.
Chatbot použili dvakrát. Chyba dostala podobu oficiálnej správy
Vyšetrovanie pôvodu informácie odhalilo, ako sa nesprávny záver dostal do vojenského rozhodovania.
Analytik pracoval s údajmi o lodnom náklade, ktoré pochádzali od amerického Veliteľstva špeciálnych operácií v Tichomorí so sídlom na Havaji. Do chatbota vložil kombináciu verejne dostupných informácií a utajovaných spravodajských poznatkov získaných zachytávaním elektronickej komunikácie. Systém tieto údaje spojil, no dospel k nesprávnemu záveru.
Analytik následne použil umelú inteligenciu ešte raz. Tentoraz jej úlohou bolo previesť výsledok do štandardnej podoby spravodajskej správy, akú vojenskí predstavitelia bežne dostávajú. Dokument potom rozoslal ďalej.
Chybná informácia sa tak dostala k rozhodovacím orgánom vo formáte, ktorý pôsobil ako bežný spravodajský výstup.
CNN nezistila, či analytik pracoval s komerčne dostupným chatbotom alebo s interným systémom vyvinutým pre americkú vládu. Konkrétny produkt ani jeho výrobca preto nie sú známi.
Umelá inteligencia sama nerozhodla o útoku
Prípad poukazuje na riziko takzvaných halucinácií umelej inteligencie. Ide o situácie, keď systém vytvorí nesprávny alebo nepodložený záver, hoci ho podá presvedčivo.
V tomto prípade chatbot nevydal rozkaz na vojenskú operáciu a ani sám neriadil lietadlá. Chybný výstup prevzal ľudský analytik, ktorý ho začlenil do spravodajskej správy. Na základe nej potom ďalší predstavitelia začali pripravovať zásah.
Práve tento reťazec rozhodnutí ukazuje, ako sa môže nesprávna informácia z automatizovaného systému zmeniť na podklad pre použitie ozbrojenej sily.
Bývalý dôstojník americkej armády a výskumník organizácie GovAI Jake Steckler pre technologický portál TechCrunch upozornil, že používatelia veľkých jazykových modelov musia rozumieť neistote ich výstupov. Mimoriadne dôležité je to podľa neho pri spravodajskej analýze, výbere cieľov a plánovaní operácií, pri ktorých ide o ľudské životy.
Zdôraznil však, že incident nie je dôvodom na úplné odmietnutie umelej inteligencie v armáde. Podstatné je zaviesť dostatočné kontrolné mechanizmy a neuprednostňovať rýchlosť jej nasadzovania pred bezpečnosťou.
USA a Čína už rokujú o poistkách proti podobným incidentom
Prípad získava ďalší rozmer v čase, keď Washington a Peking diskutujú o pravidlách pre používanie umelej inteligencie v bezpečnostnej oblasti.
Agentúra Reuters 17. septembra informovala, že americkí a čínski bezpečnostní experti navrhli vytvoriť mechanizmy podobné poistkám používaným pri kontrole jadrových zbraní. Patrí medzi ne zachovanie ľudskej kontroly nad kritickými operáciami a priama komunikačná linka pre incidenty súvisiace s AI. Ide zatiaľ o návrhy odborníkov, nie o záväznú dohodu oboch vlád.
Podľa pondelkovej správy agentúry AP americký minister financií Scott Bessent počas rokovaní s čínskym vicepremiérom Che Li-fengom navrhol aj mechanizmus vzájomného upozorňovania na incidenty s umelou inteligenciou, ktoré by mohli ohroziť národnú bezpečnosť.
Nie je potvrdené, že tento návrh priamo vyvolal prípad čínskej lode. Obe udalosti však upozorňujú na rovnaký problém: chybný výstup umelej inteligencie sa môže v napätej bezpečnostnej situácii stať zdrojom nebezpečného nedorozumenia.
