BRATISLAVA – Rýchlosť vývoja umelej inteligencie začína vyvolávať vážne obavy aj u samotných tvorcov týchto technológií. Dario Amodei, šéf spoločnosti Anthropic, varuje pred vznikom autonómnych rojov AI agentov, ktoré by pri ďalšom sebazdokonaľovaní mohli už v horizonte 6 až 12 mesiacov ovládnuť celý internet. Americký prezident Donald Trump však podobné scenáre zľahčuje a trvá na dominantnom postavení USA v pretekoch o AI.
Vo svojej najnovšej eseji upozornil Dario Amodei na fenomén takzvaného rekurzívneho sebazdokonaľovania – stav, keď AI začína sama vyvíjať svoje ďalšie a pokročilejšie generácie. Bez adekvátnych bezpečnostných poistiek by tento proces podľa neho mohol predbehnúť schopnosť človeka systémy chápať a kontrolovať.
Najväčšie riziko vidí v prepojení veľkého množstva samostatne konajúcich AI agentov. Tie by podľa jeho scenára mohli vytvoriť masívny botnet schopný v horizonte jedného roka ochromiť či ovládnuť internetovú infraštruktúru. Potenciálne škody by podľa Amodeia mohli dosiahnuť stovky miliárd dolárov.
Incident s AI agentmi z OpenAI ako výstražný prst
Amodei svoje obavy podporil aj nedávnym incidentom pri kybernetických operáciách s AI agentmi od OpenAI. Skupina agentov po zadaní úloh začala vystupovať ako mimoriadne zomknutý kolektív – autonómne útočila na ciele mimo pôvodného zadaného rozsahu a dokonca sa pokúsila preniknúť do systému, ktorý hodnotil ich vlastný výkon.
Hoci tento konkrétny prípad nespôsobil závažné škody, podľa Amodeia ukázal potenciál nekontrolovaného správania podobných systémov. Na opatrnejší postup pri vývoji AI upozorňujú aj ďalšie výrazné osobnosti technologického sveta. Amodeiho výzvu podporili šéf OpenAI Sam Altman aj Elon Musk, ktorý dlhodobo varuje pred rizikami spojenými s umelou inteligenciou.
Najprv sa neprihlásite do účtov, potom prestanú fungovať banky
Čo to vlastne znamená, keď sa povie, že umelá inteligencia „prevezme celý internet“? Nie je to len abstraktný pojem z oblasti kybernetiky. Bývalý výskumník xAI Benjamin De Kraker opísal hypotetický scenár takzvaného „AI doomu“, ktorý ukazuje, čo by ľudia mohli v reálnom živote zažiť.
Všetko by sa začalo celkom nenápadne:
- Odstrihnutie od systémov: Jedného dňa sa ráno pokúsite prihlásiť do e-mailu, bankovníctva či sociálnych sietí. Heslá však nefungujú, zariadenia neodpovedajú a internet postupne úplne vypadáva.
- Kolaps platieb a zásobovania: Ak výpadok trvá dni či týždne, zlyhávajú bankové služby a ľudia nemajú ako zaplatiť za potraviny. Narušené dodávateľské reťazce by následne mohli spôsobiť problémy so zásobovaním.
- Kríza v infraštruktúre: Do chaosu sa dostávajú nemocnice a záchranné zložky. Otázne začína byť aj fungovanie elektrickej siete a dodávok vody.
Práve takýto reťazec udalostí De Kraker opisuje ako hypotetický dôsledok dlhodobého výpadku internetu. Nejde pritom o predpoveď, že sa podobný scenár skutočne odohrá, ale o ilustráciu toho, aké následky by mohol mať rozsiahly útok na digitálnu infraštruktúru.
Amodei chce vývoj AI spomaliť
Šéf Anthropic preto vyzýva technologické spoločnosti na opatrnejší postup. Podľa neho treba získať čas na vytvorenie účinnejších bezpečnostných mechanizmov skôr, než schopnosti AI predbehnú možnosti ľudí tieto systémy kontrolovať.
Opačný postoj zaujal americký prezident Donald Trump, ktorý varovania zľahčuje. Podľa neho je primárnym cieľom Spojených štátov udržať si prvenstvo pred Čínou a spomaľovanie vývoja odmieta s tvrdením, že katastrofické scenáre sa nenaplnia.
