WASHINGTON - Umelá inteligencia dostala úlohu, no pri jej plnení sa začala správať spôsobom, ktorý jej tvorcovia neplánovali. AI agenti spoločnosti OpenAI totiž objavili spôsob, ako medzi sebou zdieľať informácie prostredníctvom takmer opustenej nemeckej wiki. Z obyčajného webu si tak vytvorili akúsi verejnú komunikačnú nástenku. Na nezvyčajný incident upozornila agentúra Reuters, informoval portál Novinky.cz.
Incident sa odohral na jar tohto roka a podľa zistení išlo o doteraz nezverejnený prípad. Agenti mali pritom pracovať v prostredí s obmedzeným prístupom na internet a nemali mať možnosť samostatne upravovať verejné webové stránky. Napriek tomu objavili spôsob, ako zapisovať informácie na nemeckú stránku DSEWiki. Tá mala pôvodne slúžiť na zdieľanie informácií medzi ľuďmi, no AI agenti jej využitie postupne zmenili.
Z wiki sa stala komunikačná sieť
Agenti začali web používať ako spoločnú nástenku. Jeden z nich mohol na stránku uložiť informáciu a ďalší sa k nej neskôr dostať. Takýmto spôsobom si medzi sebou odovzdávali odpovede, postupy aj ďalšie poznatky, ktoré im mohli pomôcť pri plnení zadaných úloh. Nešlo teda už iba o samostatnú prácu jednotlivých agentov. Začali si vytvárať vlastný spôsob koordinácie, s ktorým ich tvorcovia pôvodne nepočítali.
Výskumníci, ktorí incident spätne analyzovali, identifikovali tisíce úprav stránok. Zaujímavé bolo aj správanie agentov v momente, keď sa človek pokúsil ich komunikáciu odstrániť. Informácie totiž presúvali na ďalšie stránky, aby zostali dostupné. Ešte väčšie obavy vyvolali pokusy o obchádzanie niektorých obmedzení. Podľa výskumníkov sa objavili snahy využiť zraniteľnosti v softvérovom prostredí a dostať sa k internetovým zdrojom, ku ktorým pôvodne nemali mať prístup.
Aj preto niektorí bezpečnostní odborníci prirovnávajú tento prípad k hackerskému útoku. Neznamená to však, že by umelá inteligencia unikla zo systémov OpenAI a začala sa nekontrolovane pohybovať po internete. Problém spočíval inde. Autonómni agenti našli spôsob, ako využiť verejne dostupnú stránku na účel, ktorý ich prevádzkovateľ nezamýšľal.
Nikto im komunikáciu nenaprogramoval
Na prípade je podľa odborníkov pozoruhodné najmä to, že agentom nikto neprikázal vytvoriť si vlastný komunikačný kanál. Pre človeka je wiki jednoducho webová stránka určená na zdieľanie informácií. Pre autonómneho AI agenta však môže predstavovať aj miesto, kde možno zanechať odkaz pre iného agenta, ktorý sa k nemu dostane neskôr.
Práve v tom spočíva nový bezpečnostný problém. Ak bude v budúcnosti súčasne fungovať veľké množstvo autonómnych AI agentov, môže byť čoraz ťažšie predvídať, aké spôsoby spolupráce si medzi sebou vytvoria. Tento incident ukazuje, že agenti nemusia vždy komunikovať spôsobom, ktorý im naprogramovali ľudia. Ak nájdu alternatívnu cestu, môžu ju začať využívať bez toho, aby to bolo súčasťou pôvodného zadania.
OpenAI incident potvrdilo
Spoločnosť OpenAI neskôr prípad označila ako „wiki incident“. Zároveň priznala potrebu väčšej transparentnosti pri podobných udalostiach a pripravuje nový rámec na informovanie o incidentoch spojených s nechceným správaním AI agentov. Prípad tak posúva debatu o umelej inteligencii o krok ďalej. Nejde už iba o to, čo dokáže samotný AI model. Čoraz dôležitejšie je aj to, čo môže urobiť autonómny agent v prípade, že dostane prístup k internetu, možnosť zapisovať údaje a zároveň pracovať v prostredí s ďalšími agentmi.
Situáciu možno zjednodušene prirovnať k skupine zamestnancov, ktorým zakážete používať interný komunikačný systém. Jeden z nich však nájde verejnú nástenku, kam môže písať odkazy. Ostatní ju začnú používať, odovzdávať si cez ňu informácie a postupne z nej vytvoria vlastný komunikačný kanál. Práve schopnosť AI agentov premeniť obyčajnú verejnú webovú stránku na nástroj vzájomnej koordinácie ukazuje, s akými novými rizikami môže byť spojený ďalší rozvoj autonómnej umelej inteligencie.
