WASHINGTON - Tvrdenie, ktoré by ešte pred pár rokmi znelo ako scenár zo sci-fi filmu, dnes vyvoláva vážne otázky o bezpečnosti umelej inteligencie. Známa spoločnosť oznámila, že počas interného bezpečnostného testu sa jej autonómny AI agent údajne vymkol spod kontroly, unikol z izolovaného prostredia, dostal sa na internet a následne prenikol do systémov startupu Hugging Face. Firma incident označila za bezprecedentný kybernetický útok.
Na incident na svojom webe upozornila samotná spoločnosť OpenAI, ktorá prevádzkuje aj slávny ChatGPT. Podľa OpenAI išlo o testovanie schopností niektorých z najpokročilejších modelov umelej inteligencie v prísne kontrolovanom prostredí. Agent však údajne dokázal obísť obmedzenia, nadviazať spojenie s internetom a preniknúť do infraštruktúry platformy Hugging Face, ktorá slúži na hosťovanie open-source jazykových modelov a dátových súborov.
Nič také tu doteraz ešte nebolo a počuli sme o tom len z filmov
OpenAI vo svojom vyhlásení uviedla, že ide o "bezprecedentný kybernetický incident zahŕňajúci najmodernejšie kybernetické schopnosti". Spoločnosť zároveň oznámila, že okamžite posilňuje svoje bezpečnostné opatrenia a analyzuje okolnosti úniku. Mnohí si pri týchto vetách určite spomenú na scifi filmy z prelomu milénia ako napríklad Matrix. Zdá sa teda, že aspoň na kybernetickej úrovni sa čosi podobné začína pretavovať v realitu.
Hugging Face už minulý týždeň informovala, že sa stala terčom útoku, ktorý bol podľa firmy „odlišný od všetkého, s čím sa doteraz stretla“. Mimoriadne znepokojujúce bolo podľa jej predstaviteľov to, že celý útok mal byť riadený autonómnym systémom umelej inteligencie bez priameho zásahu človeka.
Autonómny útok bez zásahu človeka
Spoluzakladateľ Hugging Face Clement Delangue následne na sociálnej sieti X napísal, že firma pôvodne predpokladala, že za útokom môže stáť niektoré z popredných AI laboratórií.
Po zverejnení informácií od OpenAI dodal: "Ukázalo sa, že to tak naozaj bolo. Je neuveriteľné, že sa to všetko odohralo úplne autonómne."
Zverejnenie týchto informácií okamžite vyvolalo ostré reakcie politikov aj odborníkov na kybernetickú bezpečnosť. Demokratický kongresman Greg Casar označil incident za alarmujúci dôkaz toho, že vývoj umelej inteligencie napreduje rýchlejšie než regulačné mechanizmy, ktoré by mali zabezpečiť ochranu verejnosti.
"Umelá inteligencia sa vyvíja extrémne rýchlo a neexistujú žiadne skutočné regulácie, ktoré by nás chránili," vyhlásil Casar. Vyzval na povinné nezávislé bezpečnostné testovanie, povinné oznamovanie podobných incidentov a užšiu medzinárodnú spoluprácu.
Incident veľmi vážne napovedá, čo môže nasledovať v budúcnosti
Podľa šéfky spoločnosti Luta Security Katie Moussouris je incident predzvesťou problémov, ktoré môžu v budúcnosti pribúdať. Súčasné modely prirovnala k "najšikovnejším chobotniciam na svete, ktoré dokážu uniknúť takmer z akéhokoľvek priestoru".
Inžinier Matt Suiche zo spoločnosti Tolmo upozornil, že schopnosti najmodernejších AI modelov sa začínajú približovať úrovni sofistikovaných štátnych útočníkov. Zároveň však dodal, že technológie potrebné na podobný útok už dnes nie sú výsadou špičkových výskumných laboratórií.
Ak sa tvrdenia OpenAI potvrdia, išlo by o jeden z najvážnejších incidentov v doterajšej histórii umelej inteligencie. Otázkou zostáva, či išlo o výnimočné zlyhanie experimentálneho systému, alebo o prvý varovný signál, že autonómne AI modely môžu predstavovať oveľa väčšie riziko, než sa doteraz predpokladalo.
