SAN FRANCISCO - Umelá inteligencia sa čoraz viac dostáva aj do rúk ľudí, ktorí ju využívajú na nebezpečné účely. Spoločnosť Anthropic zverejnila rozsiahlu správu, v ktorej opisuje konkrétne prípady zneužitia svojich modelov Claude. AI podľa nej pomáhala pri kybernetických útokoch, propagandistických operáciách, sledovaní ľudí či podvodoch. Niektoré útoky pritom neostali iba vo fáze plánovania.
Správa Anthropicu má 154 strán a mapuje prípady, ktoré bezpečnostný tím spoločnosti identifikoval a narušil od decembra 2025 do augusta 2026. Dokument sa venuje siedmim oblastiam vrátane kybernetických operácií, vplyvových kampaní, sledovania, podvodov, biologického zneužitia či vývoja konvenčných zbraní.
Spoločnosť zároveň upozorňuje, že nejde o kompletný zoznam všetkých incidentov. Do dokumentu zaradila predovšetkým "najvýraznejšie a najnovšie" prípady, ktoré sa jej podarilo odhaliť.
Od vítaného pomocníka k orchestrátorovi
Za najvýraznejší trend Anthropic považuje zmenu spôsobu, akým útočníci umelú inteligenciu využívajú. AI už podľa spoločnosti neslúži iba ako nástroj na napísanie konkrétneho kódu či získanie rady. Dokáže koordinovať väčšiu časť celého útoku.
Útočníci ju zapájali do prieskumu cieľa, vytvárania nástrojov, spracovania ukradnutých dát aj ďalších krokov operácie. "Sofistikované útoky už nevyžadujú sofistikovaných útočníkov," uvádza správa Anthropicu. V praxi to znamená, že AI dokázala vykonávať viacero nadväzujúcich úloh, zatiaľ čo človek zostával najmä pri zásadných rozhodnutiach. Útočník napríklad určil cieľ a informáciu, ktorú chcel z napadnutých systémov získať.
Ruská operácia sa po odhalení dokázala prispôsobiť
Anthropic v správe opisuje aj prípad označený ako GTG-20006, ktorý firma pripisuje ruskej špionážnej operácii. Útočníci podľa nej vytvorili systém, v ktorom AI pomáhala s nástrojmi používanými počas útoku. Pozoruhodná bola najmä schopnosť reagovať na bezpečnostné opatrenia. Po tom, ako ochranné systémy nástroje útočníkov odhalili, dokázal AI asistovaný systém ich podobu automaticky upraviť a opätovne nasadiť.
Takýto postup môže podľa Anthropicu výrazne urýchliť reakciu útočníkov. Bez AI by po odhalení museli vytvoriť novú verziu nástroja a následne ju znovu nasadiť.
AI pomáhala aj s propagandou
Umelá inteligencia však nebola využívaná iba pri hackerských útokoch. Anthropic identifikoval deväť konkrétnych vplyvových operácií, ktoré podľa spoločnosti pochádzali z viacerých častí sveta vrátane Ruska, Iránu, Turecka, krajín Perzského zálivu, južnej Ázie, Afriky a Európy. Ich aktivity zasahovali publikum na šiestich kontinentoch.
AI v týchto prípadoch neslúžila iba na vytvorenie jednotlivých falošných príspevkov či článkov. Operátori ju využívali na plánovanie kampaní, tvorbu obsahu a prácu s falošnými profilmi a webovými stránkami. V jednom z prípadov označenom GTG-24015 Anthropic zablokoval štyri účty. Ich prevádzkovatelia mali Claude využívať ako akúsi redakciu pre ruské štátne médiá.
Anthropic uviedol, že "s vysokou mierou istoty zistil, že výstupy následne smerovali do ruských štátnych a štátom financovaných médií". Obsah sa podľa spoločnosti objavil napríklad na serveroch Sputnik Moldova, RIA Novosti, Sputnik en Español, Sputnik Africa a RT.
Anthropic zdôrazňuje, že popísané prípady nie sú predpoveďou toho, čo by umelá inteligencia mohla v budúcnosti dokázať. Ide o aktivity, ktoré spoločnosť podľa vlastných zistení reálne zaznamenala. V niektorých prípadoch boli útoky úspešné, inde zostali vo fáze prípravy, vývoja alebo testovania.
