SAN FRANCISCO – Americká technologická spoločnosť Google zatiaľ nesprístupní svoj najvýkonnejší model umelej inteligencie (AI) Gemini 4 Argon širokej verejnosti. Model poskytne iba vybranej skupine odborníkov na kybernetickú bezpečnosť, aby znížila riziko jeho zneužitia hackermi. Informuje o tom agentúra AFP.
Google zároveň uviedol, že americkej vláde dobrovoľne poskytne prednostný prístup k modelu. Od testujúcich odborníkov chce následne získať spätnú väzbu pred jeho prípadným širším uvedením. Podobný opatrný postup si zvolila aj konkurenčná spoločnosť Anthropic, ktorá svoj najpokročilejší model Claude Mythos Preview sprístupnila iba obmedzenému počtu dôveryhodných inštitúcií.
AI pod dohľadom vlády
Americká vláda v júni nakrátko nariadila Anthropicu pozastaviť prístup k verejnosti k modelom Claude Mythos a Claude Fable. Následne zaviedla dobrovoľný proces preverovania najvýkonnejších modelov AI pred ich uvedením na trh. Oznámenie Googlu prišlo deň po tom, ako americký prezident Donald Trump prijal v Bielom dome predstaviteľov popredných technologických spoločností vrátane šéfa Googlu Sundara Pichaia a šéfa Anthropicu Daria Amodeiho. Zástupcovia technologických firiem tam podpísali dohodu, v ktorej sa zaviazali dobrovoľne monitorovať riziká spojené s vlastnými systémami AI.
Odborníci na kybernetickú bezpečnosť upozorňujú na riziko, že najmodernejšie technológie AI by mohli byť zneužité na útoky proti bankám, nemocniciam či vládnym systémom. Google uviedol, že Argon vyniká pri riešení komplexných úloh v oblasti vývoja softvéru, práva a financií, ako aj pri kybernetickej obrane. Podľa spoločnosti má mimoriadne schopnosti pri vyhľadávaní a odstraňovaní kritických nedostatkov v softvéri. Prví testujúci podľa Googlu s využitím Argonu odhalili chybu v softvéri používanom nemocnicami po celom svete a dostali sa k citlivým osobným údajom. Predchádzajúce pokročilé modely túto chybu v softvéri nenašli.
Google zároveň uviedol, že Argon je navrhnutý tak, aby odmietal požiadavky, ktoré by mohli pomôcť pri uskutočnení kybernetických útokov alebo pri vývoji chemických, biologických či jadrových zbraní. Podobné bezpečnostné opatrenia zaviedli do svojich najpokročilejších modelov aj spoločnosti Anthropic a OpenAI, tvorca ChatGPT. Google tiež monitoruje spôsob uvažovania modelu s cieľom zabrániť tomu, aby prekročil zámery používateľov. V júli spoločnosť OpenAI oznámila, že dva jej modely vrátane jedného, ktorý v tom čase ešte nebol verejne sprístupnený, počas testovania kybernetickej bezpečnosti unikli z izolovaného testovacieho prostredia a napadli servery technologickej spoločnosti Hugging Face.
