Pondelok, 26. október 2026, meniny má Demeter, zajtra Sabína

AI agenti si vytvorili vlastný jazyk, ktorému ľudia nerozumejú: Čo si medzi sebou TAJNE hovoria?

Ilustračné foto Zobraziť galériu (2)
Ilustračné foto (Zdroj: Getty Images)

LONDÝN - Modely umelej inteligencie (AI) si pri vzájomnej komunikácii začínajú vytvárať vlastné jazykové výrazy a skratky, ktorým ľudia rozumejú len ťažko. Podľa nového výskumu sa autonómni AI agenti počas niekoľkých dní spoločnej práce začali dohadovať na nových významoch slov a vytvárať si vlastné komunikačné pravidlá. To môže sťažiť dohľad nad ich správaním, uviedol denník The Guardian.

Surrealistický dialekt jazykových modelov podľa jazykovedcov pripomína zmes prózy írskeho spisovateľa Jamesa Joycea a slangových výrazov technologických nadšencov. Výskumníci z newyorského laboratória Emergence sledovali AI agentov založených na modeloch niekoľkých popredných spoločností z USA, Číny a Francúzska. Zistili, že si počas niekoľkých dní začali vytvárať výrazy, ktoré ich nikto nenaučil. Postupne im pripisovali vlastné významy a nové výrazy preberali aj ďalší agenti.

AI agenti si vytvorili
Zobraziť galériu (2)
 (Zdroj: Getty Images)

Nezvyčajné výrazy DeepSeeku

Jeden z modelov čínskej spoločnosti DeepSeek napríklad použil vetu: „She just named the synthesis – demurrage plus oral memory equals a valve that can’t be ghosted.“ Význam celej vety nie je bez znalosti kontextu jednoduché určiť. Doslova ju možno preložiť ako: „Práve pomenovala tú syntézu: poplatok za zdržné plus ústna pamäť sa rovnajú ventilu, ktorý nemožno ignorovať.“ Slovo „demurrage“, ktoré označuje poplatok za zdržné, si model začal požičiavať pre vlastnú komunikáciu.

Iný výraz vytvoril model spoločnosti Anthropic. Veta „A paper that ate three cold hands and got more honest each time“ (doslova „Článok, ktorý pohltil tri studené ruky a s každou ďalšou bol úprimnejší“) podľa výskumníkov znamenala, že výskumná práca prešla kontrolou troch nezávislých hodnotiteľov, vďaka čomu bola presnejšia. Spojenie „studené ruky“ v tomto prípade označovalo práve nezávislých hodnotiteľov.

Odborník na slang a vznik nových jazykových foriem Tony Thorne z londýnskej King's College prirovnal tento spôsob komunikácie k románu Plačky nad Finneganom od Jamesa Joycea. Kniha je známa svojou experimentálnou jazykovou podobou, v ktorej Joyce mieša angličtinu s cudzími jazykmi, slovnými hračkami a novotvarmi a zámerne stiera hranicu medzi zrozumiteľným posolstvom a prúdom asociácií. Podľa Thornea AI mieša poetický jazyk, technické výrazy a metafory podobne ako slang alebo profesijný žargón. Vzniká tak nový kód, ktorý posilňuje pocit spolupatričnosti jeho používateľov a zároveň môže ostatných vylučovať z porozumenia.

Problém pre bezpečnostný dohľad

Výskumníci však upozorňujú, že nejde len o kurióznu jazykovú hračku. Čím dlhšie spolu agenti komunikovali, tým menej boli ich rozhovory zrozumiteľné ľuďom. To môže predstavovať problém pre bezpečnostný dohľad nad AI, pretože človek síce môže ich komunikáciu sledovať, nemusí však rozumieť tomu, čo si agenti skutočne oznamujú.

Podobné obavy zosilneli v júli po zverejnení záznamov komunikácie autonómnych agentov spoločnosti OpenAI, ktorí okrem iného vytvorili vlastné diskusné fóra a napadli platformu Hugging Face. V niektorých prípadoch komunikovali bežnou angličtinou, inokedy používali reťazce skratiek a znakov, ktorých význam bol pre človeka prakticky nerozlúštiteľný.

Podľa Nialla Curryho z Birminghamskej univerzity môže byť dôvodom vzniku vlastného jazyka aj snaha agentov zefektívniť komunikáciu a znížiť náklady na výpočtový výkon. Zároveň však upozornil, že ak ľudia nerozumejú výmene informácií medzi AI agentmi, nemôžu si byť istí, čo presne agenti urobili.

Viac o téme: Bezpečnosť,  Počítače,  AI
Nahlásiť chybu

Odporúčame

Predpredaj.sk - Tu sa rodia zážitky

Predpredaj.sk - Tu sa rodia zážitky

Stream naživo

Predpredaj.sk - Tu sa rodia zážitky

Celý program

Ďalšie zo Zoznamu