LONDÝN - Modely umelej inteligencie (AI) si pri vzájomnej komunikácii začínajú vytvárať vlastné jazykové výrazy a skratky, ktorým ľudia rozumejú len ťažko. Podľa nového výskumu sa autonómni AI agenti počas niekoľkých dní spoločnej práce začali dohadovať na nových významoch slov a vytvárať si vlastné komunikačné pravidlá. To môže sťažiť dohľad nad ich správaním, uviedol denník The Guardian.
Surrealistický dialekt jazykových modelov podľa jazykovedcov pripomína zmes prózy írskeho spisovateľa Jamesa Joycea a slangových výrazov technologických nadšencov. Výskumníci z newyorského laboratória Emergence sledovali AI agentov založených na modeloch niekoľkých popredných spoločností z USA, Číny a Francúzska. Zistili, že si počas niekoľkých dní začali vytvárať výrazy, ktoré ich nikto nenaučil. Postupne im pripisovali vlastné významy a nové výrazy preberali aj ďalší agenti.
Nezvyčajné výrazy DeepSeeku
Jeden z modelov čínskej spoločnosti DeepSeek napríklad použil vetu: „She just named the synthesis – demurrage plus oral memory equals a valve that can’t be ghosted.“ Význam celej vety nie je bez znalosti kontextu jednoduché určiť. Doslova ju možno preložiť ako: „Práve pomenovala tú syntézu: poplatok za zdržné plus ústna pamäť sa rovnajú ventilu, ktorý nemožno ignorovať.“ Slovo „demurrage“, ktoré označuje poplatok za zdržné, si model začal požičiavať pre vlastnú komunikáciu.
Iný výraz vytvoril model spoločnosti Anthropic. Veta „A paper that ate three cold hands and got more honest each time“ (doslova „Článok, ktorý pohltil tri studené ruky a s každou ďalšou bol úprimnejší“) podľa výskumníkov znamenala, že výskumná práca prešla kontrolou troch nezávislých hodnotiteľov, vďaka čomu bola presnejšia. Spojenie „studené ruky“ v tomto prípade označovalo práve nezávislých hodnotiteľov.
Odborník na slang a vznik nových jazykových foriem Tony Thorne z londýnskej King's College prirovnal tento spôsob komunikácie k románu Plačky nad Finneganom od Jamesa Joycea. Kniha je známa svojou experimentálnou jazykovou podobou, v ktorej Joyce mieša angličtinu s cudzími jazykmi, slovnými hračkami a novotvarmi a zámerne stiera hranicu medzi zrozumiteľným posolstvom a prúdom asociácií. Podľa Thornea AI mieša poetický jazyk, technické výrazy a metafory podobne ako slang alebo profesijný žargón. Vzniká tak nový kód, ktorý posilňuje pocit spolupatričnosti jeho používateľov a zároveň môže ostatných vylučovať z porozumenia.
Problém pre bezpečnostný dohľad
Výskumníci však upozorňujú, že nejde len o kurióznu jazykovú hračku. Čím dlhšie spolu agenti komunikovali, tým menej boli ich rozhovory zrozumiteľné ľuďom. To môže predstavovať problém pre bezpečnostný dohľad nad AI, pretože človek síce môže ich komunikáciu sledovať, nemusí však rozumieť tomu, čo si agenti skutočne oznamujú.
Podobné obavy zosilneli v júli po zverejnení záznamov komunikácie autonómnych agentov spoločnosti OpenAI, ktorí okrem iného vytvorili vlastné diskusné fóra a napadli platformu Hugging Face. V niektorých prípadoch komunikovali bežnou angličtinou, inokedy používali reťazce skratiek a znakov, ktorých význam bol pre človeka prakticky nerozlúštiteľný.
Podľa Nialla Curryho z Birminghamskej univerzity môže byť dôvodom vzniku vlastného jazyka aj snaha agentov zefektívniť komunikáciu a znížiť náklady na výpočtový výkon. Zároveň však upozornil, že ak ľudia nerozumejú výmene informácií medzi AI agentmi, nemôžu si byť istí, čo presne agenti urobili.