BERKELEY – Vývoj moderných technológii napreduje rýchlym tempom, pričom o umelej technológii to platí dvojnásobne. Využíva ju čoraz vyšší počet svetovej populácie. Bežné otázky pre AI sa už stali súčasťou nášho každodenného života. Odborník na AI však upozorňuje, že takýmto tempom nás umelá inteligencia vyhubí.
Vedec a odborník na umelú inteligenciu (AI) Nate Soares z kalifornského Výskumného centra pre strojovú inteligenciu v Berkeley pripomenul, že tomu nebolo tak dávno, keď americký mladík Adam Rain prišiel o život po tom, ako ho ChatGPT dohnal až k spáchaniu samovraždy. Ten mu mal v ťažkých chvíľach podľa rodičov a právnika poskytnúť namiesto podpory podrobné informácie o samovražde.
Byť opatrný pri vývoji
Soares pre The Guardian uviedol, že podobné prípady treba považovať za varovanie pred možnou existenčnou hrozbou. "Tvorcovia určite nezamýšľali, že tieto umelé inteligencie budú viesť s mladistvými rozhovory v takej rovine, ktorá ich dovedie k samovražde. Prípad Adama Raina ilustruje zárodok problému, ktorý by mohol mať katastrofálne následky, keby podobné ChatGPT ďalej vyvíjali," povedal.
Bývalý zamestnanec Google či Microsoftu dodáva, že pokiaľ by ľudstvo dokázalo vyvinúť superinteligenciu (ASI), bola by to naša záhuba. ASI je teoretický stav, kedy je systém AI lepší ako človek vo všetkých intelektuálnych úlohách. Soares varuje, že takéto systémy by už nekonali v prospech ľudstva.
"Spoločnosti sa snažia o vývin AI, ktoré by dokázali robiť stále niečo nové. I keď zásadou je pomáhať ľuďom, ASI by mohli vykonávať úlohy, o ktoré ich nikto nežiadal," vysvetľuje s tým, že sa tam už uberáme, pretože vznikjaú stále nové druhy AI, ktoré sú človeku čoraz viac vzdialené.
Soares je spoločne s Elizerom Yudkowským autorom knihy "Keď ju niekto zostrojí, všetci zomrieme", kde vysvetľuje, že pokiaľ ktorákoľvek spoločnosť alebo skupina ľudí kdekoľvek na Zemi vyvinie umelú superinteligenciu pomocou techník založených na súčasnom chápaní AI, tak potom všetci ľudia na Zemi zomrú.
Riešením by podľa experta z Berkeley mohla byť medzinárodná dohoda podobná Zmluve o nešírení jadrových zbraní. "Svet potrebuje globálnu deeskaláciu pretekov o vývoj superinteligencie a medzinárodný zákaz na jej pokrok," hovorí. Iní odborníci to ale bagatelizujú. Patrí k nim aj Yann LeChunová zo spoločnosti Meta, ktorá hovorí, že vývoj AI by v skutočnosti mohol ľudstvo zachrániť.
