RUSKO - Umelá inteligencia má zmeniť svet k lepšiemu, no podľa niektorých odborníkov môže znamenať jeho koniec. Renomovaný výskumník na bezpečnosť AI varuje, že riziko vyhladenia ľudstva je takmer isté. Kým jedni hovoria o technologickej revolúcii, iní bijú na poplach a tvrdia, že ľudstvo sa zahráva s vlastným zánikom.
Počítačový vedec špecializujúci sa na bezpečnosť umelej inteligencie tvrdí, že existuje až 99,9-percentná pravdepodobnosť, že umelá inteligencia v priebehu nasledujúceho storočia vyhladí ľudstvo. Výskumník Roman Yampolskiy je presvedčený, že civilizácia čelí existenčnej hrozbe v dôsledku nekontrolovaného vývoja AI.
Katastrofické dôsledky technologického pokroku
Yampolskiy, ktorý pôsobí na Univerzite v Louisville v oblasti bezpečnosti umelej inteligencie a kybernetickej ochrany, tento alarmujúci odhad prezentoval v dvojhodinovom rozhovore pre podcast Lexa Friedmana, informuje The Express. Počas diskusie opakovane zdôraznil, že žiadny systém umelej inteligencie, ktorý bol doteraz uvedený do prevádzky, nebol skutočne bezpečný, a vyjadril výraznú skepsu, že budúce generácie AI sa dokážu vyhnúť zásadným chybám. Svojimi vyjadreniami sa tak zaradil medzi úzku skupinu pôvodných priekopníkov umelej inteligencie, ktorí v poslednom období čoraz hlasnejšie upozorňujú na možné katastrofické dôsledky technologického pokroku.
Minulý rok Yampolskiy vydal knihu s názvom AI: Nevysvetliteľná, nepredvídateľná, nekontrolovateľná, ktorú opisuje ako široký úvod do základných problémov umelej inteligencie, vrátane nepredvídateľnosti jej správania a neschopnosti vysvetliť rozhodovacie procesy. Publikácia sa ďalej venuje otázkam vlastníctva a kontroly technológií, analyzuje možné riziká a neúmyselné následky ich využívania a uzatvára ju filozofickými a existenciálnymi úvahami o vedomí umelej inteligencie, jej možnej osobnosti a rozdieloch medzi ľudskou inteligenciou a všeobecnou umelou inteligenciou.
Medzi odborníkmi nerezonuje rovnaký názor
Technologickí odborníci upozorňujú, že práve pôvodní zakladatelia a priekopníci umelej inteligencie patria medzi najvýraznejších kritikov jej nekontrolovaného rozvoja a najčastejšie varujú pred jeho potenciálne ničivými dôsledkami.
Nie všetci experti však Yampolskiyho extrémne predpovede zdieľajú. Výskum univerzít v Oxforde a Bonne, založený na odpovediach viac než 2 700 odborníkov na umelú inteligenciu, dospel k záveru, že pravdepodobnosť vyhladenia ľudstva v dôsledku AI je približne päť percent. Podľa jednej z autoriek štúdie Katje Graceovej nejde o okrajový názor, keďže diskusia o existenčnom riziku je medzi expertmi bežná. Rozdiely v názoroch sa však týkajú skôr odhadu miery rizika než jeho samotnej existencie.
Niektorí významní predstavitelia technologického sveta myšlienku apokalyptických scenárov úplne odmietajú. Medzi nimi je spoluzakladateľ Google Brain Andrew Ng či priekopník umelej inteligencie Yann LeCun, ktorý kritizoval lídrov technologických firiem, vrátane šéfa OpenAI Sama Altmana, za to, že podľa neho šíria prehnaný strach z umelej inteligencie z dôvodov, ktoré nemusia byť čisto odborné.
Zásadné spoločenské dopady umelej inteligencie
Sam Altman pritom v minulosti opakovane upozorňoval na zásadné spoločenské dopady umelej inteligencie. Vyhlásil, že AI pravdepodobne zničí veľké množstvo pracovných miest, čo vyvolalo ostrú kritiku. Podobné varovania zaznievajú aj od ďalších skeptikov, ktorí upozorňujú, že masové zavádzanie AI môže spôsobiť rozsiahle ekonomické otrasy, keďže technológia má potenciál nahradiť pracovníkov vo všetkých odvetviach.
Už v roku 2015 Altman kontroverzne vyhlásil, že umelá inteligencia s veľkou pravdepodobnosťou povedie ku koncu sveta, hoci dovtedy vzniknú silné technologické spoločnosti. Kritiku si vyslúžil aj začiatkom tohto roka, keď naznačil, že široké rozšírenie umelej inteligencie si vyžiada zásadné zmeny v spoločenskej dohode, na ktorej dnes moderné spoločnosti fungujú.
