ŠTOKHOLM - Kávu síce nalieva ľudská ruka, ale za pultom v experimentálnej kaviarni v Štokholme ťahá za nitky niečo oveľa menej tradičné. Začínajúca firma Andon Labs so sídlom v San Francisku zverila vedenie kaviarne Andon Café vo švédskom hlavnom meste zástupkyni umelej inteligencie (AI), ktoré hovoria Mona, napísala agentúra AP.
Kým ľudskí baristi stále varia kávu a obsluhujú zákazníkov, agentka AI, ktorú riadi technológia Gemini od Googlu, dohliada na takmer všetky ostatné aspekty podnikania, od zamestnávania zamestnancov po správu zásob. Zatiaľ nie je jasné, ako dlho tento experiment vydrží, pretože sa zdá, že má AI problém dosiahnuť zisk v konkurenčnom štokholmskom kaviarenskom prostredí.
Kaviareň od svojho otvorenia v polovici apríla dosiahla tržby dosahujúce v prepočte viac ako 5700 dolárov, ale z pôvodného rozpočtu presahujúceho 21.000 dolárov zostáva menej ako 5000. Veľká časť peňazí bola vynakladaná na jednorazové náklady na sprevádzkovanie, a tak prevádzkovateľ dúfa, že sa bilancia nakoniec vyrovná a kaviareň začne zarábať. Mnoho návštevníkov kaviarne považuje za zábavné navštíviť podnik, ktorý je riadený umelou inteligenciou. Zákazníci si môžu v kaviarni zobrať telefón a klásť Mone otázky. "Je pekné vidieť, čo sa stane, keď posuniete hranice," povedala zákazníčka Kajsa Norinová. "A káva bola dobrá," dodala.
Odborníci však poukazujú na množstvo etických otázok
Odborníci však poukazujú na množstvo etických otázok, od úlohy technológie v budúcnosti ľudstva až po vedenie pracovných pohovorov a hodnotenie výkonu zamestnancov. Emrah Karakaya, docent priemyselnej ekonómie na Kráľovskom technologickom inštitúte (KTH) v Štokholme, prirovnal tento experiment k "otvoreniu Pandorinej skrinky" a dodal, že zveriť riadenie podniku umelej inteligencii môže spôsobiť mnoho problémov. Čo sa podľa neho stane, keď sa zákazník otrávi jedlom? Kto za to nesie zodpovednosť?
"Ak nemáte k dispozícii potrebnú organizačnú infraštruktúru a ak tieto chyby prehliadnete, môže to spôsobiť škodu ľuďom, spoločnosti, životnému prostrediu i podnikaniu," povedal Karakaya. "Otázne je, či nám na týchto negatívnych dopadoch záleží," uviedol. Spoločnosť Andon Labs, založená v roku 2023, je startup zaoberajúci sa bezpečnosťou a výskumom umelej inteligencie. Podľa vlastného vyjadrenia sa zameriava na záťažové testovanie agentov umelej inteligencie v reálnom svete tým, že im dáva "skutočné nástroje a skutočné peniaze".
Andon Labs spolupracuje s výrobcom ChatGPT OpenAI, spoločnosťou Anthropic (Claude), Google DeepMind a xAI Elona Muska, a uvádza, že sa pripravuje na budúcnosť, v ktorej "budú organizácie autonómne riadené umelou inteligenciou". Švédska kaviareň je prezentovaná ako "riadený experiment", ktorý má preskúmať, ako by mohla byť AI v budúcnosti nasadená. "AI bude v budúcnosti významnou súčasťou spoločnosti, a preto chceme týmto experimentom zistiť, aké etické otázky vyvstanú, keď budeme mať AI, ktorá zamestnáva iných ľudí a riadi podnik," uviedla Hanna Peterssonová, členka technického tímu Andon Labs.
(Zdroj: Getty Images)
Laboratórium už skôr realizovalo pilotné projekty
Laboratórium už skôr realizovalo pilotné projekty, v ktorých AI systém Claude od spoločnosti Anthropic riadil prevádzku automatov a obchod so suvenírmi v San Francisku. Simulácia s automatmi odhalila niektoré znepokojujúce črty: AI agent sľuboval zákazníkom vrátenie peňazí, ale nikdy tak neurobil, a navyše zámerne klamal dodávateľom o cenách konkurencie, aby si zabezpečil výhodnejšiu pozíciu. Mona sa pustila do práce po tom, čo dostala niekoľko základných usmernení, uviedla Peterssonová. Tím jej povedal, aby sa pokúsila prevádzkovať kaviareň so ziskom, bola priateľská a neformálna, aby sama riešila prevádzkové detaily, no v prípade potreby požiadala o nové nástroje.
Agentka AI na základe týchto usmernení uzatvorila zmluvy na elektrinu a internet, a zabezpečila povolenie na manipuláciu s potravinami a vonkajšie posedenie. Potom inzerovala voľné pracovné miesta na LinkedIn a Indeed, a zriadila obchodné účty u veľkoobchodníkov pre denné objednávky chleba a pečiva. S baristami komunikuje cez Slack, no často im posiela správy mimo pracovného času, čo je vo Švédsku na pracovisku tabu.
Objavili sa aj ďalšie problémy
Objavili sa aj ďalšie problémy, najmä súvisiace so zásobami. Mona objednala pre malú kaviareň 6000 utierok, štyri lekárničky a 3000 párov gumových rukavíc – a navyše konzervované paradajky, ktoré sa v žiadnom jedle podávanom v kaviarni nepoužívajú. A potom je tu chlieb. Niekedy agentka objedná priveľa, inokedy zase nestihne denné termíny pekární, čo núti baristov vyškrtnúť z jedálnička sendviče.
Peterssonová uviedla, že problémy s objednávkami sú pravdepodobne spôsobené "obmedzeným kontextovým obsahom" AI asistentky. "Akonáhle sa stará spomienka na objednávku vytratí z kontextu, úplne zabudne, čo si v minulosti objednala," dodala Peterssonová. Barista Kajetan Grzelczak uviedol, že sa zatiaľ neobáva, že by ho nahradila umelá inteligencia. "Všetci zamestnanci sú v podstate v bezpečí," povedal. "Tí, ktorí by sa mali obávať o svoje pracovné miesto, sú strední vedúci pracovníci, manažment," dodal.
