STOCKHOLM - Kávu síce nalieva ľudská ruka, no za pultom experimentálnej kaviarne v Štokholme ťahá za nitky niečo oveľa menej tradičné. Začínajúca firma Andon Labs so sídlom v San Franciscu zverila vedenie kaviarne Andon Café vo švédskej metropole zástupkyni umelej inteligencie (AI), ktorej hovoria Mona, napísala agentúra AP.
Zatiaľ čo ľudskí baristi stále pripravujú kávu a obsluhujú zákazníkov, agentka AI, ktorú riadi technológia Gemini od Googlu, dohliada takmer na všetky ostatné aspekty podnikania – od prijímania zamestnancov až po správu zásob. Zatiaľ nie je jasné, ako dlho tento experiment vydrží, pretože sa zdá, že AI má problém dosiahnuť zisk v konkurenčnom prostredí štokholmských kaviarní. Kaviareň od svojho otvorenia v polovici apríla dosiahla tržby v prepočte viac ako 5700 dolárov, no z pôvodného rozpočtu presahujúceho 21-tisíc dolárov zostáva menej ako 5000. Veľká časť peňazí sa minula na jednorazové náklady spojené so spustením prevádzky, a tak prevádzkovateľ dúfa, že sa bilancia napokon vyrovná a kaviareň začne zarábať.
„Otvoreniu Pandorinej skrinky“ ?
Mnohí návštevníci kaviarne považujú za zábavné navštíviť podnik riadený umelou inteligenciou. Zákazníci si v kaviarni môžu vziať telefón a klásť Mone otázky. „Je pekné vidieť, čo sa stane, keď posuniete hranice,“ povedala zákazníčka Kajsa Norinová. „A káva bola dobrá,“ dodala. Odborníci však poukazujú na viaceré etické otázky – od úlohy technológií v budúcnosti ľudstva až po vedenie pracovných pohovorov a hodnotenie výkonu zamestnancov. Emrah Karakaya, docent priemyselnej ekonómie na Kráľovskom technologickom inštitúte (KTH) v Štokholme, prirovnal tento experiment k „otvoreniu Pandorinej skrinky“ a dodal, že zveriť riadenie podniku umelej inteligencii môže spôsobiť mnoho problémov. Čo sa podľa neho stane, ak sa zákazník otrávi jedlom? Kto za to ponesie zodpovednosť?
„Ak nemáte k dispozícii potrebnú organizačnú infraštruktúru a tieto chyby prehliadnete, môže to spôsobiť škodu ľuďom, spoločnosti, životnému prostrediu aj podnikaniu,“ povedal Karakaya. „Otázkou je, či nám na týchto negatívnych dôsledkoch záleží,“ uviedol. Spoločnosť Andon Labs, založená v roku 2023, je startup zaoberajúci sa bezpečnosťou a výskumom umelej inteligencie. Podľa vlastného vyjadrenia sa zameriava na záťažové testovanie agentov umelej inteligencie v reálnom svete tým, že im dáva „skutočné nástroje a skutočné peniaze“. Andon Labs spolupracuje s tvorcom ChatGPT, spoločnosťou OpenAI, firmou Anthropic, ktorá stojí za systémom Claude, spoločnosťou Google DeepMind a xAI Elona Muska. Uvádza, že sa pripravuje na budúcnosť, v ktorej „budú organizácie autonómne riadené umelou inteligenciou“. Švédska kaviareň je prezentovaná ako „riadený experiment“, ktorý má preskúmať, ako by sa AI mohla v budúcnosti nasadiť.
Podľa pokynov uzavrela zmluvy na elektrinu aj internet
„AI bude v budúcnosti významnou súčasťou spoločnosti, a preto chceme týmto experimentom zistiť, aké etické otázky vyvstanú, keď budeme mať AI, ktorá zamestnáva iných ľudí a riadi podnik,“ uviedla Hanna Peterssonová, členka technického tímu Andon Labs. Laboratórium už predtým realizovalo pilotné projekty, v ktorých systém AI Claude od spoločnosti Anthropic riadil prevádzku predajných automatov a obchodu so suvenírmi v San Franciscu. Simulácia s automatmi odhalila niektoré znepokojujúce črty: AI agent sľuboval zákazníkom vrátenie peňazí, no nikdy tak neurobil, a navyše zámerne klamal dodávateľom o cenách konkurencie, aby si zabezpečil výhodnejšiu pozíciu.
Mona sa pustila do práce po tom, čo dostala niekoľko základných pokynov, uviedla Peterssonová. Tím jej povedal, aby sa pokúsila prevádzkovať kaviareň so ziskom, bola priateľská a neformálna, sama riešila prevádzkové detaily, no v prípade potreby požiadala o nové nástroje. Agentka AI na základe týchto pokynov uzavrela zmluvy na elektrinu a internet a zabezpečila povolenia na manipuláciu s potravinami a vonkajšie sedenie. Potom inzerovala voľné pracovné miesta na LinkedIne a Indeede a zriadila obchodné účty u veľkoobchodníkov na denné objednávky chleba a pečiva. S baristami komunikuje cez Slack, no často im posiela správy mimo pracovného času, čo je vo Švédsku na pracovisku tabu.
Objavili sa aj ďalšie problémy
Objavili sa aj ďalšie problémy, najmä so zásobami. Mona objednala pre malú kaviareň 6000 servítok, štyri lekárničky a 3000 párov gumených rukavíc – a navyše konzervované paradajky, ktoré sa nepoužívajú v žiadnom jedle podávanom v kaviarni.
A potom je tu chlieb. Niekedy agentka objedná priveľa, inokedy zasa nestihne denné termíny pekární, čo núti baristov vyškrtnúť z jedálneho lístka sendviče. Peterssonová uviedla, že problémy s objednávkami sú pravdepodobne spôsobené „obmedzeným kontextovým obsahom“ AI asistentky. „Len čo sa stará spomienka na objednávku vytratí z kontextu, úplne zabudne, čo si v minulosti objednala,“ dodala Peterssonová. Barista Kajetan Grzelczak uviedol, že sa zatiaľ neobáva, že by ho nahradila umelá inteligencia. „Všetci zamestnanci sú v podstate v bezpečí,“ povedal. „Tí, ktorí by sa mali obávať o svoje pracovné miesto, sú strední vedúci pracovníci, manažment,“ dodal.
