CANBERRA - Videá zobrazujúce dokonalé telá a neuveriteľné fitness transformácie zaplavujú internet čoraz častejšie. Mnoho z nich však nemusí byť skutočných. Odborníci upozorňujú, že umelá inteligencia dokáže vytvoriť presvedčivý obsah v priebehu niekoľkých hodín a milióny ľudí mu bez váhania veria.
Od ohromujúcich premien pri chudnutí až po virálne „glow-upy“. Toto je obsah, ktorým zaplavujú internet fitness a beauty influenceri. Realita za obrazovkou je však často oveľa temnejšia. Osoba, ktorá vám dáva zdravotné rady, môže byť digitálne falošná a milióny ľudí nevedomky naletia na túto pascu. Jeden konkrétny účet má napríklad neuveriteľných 4,2 milióna lajkov, pričom jedno video dosiahlo viac než 25 miliónov pozretí.
Ide o AI?
Pod menom Anderson Rhoe sa na TikToku objavuje 67-ročný muž, ktorý prechádza výraznou fitness premenou. Státisíce ľudí zaplavili komentáre chválou na neuveriteľné výsledky, no odborníci sa domnievajú, že ide o kompletne AI-generovaný obsah. „Pre bežného človeka je čoraz ťažšie rozlíšiť, čo je online skutočné,“ povedal pre news.com.au expert na umelú inteligenciu z Western Sydney University, Armin Alimardani. „V tomto prípade som si musel videá z účtu pozrieť viackrát, aby som našiel známky AI, čo dokazuje, aký presvedčivý je tento obsah.“
Účet tvrdí, že pútavá premena je výsledkom používania fitness programu s názvom 75Me App. Hovorca aplikácie však uviedol, že o ňom nič nevie. „Nie je to náš účet,“ uviedla spoločnosť 75Me. „Influencerom len platíme za propagáciu našej aplikácie.“ News.com.au použilo techniky počítačového videnia vrátane analýzy textúr a kontextovej logiky a dospelo k záveru, že účet je falošný. Interné analytické nástroje kontrolujú viacero znakov nepravých vizuálov a v tomto videu odhalili vodoznak SynthID, ktorý naznačuje, že na jeho vytvorení alebo výraznej úprave sa podieľala umelá inteligencia od Google.
Reálne nebezpečenstvo
Analýza tiež identifikovala viacero znakov generovania pomocou AI vrátane „výraznej a náhlej zmeny štruktúry tváre a definície svalov“ na Andersonovej tvári počas prehrávania videa. Podľa Alimardaniho virálny TikTok účet presahuje reálne nebezpečenstvo. „Nebezpečenstvo nespočíva len v tom, že ľudia môžu naletieť falošnému účtu,“ vysvetlil. „Hyperrealistická AI dokáže industrializovať klamanie v oblasti zdravia a fitness, propagovať nedosiahnuteľné štandardy a manipulovať zraniteľných spotrebiteľov. Je to obzvlášť znepokojujúce, pretože tieto odvetvia už teraz výrazne pracujú s túžbami a neistotami ľudí.“
Falošné fotografie alebo výrazne upravený obsah nie sú nič nové, no znepokojujúci je rozsah a rýchlosť, akou vzniká AI obsah. Alimardani pripomenul, že znepokojujúce je aj to, aké lacné a jednoduché je takéto príspevky vytvárať. „Pomocou generatívnej AI je možné vytvoriť veľmi realistické videá v priebehu hodín alebo dní a za veľmi nízke náklady,“ povedal. A technológia sa stále zlepšuje. Upozornil, že ďalšia generácia AI reklám by mohla vytvárať videá prispôsobené konkrétne osobe, ktorá drží telefón. „Ľuďom sa už nebude zobrazovať len idealizovaný cudzinec, ale môžu vidieť prispôsobenú AI verziu toho, kým by sa sami mohli stať,“ povedal.
Sú vám tieto mena povedomé?
Účet s menom Anderson Rhoe je len jedným z mnohých príkladov masívneho nárastu AI-generovaných účtov na internete. Koncom minulého roka sa objavila veľmi kontroverzná „AI herečka“ s menom Tilly Norwoodová. Prvý raz sa objavila koncom roka 2025 a hyperrealistická hviezda si rýchlo získala veľkú popularitu, pričom jej tvorcovia dokonca vydali aj AI-generovaný hudobný videoklip. Vyvolalo to silnú kritiku zo strany zábavného priemyslu, pričom herecká odborová organizácia SAG-AFTRA verejne odsúdila existenčnú hrozbu, ktorú predstavuje umelá inteligencia pre pracovné miesta hercov.
Podobne v roku 2023 agentúra z Barcelony vyvolala globálnu kontroverziu, keď vytvorila fitness modelku s ružovými vlasmi menom Aitana Lopezová. Účet bol kompletne navrhnutý pomocou umelej inteligencie a rýchlo sa stal komerčne úspešným projektom agentúry. Dokonalý digitálny avatar má státisíce sledovateľov, no po kritike verejnosti tvorcovia teraz v profile uvádzajú, že ide o „digitálnu dušu“.
Dokážete rozoznať, čo je skutočné?
Ako dokáže bežný používateľ rozlíšiť, čo je skutočné a čo je bot? Zatiaľ ešte stále existuje niekoľko vizuálnych znakov, ktoré si môžete všimnúť, ak sa pozriete pozornejšie. Pri analýze účtu Andersona Rhoeho odborník upozornil na príliš hladkú pleť, ktorá naznačuje problém aj v kombinácii s ďalšími chybami. „Účet obsahuje kvalitný AI-generovaný obsah a pridaním niektorých nedokonalostí, ako sú svetlo alebo uhly kamery, ho tvorcovia ešte viac sťažili na rozpoznanie,“ povedal expert.
Ďalšie varovné signály sú:
- deformácie rúk a prstov
- zvláštne alebo neprirodzene tiché pozadie
- texty, ktoré nedávajú zmysel
- absencia priameho rozprávania do kamery
- alebo echo pri rozprávaní
„Pamätajte, ak to vyzerá príliš dokonalo, pravdepodobne ide o AI a mali by ste to vnímať ako možný podvod,“ doplnil expert. Varuje však, že tieto indície nemusia platiť dlho, pretože technológia sa zlepšuje tak rýchlo, že bežní používatelia čoskoro nebudú schopní rozlíšiť realitu.
Porušenie pravidiel
Používanie falošného účtu na predaj skutočného produktu výrazne komplikuje situáciu. Podľa austrálskeho spotrebiteľského práva je pre firmy nelegálne používať zavádzajúce alebo klamlivé praktiky. Použitie AI na predstieranie 75-dňovej telesnej transformácie s cieľom predať fitness aplikáciu sa považuje za porušenie týchto pravidiel. Keďže účet Andersona Rhoeho pôsobí aj v iných krajinách, nachádza sa v právnej šedej zóne mimo jurisdikcie.
