USA - Na komunikačnej platforme Telegram sa v posledných mesiacoch rozvinul mrazivý vedľajší priemysel! Boty, ktoré z bežnej fotografie ženy vyrobia realisticky vyzerajúcu nahú alebo explicitnú snímku.
Na platforme Telegram sa v posledných mesiacoch rozvinul znepokojivý trend, ktorý ukazuje temnú stránku umelej inteligencie. Takzvané „vyzliekacie boty“ dokážu z obyčajnej fotografie ženy vytvoriť falošnú nahú snímku, často s explicitným obsahom. Tieto nástroje, ktoré fungujú prostredníctvom jednoduchého chatového rozhrania, sú dostupné miliónom používateľov po celom svete. Ako uvádza magazín WIRED, ekosystém takýchto služieb na Telegrame sa v posledných mesiacoch dramaticky rozrástol – jednotlivé kanály majú milióny členov a v pozadí sa vytvoril celý podzemný biznis, ktorý zarába na tokenových platbách a masovej produkcii falošných záberov.
Technologický pokrok prináša vážne etické a psychologické dôsledky
Používanie týchto botov je jednoduché: používateľ nahrá fotografiu, zaplatí v tokenoch a do niekoľkých minút získa „upravený“ obrázok. Niektoré systémy umožňujú nahratie viacerých snímok tej istej osoby, čím umelá inteligencia dokáže presnejšie imitovať jej vzhľad a vytvoriť tak ešte realistickejší výsledok. Tento technologický pokrok však prináša vážne etické a psychologické dôsledky. Obete sa často stávajú terčom vydierania, hanby a šikany. Mnohé z nich ani netušia, že ich fotografie boli zneužité – kým sa ich falošné snímky nezačnú šíriť internetom.
Odborníci na digitálne násilie upozorňujú, že ide o formu zneužívania, ktorá zasahuje najmä ženy a dievčatá. Hoci Telegram deklaruje nulovú toleranciu voči materiálom zobrazujúcim zneužívanie detí, pri deepfake záberoch dospelých chýba jednoznačný právny a etický rámec. Moderovanie týchto služieb je prevažne reaktívne – k odstráneniu dochádza až po medializácii alebo nahlásení, čo znamená, že stovky ďalších podobných botov sa objavia takmer okamžite pod novými názvami.
Situácia okolo Telegramu je symptomatická
Vlády viacerých krajín sa snažia reagovať sprísňovaním legislatívy, ktorá rozširuje skutkové podstaty trestných činov súvisiacich s deepfake pornografiou a zneužívaním obrazových materiálov. Objavujú sa aj pokusy o civilné žaloby voči prevádzkovateľom týchto služieb. Napriek tomu je vymáhanie práva problematické – platformy ako Telegram fungujú naprieč hranicami, často mimo dosahu národných zákonov, a medzinárodná spolupráca býva pomalá.
Ako uvádza Pravda, situácia okolo Telegramu je symptomatická: hoci časť botov po medializácii zmizne, dopyt, nízke náklady a technická jednoduchosť zabezpečujú, že sa objavujú nové – často ešte sofistikovanejšie a rozsiahlejšie. Pokiaľ sa pravidlá platforiem a zákony nezosúladia s jednoznačným zákazom tvorby a šírenia explicitných deepfake materiálov a nevzniknú rýchle mechanizmy na ich prevenciu, obete zostanú vystavené nekonečne obnovujúcej sa infraštruktúre zneužívania, ktorá sa prispôsobuje rýchlejšie než schopnosť spoločnosti na ňu reagovať.
