ChatGPT krivo obvinil profesora zo sexuálneho obťažovania, vymyslel si aj dôkazy!

Ilustračné foto (Zdroj: Getty Images)

WASHINGTON – Umelá inteligencia dokáže odpovedať na tisíce otázok, no nie vždy hovorí pravdu. Presvedčil sa o tom americký profesor práva Jonathan Turley, ktorého ChatGPT neprávom spojil so sexuálnym obťažovaním študentky. Aby svoje tvrdenie podporil, dokonca si vymyslel novinový článok, ktorý nikdy neexistoval. Prípad vyvolal vážne otázky o spoľahlivosti umelej inteligencie a jej možnom vplyve na ľudskú povesť.

Profesor Jonathan Turley z Univerzity Georgea Washingtona zostal zaskočený, keď mu kolega oznámil, že ho ChatGPT zaradil na zoznam akademikov obvinených zo sexuálneho obťažovania.

Právnik Eugene Volokh z Kalifornskej univerzity v Los Angeles totiž počas výskumu požiadal chatbota, aby uviedol príklady sexuálneho obťažovania na amerických právnických fakultách.

Umelá inteligencia medzi nimi spomenula aj Turleyho. Tvrdila, že sa mal v roku 2018 nevhodne správať k študentke počas univerzitného výletu na Aljašku.

Vymyslel si článok aj neexistujúci výlet

ChatGPT svoje tvrdenie podporil odkazom na údajný článok denníka The Washington Post z marca 2018.

Problém bol v tom, že takýto článok nikdy nevyšiel. Navyše sa neuskutočnil ani spomínaný výlet na Aljašku.

Chatbot dokonca nesprávne uviedol, že Turley pôsobil na Georgetownskej univerzite, kde v skutočnosti nikdy nevyučoval.

Profesor zdôraznil, že nikdy nečelil obvineniam zo sexuálneho obťažovania.

„Najprv mi to pripadalo komické. Po zamyslení to však začalo pôsobiť oveľa hrozivejšie,“ opísal svoju reakciu.

Umelá inteligencia môže poškodiť povesť

Turley upozornil, že podobné nepravdivé informácie môžu vážne poškodiť reputáciu človeka, najmä ak ich používatelia prijmú bez overenia.

Vyšetrovanie denníka The Washington Post navyše ukázalo, že chatbot si pri odpovediach na otázky o sexuálnom obťažovaní vymyslel aj ďalšie údajné prípady.

Takéto chyby sa označujú ako halucinácie umelej inteligencie. Ide o situácie, keď systém vytvorí nepravdivú informáciu a prezentuje ju ako skutočnosť, niekedy dokonca s falošnými citáciami či zdrojmi.

Prípad upozornil aj na riziko šírenia dezinformácií medzi jednotlivými systémami umelej inteligencie. Podobné nepravdivé tvrdenie o profesorovi totiž zopakoval aj vtedajší chatbot spoločnosti Microsoft.

Odborníci preto pripomínajú, že odpovede umelej inteligencie nemožno automaticky považovať za overené fakty. Mimoriadna opatrnosť je potrebná najmä pri citlivých obvineniach, ktoré môžu zasiahnuť do osobného aj profesionálneho života konkrétnych ľudí.