VIKTORIA - V austrálskom štáte Viktória došlo k vážnemu pochybeniu v súdnom procese, keď obhajoba predložila podania obsahujúce nepravdivé citácie a vymyslené súdne rozhodnutia, ktoré vygenerovala umelá inteligencia.
Právnik Rishi Nathwani, nositeľ prestížneho titulu King’s Counsel, sa v stredu ospravedlnil sudcovi Jamesovi Elliottovi a prijal „plnú zodpovednosť“ za chybný dokument v prípade tínedžera obvineného z vraždy. „Sme hlboko zahanbení a ospravedlňujeme sa za to, čo sa stalo,“ vyhlásil Nathwani pred súdom.
Chyby spôsobené AI spôsobili 24-hodinové zdržanie procesu, ktorý chcel sudca uzavrieť v ten istý deň. Napokon vo štvrtok rozhodol, že mladistvý obvinený nie je vinný z vraždy pre duševnú nespôsobilosť.
Obhajoba predložila citácie zo „zákonodarného prejavu“, ktorý nikdy neexistoval, a tiež odkazy na súdne prípady, ktoré sa nepodarilo nájsť. Na nezrovnalosti upozornili sudcoví asistenti, ktorí požiadali obhajobu o predloženie originálov. Až vtedy právnici priznali, že zdroje sú vymyslené. Prokurátor Daniel Porceddu síce dokument dostal, no citácie si neoveril.
Sudca Elliott vo svojom rozhodnutí pripomenul, že Najvyšší súd už minulý rok vydal odporúčania, ako môžu právnici používať umelú inteligenciu. „Nie je prípustné, aby sa AI používala bez toho, aby bol jej výsledok nezávisle a dôkladne overený,“ zdôraznil. Dokumenty súdu neuvádzajú, ktorý generatívny systém AI bol použitý, informoval portál AP News.
Ide o ďalší z radu incidentov, ktoré AI spôsobila v súdnictve. V USA v roku 2023 federálny sudca udelil dvom právnikom a advokátskej kancelárii pokutu 5 000 dolárov po tom, čo ich podania obsahovali falošný právny výskum vygenerovaný ChatGPT.
Neskôr sa podobný problém objavil aj v právnych dokumentoch týkajúcich sa Michaela Cohena, bývalého právnika Donalda Trumpa, keď jeho právny tím omylom použil vymyslené rozhodnutia vytvorené nástrojom Google s AI funkciami.
Britská sudkyňa Victoria Sharpová v júni tohto roka varovala, že predkladanie falošných materiálov ako pravdivých môže byť považované za pohŕdanie súdom, alebo v závažných prípadoch dokonca za marenie spravodlivosti – s trestom až doživotného väzenia.
