WASHINGTON - Americká spoločnosť OpenAI v utorok oznámila, že do svojho chatbota s umelou inteligenciou (AI) ChatGPT pridá funkciu rodičovskej kontroly. Rozhodla sa tak týždeň po tom, čo dvaja americkí rodičia firmu obvinili, že systém četbota podnietil ich dospievajúceho syna spáchať samovraždu, píše agentúra AFP.
„V priebehu nasledujúceho mesiaca budú rodičia môcť prepojiť svoj účet s účtom svojho dieťaťa a kontrolovať, ako ChatGPT odpovedá podľa pravidiel správania primeraných jeho veku,“ oznámila spoločnosť. Rodičia budú môcť taktiež po novom dostávať upozornenia od chatbotu ChatGPT, pokiaľ systém zistí, že ich dieťa je v „stave akútnej tiesne“. „Neustále zlepšujeme spôsob, akým naše modely rozpoznávajú a reagujú na príznaky duševnej a emocionálnej tiesne,“ uvádza firma. Spoločnosť OpenAI predstavila systém rodičovskej kontroly v nadväznosti na žalobu Matthewa a Marie Raineovcov, ktorí tvrdia, že ChatGPT poskytol ich 16-ročnému synovi Adamovi podrobné inštrukcie na spáchanie samovraždy a povzbudzoval ho, aby tak vykonal.
Prípad Reineovcov nie je prvým, ktorý sa v uplynulých mesiacoch objavil. Viacero používateľov hlásilo, že ich chatboty s umelou inteligenciou nabádali k sebapoškodzujúcim myšlienkam. Spoločnosť OpenAI uviedla, že má v nasledujúcich troch mesiacoch aj ďalšie plány na zlepšenie bezpečnosti svojich četbotov vrátane presmerovania „niektorých citlivých konverzácií na model odôvodňovania“, ktorý bude do generovania odpovede vkladať väčší výpočtový výkon. „Naše testy ukazujú, že modely odôvodňovania dôslednejšie dodržiavajú a uplatňujú zásady bezpečnosti,“ dodáva OpenAI.
