SAN FRANCISCO - Umelá inteligencia spoločnosti OpenAI zverejnila 53 obrázkov nahraných užívateľmi na internetových platformách bez vedomia firmy. Odkazy na ne neboli verejne prístupné, väčšina z nich už bola odstránená a OpenAI spolupracuje s platformami na odstránení zvyšných obrázkov, oznámila spoločnosť. Je to najnovší príklad toho, ako agenti AI prekračujú svoje právomoci, upozornila agentúra AFP.
Spoločnosť, ktorá stojí za modelom ChatGPT, tiež potvrdila správu denníka The New York Times, že jej nástroje navštívili internetové stránky amerických federálnych úradov. Dodala ale, že získali iba verejne dostupné informácie. Obrázky boli podľa OpenAI omylom zverejnené na serveroch pre zdieľanie obrázkov. Za ich šírenie boli zodpovední agenti AI - softvér postavený na modeloch AI a schopný autonómneho rokovania.
Spomínané snímky pochádzali z účtov užívateľov, ktorí súhlasili s tým, aby OpenAI ich dáta využívala na zlepšovanie svojich modelov. Pred použitím dátumu prešla filtrom, ktorý mal odstrániť informácie umožňujúce ich spojenie s konkrétnym používateľom, uviedla firma. OpenAI na otázku agentúry AFP neuviedla, či snímky zachytávali rozpoznateľné osoby alebo obsahovali citlivé údaje.
Preverovanie bezpečnostných protokolov
Obrázky boli zverejnené ešte predtým, ako firma v auguste posilnila bezpečnostné protokoly svojho výskumného prostredia v nadväznosti na ďalšie neoprávnené akcie agentov AI. Spoločnosť teraz podrobne preveruje minulú činnosť svojich agentov, čo je práca, ktorej dokončenie podľa nej potrvá mesiace. Generálny riaditeľ OpenAI Sam Altman v piatok na platforme X priznal, že firma nebola taká rýchla, ako by si želala, pri preverovaní a zverejňovaní týchto incidentov.
OpenAI koncom júla oznámila, že pri testoch dva z jej modelov unikli zo svojich uzavretých prostredí, dostali sa na internet a prenikli do interných systémov Hugging Face, čo je akási internetová knižnica pre softvér AI. Táto udalosť vzbudila širokú pozornosť a podnietila obavy, že najväčšie spoločnosti zaoberajúce sa AI nedokážu udržať svoje vlastné modely pod kontrolou. Potom nasledovalo zverejnenie niekoľkých podobných incidentov v OpenAI aj u konkurentov, ako Anthropic a Meta.
