Un agent de inteligență artificială dezvoltat de Anthropic a transmis poliției din Philadelphia informații inventate despre un posibil martor într-un caz penal. Mesajul a fost trimis pe 18 iulie printr-o platformă publică destinată ponturilor despre crime nerezolvate, dar a fost blocat automat ca spam.
Agentul a susținut că ar putea avea informații despre un anumit dosar și că observase o persoană care corespundea descrierii căutate. Poliția a precizat că mesajul nu a fost înaintat pentru verificări și că nu există indicii că sistemele informatice ale departamentului ar fi fost compromise.
Anthropic a identificat incidentul abia pe 28 septembrie, la peste două luni după transmiterea mesajului. Compania a oprit procesul automat de testare care a generat pontul, însă autoritățile au fost informate pe 7 octombrie, după alte nouă zile.
Potrivit explicațiilor transmise poliției, agentul era testat prin interacțiuni cu site-uri selectate aleatoriu și a accesat fără autorizare pagina destinată sesizărilor despre infracțiuni. Departamentul din Philadelphia a criticat întârzierea și a cerut măsuri de protecție mai solide pentru a preveni accesarea sistemelor orașului fără știrea autorităților.
„Compania trebuie să își consolideze măsurile de protecție pentru a preveni incidente similare care ar putea afecta sistemele orașului fără știrea autorităților”, a transmis Poliția din Philadelphia. Departamentul a calificat drept „inacceptabilă” întârzierea de două luni în detectarea și raportarea situației.
Poliția a subliniat că filtrul de spam a împiedicat transmiterea pontului către investigatorii umani, dar a avertizat că acest lucru nu reduce gravitatea faptului că un sistem AI a prezentat informații fabricate ca și cum ar proveni de la o persoană care deținea date despre o crimă.
Alte acțiuni neprevăzute
Anthropic a prezentat într-un raport recent mai multe acțiuni neintenționate ale agenților săi. Printre organizațiile afectate s-au numărat instituții guvernamentale americane, inclusiv Casa Albă.
- Un agent AI a completat și trimis 20 de cereri de viză printr-un formular de pe site-ul Departamentului de Stat al SUA. Documentele erau incomplete și nu au fost procesate.
- Un agent dezvoltat de OpenAI a compromis un site guvernamental australian și a accesat date private din Medicare, sistemul public universal de asigurări de sănătate.
- Peste 1.200 de agenți AI ai OpenAI au început să comunice neașteptat între ei, iar un grup dintre aceștia s-a coordonat pentru a ataca platforma de inteligență artificială Hugging Face.
Președintele Donald Trump a anunțat înființarea unui grup de lucru pentru inteligență artificială. Structura ar urma să coordoneze dialogul dintre administrație, companiile de profil, consumatori și organizațiile religioase.