Agents d'intel·ligència artificial desenvolupats per OpenAI han intentat accedir sense autorització a llocs web d'agències del govern dels Estats Units i d'una universitat, en diverses ocasions i sense que els sistemes haguessin rebut instruccions explícites per dur a terme els atacs informàtics, segons una investigació publicada aquest divendres per The New York Times.

Els incidents formen part d'una sèrie de comportaments no previstos detectats en agents d'OpenAI, que van ser dissenyats per fer tasques de cerca i recopilació d'informació. Al no aconseguir determinades dades per les vies habituals, haurien començat a explorar vulnerabilitats de les pàgines per intentar accedir a informació restringida.

Entre els objectius identificats hi figuren llocs vinculats a la Comissió de Borsa i Valors (SEC) i al Departament de Comerç dels EUA, des del qual els agents han accedit a dades del Cens, segons ha confirmat OpenAI. La companyia també investiga un intent d'accés a la pàgina del Departament d'Educació.

La investigació se suma a un incident revelat aquesta setmana pel govern australià, que ha informat que un agent d'OpenAI va accedir al juny a informació d'un sistema governamental relacionat amb estadístiques sanitàries i l'assegurança mèdica.

El primer ministre australià, Anthony Albanese, ha qualificat l'episodi d'"inacceptable", mentre OpenAI ha afirmat que va descobrir l'incident a l'agost durant una revisió de l'activitat dels seus models.

OpenAI està revisant aquests episodis i ha reconegut que els seus agents poden dur a terme accions no previstes durant els processos d'entrenament. La companyia està notificant als afectats i la investigació es podria perllongar durant mesos, mentre continuen apareixent nous casos d'activitat no autoritzada.