Un programa de OpenAI apuntó contra otro sitio web antes del ciberataque a Hugging Face
En el incidente, modelos de OpenAI estuvieron implicados en una operación que se salió de control y fue llevada a cabo por agentes de IA.
OpenAI confirmó el viernes que un programa autónomo construido con sus modelos de inteligencia artificial apuntó contra otro sitio web durante unas pruebas, un par de meses antes del ciberataque autónomo a la plataforma Hugging Face. Este nuevo reporte se suma a las preocupaciones de que los modelos avanzados de IA puedan escapar del control de los seres humanos.
El episodio ocurrió en mayo y fue reportado el viernes por el diario Wall Street Journal. En el incidente, modelos de OpenAI estuvieron implicados en una operación que se salió de control y fue llevada a cabo por agentes de IA, unos programas capaces de realizar tareas sin supervisión constante de personas. Los sistemas apuntaron a un sitio llamado RubyGems, una página que ofrece servicios para programación.
Hugging Face fue atacada en julio. "Con base en nuestra revisión, nuestros agentes utilizaron la plataforma RubyGems para acceder a internet con el fin de realizar tareas benignas y recuperar información pública", dijo un portavoz de OpenAI en un comunicado a la AFP. "Seguiremos investigando como parte de nuestra revisión más amplia de la actividad de los agentes durante el entrenamiento y la evaluación", añadió.
