SAN FRANCISCO.- OpenAI, la empresa creadora de ChatGPT, ha declarado que su sistema de inteligencia artificial ha pirateado por su cuenta los sistemas de otra empresa de IA, en lo que la compañía ha calificado de “incidente cibernético sin precedentes”.
“Hemos sufrido un incidente de seguridad importante durante la evaluación de nuestros modelos”, declaró Sam Altman, CEO de OpenAI, en un comunicado publicado en las redes sociales.
La empresa emergente de inteligencia artificial Hugging Face anunció la semana pasada que había detectado una intrusión en sus sistemas de procesamiento de datos, la cual sospechaba que había sido causada por un agente de IA que actuaba de forma autónoma.
«Sospechábamos que el ciberataque de la semana pasada podría haber provenido de un laboratorio de vanguardia, dada la sofisticación del agente», declaró Clément Delangue, cofundador y director ejecutivo de Hugging Face. «Y, efectivamente, así fue».
Esta revelación se produce en medio de una creciente preocupación por las capacidades de ciberseguridad de los modelos más potentes, lo que llevó al presidente Donald Trump a firmar en junio una orden ejecutiva que crea un marco para que el gobierno federal examine los riesgos para la seguridad nacional de los sistemas de IA más avanzados hasta un mes antes de su lanzamiento público.
«La IA está acelerando el descubrimiento y la explotación de vulnerabilidades», declaró OpenAI en su comunicado. «La principal lección de este incidente es que la seguridad de los modelos debe ir a la par con el rápido avance de sus capacidades».
Delangue afirmó haber pasado las últimas 24 horas trabajando con OpenAI, “y creemos firmemente que no hubo ninguna intención maliciosa por su parte. Es realmente asombroso que todo esto haya ocurrido de forma autónoma”.
Delangue añadió que “podría ser el primer incidente de este tipo”.
OpenAI afirmó que la intrusión fue causada por una combinación de sus modelos de IA, incluyendo su modelo GPT-5.6 Sol, lanzado recientemente, y un modelo “aún más capaz” que todavía se está probando internamente.
OpenAI afirmó que su inteligencia artificial utilizó credenciales robadas y descubrió una vulnerabilidad previamente desconocida para acceder a los servidores de Hugging Face.
La empresa recurrió a “medidas extremas para lograr un objetivo de prueba bastante limitado” y “encontró maneras de acceder a información secreta que podía utilizar para hacer trampa en la evaluación”, declaró la compañía.
Mantente informado las 24 horas, los 7 días de la semana. Da click en el enlace y descarga nuestra App!
