Sam Altman asegura que hay una investigación en marcha y que el incidente no supuso serias brechas de seguridad y es menos grave que el hackeo de Hugging Face Leer Sam Altman asegura que hay una investigación en marcha y que el incidente no supuso serias brechas de seguridad y es menos grave que el hackeo de Hugging Face Leer
Un nuevo día, una nueva alarma relacionada con la Inteligencia Artificial, una nueva duda de si estamos ante un ejercicio de transparencia o de promoción. El viernes por la noche, en un comunicado, OpenAI reconoció que algunos de sus agentes de Inteligencia Artificial autónomos interactuaron de forma indebida con páginas web de organismos del Gobierno de Estados Unidos. Ocurrió este verano sin que nadie hubiera dado instrucciones explícitas para ello, sin que fuera necesaria para ninguna de las tareas asignadas. Asegura eso sí que que no fueron violaciones o brechas de seguridad en sí, sino «comportamientos» inesperados que deben ser estudiados.
«Un agente que intentaba completar una tarea de entrenamiento basada en búsquedas consultó un servicio público de chatbot aprovechando una vulnerabilidad en nuestras restricciones de acceso a internet. Previamente, el agente había realizado consultas a través de nuestra herramienta de búsqueda e intentado, sin éxito, acceder directamente a los motores de búsqueda (…) Nuestro sistema de monitorización de desajustes detectó el comportamiento en 15 minutos y una persona comenzó a revisarlo tres minutos después. La ejecución se interrumpió 2,5 horas más tarde. Todo el entrenamiento, la evaluación y la inferencia con el uso de herramientas (en sentido amplio) de nuestros modelos más capaces permanecen suspendidos», ha señalado la empresa.
El texto dice que este incidente es mucho menos grave que algunos de los anteriores, «pero al ser el primero desde que reforzamos la seguridad tras el incidente de Hugging Face, nos proporciona una señal importante sobre dónde enfocar la siguiente fase de este trabajo». Pero lo cierto es que según los protocolos, el ejercicio debería haber parado automáticamente cuando el comportamiento irregular fue detectado, y sin embargo tuvo que ser detenido manualmente casi tres horas después.
«Está en marcha una revisión extensa y en curso relacionada con el uso que nuestros agentes hacen del acceso a internet durante el entrenamiento y la evaluación. No hemos sido tan rápidos como nos hubiera gustado, pero estamos tratando de equilibrar nuestro deseo de transparencia con obtener una comprensión clara de petabytes de registros de actividad de agentes, y trabajando con las organizaciones afectadas. Estamos priorizando lo mejor que podemos en base a la gravedad, y agregando recursos. Hugging Face sigue siendo el evento más grave que hemos visto. Seremos tan transparentes como podamos, sujeto a cosas como vulnerabilidades en otras compañías que nuestros agentes han encontrado, lo cual será decisión de ellas divulgar o no», ha escrito Sam Altman, el fundado de OpenAI, en su cuenta de X.
La tarea con la que empezó todo consistía en recabar información sobre una persona específica que había publicado una entrada en un blog. «Al agente se le proporcionaron datos biográficos y pistas de dicha entrada. La tarea no requería que el agente probara los controles de red ni accediera a las respuestas de referencia, y consideramos que un comportamiento del agente que elude las restricciones o persigue un objetivo que va más allá de lo razonable constituye un ejemplo de desajuste». En poco tiempo había interferido con las páginas web del Departamento de Educación, con los agentes intentando, sin éxito, acceder a información de su Oficina de Derechos Civiles. La del Departamento de Comercio (Oficina del Censo), en la que sí lograron obtener datos, usando credenciales de acceso que encontraron por su cuenta en internet. O la de la Comisión de Bolsa y Valores (SEC), ya que los agentes publicaron información de acceso público del sitio en un foro.
El ahora registrado se suma a decenas de incidentes en las últimas semanas. Las brechas de seguridad sufridas o causadas por modelos de OpenAI, Anthropic, DeepMind (Google) o Meta han alarmado a los expertos en ciberseguridad y seguridad de la IA de todo el planeta. Este caso se conoce apenas unos días después de que trascendiera que otro agente de IA de OpenAI había accedido, en junio de 2026, sin autorización a un portal del sistema público de salud de Australia, obteniendo archivos tanto públicos como privados. Un hackeo que las autoridades australianas descubrieron tres meses después de que ocurriera.
El mencionado incidente de Hugging Face fue uno de los motivos que el director ejecutivo de Anthropic, Dario Amodei, esgrimió cuando pidió hace dos semanas una ralentización generalizada del desarrollo de la IA en el sector. Su petición, rápidamente respaldada por el director ejecutivo de OpenAI, el mencionado Altman, Elon Musk y otros, ha desatado un debate global sobre la necesidad de una mayor regulación. «El mundo hace bien en tener miedo, pero el mundo debe confiar en que vamos a hacer lo correcto porque es lo correcto y porque somos conscientes de la magnitud de todo esto», ha señalado Altman este mes.
Justo ayer mismo, de forma simultánea a la notificación de este incidente, un informe de los ingenieros de la start-up Parse, del área de San Francisco, daba los detalles más concretos del ataque a Hugging Face, cuando los agentes de OpenAI hackearon la empresa de software. Un proceso con un millón de enlaces de servicios que los agentes de OpenAI crearon entre el 9 y el 13 de julio para lograr su tarea. De forma simplificada: un sistema de Inteligencia Artificial intentó utilizar otro modelo de IA para superar la clásica prueba de detección de robots (con preguntas como la capital de Francia) mientras intentaba por todas las vías posibles acceder a los ordenadores de otra empresa.
Internacional // elmundo
