Por segunda vez, OpenAI detiene el entrenamiento de sus modelos de IA tras intento de hackeo a sitios federales

OpenAI confirma que ha detenido el entrenamiento de sus modelos más recientes de inteligencia artificial (IA) tras reportes de que estos comenzaron a alejarse de las directrices de sus prompts.

Esta decisión viene horas después de que la compañía informó que, a lo largo del verano, hubo variados incidentes en donde los agentes de IA comenzaron a revisar los sitios federales del gobierno de Estados Unidos. Se desviaron de sus instrucciones y comenzaron a reunir y distribuir información.

De acuerdo con el especialista en IA, Transluce, en una entrevista con el medio NBC News, los agentes intentaron, de manera fallida, hackear el sitio del Departamento de Educación. Sin embargo, esta información aún no está confirmada por OpenAI.

Empresas de IA comparecerán bajo juramento para exponer los riesgos de su tecnología

En este incidente, los agentes de IA presuntamente encontraron las claves de desarrollador del sitio, con las cuales podían acceder a datos federales. Pero no llegaron hasta ese punto, sino que solo alcanzaron a recopilar información ya develada al público.

En un comunicado, la empresa afirmó que retomarán el entrenamiento de los agentes de IA “solo cuando estemos seguros de que contamos con medidas de protección adicionales”. Asimismo, la compañía está dispuesta a volver a pausar el proceso si los agentes vuelven a mostrar problemas como este.

Según información de NBC News, esta es la segunda ocasión en los últimos tres meses que OpenAI ha tenido que detener el desarrollo de sus modelos. El primero fue en julio, cuando informaron de un ciberataque a la empresa de IA Hugging Face.

WIRED compartió que en ese caso, un enjambre de agentes se escapó de su entorno de pruebas y utilizaron el acceso a Internet para hackear a la startup. Desde ese momento, OpenAI ha intentado bloquear el acceso directo de su IA.

En ocasiones previas, los agentes ya habían atravesado los controles de seguridad de sitios web e incluso publicado información a terceras partes.

Además del intento de hackeo al Departamento de Educación, OpenAI notificó de este aviso a docenas de entidades que podrían haber sido afectadas durante el proceso de entrenamiento y evaluación, entre gobiernos, universidades y agencias públicas.

«No hemos sido tan rápidos como nos hubiera gustado», escribió el viernes 25 de septiembre en X el director ejecutivo, Sam Altman, para referirse a la revisión extensa que la empresa está llevando a cabo sobre el uso que hacen sus agentes del acceso a Internet durante el entrenamiento y la evaluación.