Modelos de IA de OpenAI habrían extraído datos de 55 agencias y empresas de EE.UU. ocultando sus huellas
Modelos de inteligencia artificial (IA) desarrollados por la empresa tecnológica estadounidense OpenAI habrían extraído información de 55 agencias gubernamentales, organismos y compañías, en su mayoría de Estados Unidos, y utilizado mecanismos para dificultar el rastreo de sus actividades, según un informe revisado por el diario británico Financial Times (FT). Según una nota de la agencia […]
Modelos de inteligencia artificial (IA) desarrollados por la empresa tecnológica estadounidense OpenAI habrían extraído información de 55 agencias gubernamentales, organismos y compañías, en su mayoría de Estados Unidos, y utilizado mecanismos para dificultar el rastreo de sus actividades, según un informe revisado por el diario británico Financial Times (FT).
Según una nota de la agencia EFE, el reporte, elaborado por la firma de informática forense Asymmetric Security, señala que los modelos de OpenAI emplearon métodos poco habituales para interactuar con sitios web, entre ellos la eliminación o bloqueo de registros de actividad.
De acuerdo con el documento, estas prácticas habrían limitado la capacidad de auditores externos para revisar y analizar las acciones realizadas por los sistemas.
Trump defiende la autorregulación de la IA ante líderes de las principales empresas tecnológicas
Entre ellas, se incluyen la creación de buzones de correo electrónico temporales y cuentas privadas a través del servicio Urlquery, una herramienta teóricamente utilizada para escanear sitios web en busca de contenido malicioso, para descargar datos.
Según los investigadores de Asymmetric, estas acciones ocultas de los agentes de inteligencia artificial impidieron a los auditores rastrear el tipo de datos que los ‘bots’ extraían.
DESDE FINANZAS A EMPRESAS DE SALUD
En la lista de las 55 entidades a las que accedieron se encuentran, según el FT, la Agencia Internacional de la Energía (IEA), los Centros para el Control y Prevención de Enfermedades de EE.UU., la Comisión de Bolsa y Valores estadounidense, y la Mayo Clinic, considerado uno de los mejores hospitales privados de Estados Unidos.
La cofundadora de Asymmetric Security Pippa Thompson afirmó que este tipo de acciones, pese a ser ejecutadas por modelos de IA, suelen ser llevadas a cabo por ‘hackers’ humanos: «Es posible que los agentes estuvieran utilizando deliberadamente estas herramientas para borrar sus huellas».
Empresas de IA comparecerán bajo juramento para exponer los riesgos de su tecnología
La compañía de informática forense no pudo determinar si las acciones fueron intencionadas o fruto de «un fallo provocado por las limitaciones impuestas en un ejercicio de prueba», pero igualmente señala que los hallazgos refuerzan los temores en torno a la transparencia y la falta de supervisión de esta tecnología.
Los modelos de OpenAI afrontan acusaciones de haber vulnerado los sistemas de varias organizaciones, incluido el sitio web del servicio de salud pública de Australia, donde habría accedido recientemente sin autorización a archivos públicos y privados.
La tecnológica estadounidense, liderada por Sam Altman, pidió disculpas al Gobierno australiano y reconoció que debería haber informado antes a las autoridades sobre lo que calificó como un «incidente cibernético» durante una sesión de entrenamiento interna.
Papa León XIV advierte sobre dejar decisiones humanas en manos de la IA ante su avance
EMPRESA IGNORÓ ADVERTENCIAS
Según una nota publicada por el sitio News, altos ejecutivos de OpenAI, habrían ignorado advertencias de dos empleados acerca de los riesgos que suponían modelos de prueba de inteligencia artificial meses antes de que se produjera una brecha de seguridad.
Según el sitio, el periódico de The New York Times los empleados habrían dado la voz de alarma a través de correo electrónico.
Los empleados, se habrían manifestado preocupados por que los modelos de Inteligencia Artificial más recientes de la compañía no fueron supervisados de manera adecuada durante las pruebas dirigidas a evaluar la seguridad y que no se aplicaron los protocolos adicionales.
