Un modelo de OpenAI eludió las medidas de seguridad durante su entrenamiento y hackeó un sitio web del gobierno australiano. Así lo asegura el primer ministro, Anthony Albanese.
La herramienta de inteligencia artificial intentó acceder a un portal de estadísticas de salud en junio de 2026. En ese momento, la empresa líder en inteligencia artificial OpenAI realizó ejercicios de entrenamiento para evaluar el desempeño de los modelos de IA.
No aceptó un «no» por respuesta
Le pidió al modelo que rastreara internet en busca de datos que mostraran cuánto gastaba el gobierno australiano en medicamentos, explicó la ministra de Servicios Gubernamentales, Katy Gallagher, a periodistas.
Por su parte, el ministro de Defensa, Richard Marles, dijo gráficamente que el modelo de IA, sencillamente, «saltó la cerca». «Hizo una pregunta, no se le proporcionó la información y, en lugar de detenerse ahí, saltó la cerca», comentó.
OpenAI no alertó al gobierno australiano hasta septiembre, cuando envió un correo electrónico con los detalles del incidente a una dirección genérica que solo se revisa «una vez al día», según Canberra.
Albanese: «Inaceptable»
«Hoy hablé con el director ejecutivo de OpenAI, Sam Altman, para expresar la enorme preocupación de Australia sobre este incidente», ha dicho el primer ministro australiano.
«También expresé mi decepción por el hecho de que la empresa tardó demasiado en informar al gobierno de lo ocurrido», agregó Albanese. «No hubo ninguna notificación hasta el 10 de septiembre, y la notificación fue un correo electrónico enviado únicamente al buzón público».
Albanese señaló que «no hay evidencia» de que se haya accedido a información personal y que otros servicios gubernamentales no se vieron comprometidos. «No obstante, esta situación es obviamente inaceptable».
Fuente: DW
Mira también
