España ha registrado ante la Agencia Española de Protección de Datos (AEPD) la primera notificación de una brecha de datos personales en la que el ciberataque habría sido ejecutado mediante un agente de inteligencia artificial (IA) conectado a un conocido modelo de lenguaje. El sistema fue utilizado para desarrollar de forma autónoma distintas fases del ataque hasta conseguir modificar datos personales y acceder a facturas.
La AEPD informó sobre el caso y señaló que todavía debe analizarse el incidente. Tampoco ha revelado qué modelo de lenguaje se utilizó, cuántas personas pudieron verse afectadas ni qué información concreta fue modificada o quedó expuesta.
El organismo destaca que se trata del primer incidente de estas características comunicado oficialmente ante la autoridad española. Esto no significa que sea el primer ciberataque realizado con ayuda de IA que haya ocurrido en España, sino el primero que ha sido notificado a la AEPD bajo estas circunstancias.
El agente de IA buscó vulnerabilidades y accedió a una aplicación
Según la información proporcionada por la organización afectada, una tercera persona utilizó un agente de IA para llevar a cabo diferentes etapas del ataque.
El sistema comenzó buscando vulnerabilidades en archivos genéricos. Posteriormente consiguió iniciar sesión correctamente en una aplicación. Una vez dentro, el agente continuó examinando de manera autónoma el entorno en busca de nuevos fallos de seguridad.
Después de localizar otra vulnerabilidad, habría conseguido modificar datos personales y acceder a facturas almacenadas en el sistema.
Aunque el agente actuó de forma autónoma durante parte del proceso, la AEPD aclara que detrás del ataque seguía existiendo una persona. Fue esta quien seleccionó el objetivo y puso en funcionamiento el agente de IA.
La AEPD aclara que el modelo de IA no fue hackeado
La agencia también hace una precisión importante sobre el incidente. El hecho de que el atacante utilizase un determinado modelo de IA no implica que el propio modelo o la infraestructura de su proveedor hayan sido comprometidos.
Tampoco significa que la herramienta utilizada hubiese sido diseñada específicamente para realizar actividades maliciosas. En este caso, la IA habría sido empleada por un tercero como parte de un proceso de ataque contra los sistemas de una organización.
La AEPD todavía debe determinar el alcance de la brecha y analizar los detalles técnicos proporcionados en la notificación.
Los agentes de IA cambian la velocidad de los ataques
Para la AEPD, el caso supone una señal de que los ataques apoyados en agentes de IA han dejado de ser únicamente una posibilidad teórica. No obstante, la agencia advierte de que una sola notificación no permite afirmar que exista una tendencia generalizada.
La principal diferencia frente a algunos ataques tradicionales está en el nivel de automatización. Un agente puede realizar determinadas tareas de búsqueda, análisis y explotación de forma mucho más rápida y con una intervención humana limitada.
Por este motivo, la AEPD recomienda que las empresas incluyan expresamente este tipo de escenarios en sus análisis de riesgos. Las organizaciones deberían contemplar que la IA puede modificar la probabilidad, velocidad y alcance de una brecha de datos.
Las empresas deberán revisar permisos y sistemas de respuesta
La agencia aconseja prestar especial atención a las identidades digitales y a los permisos asignados a cada cuenta. Una identidad con privilegios excesivos puede permitir que un agente, una vez dentro de un sistema, acceda rápidamente a diferentes recursos y alcance información sensible.
También recomienda revisar los tiempos de respuesta ante incidentes. La capacidad de automatización de estos sistemas obliga a contar con mecanismos capaces de detectar, contener y responder a una amenaza con suficiente rapidez.
La AEPD mantiene que la supervisión humana sigue siendo imprescindible, pero considera que ya no es suficiente por sí sola. Las empresas deberán combinarla con sistemas de detección y respuesta capaces de actuar a una velocidad acorde con las nuevas capacidades de los agentes de IA.
Fuente: Infobae
Mira también
