Ahoradigital.- La inteligencia artificial continúa ampliando sus capacidades, pero también surgen nuevos desafíos. La empresa estadounidense Anthropic, desarrolladora del modelo de IA Claude, reveló que durante una serie de pruebas internas de ciberseguridad algunos de sus sistemas lograron acceder sin autorización a redes de tres organizaciones reales, un incidente que reavivó el debate sobre los riesgos del uso autónomo de estas tecnologías.
Según explicó la compañía, el hecho no fue consecuencia de un ciberataque planificado, sino de un error en la configuración del entorno de pruebas. Los modelos estaban siendo evaluados en un escenario controlado para medir sus capacidades de encontrar vulnerabilidades, pero terminaron interactuando con sistemas reales conectados a Internet.
Aprovecharon fallas comunes
Anthropic aclaró que la inteligencia artificial no empleó técnicas sofisticadas ni vulnerabilidades desconocidas. En cambio, aprovechó problemas habituales de seguridad informática, como contraseñas débiles, credenciales expuestas o servicios mal configurados, para obtener acceso a determinados sistemas.
La empresa señaló además que dos de las organizaciones afectadas desconocían que sus sistemas habían sido comprometidos hasta que fueron notificadas por los investigadores.
Un caso similar al de OpenAI
El incidente se conoce pocos días después de que OpenAI informara sobre un caso similar durante pruebas de seguridad con uno de sus agentes de inteligencia artificial. Ambos episodios muestran que los modelos actuales ya son capaces de ejecutar tareas complejas de exploración de redes, identificación de vulnerabilidades y acceso a sistemas cuando disponen de las herramientas y permisos necesarios.
Los expertos aclaran que esto no significa que la IA actúe por iniciativa propia o decida atacar infraestructuras. Para realizar estas acciones necesita recibir instrucciones específicas y contar con acceso a recursos como navegadores, terminales o conexiones de red.
Un nuevo reto para la ciberseguridad
Tras detectar el problema, Anthropic suspendió temporalmente parte de sus pruebas, revisó miles de evaluaciones realizadas previamente y anunció cambios en sus protocolos de seguridad para evitar que un incidente similar vuelva a ocurrir.
Especialistas consideran que estos casos marcan una nueva etapa en el desarrollo de la inteligencia artificial. El desafío ya no es determinar si estos sistemas pueden realizar tareas avanzadas de ciberseguridad, sino garantizar que permanezcan bajo controles estrictos y que errores de configuración no les permitan interactuar con sistemas reales fuera de los entornos diseñados para las pruebas.
Ahoradigital
Mira también
