Una advertencia lanzada desde una de las principales empresas de inteligencia artificial del mundo volvió a encender el debate sobre los riesgos de esta tecnología. Evan Hubinger, investigador y responsable de Ciencia de Alineamiento de Anthropic, afirmó que, en su opinión, existe una probabilidad superior al 10% de que la inteligencia artificial pueda matar a todos los seres humanos durante la próxima década.
La declaración surgió después de que Jacob Coxon, un ingeniero que trabajó tanto en OpenAI como en Anthropic, anunciara su renuncia y acusara a ambas compañías de avanzar de manera irresponsable hacia sistemas de inteligencia artificial cada vez más poderosos.
Coxon sostuvo que quienes desarrollan estas tecnologías conocen los riesgos, pero continúan acelerando la carrera por alcanzar sistemas de inteligencia superior a la humana. A su juicio, la industria está “jugando con nuestras vidas” al avanzar sin suficientes garantías de seguridad.
Lo llamativo fue que Hubinger, quien continúa trabajando en Anthropic, no desmintió la advertencia de su excompañero, sino que la respaldó y elevó el nivel de alarma.
El investigador aclaró que considera bajo el riesgo asociado a los modelos actuales, pero apuntó a un escenario futuro mucho más complejo: el desarrollo de una superinteligencia capaz de mejorar sus propias capacidades.
El temor está en una IA que pueda mejorarse a sí misma
La principal preocupación de los investigadores no es que los sistemas actuales decidan repentinamente atacar a la humanidad, sino que aparezcan modelos con capacidades muy superiores a las humanas y que puedan participar en su propio desarrollo.
Este proceso, conocido como automejora recursiva, podría provocar una aceleración de las capacidades de la inteligencia artificial mucho más rápida de lo que los investigadores puedan controlar o comprender.
Hubinger reconoció además que Anthropic todavía no tiene un plan que garantice la alineación de una futura superinteligencia, es decir, que un sistema extremadamente poderoso mantenga sus objetivos y comportamiento compatibles con los intereses humanos.
Anthropic defiende sus medidas de seguridad
Pese a las declaraciones de sus propios investigadores, Anthropic sostiene que está trabajando para reducir los riesgos asociados al desarrollo de sistemas avanzados.
La compañía afirma que desarrolla mecanismos de seguridad, investigación de interpretabilidad y pruebas destinadas a detectar capacidades peligrosas en áreas como ciberseguridad y biología. También cuenta con una política pública de escalamiento responsable para establecer medidas de seguridad a medida que aumentan las capacidades de sus modelos.
La discusión, sin embargo, vuelve a poner sobre la mesa una contradicción central de la industria: las mismas empresas que advierten sobre los riesgos de una inteligencia artificial cada vez más poderosa son las que compiten por desarrollarla antes que sus rivales.
Por ahora, la cifra del 10% corresponde a la estimación personal de Hubinger, no a una predicción científica consensuada ni a una posición oficial de Anthropic. Pero el hecho de que provenga de un investigador dedicado precisamente a estudiar cómo mantener bajo control sistemas avanzados vuelve a poner en primer plano una pregunta que hasta hace pocos años parecía propia de la ciencia ficción: ¿qué ocurrirá si la inteligencia artificial llega a superar nuestra capacidad para controlarla?
Ahoradigital
Mira también
