Microsoft actualizó su Estándar de IA Responsable para reforzar los controles sobre los sistemas de inteligencia artificial, especialmente aquellos capaces de actuar de forma autónoma y utilizar herramientas, datos y servicios para completar tareas.
La compañía presentó su Informe de Transparencia sobre IA Responsable 2026, en el que detalla las medidas adoptadas durante el último año ante el avance de tecnologías más capaces y con mayor autonomía.
La revisión busca extender la gestión de riesgos más allá del desarrollo de los modelos y llevarla también a la implementación y supervisión de los sistemas en entornos reales. Microsoft considera que el aumento de las capacidades de la IA también amplía riesgos como el fraude, la suplantación de identidad y los ataques de ingeniería social.
Los agentes autónomos requieren nuevos controles
A diferencia de un chatbot convencional, que principalmente genera una respuesta a partir de una solicitud, los agentes de IA pueden conectar modelos con herramientas, servicios y fuentes de información para completar tareas que requieren varios pasos.
Esta capacidad introduce nuevos riesgos relacionados con los permisos que recibe el agente, los datos a los que puede acceder, los sistemas que puede utilizar, su memoria y el nivel de autonomía que se le concede.
Por este motivo, Microsoft modificó sus reglas para establecer responsabilidades diferentes según el tipo de tecnología. El estándar actualizado contempla requisitos específicos para los desarrolladores de modelos, los proveedores de plataformas y las organizaciones que implementan aplicaciones de IA.
La compañía también incorporó prácticas de modelado de amenazas diseñadas específicamente para sistemas agenciales. Entre las medidas reforzadas están las evaluaciones internas, las defensas contra ataques de inyección de instrucciones y los clasificadores destinados a detectar comportamientos de riesgo.
La supervisión continúa después del lanzamiento
Uno de los principales cambios del estándar es que la gestión de riesgos ya no termina cuando una herramienta de IA sale al mercado. Las organizaciones que implementan estos sistemas deberán evaluar previamente sus capacidades y limitaciones, analizar los riesgos asociados con el contexto en el que serán utilizados y establecer mecanismos de supervisión.
Después del lanzamiento, también deberán controlar el funcionamiento del sistema, recoger retroalimentación y registrar posibles incidentes. Los usuarios, además, deben recibir información sobre los usos previstos, las limitaciones y las medidas de seguridad incorporadas.
Microsoft señala que este enfoque distribuye la responsabilidad entre quienes desarrollan la tecnología y quienes deciden cómo utilizarla en situaciones concretas.
La compañía asegura que sus procesos están alineados con el Marco de Gestión de Riesgos de IA del Instituto Nacional de Estándares y Tecnología de Estados Unidos (NIST), que organiza la gestión de estos riesgos en cuatro funciones: gobernar, identificar, medir y gestionar.
Microsoft amplía las pruebas antes de lanzar productos
El informe también muestra que la empresa ha incrementado la capacitación y las evaluaciones relacionadas con el uso responsable de la IA. Cerca de 20.000 ingenieros, responsables de políticas públicas y clientes recibieron formación durante el último año.
Microsoft también analizó más de 100 leyes y proyectos normativos para adaptar sus reglas internas. En este trabajo participaron más de 80 empleados pertenecientes a más de 30 equipos.
Uno de los ejemplos mencionados es Copilot Health, que fue evaluado antes de su lanzamiento mediante consultas con más de 250 profesionales clínicos acreditados de más de 20 países. La compañía también realizó pruebas con usuarios para analizar aspectos como la claridad, utilidad y seguridad de la herramienta.
La IA también plantea una brecha global
El informe identifica cinco grandes transformaciones relacionadas con la expansión de la IA: el crecimiento acelerado de su adopción, el uso de chatbots para consultas personales y de salud, la expansión de los sistemas generativos y agenciales, el empleo de estas tecnologías para fraudes y contenido falso, y la rápida evolución de las regulaciones.
Microsoft también advierte sobre las diferencias de acceso entre regiones e idiomas. Como parte de sus investigaciones, la compañía trabaja actualmente en seis localidades de Asia y desarrolló PazaBench, una herramienta de evaluación que cubre 39 lenguas africanas.
Con estas modificaciones, Microsoft busca que los controles acompañen a la IA durante todo su ciclo de vida: desde el diseño y las pruebas hasta el momento en que un agente opera de manera autónoma dentro de sistemas utilizados en el mundo real.
Fuente: Infobae
Mira también
