Microsoft y organizaciones de diversos sectores lanzan la Iniciativa de Transparencia en IA para fortalecer la confianza empresarial en los modelos y agentes de IA
A través de la nueva Iniciativa de Transparencia en IA, Microsoft está colaborando con más de 40 organizaciones, entre ellas Accenture, Adobe, KPMG, Mastercard y Volvo Cars, para promover un enfoque común en materia de transparencia, seguridad y gobernanza de la IA en todos los modelos y proveedores. Microsoft también aportará mayor visibilidad sobre cómo los modelos y agentes de IA interactúan con los datos empresariales en todos sus productos y servicios
REDMOND, Washington, 20 de noviembre de 2026 /PRNewswire/ -- Las organizaciones pueden observar gran parte de la actividad en torno a los modelos de IA, pero a menudo no pueden reconstruir lo que sucedió entre una solicitud y un resultado, lo que dificulta verificar de forma independiente el comportamiento del modelo. En Microsoft Ignite, el martes, el presidente y director ejecutivo de Microsoft Satya Nadella anunció la siguiente fase del compromiso de Microsoft para hacer que la IA sea más segura: la Iniciativa de Transparencia en IA (AI Transparency Initiative) es un esfuerzo de colaboración con clientes y socios para establecer un enfoque común y abierto en materia de seguridad y gobernanza en todos los modelos y proveedores. La iniciativa refleja un principio sencillo: una mayor autonomía de la IA requiere una mayor transparencia.
"Para que los controles de seguridad sean efectivos, todas las organizaciones necesitan una mayor transparencia en el modelo en sí", dijo Hayete Gallot, vicepresidente ejecutivo de Seguridad de Microsoft. "Con este trabajo, aportaremos mayor transparencia a todos los modelos. Este es un paso fundamental para lograr una contención más inteligente y eficaz, lo que nos permitirá mejorar la rendición de cuentas y la trazabilidad".
Las empresas están conectando modelos de IA con datos, herramientas, credenciales e infraestructura, lo que permite a los agentes realizar acciones sin aprobación humana en cada paso. Los sistemas de control existentes pueden observar gran parte de la actividad en torno a los modelos de IA, pero no pueden ver lo que sucede dentro de ellos ni verificar de forma independiente sus propios informes sobre su comportamiento. Esto limita la capacidad de las organizaciones para comprender el contexto que hay detrás de las acciones de un agente. Esa falta de evidencia genera riesgos en materia de seguridad, cumplimiento normativo, auditoría y rendición de cuentas. Los equipos de seguridad necesitan una nueva arquitectura de confianza para hacer frente a los crecientes riesgos internos que plantean los agentes de IA cada vez más capaces.
"A medida que los agentes de IA se integran más profundamente en las operaciones empresariales, los equipos de seguridad necesitan tener una visibilidad clara de a qué acceden esos agentes, qué acciones realizan y cómo se pueden verificar esas acciones", dijo Aanchal Gupta, directora de seguridad de Adobe. "Es fundamental establecer un enfoque común para la transparencia en la IA en todo el sector, con el fin de fortalecer la confianza y ayudar a las organizaciones a innovar con seguridad, manteniendo al mismo tiempo la seguridad y la rendición de cuentas".
De los principios a la práctica
La iniciativa consta de tres partes. En primer lugar, Microsoft ampliará su participación en la Iniciativa de Estándares para Agentes de Inteligencia Artificial del Instituto Nacional de Estándares y Tecnología y aprovechará su investigación para desarrollar estándares abiertos y aplicables a toda la industria en materia de transparencia, seguridad y gobernanza de la IA. En segundo lugar, Microsoft está colaborando con más de 40 organizaciones, entre ellas Accenture, Adobe, KPMG, Mastercard y Volvo Cars, para ayudar a desarrollar estándares abiertos para sistemas de IA que sean responsables, verificables de forma independiente y seguros por diseño, independientemente del modelo o proveedor.
En tercer lugar, Microsoft incorporará este trabajo a Microsoft AI, Microsoft Foundry y Microsoft Copilot, lo que permitirá a los clientes utilizar la evidencia resultante con sus herramientas de seguridad y cumplimiento, ya sean de Microsoft o de otros proveedores.
"Nuestros clientes quieren avanzar más rápido con la IA, y no deberían tener que elegir entre innovación y seguridad", dijo John Israel, director global de Seguridad de la Información de KPMG International. "La confianza en la IA requiere transparencia, explicabilidad y una supervisión responsable. Nos enorgullece colaborar con Microsoft en la Iniciativa de Transparencia de la IA para ayudar a establecer estándares abiertos para toda la industria que brinden a las organizaciones la visibilidad y el control que necesitan para implementar la IA de manera responsable y a gran escala".
Responsabilidad clara
Los agentes con acceso a datos, herramientas y credenciales presentan el mismo perfil de riesgo que un empleado con privilegios, pero operan a la velocidad y escala de las máquinas, lo que hace que la supervisión independiente sea esencial.
La responsabilidad recae en la organización. Cuando ocurre algo trascendental, los líderes deben rendir cuentas a clientes, empleados, juntas directivas, auditores y reguladores. Culpar a la IA no es la solución, y "confiar en el modelo" no es un método de control.
Esta iniciativa está diseñada para funcionar con diferentes modelos y proveedores, incluidos los modelos de ponderación cerrada y abierta, de modo que los equipos de desarrolladores puedan cambiar o actualizar los modelos que impulsan a sus agentes sin comprometer la capacidad de los equipos de TI y seguridad para gestionarlos de forma segura, ni la capacidad de los equipos de cumplimiento para auditar sus acciones.
"A medida que las organizaciones dan el siguiente paso en su reinvención de la IA, necesitan una base sólida de confianza sobre la cual construir", dijo Harpreet Sidhu, líder global de ciberseguridad de Accenture. "Iniciativas como esta de Microsoft, que adoptan un enfoque abierto e impulsado por la industria en materia de transparencia de la IA, pueden ser de gran ayuda a la hora de proteger los modelos de IA e incorporarles controles y mecanismos de gobernanza. Accenture se enorgullece de asociarse con Microsoft y otros líderes en este ámbito".
Ver, verificar, controlar
Microsoft cree que todas las organizaciones deberían poder ver a qué acceden y qué hacen los sistemas de IA, verificar sus acciones de forma independiente y controlar lo que se les permite hacer.
- Ver: Saber qué se le pidió y autorizó a hacer a la IA, qué modelo y entorno de ejecución se utilizaron, a qué datos y herramientas tuvo acceso y qué acciones realizó. Supervisar continuamente la actividad de los agentes y las señales de riesgo en función de las políticas y los umbrales establecidos.
- Verificar: Los agentes no pueden ser la única fuente de información veraz sobre su propio comportamiento, y no se puede confiar en que los modelos de frontera se autogobiernen. Las pruebas relativas a la identidad del agente, la intención delegada y las acciones deben identificar su origen (el modelo, el entorno de ejecución o sistemas independientes como la identidad y las políticas) para que las señales reportadas por el modelo puedan cotejarse con los registros observados de forma independiente. Las organizaciones deben poder verificar de forma independiente la actividad de la IA utilizando sus propios sistemas de seguridad y cumplimiento, sin depender únicamente de la descripción del comportamiento que proporciona el proveedor del modelo.
- Controlar: Mantener el control sobre lo que la IA tiene permitido hacer. Contar con pruebas claras del propósito, el propietario, los datos y la autoridad delegada de cada flujo de trabajo ayuda a las organizaciones a hacer cumplir sus políticas antes de que se produzcan acciones consecuentes y a reconstruir lo sucedido durante las investigaciones, la contención, la recuperación y las auditorías. Esa evidencia debe permanecer con ellos cuando cambien los modelos y los proveedores. Las organizaciones deben mantener el control sobre a qué datos pueden acceder sus agentes y cómo se rige ese acceso, independientemente del modelo o del proveedor.
Involúcrese
Las organizaciones interesadas en ayudar a dar forma a la iniciativa o seguir su progreso pueden obtener más información e inscribirse en aka.ms/learnmoreAItransparency.
Siga las novedades de Microsoft Ignite, donde Microsoft y líderes de la industria compartirán información sobre cómo las organizaciones pueden gestionar modelos y agentes de IA con confianza. Más información disponible en el blog de seguridad de Microsoft.
View original content to download multimedia:https://www.prnewswire.com/mx/comunicados-de-prensa/microsoft-y-organizaciones-de-diversos-sectores-lanzan-la-iniciativa-de-transparencia-en-ia-para-fortalecer-la-confianza-empresarial-en-los-modelos-y-agentes-de-ia-302946569.html
FUENTE Microsoft Corp.