La iniciativa EXTRA entrega aportes sin restricciones a grupos universitarios de seis continentes y prepara una red de especialistas externos para evaluar riesgos que los equipos internos no cubren por sí solos.
Microsoft presentó la External Red Team Alliance, EXTRA, una iniciativa destinada a ampliar la participación externa en las pruebas de seguridad y protección de sistemas de inteligencia artificial.
El primer componente de la alianza entrega aportes sin restricciones a 18 laboratorios universitarios de seis continentes. Según el anuncio de Microsoft AI Red Team, los grupos seleccionados ya investigan problemas de seguridad, alineamiento, uso indebido, daños multilingües y riesgos que dependen de contextos regionales o culturales.
La empresa sostiene que gran parte de las evaluaciones de IA todavía se realiza dentro de las organizaciones que desarrollan los sistemas. Su diagnóstico es que un solo equipo no puede reunir toda la experiencia necesaria para examinar áreas como ciberseguridad, idiomas, patrones de abuso o diferencias culturales.
Aportes sin resultados predefinidos
Microsoft describe los aportes como donaciones sin restricciones. Esto significa que los laboratorios no deberán orientar sus resultados hacia productos concretos ni cumplir entregables definidos por la compañía.
La Universidad de Washington informó que el laboratorio de la profesora Emily Tseng recibió US$25.000. Ese dato corresponde a una institución específica y no permite calcular el valor total del programa. Microsoft no publicó en su anuncio el monto agregado ni indicó si todos los laboratorios recibirán la misma suma.
Entre las instituciones mencionadas se encuentran CyLab de Carnegie Mellon, el Berkman Klein Center de Harvard, el Centre for Responsible AI del Indian Institute of Technology Madras, grupos de KAIST, University College London, University of Melbourne y centros de Berkeley y Nueva York.
Una red para pruebas especializadas
El segundo componente de EXTRA busca formar una red distribuida de investigadores, profesionales y especialistas regionales que puedan participar en ejercicios de red teaming.
Estas evaluaciones someten un sistema a escenarios adversariales para identificar fallas, manipulaciones o formas de abuso antes de que se conviertan en incidentes. En sistemas de IA, el trabajo incluye vulnerabilidades tradicionales, inyección de instrucciones, generación de contenidos dañinos y comportamientos que varían entre idiomas o contextos.
La creación de la alianza no demuestra por sí sola que las evaluaciones externas vayan a corregir esos problemas ni equivale a una auditoría independiente de productos de Microsoft. El valor del programa dependerá del acceso que reciban los especialistas, de la publicación de resultados y de la capacidad de incorporar sus hallazgos en sistemas concretos.
Fuentes
Microsoft AI Red Team: Enhancing AI security through global AI red teaming
Universidad de Washington: Professor Emily Tseng’s lab receives support through Microsoft’s new AI safety initiative
📬 Newsletter gratuito
