El Centro Nacional de Ciberseguridad (NCSC) del Reino Unido ha dado a conocer un conjunto pionero de directrices mundiales (documento PDF de 20 páginas) para el desarrollo y la implantación seguros de sistemas de Inteligencia Artificial (IA). Respaldadas por organismos de 18 países, incluidos todos los miembros del G7, las directrices representan un esfuerzo pionero por establecer normas internacionales para la seguridad de la IA.
Aplicables a todos los desarrolladores de sistemas de IA, tanto si parten de cero como si se basan en plataformas existentes, estas directrices subrayan la importancia de considerar el papel de la IA y si es la solución más adecuada. Si la IA se considera apropiada, los desarrolladores tendrán que decidir si entrenan un nuevo modelo, adaptan uno existente o trabajan con un proveedor de modelos externo.
Las orientaciones del NCSC abarcan cuatro etapas clave en el ciclo de vida de un sistema de IA: diseño seguro, desarrollo seguro, despliegue seguro y funcionamiento y mantenimiento seguros. En cuanto al desarrollo seguro, se centra en asegurar la cadena de suministro y garantizar el cumplimiento de las normas de seguridad de la organización, incluida la documentación de datos, modelos e instrucciones, y la gestión de la deuda técnica.
En cuanto al despliegue seguro, se aconseja a los desarrolladores que protejan su infraestructura y sus modelos frente a diversas amenazas. Esto incluye aplicar medidas de seguridad sólidas a todos los aspectos del sistema, desde las API hasta los conductos de formación. Las directrices también subrayan la importancia de supervisar el comportamiento del sistema y la deriva de los datos después de su despliegue, y de mantener registros exhaustivos con fines de auditoría y corrección.
Jen Easterly, directora de la Agencia de Ciberseguridad y Seguridad de las Infraestructuras (CISA), saludó las directrices como un paso fundamental en el compromiso de la comunidad mundial con el desarrollo y el despliegue responsables de las tecnologías de IA. Easterly destacó la importancia de estas directrices para reforzar la cooperación internacional y el avance seguro de la IA, marcando un momento crítico en el desarrollo de esta tecnología global.
El documento es publicado por el Centro Nacional de Ciberseguridad del Reino Unido (NCSC), la Agencia de Ciberseguridad y Seguridad de la Infraestructura de Estados Unidos (CISA) y los siguientes socios internacionales:
– Agencia de Seguridad Nacional (NSA)
– Oficina Federal de Investigación (FBI)
– Centro Australiano de Ciberseguridad del Directorio de Señales de Australia (ACSC)
– Centro Canadiense de Ciberseguridad (CCCS)
– Centro Nacional de Ciberseguridad de Nueva Zelanda (NCSC-NZ)
– CSIRT del Gobierno de Chile
– Agencia Nacional de Ciberseguridad e Información de la República Checa (NUKIB)
– Autoridad del Sistema de Información de Estonia (RIA)
– Centro Nacional de Ciberseguridad de Estonia (NCSC-EE)
– Agencia Francesa de Ciberseguridad (ANSSI)
– Oficina Federal de Alemania para la Seguridad de la Información (BSI)
– Dirección Nacional de Ciberseguridad de Israel (INCD)
– Agencia Nacional de Ciberseguridad de Italia (ACN)
– Centro Nacional de Japón para la Preparación de Incidentes y Estrategia para la Ciberseguridad (NISC)
– Secretariado de Política de Ciencia, Tecnología e Innovación de la Oficina del Gabinete de Japón
– Agencia Nacional de Desarrollo de Tecnologías de la Información de Nigeria (NITDA)
– Centro Nacional de Ciberseguridad de Noruega (NCSC-NO)
– Ministerio de Asuntos Digitales de Polonia
– Instituto Nacional de Investigación NASK de Polonia (NASK)
– Servicio Nacional de Inteligencia de la República de Corea (NIS)
– Agencia de Ciberseguridad de Singapur (CSA)
