Las grandes empresas tecnológicas con filial en el Reino Unido han acordado por primera vez permitir que los reguladores gubernamentales evalúen sus sistemas de inteligencia artificial antes de su lanzamiento público. Este acuerdo fue anunciado por el primer ministro Rishi Sunak tras una cumbre de dos días sobre la seguridad de la IA celebrada en Bletchley Park.
La cumbre reunió a un grupo diverso de líderes de la tecnología, el gobierno y el mundo académico. Entre los participantes se encontraban la vicepresidenta de EE.UU., Kamala Harris, y altos funcionarios de China. Todos reconocieron los riesgos potenciales que plantea la IA avanzada.
En la clausura de la cumbre, Sunak declaró que permitir a los gobiernos examinar la IA de vanguardia representa un paso crucial para “inclinar la balanza a favor de la humanidad”. También reveló el respaldo internacional a un panel de expertos sobre IA que siga el modelo del Grupo Intergubernamental de Expertos sobre el Cambio Climático.
Grandes empresas como Meta, Google DeepMind y OpenAI han aceptado voluntariamente someter sus últimas IA a pruebas multilaterales. Esto permitirá evaluar la seguridad y los daños potenciales antes de su lanzamiento público. El régimen de pruebas cuenta con el apoyo de la UE, EE.UU., Japón y otras seis naciones.
La intención es que los acuerdos alcanzados conduzcan a una mitigación de los riesgos que plantea la IA avanzada. Con todo, Sunak tuvo que justificar el carácter voluntario del acuerdo de pruebas, mientras los críticos abogaban por medidas legislativas más estrictas. Hizo hincapié en la necesidad de actuar con rapidez para mantenerse al día de los rápidos avances tecnológicos y sugirió que los requisitos vinculantes para las empresas de IA podrían llegar a ser esenciales.
La realización de las pruebas y estudios estará a cargo de nuevos institutos de seguridad de la IA en EE.UU. y el Reino Unido. La iniciativa, apoyada por la UE y varios países, excluye a China.
El Secretario General de la ONU, António Guterres, tuvo un papel decisivo a la hora de recabar apoyo internacional para un grupo de expertos encargado de publicar un informe sobre el estado actual de la ciencia de la IA. El renombrado pionero de la IA, Yoshua Bengio, presidirá la elaboración del informe inaugural sobre seguridad.
