El estándar fue desarrollado por la Oficina Central Digital y de Datos (CDDO) del Gabinete, junto con el Centro para la Ética y la Innovación de los Datos (CDEI), y ahora entrará en un plan piloto para identificar los puntos débiles para mejorarlo aún más.
Voceros gubernamentales británicos recalcan que el Reino Unido es ahora uno de los primeros países en el mundo en construir una norma de este tipo que tiene como objetivo facilitar el escrutinio de la toma de decisiones algorítmicas de los modelos de IA y, en última instancia, fomentar la confianza del público en la tecnología.
Desde hace años, diversos sectores de la industria tecnológica han pedido transparencia en la toma de decisiones algorítmicas de la IA, como el Instituto Alan Turing y el Instituto Ada Lovelace.
“Las organizaciones recurren cada vez más a los algoritmos para automatizar o apoyar la toma de decisiones. Tenemos una oportunidad para poner en marcha los mecanismos de gobernanza adecuados a medida que aumenta su adopción”, dijo Adrian Weller, director del programa de IA del Instituto Alan Turing y miembro del Consejo Asesor del Centro de Ética e Innovación de Datos en un comunicado de la organización.
Weller dijo estar encantado de que el Gobierno británico haya publicado una de las primeras normas nacionales de transparencia algorítmica del mundo. “Se trata de un movimiento pionero del gobierno del Reino Unido, que no solo ayudará a crear la confianza adecuada en el uso de la toma de decisiones algorítmicas por parte del sector público, sino que también actuará como palanca para elevar los estándares de transparencia en el sector privado”.
El desarrollo de la norma es consecuencia de un estudio del CDEI sobre los sesgos en la toma de decisiones algorítmicas, que recomendó al Gobierno británico que impusiera una obligación de transparencia a las organizaciones del sector público con respecto a las decisiones tomadas sobre las personas. El gobierno busca además cumplir con los compromisos asumidos en la Estrategia Nacional de Inteligencia Artificial y la Estrategia Nacional de Datos. El Gobierno estima que esta medida reforzará el liderazgo mundial del Reino Unido en materia de gobernanza de la inteligencia artificial y confianza en ella.
Varios departamentos gubernamentales participarán en el plan piloto durante los próximos meses antes de que la CDDO solicite la aprobación formal de la Autoridad de Normas de Datos a finales de 2022. “Necesitamos normas democráticas y una buena gobernanza para las nuevas tecnologías, como la IA, que mejorarán nuestra forma de trabajar y beneficiarán a la sociedad”, dijo Sir Patrick Vallance, asesor científico jefe y asesor nacional de tecnología del gobierno del Reino Unido. El lanzamiento de esta nueva norma demuestra el compromiso de este Gobierno de fomentar la confianza del público y la comprensión de la aplicación de estas tecnologías, incluyendo la exploración de una mayor transparencia en el uso de algoritmos por parte del sector público”.
