En una carta al Congreso de los EE.UU. despachada la víspera, el CEO de IBM, Arvind Krishna, dijo que la compañía ya no ofrecerá, desarrollará ni investigará la tecnología de reconocimiento facial. Krishna citó el hecho de que en septiembre de 1953, más de una década antes de la aprobación de la Ley de Derechos Civiles, IBM se definió a favor de la igualdad de oportunidades, cuando el entonces presidente de IBM Thomas J. Watson, Jr. escribió a todos los empleados que “cada uno de los ciudadanos de este país tiene el mismo derecho a vivir y trabajar en Estados Unidos. La política de esta organización es contratar a personas que tengan la personalidad, el talento y los antecedentes necesarios para ocupar un determinado puesto de trabajo, independientemente de su raza, color o credo”.
Krishna dijo que Watson corroboró esta declaración con actos concretos, negándose a aplicar las leyes de Jim Crow en las instalaciones de IBM. El nuevo CEO de IBM acotó que “casi siete décadas después, las horribles y trágicas muertes de George Floyd, Ahmaud Arbery, Breonna Taylor y muchos otros nos recuerdan que la lucha contra el racismo es tan urgente como siempre”.
“Con ese fin, IBM quisiera trabajar con el Congreso en la búsqueda de la justicia y la equidad racial, centrándose inicialmente en tres áreas políticas clave: la reforma de la policía, el uso responsable de la tecnología y la ampliación de las habilidades y oportunidades educativas”, escribió Krishna.
Como parte de la sugerencia de reforma policial de IBM, Krishna escribió que IBM ya no ofrecerá el software de reconocimiento facial o de análisis de IBM de propósito general. “IBM se opone firmemente y no aprobará el uso de ninguna tecnología, incluida la tecnología de reconocimiento facial ofrecida por otros proveedores, para la vigilancia masiva, la elaboración de perfiles raciales, las violaciones de los derechos humanos y las libertades básicas, o cualquier otro propósito que no sea coherente con nuestros valores y principios de confianza y transparencia”, añadió. “Creemos que ha llegado el momento de iniciar un diálogo nacional para determinar si los organismos nacionales encargados de hacer cumplir la ley deben emplear la tecnología de reconocimiento facial y cómo hacerlo”.
“La Inteligencia Artificial es una herramienta poderosa que puede ayudar a las fuerzas del orden a mantener a los ciudadanos seguros”, escribió Krishna. “Pero los proveedores y usuarios de los sistemas de Al tienen la responsabilidad compartida de asegurar que se examine la integridad de Al, particularmente cuando se usa en las fuerzas del orden, y que se audite y se informe sobre dicha integridad”.
“Ofrecemos estas sugerencias en el espíritu constructivo de resolución de problemas que siempre ha definido a nuestra empresa y sus empleados. Sabemos que estas medidas son sólo el comienzo, pero IBM quiere ayudar a avanzar en la búsqueda de la equidad y la justicia de esta nación y estamos dispuestos a trabajar con ustedes para promover políticas que ayuden a unificar nuestro país y avanzar en nuestro propósito nacional.”
Un portavoz de IBM precisó que la empresa limitará ahora su tecnología visual a la “detección visual de objetos”, lo que podría, por ejemplo, contribuir a las operaciones de fábricas o ayudar a los agricultores en materia de cultivos.
La carta de Krishna se produce a raíz de las grandes protestas contra el racismo en Estados Unidos y en todo el mundo en respuesta a la muerte de George Floyd, un hombre negro desarmado que fue asesinado por policías durante su detención.
Los sistemas de reconocimiento facial han sido criticados anteriormente en los EE.UU. después de que una investigación de la Oficina de Responsabilidad del Gobierno encontró que los algoritmos del FBI eran inexactos el 14 por ciento de las veces, además de que era más probable que identificaran erróneamente a personas negras.
En agosto de 2019, ACLU, una organización de derechos civiles en los Estados Unidos, realizó una demostración para probar lo imprecisos que pueden ser los sistemas de reconocimiento facial. Dos docenas de legisladores de California fueron identificados como criminales por el software de reconocimiento facial.
Entretanto, Microsoft se ha negado a instalar la tecnología de reconocimiento facial para una fuerza policial de EE.UU., debido a la preocupación por sesgos prejuiciosos de la inteligencia artificial (IA). La compañía habría eliminado una gran base de datos de reconocimiento facial que, según se informa, contenía 10 millones de imágenes utilizadas para entrenar sistemas de reconocimiento facial.
Paralelamente, las autoridades de San Francisco, California, han prohibido el uso de la tecnología de reconocimiento facial, lo que significa que las agencias locales, como la policía local y otras agencias de la ciudad, como las de transporte, no podrían utilizar la tecnología en ninguno de sus sistemas.
