CNN ha puesto de relieve que el paso de Microsoft a utilizar inteligencia artificial (IA) para elaborar noticias para MSN ha suscitado inquietud sobre la integridad de los contenidos de su página principal. Al parecer, el cambio de editores humanos a IA ha dado lugar a la difusión de información errónea y de artículos sin fundamento, lo que plantea dudas sobre la eficacia de la IA para controlar la calidad de las noticias.
A pesar de las asociaciones de Microsoft con destacadas organizaciones de noticias como The Guardian y CNN, que permiten la republicación de artículos, la empresa se ha enfrentado a reacciones en contra por publicar titulares engañosos y declaraciones falsas. Esto quedó especialmente patente la semana pasada, cuando una encuesta generada por IA en MSN relacionada con la trágica muerte de una joven identificada como Lilie James, de 21 años, desató la indignación por su insensibilidad. La encuesta, que fue retirada posteriormente por Microsoft, pedía a los usuarios opinar sobre cuál fue la causa de muerte de la joven mujer. Las fuertes críticas resultaron en llamamientos para que el gigante tecnológico asumiera la responsabilidad de las acciones de su IA.
Anna Bateson, CEO del Guardian Media Group, expresó su profunda preocupación por el incidente, destacando el daño que causaba a la credibilidad del periodismo convencional y pidiendo a Microsoft que reevaluara su uso de la IA en el tratamiento de los contenidos de The Guardian.
Tras el incidente, Microsoft suspendió todos los sondeos sobre artículos de noticias y puso en marcha una investigación sobre el incidente, con un representante admitiendo el error y prometiendo medidas para evitar problemas similares en el futuro.
Sin embargo, no se trataba de un incidente aislado. El sistema de IA en cuestión fue responsable de la publicación de otros contenidos cuestionables, incluido un artículo que afirmaba falsamente que el presidente Biden se había quedado dormido durante un homenaje a las víctimas del incendio forestal de Maui, y otro que menospreciaba a un jugador de la NBA fallecido.
Exeditores de Microsoft dijeron a la CNN que tales noticias, que normalmente no se publicarían debido a su naturaleza cuestionable, fueron amplificadas inadvertidamente por el proceso de selección de la IA, llegando potencialmente a millones de lectores más.
Los incidentes han desatado un debate sobre el compromiso de Microsoft con la distribución de noticias objetivas y fiables. En 2018, la empresa contaba con 800 redactores humanos, pero con la transición a la IA, muchas de estas funciones han quedado suprimidas.
Microsoft afirma que está perfeccionando su tecnología de IA para mantener la exactitud de sus noticias. La empresa sigue comprometida con el uso de la IA para la selección de noticias, prometiendo mejoras algorítmicas continuas y la colaboración con los proveedores de contenidos para mantener un alto nivel editorial. Un portavoz de Microsoft hizo hincapié en los continuos esfuerzos de la empresa por hacer evolucionar sus productos y servicios y responder a los retos emergentes.
Ilustración: Canva
