Microsoft Corp., un actor importante en el campo de la IA, ha demostrado recientemente por qué la supervisión humana sigue siendo vital en el ámbito de la creación de contenidos de IA.
Un usuario de Twitter descubrió un artículo generado por IA en el sitio web de Microsoft Network titulado “”Vas a Ottawa: ¡esto es lo que no debes perderte!”. Aunque el artículo destacaba acertadamente los museos y destinos de compras de Ottawa, recomendaba erróneamente el Banco de Alimentos de Ottawa como lugar para comer.
Creado en 1984, el Banco de Alimentos de Ottawa ha ofrecido ayuda alimentaria a personas y familias vulnerables de la región. El error de AI se hizo evidente al señalar la noble causa y, sin embargo, sugerir extrañamente que los turistas podrían querer visitarlo “con el estómago vacío”, estableciendo comparaciones inapropiadas con una experiencia gastronómica.
Datos recientes indican un aumento del 60% en la dependencia de los bancos de alimentos canadienses. El Banco de Alimentos de Ottawa ha informado de un aumento del 85% en los usuarios desde 2019. Si bien abordar la creciente inseguridad alimentaria en Canadá es importante, colocar dicha información en una guía turística es inapropiado.
Este traspié es especialmente notable ya que Microsoft había optado previamente por reemplazar a muchos de sus periodistas de MSN con IA en 2020. El incidente pone de manifiesto la incapacidad de la IA para discernir entre restaurantes de lujo y servicios comunitarios vitales.
Tras la reacción, Microsoft retiró rápidamente el artículo y se comprometió a investigar. Samantha Koziara, directora de comunicación del Banco de Alimentos de Ottawa, expresó su preocupación a The Verge, afirmando que su organización nunca apoyaría una narrativa de este tipo. Además, subrayó la insensibilidad del artículo, señalando su falta de revisión editorial humana.
