Los ingenieros de IA de Google han creado un modelo de aprendizaje automático que identifica el consenso sobre temas controvertidos, según ha anunciado la empresa. El sistema está siendo utilizado por Google para evitar que la desinformación aparezca en los “fragmentos destacados” que aparecen en la parte superior de sus resultados de búsqueda.
Google analiza las fuentes relevantes utilizando su “modelo unificado multitarea” (MUM), una tecnología de procesamiento del lenguaje natural “multimodal” que desarrolló el año pasado, para reducir el riesgo de que aparezca información errónea en los fragmentos destacados.
“Nuestros sistemas ahora pueden entender la noción de consenso, que es cuando varias fuentes de alta calidad en la web coinciden en el mismo hecho”, escribió Pandu Nayak, vicepresidente de búsquedas de Google, en una entrada de blog sobre el MUM.
El contenido de los fragmentos destacados puede compararse ahora con “fuentes web de alta calidad para ver si existe un consenso general para esa mención, incluso si las fuentes utilizan palabras o conceptos diferentes para describir la misma cosa”, según Nayak.
“Descubrimos que el uso de esta técnica basada en el consenso mejoraba significativamente la calidad y la utilidad de las menciones de fragmentos destacados”.
El nuevo sistema también reduce la posibilidad de que aparezcan fragmentos engañosos en respuesta a consultas basadas en suposiciones incorrectas. La actualización más reciente emplea MUM para identificar tales consultas de búsqueda, reduciendo en 40% la probabilidad de que aparezcan fragmentos incorrectos.
Nayak esbozó algunas medidas adicionales para ayudar a promover la “alfabetización informativa” entre sus usuarios. Entre ellas se encuentra la nueva función “Acerca de este resultado”, que extrae información de Wikipedia sobre las fuentes enlazadas desde los resultados de la búsqueda, y los “avisos de contenido”, que notifican a los usuarios cuando Google no está seguro de la calidad de la información de sus resultados.
Las actualizaciones forman parte del esfuerzo concertado de Google para combatir la desinformación en sus plataformas. “Google se fundó con la premisa de que la información puede ser una herramienta poderosa para las personas de todo el mundo”, escribió Nayak.
“Estamos decididos a seguir haciendo nuestra parte para ayudar a la gente de todo el mundo a encontrar lo que buscan y proporcionar el contexto que necesitan para tomar decisiones informadas sobre lo que ven en línea”.
Otras medidas incluyen una inversión de 75 millones de dólares de la Iniciativa de Noticias de Google para ayudar a desarrollar la alfabetización mediática y un nuevo proyecto para desarrollar planes de lecciones de alfabetización informativa para los escolares, según Nayak.
