Meta retiene a Voicebox, su IA generativa de diálogo, por su potencial para deepfakes avanzadas

Meta ha presentado Voicebox, una potente herramienta de IA con diversas aplicaciones. Sin embargo, debido a preocupaciones sobre su posible mal uso, ha decidido no lanzarla al público por ahora.

Meta ha presentado una nueva herramienta de Inteligencia Artificial (IA) denominada Voicebox, que permite generar diálogos verbales con diversas aplicaciones. Según la empresa, Voicebox se diferencia de las plataformas de generación de voz anteriores dada su capacidad de realizar tareas de generación de voz para las que no fue explícitamente entrenada. Con una entrada de texto y un breve clip de audio para proporcionar contexto, Voicebox puede generar un fragmento de habla potencialmente convincente que se asemeja a la voz de la persona presente en el clip de origen.

“Antes de Voicebox, la IA generativa requería un entrenamiento específico para cada tarea con datos de entrenamiento meticulosamente preparados”, señala Meta AI. En cambio, Voicebox utiliza una nueva metodología que permite el aprendizaje a partir de audio en bruto y una transcripción complementaria.

Voicebox es capaz de producir audio en seis idiomas: inglés, francés, alemán, español, polaco y portugués. Los diálogos generados se asemejan más a cómo las personas hablan naturalmente, lo que abre una amplia gama de aplicaciones. Meta sugiere que Voicebox puede utilizarse para mejorar las conversaciones entre idiomas con herramientas tecnológicas o para proporcionar un diálogo más natural en los personajes de videojuegos. Sin embargo, la herramienta también puede ser utilizada para crear diálogos “deepfake”, imitando la voz de figuras públicas o celebridades.

A pesar de ser un gran avance en el desarrollo de la IA, Meta AI admite el riesgo de mal uso de la herramienta. Por este motivo, la empresa ha creado clasificadores que diferencian entre creaciones de Voicebox y voces humanas, similar a cómo funcionan los filtros de spam.

Subrayando la importancia de la transparencia en el desarrollo de la IA, Meta AI ha manifestado su compromiso de transparencia con la comunidad de investigación. Sin embargo, aduciendo precaución, la empresa no tiene planes de hacer pública Voicebox en un futuro próximo. En lugar de lanzar la herramienta en su estado funcional, Meta ha compartido muestras de audio y un documento de investigación para ayudar a la comunidad científica a entender su potencial.


Únase a la conversación

Contacto | Diario TI es una publicación de MPA Publishing International Ltd., Reino Unido. © Copyright 1997-2022