Investigadores del MIT observaron que las imágenes generadas por modelos de difusión se vuelven menos atribuibles a una fotografía, persona o artista concreto a medida que crece el conjunto de entrenamiento. El resultado cuestiona la eficacia de algunos métodos de trazabilidad, pero no descarta la memorización ni resuelve los debates sobre derechos de autor.
Una investigación del Instituto Tecnológico de Massachusetts concluye que puede resultar cada vez más difícil vincular causalmente una imagen generada por un modelo de difusión con una fuente individual de sus datos de entrenamiento. El estudio, firmado por Zheng Dai y David K. Gifford y publicado el 18 de agosto de 2026 en Nature Communications, denomina a este fenómeno caída de la atribución.
La pregunta abordada por los investigadores no fue solamente qué imágenes de entrenamiento se parecen más a un resultado. Intentaron determinar si una imagen, una persona o el conjunto de obras de un artista eran causalmente responsables de una generación concreta.
Una prueba basada en escenarios contrafactuales
Para estudiar esa relación, los autores desarrollaron una arquitectura formada por componentes entrenados con subconjuntos diferentes, pero parcialmente coincidentes, de los datos. Esta estructura permite retirar del modelo los componentes expuestos a una fuente determinada y generar de nuevo la imagen con las demás condiciones constantes, como el texto de entrada y el ruido inicial.
El método busca responder qué habría producido el sistema si una unidad concreta nunca hubiera formado parte del entrenamiento. La diferencia entre el resultado original y el contrafactual sirve como medida de atribución. Si retirar la fuente apenas modifica la imagen, esa fuente no puede considerarse individualmente responsable del resultado según la definición utilizada por los autores.
Los experimentos abarcaron 24 conjuntos de modelos y siete colecciones públicas, con tamaños comprendidos entre 256 y 162.770 imágenes. Las unidades retiradas podían ser una imagen individual, todas las fotografías de una persona o todas las obras de un artista. La comparación se realizó mediante distancias entre píxeles y medidas de similitud semántica.
En las distintas condiciones, el cambio provocado por retirar una unidad disminuyó al aumentar el conjunto de entrenamiento. Los investigadores también reprodujeron el efecto a menor escala mediante modelos reentrenados desde cero y lo observaron en sistemas condicionados mediante texto o categorías.
La similitud no siempre identifica una fuente causal
El trabajo también evaluó métodos que atribuyen una generación a la imagen más parecida dentro de los datos de entrenamiento. La proporción estimada de atribuciones falsas creció junto con el tamaño de los conjuntos analizados. En otras palabras, una imagen puede parecerse a una fuente sin que la presencia de esa fuente haya sido necesaria para producirla.
Los autores sostienen que los grandes conjuntos contienen patrones distribuidos y redundantes. Al retirar una imagen o incluso las obras de un creador, otros ejemplos pueden conservar información estadística suficiente para que la generación permanezca prácticamente igual.
Lo que el estudio no demuestra
El resultado no significa que las imágenes generadas sean independientes del conjunto completo de entrenamiento. El artículo distingue la atribución a una unidad individual de otras formas de análisis aplicadas a grupos de datos o al corpus en su conjunto.
Tampoco descarta que un modelo memorice y reproduzca ejemplos concretos. Los propios investigadores señalan que pueden existir resultados atribuibles incluso en sistemas entrenados con grandes volúmenes de información. La caída de la atribución describe una tendencia agregada, no una garantía para cada imagen generada.
Otra limitación importante es que los experimentos se realizaron con modelos de difusión y una arquitectura diseñada para facilitar la retirada de datos. No constituyen una auditoría directa de servicios comerciales como Midjourney o Stable Diffusion, cuyos conjuntos de entrenamiento pueden ser mucho mayores. Las conclusiones tampoco pueden trasladarse automáticamente a los grandes modelos de lenguaje.
Implicaciones para la trazabilidad
La dificultad para identificar una fuente individual afecta a investigaciones sobre privacidad, eliminación de datos, interpretación de modelos y compensación de creadores. También complica el uso de la similitud visual como prueba automática de procedencia.
Sin embargo, el hallazgo no determina por sí mismo si el entrenamiento o una generación concreta infringen derechos de autor. Como señaló la cobertura de The Register, las consecuencias jurídicas dependerán de criterios adicionales y no solamente de la posibilidad técnica de atribuir una salida a un archivo específico.
El equipo publicó las mediciones procesadas, parte de las imágenes y los programas empleados en el análisis. Esta disponibilidad permitirá comprobar el método y estudiar si la misma caída de atribución aparece en otras arquitecturas, clases de modelos y conjuntos de datos.
Fuentes
- Nature Communications, Outputs of generative diffusion models are often unattributable
- The Register, AI models get convenient amnesia about source material as they grow
Ilustración: captura del sitio
📬 Newsletter gratuito
