El director ejecutivo de Anthropic sostiene que los modelos abiertos sin capacidades peligrosas son un bien público, pero propone controles de chips, medidas contra la destilación industrial y evaluaciones obligatorias para los sistemas más capaces.
Dario Amodei, director ejecutivo de Anthropic, rechazó una prohibición general de los modelos de inteligencia artificial con pesos abiertos y planteó que la regulación debe concentrarse en las capacidades peligrosas, independientemente de si el sistema es abierto o cerrado.
En una declaración publicada por Anthropic el 27 de julio, Amodei afirmó que la empresa nunca ha promovido una prohibición de esta categoría de modelos. También calificó como un bien público a los sistemas de pesos abiertos que no presentan capacidades peligrosas, debido a su utilidad para empresas, desarrolladores e investigadores y a que pueden ejecutarse sin pagar por cada consulta al proveedor original.
La declaración responde a reportes sobre discusiones dentro del Gobierno de Estados Unidos acerca de posibles restricciones al uso empresarial de modelos chinos con pesos abiertos. Hasta ahora, esas deliberaciones no constituyen una política oficial. El debate cobró fuerza después de que empresas del sector firmaran una carta en defensa de los modelos de pesos abiertos y de la competencia que permiten.
Controles selectivos en lugar de una prohibición general
Amodei distingue entre dos riesgos. El primero es que gobiernos autoritarios desarrollen sistemas más capaces que los estadounidenses y los utilicen con fines militares o de vigilancia. El segundo es que modelos suficientemente potentes sean empleados en ciberataques, ataques biológicos o presenten problemas graves de alineación.
Según el ejecutivo, impedir que compañías estadounidenses utilicen modelos abiertos de origen chino no resolvería ninguno de esos problemas. Los actores maliciosos no dependerían necesariamente de empresas legítimas de Estados Unidos y los sistemas de mayor riesgo podrían incluso mantenerse cerrados y reservarse para organismos militares o de inteligencia.
Como alternativa, Amodei propone tres medidas. La primera es mantener restricciones a la venta de chips avanzados y equipos de fabricación de semiconductores a China, junto con una fiscalización más estricta del contrabando y de las vías usadas para eludir esos controles.
La segunda es actuar contra operaciones de destilación a escala industrial. Esta técnica permite utilizar las respuestas de un modelo para entrenar o mejorar otro con menos recursos computacionales. Amodei diferencia estas operaciones de los usos legítimos de la destilación y sostiene que las intervenciones deberían dirigirse a la apropiación industrial de capacidades, no a prohibir de manera general una técnica empleada en el desarrollo de IA.
La tercera medida es exigir pruebas de seguridad a todos los modelos suficientemente capaces, sean abiertos o cerrados. Esas evaluaciones deberían examinar riesgos cibernéticos, biológicos y de alineación antes de la publicación o el despliegue del sistema. Los modelos menos capaces, incluidos muchos desarrollos académicos y de empresas emergentes, quedarían fuera de esa obligación.
El punto de desacuerdo con la industria
Amodei coincide con la carta sectorial en que los pesos abiertos amplían el acceso a la IA, fortalecen la competencia en determinados usos y ofrecen mayor control a los clientes. Sin embargo, rechaza que la apertura facilite necesariamente la creación de salvaguardas o que la disponibilidad amplia de capacidades favorezca siempre más a los defensores que a los atacantes.
Su argumento es que, una vez publicados los pesos, el desarrollador pierde la posibilidad de retirar el modelo, controlar quién lo utiliza o aplicar nuevas barreras de seguridad de forma universal. Esta limitación también ha sido señalada por el Instituto de Seguridad de IA del Reino Unido, que advierte que las copias pueden modificarse, redistribuirse y ejecutarse de forma privada.
El organismo británico informó recientemente que los modelos abiertos más capaces evaluados en ciberseguridad se encuentran entre cuatro y siete meses por detrás de la frontera cerrada, una distancia menor que la observada durante buena parte de 2025. El análisis se limita a capacidades cibernéticas y no permite extrapolar el resultado a otros tipos de riesgo.
La posición de Anthropic intenta separar dos discusiones que con frecuencia aparecen mezcladas: los beneficios económicos y competitivos de los modelos abiertos, y el riesgo de liberar sistemas cuyas capacidades podrían resultar difíciles de controlar. Para Amodei, la respuesta no debería decidirse por la modalidad de distribución, sino mediante pruebas empíricas aplicadas a los modelos más capaces.
Fuentes
- Anthropic: Our position on open-weights models
- Open Weights and American AI Leadership
- UK AI Security Institute: evaluación de modelos abiertos en ciberseguridad
- Axios: debate estadounidense sobre modelos chinos de pesos abiertos
📬 Newsletter gratuito
