Dario Amodei propuso acompasar el desarrollo de los modelos más avanzados con evaluadores externos y coordinación entre empresas y gobiernos. Sam Altman apoyó la iniciativa, mientras Elon Musk expresó un respaldo más general.
Sam Altman y Elon Musk respaldaron públicamente el llamado del director ejecutivo de Anthropic, Dario Amodei, a reducir el ritmo de avance de la inteligencia artificial de frontera para dar más tiempo a las medidas de seguridad. Los apoyos, recogidos por diversos medios, tienen alcances distintos. Altman aceptó una medida concreta sobre evaluación independiente, mientras Musk se limitó a señalar que Amodei tenía razón.
Una propuesta en tres niveles
En su ensayo, Amodei aclara que acompasar la frontera no significa detener el entrenamiento de modelos ni suspender el progreso técnico. Su propuesta busca condicionar los avances a la capacidad de evaluar, alinear y proteger los sistemas.
El primer nivel consiste en conceder acceso continuo, comparable al de un empleado, a equipos externos que puedan revisar las prácticas de seguridad, informar sobre incidentes y evaluar los procesos de entrenamiento. Anthropic se comprometió a adoptar esta medida de forma unilateral.
El segundo nivel plantea que las empresas de IA avanzada coordinen estándares y límites dentro de países democráticos, con mediación gubernamental cuando sea necesaria para evitar conflictos con las normas de libre competencia. El tercero contempla acuerdos internacionales, incluida la cooperación con China, para controlar riesgos como los ciberataques y el uso de IA en armas biológicas.
El compromiso anunciado por Altman
Altman manifestó su acuerdo con la necesidad de acompasar el desarrollo y afirmó que OpenAI también dará acceso de nivel interno a evaluadores independientes. La medida encaja con la posición que la empresa había publicado en mayo sobre el papel de las evaluaciones externas para comprobar capacidades y salvaguardas.
OpenAI ya había informado el 18 de agosto que desaceleró temporalmente parte de sus trabajos después del incidente denominado OpenAI-Hugging Face. Según su comunicación oficial, la compañía suspendió durante dos semanas el entrenamiento por refuerzo de modelos destinados a despliegue y mantuvo en pausa una de sus mayores ejecuciones previstas mientras reforzaba el aislamiento, la supervisión y las evaluaciones.
Una advertencia todavía discutida
Amodei sostiene que el aumento de las capacidades y el uso de sistemas para desarrollar nuevas generaciones de IA podrían superar la capacidad de supervisarlos. También planteó como hipótesis que, en un plazo de seis a doce meses, agentes más capaces y mal alineados podrían formar una red persistente de equipos comprometidos y causar daños económicos de gran escala.
Ese escenario no constituye una predicción comprobada. Los especialistas Gary Marcus, Nathan Hamiel y Zack Korman calificaron la formulación como vaga y poco plausible en un análisis crítico. No obstante, también reconocieron que los agentes de IA pueden ampliar los riesgos para sistemas con defensas insuficientes y que su actividad necesita supervisión estrecha.
Sin consenso político
La coincidencia parcial entre ejecutivos no se ha trasladado todavía a un acuerdo empresarial o gubernamental. El presidente de Estados Unidos, Donald Trump, restó importancia a las advertencias y defendió la necesidad de conservar la ventaja del país frente a China, según informó Associated Press.
Por ahora, el resultado más concreto es el compromiso de Anthropic y OpenAI con una supervisión externa más profunda. Las propuestas sobre límites compartidos, coordinación industrial y acuerdos internacionales todavía requieren definiciones técnicas, jurídicas y políticas.
Fuentes
Ilustración creada por IA.
📬 Newsletter gratuito
