Un documento de trabajo examina cómo la IA podría acelerar el desarrollo de nuevos modelos. Sus autores plantean medidas de supervisión y respuesta ante un escenario que consideran incierto.
Investigadores y especialistas en inteligencia artificial plantean que la automatización de la investigación y el desarrollo de IA podría generar un ciclo de avances más rápido que el observado hasta ahora. La posibilidad se examina en un documento de trabajo publicado en septiembre de 2026 en la serie del Cambridge Programme on AI Science & Policy.
Entre sus autores figuran Geoffrey Hinton, Yoshua Bengio, Jakub Pachocki y Jack Clark. El documento aclara que las opiniones expresadas pertenecen a los autores y no representan necesariamente a las organizaciones con las que están afiliados.
Un posible ciclo de mejora acelerada
El mecanismo planteado comienza cuando los sistemas de IA asumen una proporción creciente de tareas de investigación, como programación, diseño de experimentos y análisis de resultados. Los sistemas mejorados podrían incorporarse al mismo proceso y contribuir al desarrollo de sus sucesores.
Los autores denominan «explosión de inteligencia» a una aceleración que podría comprimir en meses avances que, al ritmo de referencia, requerirían años. El software ocupa un lugar central en su análisis porque sus mejoras pueden incorporarse con mayor rapidez que los cambios de hardware, sujetos a fabricación y construcción de infraestructura.
La evidencia se describe como preliminar, mixta y, en algunos casos, indirecta. Los obstáculos examinados incluyen restricciones de cómputo y datos, rendimientos decrecientes, tareas difíciles de automatizar y tiempos de entrenamiento. El documento no presenta el escenario como inevitable ni afirma que ya se haya producido.
La automatización actual no equivale a autonomía completa
Un análisis de Anthropic citado por el propio informe describe cómo la empresa delega una proporción creciente de su desarrollo a sistemas de IA. La compañía señala, sin embargo, que todavía no ha alcanzado un sistema capaz de diseñar y desarrollar de forma plenamente autónoma a su sucesor.
Anthropic también reconoce diferencias entre ejecutar un experimento definido por personas y decidir qué objetivos de investigación merecen perseguirse. Sus observaciones aportan información sobre sus procesos internos, pero no constituyen una validación independiente de las hipótesis del documento.
Supervisión y capacidad de respuesta
Según los autores, una aceleración podría adelantar beneficios científicos y médicos, pero también dejar menos tiempo para responder a amenazas biológicas, ciberataques, alteraciones laborales o fallos de control. El informe examina asimismo el riesgo de concentración de poder.
Las propuestas se organizan en tres áreas: obtener mayor visibilidad sobre la automatización dentro de los laboratorios, desarrollar mecanismos para orientar y limitar una eventual aceleración y preparar a las instituciones para sus consecuencias.
Entre las medidas consideradas figuran informes estandarizados, evaluaciones independientes y procedimientos de respuesta a incidentes. Son recomendaciones de los autores para gestionar un escenario incierto, no controles ya adoptados ni evidencia de una pérdida inminente de control humano.
Fuentes
- Cambridge Programme on AI Science & Policy: What if automating AI R&D triggers an intelligence explosion?, documento de trabajo, septiembre de 2026.
- Anthropic Institute: When AI builds itself.
Ilustración creada por IA.
📬 Newsletter gratuito
