Mientras Anthropic y OpenAI claman por normas globales que pausen el desarrollo de modelos de frontera, el CEO de Meta confía en que la competencia corporativa bastará para mantener a raya los riesgos de la inteligencia artificial.
Mark Zuckerberg se distanció de las propuestas para coordinar una reducción del ritmo de desarrollo de la inteligencia artificial entre empresas y gobiernos. El director ejecutivo de Meta argumentó que cada laboratorio tiene la responsabilidad y los incentivos necesarios para ajustar su propio avance cuando la seguridad lo requiera, según informó AP News.
Su razonamiento se apoya en dos factores. La competencia premiaría a los sistemas considerados confiables y alineados con las necesidades de los usuarios, mientras que la posible responsabilidad jurídica incentivaría a las compañías a impedir que sus modelos causen daños. Se trata de la posición expresada por Zuckerberg, no de una conclusión compartida por el sector.
El ejecutivo citó como ejemplo la decisión de Meta de retrasar durante varios meses el lanzamiento de su agente Muse mientras reforzaba aspectos de seguridad. Según su planteamiento, la empresa actuó sin exigir que sus competidores suspendieran al mismo tiempo sus respectivos proyectos.
Dos enfoques para controlar los riesgos
La postura de Zuckerberg responde a la propuesta presentada por Dario Amodei, director ejecutivo de Anthropic. En su ensayo sobre el ritmo de avance de los modelos de frontera, Amodei plantea tres niveles de actuación: evaluadores externos integrados en los laboratorios, coordinación entre compañías y gobiernos democráticos, y acuerdos internacionales que también involucren a países competidores.
Amodei no propone detener toda investigación. Su tesis es que el crecimiento de las capacidades debe dejar tiempo suficiente para desarrollar métodos de alineación, auditorías, controles operativos y técnicas de interpretación. También considera que los compromisos comunes evitarían que una compañía obtuviera ventaja comercial por omitir precauciones adoptadas por sus rivales.
OpenAI ha defendido un enfoque más próximo a esa coordinación. La empresa propone requisitos nacionales obligatorios basados en las capacidades de los modelos, evaluaciones independientes, normas para comunicar incidentes y estándares internacionales que permitan determinar cuándo el desarrollo debe reducir su velocidad o detenerse.
Meta acepta controles, pero no una pausa colectiva
La posición de Meta no equivale a rechazar toda supervisión externa. Zuckerberg calificó la participación de evaluadores independientes como una práctica recomendable y afirmó que otros laboratorios pueden adoptarla por decisión propia. También sostuvo que la mayor parte de los recursos informáticos de Meta se destina a productos para usuarios, en lugar de concentrarse en sistemas capaces de mejorar de manera autónoma sus propias capacidades.
La diferencia central está en quién debe fijar el ritmo. Meta confía en las decisiones internas, la competencia y la responsabilidad individual de cada compañía. Anthropic y OpenAI consideran que los riesgos de los modelos más potentes también requieren reglas compartidas, supervisión independiente y coordinación entre gobiernos.
El secretario general de Naciones Unidas, António Guterres, añadió una perspectiva institucional al debate. En una intervención del 16 de septiembre, sostuvo que las acciones nacionales son necesarias, pero que la cooperación internacional resulta indispensable para evitar una competencia que reduzca los estándares de seguridad.
Las posiciones enfrentadas dejan abierta una pregunta decisiva para la industria: si los incentivos comerciales y jurídicos bastan para contener riesgos que pueden cruzar fronteras o si el desarrollo de sistemas avanzados necesita normas verificables que obliguen por igual a todos los participantes.
Trump se sube al ring
El debate sobre el control de la inteligencia artificial también ha permeado la esfera política estadounidense. Donald Trump se ha sumado recientemente a la discusión con la inquebrantable certeza de quien no permite que la abrumadora complejidad técnica limite su autoconfianza. Tras calificar las peticiones de regulación como una conspiración contra la industria y los centros de datos, el presidente resolvió el que quizás sea el dilema ético y algorítmico más intrincado de nuestra era con una asombrosa analítica de suma cero: «¡Quien gane la IA, gana!».
Autoerigido como el máximo erudito global en la materia, Trump logró lo que ni los ingenieros de OpenAI ni Anthropic han podido: eliminar cualquier preocupación ética mediante el simple recurso de ignorarla. Al sustituir los densos argumentos sobre responsabilidad jurídica de Zuckerberg por una retórica mucho más colorida y ruidosa, el exmandatario dejó claro que su principal contribución al debate sobre la inteligencia artificial es, como siempre, su indiscutible talento para la comedia involuntaria.
Fuentes
- AP News, declaración de Zuckerberg sobre la desaceleración coordinada
- Dario Amodei, We Must Pace the Frontier
- OpenAI, The AI policy window is open. We need to act
- Naciones Unidas, AI, climate and conflicts top Guterres’ agenda ahead of General Assembly
Ilustración creada por IA.
📬 Newsletter gratuito
