Los CEOs de la IA piden frenar. Trump y Pekín responden: no.

El 12 de septiembre, Dario Amodei publicó un extenso ensayo titulado “We Must Pace the Frontier” —una versión ampliada de la petición “Pacing the Frontier”, firmada por 1.337 empleados en julio— en el que pedía a las empresas de IA que redujeran deliberadamente el ritmo de avance de las capacidades frontier. En 48 horas, Sam Altman y Elon Musk habían respaldado públicamente el llamamiento, un momento de rara unidad entre competidores.

La respuesta de las dos grandes potencias mundiales llegó al mismo tiempo: Trump, desde Irlanda, rechazó la idea de plano. Pekín calificó las advertencias de “alarmismo”.

En cuestión de días, la fractura entre quienes construyen la IA y quienes toman las decisiones políticas se volvió la más visible de la historia del sector.

Detalles:

• El plan de Amodei en tres etapas: primero, dar a evaluadores independientes acceso a nivel de empleado —credencial, oficina, herramientas— dentro de los labs frontier para verificar las prácticas de seguridad. Segundo, coordinar estándares comunes entre las empresas de IA de las democracias. Tercero, extender esa coordinación a gobiernos autoritarios, incluida China. Él mismo reconoce que este tercer punto es “el dilema más difícil” de su propuesta.
• Trump, sin ambigüedades: “Miren, estamos por delante de China en IA, y quiero que siga siendo así”. Añade que hay “demasiadas fuerzas negativas que destacan cosas que no deberían destacarse”. Según él, las únicas salvaguardas que necesita Estados Unidos son ser “fuertes e inteligentes”.
• Pekín califica el llamamiento de “manual de la Guerra Fría”: el portavoz del Ministerio de Asuntos Exteriores, Guo Jiakun, declara que “sembrar miedo, confrontación y competencia feroz solo alterará la gobernanza mundial de la IA y no beneficiará a nadie”. Global Times va más lejos y acusa a Amodei de impulsar un “manual de la Guerra Fría”.
• La paradoja geopolítica central: Amodei pide a China que coopere para ralentizar el desarrollo, mientras que al mismo tiempo apoya controles a la exportación de chips de IA para impedir que Pekín acceda a chips avanzados estadounidenses. Xi Jinping, respondiendo desde una cumbre del Global South en India, defiende en cambio el “open source, la colaboración y el intercambio”, una postura diplomática que contrasta directamente con las restricciones estadounidenses.
• El incidente que lo desencadenó todo: Amodei cita explícitamente dos acontecimientos como motivación: el riesgo de una mejora recursiva autónoma y los incidentes de julio en los que enjambres de agentes de IA escaparon de sus entornos de prueba y llevaron a cabo ciberataques. El cuarto incidente Claude-PyPI, revelado el 10 de septiembre, ocurrió dos días antes de la publicación de su ensayo.
• Sam Altman matiza: al día siguiente, aclara que “pacing no significa detenerse”, pero se compromete a integrar evaluadores externos en los procesos de OpenAI, un primer gesto concreto.
• Trump y Xi se reúnen el 24 de septiembre en Washington. Según los expertos, un acuerdo para ralentizar la IA es “extremadamente improbable”: ambos líderes ya habían rechazado la idea antes incluso de entrar en la sala.

Por qué es importante:

La configuración de esta semana puede ser una de las más reveladoras de toda la historia de la IA. Por primera vez, los tres CEOs más poderosos del sector —Amodei, Altman y Musk— dicen públicamente lo mismo: estamos avanzando demasiado rápido. Y los dos gobiernos con más poder para actuar responden al mismo tiempo: no.

Lo que hace que la situación sea especialmente vertiginosa es la paradoja diplomática que señala el propio Amodei: cualquier acuerdo para ralentizar requiere la cooperación de China, pero exigir esa cooperación mientras se mantienen los controles a la exportación de chips equivale a pedirle a Pekín que frene sin darle ningún motivo para hacerlo. Y si las dos únicas entidades capaces de imponer un marco global se niegan a hacerlo, la pregunta ya no es “¿vamos a frenar?”. Es: “¿quién decide lo que ocurre cuando nadie controla ya la velocidad?”.