A través de un posteo en su blog personal, el CEO y cofundador de Anthropic, Dario Amodei, pidió una desaceleración en el ritmo al que se mejoran las capacidades de los modelos de inteligencia artificial (IA). También sugirió la necesidad de incorporar modelos de auditorías de terceras partes a las empresas para evitar que el avance derive en catástrofes en la ciberseguridad a escala global.

Horas después, el planteo fue apoyado por el jefe de OpenAI, Sam Altman, y el director de SpacexAI, Elon Musk.

"Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de agentes de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias", sostuvo Amodei en su texto.

Su ensayo llega en una semana donde se debatió extensamente el riesgo de la IA, tras un mensaje apocalíptico publicado por un exinvestigador de Anthropic y ChatGPT que sostuvo que estos modelos “podría matarnos a todos para finales de la década”

Dario Amodei, CEO de Anthropic (Santiago / GETTY IMAGES NORTH AMERICA via AFP)

El texto fue titulado "We must pace the frontier", que puede traducirse como "debemos pausar el ritmo del avance". Pero también es una referencia a una iniciativa lanzada en julio pasado, con la que más de 1100 empleados de empresas vinculadas a la IA habían pedido al gobierno de Estados Unidos un esfuerzo para desarrollar herramientas que puedan moderar el avance de los modelos. Amodei había sido uno de los firmantes de la carta.

En el texto publicado este sábado, el CEO hizo referencia específica al incidente OpenAI y Hugging Face, en el que un enjambre de agentes actuó "como un colectivo fanáticamente entregado: llevaron a cabo ciberataques contra objetivos que no se les había asignado y que nada tenían que ver con la tarea en curso, se sacrificaron por el éxito del grupo e intentaron hackear el sistema encargado de evaluar su rendimiento".

We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.

Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…

— Dario Amodei (@DarioAmodei) September 12, 2026

En aquella ocasión, los agentes habían actuado para cumplir una meta definida por humanos, dentro de una evaluación diseñada para medir capacidades ofensivas. Dentro de esas decisiones que tomaron los agentes, se conectaron a internet e intrusaron Hugging Face.

Anthropic es responsable de Claude, uno de los modelos más comentados este año.

Según Amodei, la industria debe "reducir el ritmo al que se mejora las capacidades de los modelos de IA" y priorizar, a la vez, la cautela frente a la velocidad y la prudencia ante el beneficio económico para evitar que los incentivos comerciales desemboquen en una "carrera hacia el abismo".

El riesgo de China y una estrategia en tres fases para la IA

El referente de Anthropic hizo el llamado a las empresas de Estados Unidos y de países democráticos, aunque no esquivó al asunto de la carrera tecnológica con China. Por eso planteó una estrategia en tres fases orientada a regular el ritmo de la tecnología sin ceder la ventaja.

Quizás uno de los más destacados fue el compromiso "unilateral e inmediato" de abrir las instalaciones de Anthropic a "evaluadores externos independientes", que tendrán "acceso equiparable al de sus propios empleados, permitiéndoles auditar los procesos de entrenamiento y publicar sus hallazgos", una medida que pidió que el resto de sus competidores también tengan.

La propuesta contempla una coordinación entre las empresas para pactar estándares comunes de seguridad y topes al avance descontrolado, respaldados por mediación institucional y excepciones a las normas antimonopolio, además de blindar las cadenas de suministro de semiconductores y negarse a venderle a China chips superpoderosos o equipo para armar semiconductores, para lograr tener al menos 3 o 5 años más de ventaja.

Sam Altman, CEO de OpenAI. Foto Reuters/Kim Kyung-Hoon

Una de las preocupaciones que señala Amodei es el proceso de destilado, donde acusa a China de usar los modelos norteamericanos para entrenar sus propias versiones, mucho más pequeñas, pero que consumen menos recursos.

Pero también llama a poder acordar con Beijing una serie de límites al alcance de los usos de la IA, tales como prohibir su uso para crear armas biológicas militares, o establecer acuerdos para que los modelos tengan debidas pruebas antes de ser lanzados para evitar riesgos en campos como ciberseguridad o biología.

También pidió que se establezca algún tipo de "límite de velocidad" vinculado a la tasa de Automejora recursiva (RSI), el proceso por el cual los sistemas de IA reescriben su propio código para optimizarse de manera automática e ir acelerando su crecimiento.

El directivo sostiene que estas medidas pueden ralentizar un año o dos el avance, y que sería ideal para que la comunidad investigadora pueda entender mejor cómo funcionan dichos modelos.

El apoyo de Sam Altman y de Elon Musk en la frontera tecnológica

Horas después del mensaje de Amodei, tanto Altman como Musk respaldaron su postura de pedir moderación en el avance de la IA.

I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks.

Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon. https://t.co/1YhhIybZX7

— Sam Altman (@sama) September 12, 2026

"Coincido con Dario en que debemos avanzar a un ritmo adecuado en la frontera tecnológica. Este ha sido un tema central en las conversaciones que hemos mantenido en OpenAI durante las últimas semanas", publicó Altman en X, citando el posteo de Amodei.

Altman calificó además como una "excelente idea" la iniciativa de abrir las puertas a auditores externos: "Comprometerse a contar con evaluadores independientes que tengan un nivel de acceso similar al de los empleados es una excelente idea, y nosotros haremos lo mismo. Pronto tendremos más información que compartir", adelantó.

Algo menos efusivo, Elon Musk también acompañó el planteo. "Dario tiene razón", publicó en X.

Dario is right https://t.co/EwKgqQGaUo

— Elon Musk (@elonmusk) September 12, 2026

El mensaje apocalíptico de un ex Anthropic

Si bien Amodei suele escribir largos análisis en su blog, esta carta llega apenas unos días después de una polémica que se instaló en redes sociales, cuando un investigador de Anthropic publicó un explosivo hilo de X en el que anunciaba su renuncia a la empresa, alertando que los modelos de superinteligencia artificial "podrían matarnos a todos para finales de la década".

El investigador, Jacob Coxon, quien también trabajó para OpenAI, afirmó que dichas compañías estaban más centradas en superarse mutuamente que en la seguridad de sus productos.

"Ninguna de las dos empresas actúa de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas", escribió el martes en X.

En un tono más apocalíptico, el exinvestigador de Anthropic aseguró: "Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de marketing".