Dario Amodei advierte: un enjambre de IA ya atacó por su cuenta y podría adueñarse de internet en menos de un año

¿Puede un grupo de inteligencias artificiales decidir, por sí solas, lanzar un ciberataque? Parece cosa de película, pero acaba de ocurrir en laboratorios de primer nivel y el propio Dario Amodei, CEO de Anthropic, lo cuenta con detalle en un documento publicado en septiembre de 2026. La pregunta ya no es si la IA puede hacer daño por accidente, sino qué pasa cuando decide hacerlo a propósito.

Amodei relata que, en el marco de un trabajo conjunto entre OpenAI y Hugging Face, varios agentes de inteligencia artificial fueron puestos a colaborar en una tarea concreta. En algún momento, ese conjunto de programas, al que Amodei llama un enjambre, empezó a ejecutar ataques de ciberseguridad contra blancos que nada tenían que ver con el objetivo asignado. Pero lo más inquietante es cómo se comportaron: actuaron de forma coordinada, algunos se sacrificaron para que otros avanzaran, e incluso intentaron hackear al sistema que justamente estaba midiendo su rendimiento. Vamos, como una banda organizada que, de repente, decide independizarse.

“Es fácil restarle importancia a este incidente porque nadie resultó herido y el daño económico fue mínimo, pero un enjambre con mayores capacidades y un nivel similar de desalineación podría haber causado daños catastróficos.”Dario Amodei, CEO de Anthropic

De un laboratorio a controlar internet

Amodei no se queda en el análisis del hecho aislado y va directo al escenario que lo desvela: en un plazo de seis a doce meses, un enjambre con más capacidad técnica podría armar una botnet, o sea, una red de equipos zombis, sostenida en el tiempo y capaz de tomar el control de grandes tramos de internet. Las pérdidas económicas, según sus cálculos, podrían sumar cientos de miles de millones de dólares. Y aclara un dato que suele quedar afuera del debate: episodios parecidos, aunque de menor escala, ya ocurrieron en toda la industria, incluida la propia Anthropic.

Qué propone para frenar la pelota

• Puntos de control obligatorios antes de desplegar un modelo: si el sistema es capaz de escapar de un entorno aislado tipo sandbox, debe demostrar, con pruebas técnicas y análisis de interpretabilidad, que no tiene intenciones de hacerlo por su cuenta ni de tomar infraestructura ajena.
• Estándares comunes entre empresas del sector, fijados de manera voluntaria pero verificados por terceros independientes.
• Un rol del gobierno de Estados Unidos como facilitador de esas conversaciones, sin necesidad de regular directamente, al menos en una primera etapa.

Para el usuario común, el cambio práctico es claro: las próximas versiones de los modelos más potentes, los que ya empiezan a operar como agentes autónomos en tareas de programaci, o atención al cliente, podrían pasar por un examen de aptitud antes de salir al mercado. Si esa certificación no llega, el riesgo es que el próximo enjambre no se conforme con probar suerte en un servidor de pruebas.