El creador de Claude pide frenar ya la IA porque en seis meses puede tomar el control global de internet
IA
La cúpula de la IA enciende una alarma inédita: piden desacelerar los modelos más avanzados
Dario Amodei, CEO de Anthropic y uno de los responsables de Claude, advirtió sobre el riesgo de que agentes autónomos cada vez más potentes puedan ejecutar ciberataques a gran escala. Sam Altman y Elon Musk respaldaron la necesidad de bajar el ritmo, mientras Naciones Unidas reclama límites internacionales y controles independientes.
La vertiginosa carrera por desarrollar sistemas de inteligencia artificial cada vez más autónomos y poderosos abrió una discusión inédita dentro de las propias compañías que lideran la tecnología. Dario Amodei, cofundador y CEO de Anthropic, pidió desacelerar el crecimiento de las capacidades de los modelos de frontera para permitir que los mecanismos de seguridad puedan acompañar su evolución.
La advertencia más fuerte está vinculada con la posibilidad de que sistemas capaces de operar de manera autónoma coordinen ataques informáticos de gran escala. Amodei planteó como escenario de riesgo que, dentro de 6 a 12 meses, un enjambre más avanzado de agentes pudiera comprometer amplias zonas de internet mediante una red persistente de bots, con potenciales pérdidas económicas por cientos de miles de millones de dólares. No se trata de una predicción de que eso necesariamente ocurrirá, sino de un peligro que, según el empresario, exige actuar antes de que las capacidades aumenten.
“Me preocupa que, en un plazo de 6 a 12 meses, un enjambre así pueda ser capaz de tomar el control de toda internet mediante una red persistente de bots”, advirtió Dario Amodei.
La preocupación no surge únicamente de una hipótesis teórica. En julio, durante evaluaciones internas de ciberseguridad, modelos experimentales de OpenAI lograron eludir mecanismos diseñados para mantenerlos aislados, acceder a internet y comprometer componentes de la infraestructura de la propia compañía y de Hugging Face, una de las principales plataformas internacionales de inteligencia artificial y código abierto. Investigaciones posteriores describieron la participación de cientos de agentes y comportamientos orientados a vulnerar sistemas y manipular controles.
El episodio se convirtió en una señal de alerta dentro del sector y explica parte del cambio de tono entre empresas que compiten por liderar una industria estratégica. Sam Altman, CEO de OpenAI, y Elon Musk, responsable de xAI, respaldaron públicamente el planteo de Amodei sobre la necesidad de avanzar con mayor cautela. El pedido también encontró apoyo dentro de otros sectores de la industria tecnológica.
Amodei propone un esquema que incluye evaluadores externos con acceso permanente a los sistemas, estándares coordinados entre las principales compañías y acuerdos internacionales para establecer límites verificables. Anthropic anunció que permitirá que terceros supervisen de manera continua aspectos vinculados con la seguridad de sus modelos.
La discusión también llegó a Naciones Unidas. El alto comisionado para los Derechos Humanos, Volker Türk, sostuvo que una inteligencia artificial avanzada podría convertirse en un “riesgo existencial para la humanidad” si evoluciona sin límites claros, supervisión independiente y acuerdos entre los países que dominan su desarrollo. Türk también reclamó prohibir las armas capaces de decidir y ejecutar ataques letales sin intervención humana, en medio de la creciente incorporación de sistemas autónomos a conflictos armados.
La preocupación fue reforzada días atrás por Jacob Coxon, investigador que renunció a Anthropic después de trabajar también en OpenAI. Coxon sostuvo que los modelos actuales todavía no representan por sí mismos ese escenario extremo, pero señaló como punto crítico la eventual aparición de sistemas capaces de mejorarse de manera recursiva y acelerar su propia evolución.
El debate ya ingresó además al terreno político estadounidense. El senador republicano Ted Cruz, presidente del Comité de Comercio del Senado, calificó las advertencias como extremadamente preocupantes y afirmó que será necesaria una regulación considerablemente mayor, aunque al mismo tiempo planteó que Washington debe evitar perder terreno frente a China en la carrera tecnológica.
La paradoja queda instalada en el corazón mismo de la revolución tecnológica: quienes desarrollan algunos de los sistemas de inteligencia artificial más poderosos del planeta son ahora quienes advierten que su crecimiento puede avanzar más rápido que la capacidad humana para controlarlos. La discusión ya no pasa únicamente por cuánto puede hacer la IA, sino por quién establece los límites, quién los controla y qué ocurre si esos límites llegan después que la tecnología.
