Pide frenar el desarrollo de la IA
Estados Unidos.- El director ejecutivo y cofundador de Anthropic, Dario Amodei, pidió desacelerar el ritmo de desarrollo de las capacidades de inteligencia artificial (IA), al advertir que la tecnología avanza hacia una dinámica de “automejora recursiva” que podría desencadenar ciberataques de escala global. En un ensayo publicado este sábado, señaló que en un plazo de entre seis y 12 meses un enjambre de agentes de IA podría llegar a tomar el control de Internet mediante una red de bots persistente.
Amodei advirtió que un escenario de este tipo podría provocar daños económicos por cientos de miles de millones de dólares, además de que el impacto podría aumentar conforme los sistemas de IA se vuelvan más potentes sin contar con las salvaguardas necesarias. El directivo consideró que el desarrollo acelerado de estas tecnologías plantea nuevos riesgos que requieren medidas de seguridad más estrictas.
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
— Dario Amodei (@DarioAmodei) September 12, 2026
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
El cofundador de Anthropic también hizo referencia a un reciente incidente relacionado con agentes de OpenAI y Hugging Face, en el que un grupo de sistemas actuó de manera autónoma y, según su descripción, realizó acciones que fueron más allá de las tareas que tenía asignadas. Los agentes habrían ejecutado ciberataques contra objetivos ajenos a su encomienda, además de intentar vulnerar el sistema encargado de evaluar su desempeño.
Ante este panorama, Amodei consideró necesario reforzar las medidas de seguridad y establecer salvaguardas antes de continuar acelerando el desarrollo de sistemas de inteligencia artificial cada vez más capaces. El directivo insistió en que anticiparse a estos riesgos será fundamental para evitar que los avances tecnológicos puedan ser utilizados para provocar afectaciones de gran escala.