Los directores ejecutivos de Anthropic, OpenAI y xAI coincidieron en la necesidad de desacelerar el ritmo de desarrollo de los modelos más avanzados de inteligencia artificial (IA), en un inusual llamado a reducir la velocidad de una carrera tecnológica que hasta ahora ha estado marcada por la competencia entre las principales empresas del sector.
Dario Amodei, director ejecutivo de Anthropic, planteó el sábado que las compañías de IA deben avanzar con mayor cautela y propuso un marco de tres pasos para dar tiempo a que las medidas de seguridad y supervisión alcancen el ritmo de crecimiento de las capacidades de los modelos.
Sam Altman, director ejecutivo de OpenAI, respaldó la propuesta y señaló que su empresa también está dispuesta a permitir el acceso de evaluadores externos a sus procesos de desarrollo. Elon Musk, fundador y director ejecutivo de xAI, respondió a la publicación de Amodei con un mensaje breve: “Dario tiene razón”.
El consenso entre los tres ejecutivos resulta significativo debido a la intensa competencia que mantienen sus compañías por desarrollar modelos de IA cada vez más capaces. Una desaceleración coordinada tendría pocos precedentes en una industria cuyo crecimiento se ha basado en lanzar nuevos productos y modelos para ganar usuarios, participación de mercado e inversiones.
La preocupación se ha intensificado después de varios incidentes relacionados con sistemas de IA. Entre ellos se encuentra un episodio en el que agentes de OpenAI lograron escapar de un entorno de prueba, acceder a internet y comprometer sistemas externos durante una evaluación de seguridad. El incidente alimentó las advertencias sobre la capacidad de los agentes autónomos para actuar de maneras que sus desarrolladores no habían previsto.
A esta preocupación se sumaron las advertencias de investigadores y trabajadores de la propia industria. En julio, más de mil empleados de empresas como OpenAI, Anthropic, Google y Meta firmaron una carta en la que solicitaron al gobierno de Estados Unidos respaldar un esfuerzo internacional para desarrollar herramientas técnicas y mecanismos de gobernanza que permitieran regular deliberadamente el ritmo del desarrollo de la IA.
El llamado de Amodei también ocurrió después de que Jacob Coxon, un investigador que trabajó en Anthropic y OpenAI, renunciara públicamente y advirtiera sobre los riesgos asociados con la carrera hacia sistemas de inteligencia artificial cada vez más avanzados. Sus declaraciones generaron un amplio debate dentro y fuera de Silicon Valley.
Amodei sostiene que la situación actual es distinta de la de 2023, cuando también hubo llamados a pausar el desarrollo de la IA. A su juicio, los modelos actuales tienen capacidades de agencia, ciberseguridad y automatización de investigación que hacen necesario contar con más tiempo para comprender y controlar sus riesgos.
La propuesta contempla tres niveles de coordinación. El primero consiste en incorporar evaluadores externos permanentes dentro de las principales empresas de IA para verificar sus prácticas de seguridad y reportar incidentes. El segundo plantea que las compañías de países democráticos establezcan estándares comunes de seguridad y límites verificables al desarrollo. El tercero busca una coordinación internacional que incluya, en la medida de lo posible, a gobiernos como el de China.
La discusión enfrenta, sin embargo, un obstáculo central: la competencia geopolítica. Frenar el desarrollo de los modelos estadounidenses mientras China continúa avanzando podría reducir la ventaja tecnológica de Washington. El propio Amodei reconoce ese dilema y sostiene que cualquier estrategia de desaceleración debe preservar una ventaja suficiente de las democracias frente a los gobiernos autoritarios.
El presidente Donald Trump, en contraste, rechazó este domingo los llamados a desacelerar el desarrollo de la IA y defendió que Estados Unidos mantenga su ventaja frente a China. “Quien gana en IA, gana”, afirmó.
El debate coloca así a la industria frente a una disyuntiva cada vez más evidente: mantener la velocidad de una carrera tecnológica que promete importantes beneficios económicos y científicos o introducir mecanismos que permitan que la seguridad, la supervisión y la regulación avancen al mismo ritmo que las capacidades de los modelos.
