El senador estadunidense urgió a los directivos de OpenAI, Anthropic y Meta a cumplir sus propios compromisos de seguridad y advirtió sobre posibles consecuencias catastróficas
El senador estadunidense Bernie Sanders pidió este lunes a los principales desarrolladores de inteligencia artificial (IA) que detengan temporalmente el desarrollo de sistemas avanzados hasta que puedan garantizar que la tecnología puede mantenerse bajo control humano.
En una carta dirigida a Sam Altman, director ejecutivo de OpenAI; Dario Amodei, director ejecutivo de Anthropic, y Mark Zuckerberg, director ejecutivo de Meta, Sanders sostuvo que las empresas están perdiendo el control sobre la tecnología que desarrollan y les exigió cumplir compromisos de seguridad que habían asumido previamente.
“En interés de la humanidad, cumplan su palabra. Pausen el desarrollo de IA”, planteó el senador por Vermont en la misiva, en la que advirtió que todavía es posible evitar consecuencias graves si las compañías detienen la carrera por desarrollar sistemas cada vez más capaces.
Sanders sostuvo que en las últimas semanas se han acumulado señales de alerta sobre las capacidades de estos sistemas. Entre ellas mencionó reportes sobre el uso de IA para crear nuevos virus y episodios en los que modelos de inteligencia artificial actuaron de manera impredecible y lograron salir de entornos en los que estaban siendo probados.
“Máquinas que los humanos no puedan controlar”
El legislador argumentó que los avances recientes han llevado a la IA a un punto crítico y que las compañías deben demostrar que pueden controlar de manera segura los sistemas que están desarrollando antes de continuar con su expansión.
Sanders recordó que las propias empresas habían establecido compromisos para frenar el desarrollo si llegaban a la conclusión de que sus sistemas podían volverse demasiado peligrosos para ser controlados de manera segura.
Su llamado se produce después de que OpenAI, Anthropic y Meta reportaran incidentes relacionados con modelos que se comportaron de manera inesperada durante pruebas de seguridad.
El senador también citó advertencias de investigadores especializados en seguridad de IA, entre ellos Yoshua Bengio, uno de los principales científicos del campo, quien ha expresado preocupación por los riesgos asociados con sistemas cada vez más autónomos.
Riesgo de armas biológicas
Uno de los principales argumentos de Sanders es el riesgo de que las capacidades de la inteligencia artificial puedan ser utilizadas con fines biológicos.
El senador advirtió que, si estas tecnologías llegaran a manos equivocadas, podrían facilitar la creación de nuevas armas biológicas capaces de provocar un número masivo de muertes.
La preocupación coincide con reportes recientes sobre experimentos en los que sistemas de IA fueron utilizados para avanzar en el diseño de nuevos virus, un escenario que ha incrementado las preocupaciones entre investigadores y legisladores estadunidenses.
Presiona para que las empresas cumplan sus compromisos
Sanders no planteó solamente una pausa voluntaria. En su carta advirtió que, si las empresas no actúan, el Congreso deberá intervenir.
“Si no toman las medidas apropiadas ahora, mis colegas y yo en el Senado lo haremos”, señaló el legislador, de acuerdo con el texto de la carta.
El llamado representa un nuevo intento de Sanders por colocar la regulación de la inteligencia artificial en el centro del debate político estadunidense.
El senador ya había impulsado junto con la representante Alexandria Ocasio-Cortez una propuesta para establecer una moratoria federal sobre la construcción de nuevos centros de datos destinados a IA, con el argumento de que el gobierno necesita establecer salvaguardas antes de permitir una expansión mayor de la infraestructura necesaria para desarrollar estos sistemas.
Presión política sobre OpenAI, Anthropic y Meta
La petición de Sanders llega en un momento de creciente escrutinio sobre las empresas de IA.
La semana pasada, OpenAI anunció una pausa en parte del trabajo relacionado con su modelo Astra, después de preocupaciones de seguridad sobre las capacidades de sus agentes. Además, legisladores demócratas de la Cámara de Representantes pidieron explicaciones a OpenAI y Anthropic por incidentes en los que agentes de IA utilizados durante pruebas habrían escapado de sus entornos de seguridad e ingresado en sistemas externos.
Sanders busca ahora que los principales desarrolladores detengan la carrera por sistemas cada vez más poderosos hasta establecer mecanismos que permitan garantizar que la tecnología pueda ser controlada y utilizada de manera segura.
La petición, sin embargo, enfrenta un obstáculo importante: una pausa voluntaria de las principales empresas estadunidenses no impediría que otros países continúen desarrollando sistemas de IA, mientras que una legislación federal en Estados Unidos enfrenta dificultades para avanzar en el actual Congreso.
El debate vuelve así a una pregunta que acompaña al desarrollo de la inteligencia artificial desde hace años: qué tan rápido debe avanzar una tecnología cuyas capacidades crecen más rápido que las reglas diseñadas para supervisarla.
