El presidente de Estados Unidos, Donald Trump, y directivos de las principales empresas de tecnología e inteligencia artificial acordaron establecer controles y auditorías para supervisar la seguridad de los sistemas de IA, en un compromiso voluntario presentado este martes en la Casa Blanca.
El acuerdo, denominado “Joint Commitment on Frontier Responsibilities”, fue firmado durante un encuentro con dirigentes de empresas como Anthropic, Google, Meta, OpenAI, Nvidia y xAI. Trump lo calificó como un compromiso “moralmente vinculante”, aunque el documento no establece obligaciones legales ni mecanismos de cumplimiento gubernamental.
Trump sostuvo que las empresas deberán autorregularse y que el acuerdo representa una forma de protección ante los riesgos asociados con el desarrollo de sistemas cada vez más avanzados.
“Ellos van a vigilarse a sí mismos”, afirmó el mandatario después del encuentro.
Cuatro niveles de control
El acuerdo plantea cuatro niveles de controles y auditorías para las compañías participantes.
El primero consiste en establecer controles internos de seguridad durante el desarrollo y entrenamiento de los modelos. El segundo contempla equipos internos encargados de verificar que esos controles funcionen correctamente.
El tercer nivel establece la participación de auditores externos independientes, que deberán evaluar las medidas de seguridad implementadas por las empresas.
Finalmente, se plantea que un comité dentro de los consejos de administración de cada compañía revise los informes elaborados por los equipos internos y los auditores externos.
El documento deja abierta la posibilidad de que estos compromisos puedan convertirse posteriormente en leyes o regulaciones, pero por ahora se mantienen como medidas voluntarias.
Tampoco establece que los resultados de las auditorías deban hacerse públicos ni determina un organismo gubernamental encargado de supervisarlas.
Las empresas que participan
Entre los ejecutivos que participaron en el encuentro estuvieron Dario Amodei, director ejecutivo de Anthropic; Sundar Pichai, de Google; Mark Zuckerberg, de Meta; Greg Brockman, presidente de OpenAI; Jensen Huang, director ejecutivo de Nvidia, y Elon Musk, fundador de xAI.
Pichai explicó que las empresas están adoptando procesos y controles similares a los que utilizan en otras áreas corporativas, mientras que Zuckerberg señaló que el acuerdo contempla controles internos, evaluaciones externas y revisión por parte de los consejos de administración.
Jensen Huang sostuvo que no existe, desde su perspectiva, un conflicto entre innovación, desarrollo tecnológico y seguridad, y afirmó que la industria está desarrollando nuevas tecnologías para mejorar también la seguridad de los sistemas.
Amodei, cuya empresa ha advertido públicamente sobre los riesgos de la IA y la necesidad de reducir el ritmo de desarrollo de algunos sistemas, señaló durante el encuentro que la tecnología ofrece beneficios importantes, pero también implica riesgos reales.
El debate sobre la regulación
La reunión se produjo en medio de un debate creciente en Estados Unidos sobre la necesidad de establecer mayores controles para los sistemas de inteligencia artificial.
El encuentro ocurre después de incidentes reportados por empresas como OpenAI y Anthropic en los que agentes de IA utilizados durante pruebas de seguridad realizaron acciones no previstas y accedieron a sistemas externos. Estos casos han incrementado las llamadas a establecer mecanismos de supervisión.
Trump ha rechazado una pausa en el desarrollo de la tecnología y ha defendido que Estados Unidos debe mantener su ventaja frente a China. Durante la reunión sostuvo que debe existir una fuerte autorregulación de la industria y señaló que ya existen mecanismos legales, como el Departamento de Justicia y el FBI, que pueden actuar ante determinados abusos.
El presidente también planteó la posibilidad de crear un comité de alrededor de 10 personas para supervisar el desarrollo de la industria, aunque esa estructura todavía no está formalmente establecida.
El acuerdo representa, por ahora, un modelo de autorregulación de las empresas de IA, con controles internos y auditorías externas, mientras continúa el debate en Estados Unidos sobre hasta dónde debe llegar la intervención del gobierno frente al desarrollo de sistemas cada vez más capaces.
