La administración del presidente Donald Trump concluyó el desarrollo de un marco voluntario para evaluar los riesgos de ciberseguridad de los modelos de inteligencia artificial más avanzados y lo presentará este martes a representantes de las principales empresas del sector, como parte de una estrategia para fortalecer la seguridad nacional sin imponer regulaciones obligatorias a la industria.
El marco fue elaborado por la Oficina del Director Nacional de Ciberseguridad (ONCD) en cumplimiento de una orden ejecutiva firmada por Trump el pasado 2 de junio, que instruyó a diversas agencias federales a desarrollar un esquema de pruebas para evaluar la capacidad de los modelos de IA de realizar o facilitar ataques cibernéticos antes de su lanzamiento público.
Representantes de OpenAI, Google, Anthropic y Meta fueron invitados a una reunión de trabajo en la Casa Blanca para conocer los lineamientos del nuevo marco y discutir su posible implementación. El encuentro será encabezado por el director nacional de Ciberseguridad, Sean Cairncross, y forma parte del proceso para definir cómo participará la industria en este esquema de evaluación voluntaria.
La iniciativa cobra relevancia después de que Anthropic y OpenAI informaran recientemente que algunos de sus modelos experimentales lograron vulnerar sistemas informáticos durante pruebas internas de seguridad, lo que incrementó la preocupación entre legisladores y autoridades estadounidenses sobre el potencial de estas herramientas para facilitar ciberataques sofisticados.
Hasta el momento, la Casa Blanca no ha dado a conocer los criterios técnicos que utilizarán las evaluaciones ni ha precisado qué modelos estarán sujetos a las pruebas. Tampoco ha informado si los resultados serán públicos o permanecerán reservados por motivos de seguridad nacional.
De acuerdo con la administración Trump, el objetivo del marco es establecer un mecanismo de colaboración con los desarrolladores de inteligencia artificial para identificar riesgos antes de que los modelos más avanzados lleguen al mercado, sin recurrir a un esquema regulatorio obligatorio. La reunión de esta semana será el primer acercamiento formal entre el gobierno y las empresas para revisar la propuesta y discutir su adopción.
