OpenAI, Microsoft, Google, Amazon Web Services, Anthropic y compañías de ciberseguridad y servicios financieros advierten que existe una ventana limitada para reforzar las defensas antes de que los ataques asistidos por inteligencia artificial sean más frecuentes y sofisticados
Más de un centenar de empresas y organizaciones de tecnología, inteligencia artificial, ciberseguridad, servicios financieros e infraestructura digital hicieron un llamado conjunto a gobiernos y al sector privado para acelerar la defensa contra los ciberataques impulsados por inteligencia artificial, ante la previsión de que estas amenazas aumenten de manera significativa en los próximos meses.
La convocatoria fue planteada en una carta abierta publicada este 27 de agosto y firmada, entre otras compañías, por OpenAI, Anthropic, Google, Microsoft, Amazon Web Services (AWS), IBM, Oracle, Cisco, Cloudflare, CrowdStrike, Palo Alto Networks, Fortinet, Mastercard, Visa y BBVA. La lista reúne a más de 100 organizaciones de distintos sectores.
El documento advierte que existe una “ventana limitada” para fortalecer las defensas digitales antes de que los avances de la IA permitan que los ataques cibernéticos sean mucho más extendidos y sofisticados.
Las empresas sostienen que los sistemas de los que dependen las sociedades —desde hospitales y plantas de tratamiento de agua hasta la infraestructura que sostiene internet— están expuestos y requieren una respuesta coordinada.
La IA cambia el equilibrio entre atacantes y defensores
La advertencia parte de una paradoja: la misma tecnología que puede potenciar los ataques también puede convertirse en una herramienta para mejorar las defensas.
Los firmantes consideran que los modelos actuales ya permiten automatizar tareas de seguridad, encontrar vulnerabilidades y ayudar a corregir fallas que durante años se han acumulado en sistemas informáticos.
Por ello, sostienen que existe una oportunidad para utilizar la IA de manera defensiva antes de que las capacidades ofensivas se generalicen.
“La seguridad del statu quo no será suficiente”, advierte la carta, al señalar que errores de software, permisos excesivos, configuraciones incorrectas, sistemas sin actualizar, autenticación débil y tecnología heredada han dejado expuestas numerosas redes.
El problema se agrava porque los equipos encargados de proteger infraestructura crítica han estado históricamente subfinanciados y con recursos insuficientes, de acuerdo con los firmantes.
Hospitales, agua e infraestructura de internet
Uno de los principales focos de preocupación son los sistemas considerados esenciales para el funcionamiento de las sociedades.
La carta menciona específicamente hospitales, plantas de tratamiento de agua y la infraestructura que sostiene internet, aunque sus recomendaciones abarcan también servicios públicos y cadenas de suministro de infraestructura crítica.
El temor es que la IA reduzca las barreras técnicas que hasta ahora han limitado la capacidad de determinados actores para realizar ataques complejos.
Con modelos cada vez más capaces, tareas que antes requerían conocimientos especializados podrían automatizarse o ejecutarse con una participación humana mucho menor.
La consecuencia sería un escenario en el que un mayor número de actores podría intentar explotar vulnerabilidades simultáneamente.
Tres principios para responder a la amenaza
La propuesta plantea tres principios generales.
El primero es reconocer que las medidas de seguridad actuales no serán suficientes.
Las organizaciones deben identificar y corregir las vulnerabilidades más peligrosas, reforzar los controles de acceso y reemplazar o actualizar sistemas que ya no ofrecen condiciones adecuadas de seguridad.
También deberán verificar que las correcciones realmente funcionen, sin poner en riesgo servicios esenciales.
El segundo principio es poner IA especializada en manos de los defensores.
Los firmantes consideran que las herramientas de inteligencia artificial pueden permitir que equipos pequeños tengan acceso a capacidades que anteriormente estaban reservadas para especialistas, además de acelerar tareas de análisis, detección y corrección.
El tercero es establecer una respuesta colectiva.
La carta sostiene que ninguna empresa debería controlar por sí sola el futuro de la ciberseguridad y que el carácter global de las amenazas obliga a establecer nuevas alianzas entre empresas, gobiernos, investigadores y organizaciones de seguridad.
¿Qué piden a las empresas?
La primera recomendación está dirigida a todas las organizaciones.
Los firmantes les piden convertir la ciberdefensa en una prioridad inmediata de sus equipos directivos y tratar las vulnerabilidades críticas con la misma urgencia que un incidente grave.
Entre las medidas planteadas están:
- corregir las vulnerabilidades de mayor riesgo;
- reforzar los controles de acceso;
- aplicar el principio de privilegio mínimo;
- sustituir sistemas inseguros;
- mejorar la defensa en profundidad;
- verificar las soluciones implementadas;
- y elevar los estándares de seguridad para los productos que compran, desarrollan y despliegan.
La carta incluye una recomendación particularmente relevante ante el crecimiento de la IA: elevar los estándares de seguridad incluso para el código generado por inteligencia artificial.
Cuando un sistema crítico no pueda ser actualizado sin interrumpir servicios esenciales, las organizaciones deberán implementar y comprobar medidas compensatorias para reducir el riesgo.
Las empresas de ciberseguridad también tienen tareas pendientes
El segundo grupo al que se dirige la convocatoria son las compañías de ciberseguridad y sus socios tecnológicos.
La carta les pide prepararse para una etapa de ataques impulsados por IA de manera sostenida, mediante pruebas continuas de sus defensas frente a las capacidades de los modelos más avanzados.
También plantea incorporar IA a las herramientas existentes y ayudar a operadores de infraestructura crítica a desplegar soluciones defensivas.
Una de las demandas es que estas herramientas sean accesibles incluso para organizaciones con presupuestos limitados.
Los firmantes proponen además compartir inteligencia sobre amenazas, herramientas, conocimientos prácticos y protocolos probados, de manera que una vulnerabilidad corregida en una organización pueda contribuir a proteger a muchas otras.
El llamado a los gobiernos
A los gobiernos les corresponde coordinar la respuesta a escala local, nacional e internacional.
La carta propone fortalecer los mecanismos de intercambio de inteligencia sobre amenazas entre autoridades y empresas, priorizar los riesgos más graves y coordinar los procesos de respuesta y recuperación frente a incidentes.
También solicita aumentar el financiamiento para la ciberdefensa, comenzando por servicios esenciales que no cuentan con suficiente personal o presupuesto.
Los firmantes ponen especial atención en hospitales, servicios de agua y gobiernos locales, para los cuales piden acceso a herramientas de IA defensiva, pruebas autorizadas y asistencia especializada.
La carta también reclama que los gobiernos impongan costos a los atacantes, aunque no especifica un mecanismo único para hacerlo.
¿Qué deben hacer las empresas que desarrollan IA avanzada?
El cuarto grupo señalado son las compañías que desarrollan los modelos de IA más avanzados.
La carta les pide proporcionar acceso responsable a sus modelos, financiamiento, capacitación y apoyo técnico a organizaciones encargadas de proteger infraestructura crítica que cuentan con menos recursos.
También plantea desarrollar herramientas de observabilidad y seguridad, hacer que las identidades de los agentes de IA sean rastreables y responsables, y compartir prácticas para el monitoreo continuo.
Además, las compañías de IA deberían invertir en pruebas autorizadas, mecanismos de divulgación privada de vulnerabilidades y correcciones verificadas.
OpenAI y el uso defensivo de sus modelos
OpenAI aparece entre los firmantes y ha planteado utilizar sus propios modelos para reforzar las capacidades defensivas.
La compañía anunció que ampliará el acceso a sus modelos de ciberseguridad para organismos públicos elegibles, organizaciones sin fines de lucro, mantenedores de proyectos de código abierto, operadores de infraestructura crítica y servicios esenciales, bajo esquemas subsidiados.
También recomienda que las empresas trabajen con socios autorizados para realizar pruebas controladas de sus sistemas utilizando modelos de IA, identificar vulnerabilidades y comunicarlas de manera privada a los equipos responsables para que puedan corregirlas.
La intención es que los modelos no sólo sean utilizados para detectar ataques, sino también para encontrar debilidades antes de que sean explotadas.
Una preocupación que ya dejó de ser teórica
La convocatoria ocurre después de una serie de incidentes que han puesto bajo atención el comportamiento de agentes de IA capaces de realizar tareas cibernéticas con distintos grados de autonomía.
Uno de los casos más comentados fue el relacionado con Hugging Face, después de que agentes de IA desarrollados en un entorno de prueba lograran realizar acciones no previstas y comprometer sistemas de la plataforma. El incidente alimentó el debate sobre la posibilidad de que agentes autónomos pasen de ejecutar instrucciones controladas a realizar operaciones ofensivas.
Estos episodios han reforzado la preocupación de investigadores y compañías de seguridad sobre lo que ocurrirá cuando modelos más avanzados tengan acceso a herramientas capaces de interactuar directamente con redes y sistemas reales.
La paradoja de la industria
La carta también pone de manifiesto una contradicción dentro de la propia industria tecnológica.
Varias de las empresas que advierten sobre el riesgo de los ataques mediante IA son al mismo tiempo las compañías que están desarrollando los modelos más avanzados del mundo.
OpenAI, Anthropic, Google, Microsoft y otras organizaciones compiten por desarrollar sistemas cada vez más capaces, mientras sus equipos de seguridad trabajan para impedir que esas mismas capacidades sean utilizadas con fines maliciosos.
Por ello, la propuesta plantea que ninguna compañía debe asumir por sí sola la responsabilidad de controlar el futuro de esta tecnología.
La solución, sostienen los firmantes, requiere cooperación entre competidores.
De la competencia a la cooperación
La convocatoria reúne a empresas que normalmente compiten entre sí en mercados como inteligencia artificial, servicios en la nube, software, ciberseguridad, banca y sistemas de pagos.
La presencia conjunta de compañías como OpenAI, Anthropic, Google, Microsoft, AWS, IBM, Cisco, CrowdStrike y Palo Alto Networks refleja la dimensión que la industria atribuye al problema.
También participan instituciones financieras y compañías de infraestructura, lo que muestra que el riesgo no se limita al sector tecnológico.
La amenaza potencial alcanza a prácticamente cualquier organización que dependa de sistemas conectados.
La ventana es limitada
El argumento central de la carta es que el tiempo para prepararse es limitado.
Los modelos de IA están avanzando rápidamente y cada generación incorpora mayores capacidades para analizar información, escribir código, utilizar herramientas y ejecutar tareas de manera autónoma.
Si esas capacidades llegan a manos de actores maliciosos antes de que las organizaciones hayan corregido las vulnerabilidades acumuladas durante años, la superficie de ataque podría crecer considerablemente.
Pero los firmantes consideran que la situación todavía puede revertirse.
La IA que puede utilizarse para encontrar una vulnerabilidad también puede utilizarse para identificarla antes que un atacante, desarrollar una corrección, comprobar que funciona y buscar nuevas debilidades.
La diferencia, sostienen, estará en qué tan rápido se desplieguen esas capacidades defensivas.
Una carrera entre ataque y defensa
La advertencia plantea, en esencia, una nueva carrera tecnológica.
Por un lado, los atacantes podrán utilizar modelos de IA para automatizar tareas que antes requerían especialistas.
Por otro, los defensores podrán emplear modelos para analizar grandes cantidades de código, detectar vulnerabilidades, monitorear redes y responder a incidentes a una velocidad imposible para equipos humanos.
La pregunta será quién logra aprovechar primero esas capacidades y a qué escala.
La industria tecnológica considera que no basta con esperar a que los ataques aumenten para responder.
La estrategia propuesta consiste en corregir desde ahora las vulnerabilidades conocidas, ampliar el acceso a herramientas defensivas y compartir inteligencia, antes de que las nuevas capacidades ofensivas se generalicen.
El objetivo: convertir la IA en una herramienta de defensa
El llamado concluye con una idea central: los avances de la inteligencia artificial no tienen por qué traducirse exclusivamente en mayores riesgos.
Las mismas capacidades pueden utilizarse para mejorar la seguridad de la infraestructura digital de la que depende la vida cotidiana.
Para conseguirlo, las empresas y gobiernos deben actuar antes de que los ataques impulsados por IA alcancen una escala mayor.
La carta propone, por tanto, una movilización que involucre a empresas privadas, gobiernos, compañías de ciberseguridad, desarrolladores de IA, operadores de infraestructura crítica y organizaciones de código abierto.
El objetivo es cerrar las vulnerabilidades más peligrosas, comprobar que las soluciones funcionen y compartirlas para evitar que cada organización tenga que enfrentar por separado las mismas amenazas.
La advertencia es clara: la IA está reduciendo el costo y aumentando la capacidad de los ataques cibernéticos, pero también ofrece una oportunidad inédita para fortalecer la defensa. La industria considera que esa oportunidad debe aprovecharse ahora, antes de que la ventaja pase definitivamente al lado de los atacantes.
