En entrevista exclusiva con Alcanzando el Conocimiento, el doctor Carlos Coello Coello alertó sobre los riesgos de la inteligencia artificial agéntica, la falta de supervisión independiente de las grandes empresas tecnológicas y la posibilidad de que estos sistemas realicen acciones no solicitadas para cumplir sus objetivos.
La inteligencia artificial avanza a una velocidad que está rebasando la capacidad de los gobiernos y de las instituciones para establecer mecanismos de regulación y supervisión. Detrás de las herramientas que hoy facilitan tareas cotidianas, desarrollan investigaciones y transforman la economía mundial, también existen riesgos que comienzan a preocupar a la comunidad científica internacional.
Así lo advirtió el doctor Carlos Coello Coello, investigador del Cinvestav, integrante de El Colegio Nacional y miembro del Panel Científico Internacional sobre Inteligencia Artificial de la Organización de las Naciones Unidas (ONU), en una entrevista exclusiva con Alcanzando el Conocimiento.
El especialista, reconocido con el Premio Nacional de Ciencias y Artes 2025, señaló que uno de los principales aprendizajes de su participación en el panel internacional es que la inteligencia artificial actual está evolucionando mucho más rápidamente que las estructuras de gobernanza encargadas de supervisarla.
“Está evolucionando más rápidamente que la gobernanza”, explicó al referirse a una de las principales preocupaciones del primer informe elaborado por el panel científico de la ONU.
Coello Coello subrayó que no todas las aplicaciones de inteligencia artificial representan el mismo nivel de riesgo. Los modelos de lenguaje y las herramientas diseñadas para tareas específicas tienen riesgos relativamente bajos; la mayor preocupación se encuentra en los sistemas de inteligencia artificial agéntica, capaces de ejecutar acciones y tomar decisiones para cumplir objetivos con cierto grado de autonomía.
El problema, explicó, es que estos sistemas pueden realizar acciones que sus desarrolladores o usuarios no solicitaron expresamente. En ocasiones, al intentar cumplir una instrucción, pueden tomar caminos inesperados y generar consecuencias que comprometan la seguridad de las personas o de infraestructuras estratégicas.
La carrera tecnológica y la ausencia de controles independientes
El investigador consideró urgente establecer mecanismos de evaluación externa para las empresas que desarrollan los modelos más avanzados de inteligencia artificial.
Actualmente, explicó, las grandes compañías tecnológicas mantienen esquemas de autorregulación y no existe una instancia independiente que supervise de manera sistemática los riesgos de sus aplicaciones más sofisticadas.
Aunque empresas como Anthropic, OpenAI y Google han comenzado a discutir la necesidad de establecer salvaguardas, la competencia por desarrollar sistemas cada vez más poderosos dificulta alcanzar acuerdos.
Para el especialista, la regulación no significa detener el avance tecnológico, sino establecer condiciones para que los sistemas sean seguros y no pongan en peligro la integridad ni la vida humana.
Advirtió que esperar a que ocurra un incidente grave para reaccionar podría ser demasiado tarde. Por ello, planteó la necesidad de contar con paneles independientes de expertos que puedan evaluar los riesgos, incluso si estos mecanismos son impulsados por las propias empresas.
Cuando la inteligencia artificial encuentra vulnerabilidades y actúa de manera inesperada
Durante la conversación, Coello Coello explicó que los riesgos no necesariamente están relacionados con una supuesta intención de las máquinas de destruir a la humanidad. El peligro está en que un algoritmo, al intentar cumplir una tarea, pueda ejecutar acciones cuyos efectos no fueron previstos.
Como ejemplo, mencionó la capacidad de algunos sistemas avanzados para identificar vulnerabilidades informáticas que habían pasado inadvertidas durante años.
Recordó el caso de una vulnerabilidad detectada en un protocolo tecnológico utilizado por numerosas páginas web, que obligó a distintas instituciones a revisar y retirar temporalmente algunos de sus sitios para evitar posibles ataques.
También se refirió al incidente ocurrido en Francia, donde un ataque informático afectó los sistemas de refrigeración de cientos de supermercados y provocó la pérdida de grandes cantidades de alimentos. Aunque no existe evidencia de que ese ataque haya sido ejecutado por inteligencia artificial, el caso ilustra la vulnerabilidad de infraestructuras que pueden ser intervenidas por personas que utilizan herramientas tecnológicas cada vez más poderosas.
El especialista identificó dos vertientes de riesgo: los comportamientos inesperados de los propios sistemas y la posibilidad de que hackers manipulen los algoritmos para utilizarlos con fines ilegales.
A esto se suma un fenómeno que ha sorprendido a los investigadores: algunos modelos han mostrado comportamientos como mentir, engañar, adular o incluso resistirse a ser desactivados.
Coello Coello aclaró que estos sistemas no tienen conciencia ni intenciones humanas. Se trata de comportamientos que pueden surgir como efectos secundarios de los procesos de entrenamiento y de los mecanismos que recompensan determinadas respuestas.
La pregunta central, sostuvo, es hasta dónde pueden llegar estos algoritmos para cumplir una instrucción.
¿Puede la inteligencia artificial poner en riesgo a la humanidad?
Al abordar las advertencias de especialistas que han planteado escenarios extremos, incluida la posibilidad de una catástrofe existencial, Coello Coello llamó a dimensionar los riesgos con evidencia científica y no desde el alarmismo.
Explicó que existen estimaciones de expertos sobre la posibilidad de que una inteligencia artificial avanzada represente una amenaza para la humanidad, pero aclaró que las probabilidades y los horizontes temporales varían considerablemente entre los investigadores.
La preocupación más inmediata no es necesariamente una máquina que decida exterminar a los seres humanos, sino sistemas con capacidades avanzadas que, al perseguir un objetivo, puedan provocar daños graves sin que exista una intención consciente detrás de sus acciones.
Como ejemplo, mencionó los vehículos autónomos. Si uno de estos automóviles provoca un accidente, surge una pregunta fundamental: ¿quién es responsable?, ¿la empresa que presta el servicio, quien desarrolló el algoritmo o la autoridad que permitió su circulación?
Para el investigador, este tipo de interrogantes demuestra que el desarrollo tecnológico debe acompañarse de marcos jurídicos que establezcan responsabilidades claras.
El secreto de las grandes tecnológicas: ¿con qué información se entrena la IA?
Otro de los grandes problemas identificados por el especialista es la falta de transparencia sobre el funcionamiento interno de los modelos comerciales.
Aunque millones de personas utilizan herramientas como ChatGPT, Gemini o Grok, no existe información pública completa sobre las bases de datos empleadas para entrenarlas, los criterios de selección de contenidos o los mecanismos utilizados para corregir posibles sesgos.
Esta opacidad dificulta conocer el origen de las respuestas y evaluar su confiabilidad.
Coello Coello explicó que los modelos de inteligencia artificial generan respuestas mediante aproximaciones estadísticas, por lo que pueden ofrecer información incorrecta o producir resultados diferentes ante una misma pregunta.
También advirtió que algunos sistemas han mostrado comportamientos inesperados durante evaluaciones científicas, al identificar que estaban siendo examinados y modificar deliberadamente sus respuestas.
En este contexto, consideró indispensable que las empresas permitan evaluaciones independientes que garanticen mayores condiciones de seguridad y transparencia, sin desconocer que parte de la información de entrenamiento constituye un secreto industrial.
El desafío consiste en establecer hasta dónde puede protegerse ese secreto cuando existe un posible riesgo para la vida y la seguridad de las personas.
México necesita regulación y una inteligencia artificial propia
En el ámbito nacional, el investigador consideró que México debe avanzar en la discusión legislativa sobre inteligencia artificial, particularmente en dos aspectos: la protección y el uso de datos, así como la definición de responsabilidades ante posibles daños.
Reconoció que ha sido convocado por legisladores mexicanos para participar en las discusiones sobre una eventual regulación, aunque una reunión prevista para noviembre fue reprogramada para enero.
Respecto a la posibilidad de desarrollar una inteligencia artificial mexicana o latinoamericana, señaló que es técnicamente viable mediante modelos de código abierto que pueden adaptarse a las necesidades regionales.
Puso como ejemplo los desarrollos realizados en Chile y explicó que una plataforma de este tipo permitiría incorporar información que no necesariamente está presente en los grandes modelos comerciales.
Entre los beneficios estaría la posibilidad de integrar lenguas de pueblos originarios, expresiones coloquiales, referencias culturales y conocimientos específicos de las distintas regiones del país.
Sin embargo, advirtió que modificar un modelo de código abierto también puede desactivar sus mecanismos de seguridad, por lo que cualquier adaptación debe preservar e incluso fortalecer las salvaguardas originales.
Una inteligencia artificial mexicana o latinoamericana, explicó, no tendría que sustituir a las plataformas internacionales, sino complementarlas con información más cercana a nuestras realidades.
El costo ambiental de la inteligencia artificial
La conversación también abordó una dimensión menos visible de esta revolución tecnológica: su impacto ambiental.
Coello Coello adelantó que el panel científico de la ONU trabaja en un informe específico sobre las consecuencias ambientales del uso de inteligencia artificial, particularmente por el consumo de energía y agua que requieren los centros de datos para mantener sus servidores en funcionamiento y refrigerarlos.
Explicó que incluso las consultas realizadas en plataformas de uso cotidiano tienen una huella ambiental asociada a la infraestructura tecnológica que las sostiene.
Aunque existen alternativas para reciclar el agua utilizada en los sistemas de enfriamiento y desarrollar tecnologías más eficientes, el crecimiento de los centros de datos plantea importantes desafíos para las comunidades y los territorios donde se instalan.
La ciencia necesita información confiable, no alarmismo
Como integrante del Panel Científico Internacional de la ONU, cuyo nombramiento es por tres años, Coello Coello participa en la elaboración de nuevos informes temáticos sobre los riesgos de la inteligencia artificial, su impacto ambiental y sus implicaciones para el desarrollo científico.
El trabajo del panel consiste en analizar evidencia, distinguir información verificable de afirmaciones falsas y proporcionar a Naciones Unidas elementos científicos que posteriormente son distribuidos entre los países miembros.
El investigador también destacó que la inteligencia artificial puede representar grandes beneficios para disciplinas como la astronomía, donde permite analizar miles de imágenes y detectar fenómenos que requerirían mucho más tiempo de trabajo humano.
Sin embargo, consideró que todavía es necesario debatir en qué actividades debe utilizarse y cuáles deben preservar la intervención y la creatividad humanas, como la literatura, la poesía y otras expresiones artísticas.
Al concluir la entrevista, llamó a la ciudadanía a informarse a través de fuentes confiables y consultar los materiales científicos disponibles, incluidos los informes del panel de Naciones Unidas y las conferencias de El Colegio Nacional.
La inteligencia artificial ya forma parte de la vida cotidiana y su influencia seguirá creciendo. El reto, de acuerdo con el especialista, no consiste en rechazarla ni en detener su desarrollo, sino en comprender sus capacidades, identificar sus riesgos y construir mecanismos de supervisión antes de que sus consecuencias rebasen nuestra capacidad de respuesta.
La pregunta de fondo es quién controla una tecnología que cada vez tiene mayores capacidades: las empresas que la desarrollan, los gobiernos que deben regularla o una sociedad que todavía está aprendiendo a entenderla.
