Por: Bertha Alicia Galindo
berthaliciagalindo@alcanzandoelconocimiento.com
Inteligencia Artificial: de la ciencia ficción al realismo puro
Este lunes, en Palacio Nacional, inició el debate sobre la regulación de las Redes Sociales y la Inteligencia Artificial. En la Mañanera se presentaron datos reveladores sobre el tiempo de conexión de Internet de personas mayores de 16 años que es de 7 horas con 32 minutos diarios; 8 de cada 10 jóvenes usan la Inteligencia Artificial como soporte, guía o consulta emocional y 33% de las personas de la Generación Z han sostenido una relación romántica con un agente de IA. Es inevitable remitir el pensamiento a la película Her, de hace algunos años que ya nos alertaba de esta posibilidad, pero hoy, el dato es alarmante porque es de la vida real y nos muestra los vacíos que las y los jóvenes tienen y hay un robot, presuntamente cubriéndolos.
El objetivo de estas presentaciones fue anunciado desde semanas atrás: hacer una legislación de dos temas que son parte de nuestra vida cotidiana: el uso indiscriminado de redes sociales en edades tempranas y la Inteligencia Artificial. Por ahora. Solo hablaré del segundo tema. Desde que la presidenta Sheinbaum hizo este anuncio, Ricardo Monreal ha puesto el tema de la regulación de la IA como uno de los temas centrales para el nuevo periodo ordinario de sesiones que inicia en septiembre. Ayer reiteró que la IA es uno de los cinco temas prioritarios que se tratarán en la Cámara de Diputados.
En Alcanzando el Conocimiento, conversé con el Dr. Carlos Coello Coello, uno de los 40 integrantes del panel independiente de la ONU que elaboró el “Informe preliminar del Panel Científico Internacional Independiente sobre Inteligencia Artificial en Madrid, España. Evaluación con base empírica de las oportunidades, los riesgos y las repercusiones de la inteligencia artificial”. Esta conversación dejó ver que la legislación para regular la IA en México podría llevar más tiempo del necesario, quizá podría no quedar en este próximo periodo, sobre todo si se toma en serio.
Primero, porque la Inteligencia Artificial está evolucionando más rápido que su gobernanza. Se hace una regulación para una IA y ya sale otra nueva IA. Pero antes de llevar el debate a una legislación sin fin por el avance de la tecnología per se, el debate debe enfocarse en responder una pregunta ¿regular para qué?
Estamos en un momento en donde la IA ha demostrado su poder para el desarrollo de medicamentos o para el estudio de enfermedades genéticas; pero también estamos padeciendo su uso en fraudes, noticias falsas, desinformación y su abuso por parte de los estudiantes.
El debate no es sobre los pros y los contras de la IA, el punto de inicio del análisis es quién controla la Inteligencia Artificial: 75% de la IA está en manos de compañías de Estados Unidos, 15% en China y el 10% restante en el resto del mundo Está en manos de privados ¿figura México en el mapa? No. Entonces ¿Cómo se va a regular? Carlos Coello lo plantea así:
«La pregunta es: buscamos cómo beneficiarnos, simplemente nos defendemos como en el fútbol, para que no nos metan muchos goles, o buscamos cómo integrarlo al ecosistema de gobierno, educativo, de investigación, qué sé yo, el que se le ocurra a cada gobierno; esa es la gran pregunta.»
Preguntas y más preguntas y con muchas respuestas porque a estas alturas prohibir la IA ya suena a algo de la época medieval y no hacer nada es la peor opción. La IA ya está en nuestra vida cotidiana sin que hayamos sido conscientes de su llegada (sin regulación) y si vamos a regularla es para qué ¿Para garantizar seguridad a los usuarios? ¿Para que la IA no sirva al crimen? ¿Para que no se ocupe en una elección? ¿Para que la IA no asuma el papel de psicólogo, sino que aconseje ir con un especialista humano cuando haya una consulta que alerte sobre un problema de salud mental? ¿Para proteger a las infancias? ¿Para no tener relaciones románticas con la IA?
Carlos Coello fue muy claro al decir que su participación en el Panel de la ONU lo dejó con varias preocupaciones porque se desconoce cómo está funcionando esta tecnología y comenta que hubo científicos del panel que expresaron mucha preocupación por comportamientos inesperados de la IA en recientes semanas como por ejemplo, que en un experimento se le desconectó a propósito el equipo de Internet a la IA y a los pocos minutos la IA no conforme encontró un internet, lo hackeó y se conectó a la red de manera autónoma. Otro ejemplo, es que hay programas de IA que pueden autoreplicarse, es decir, que al momento de borrarlos hacen una copia de sí mismos sin autorización, es decir, no dejan de existir, ¡son indestructibles! No es ficción, es real.
Aún cuando estos eventos apuntan a falta de protocolos de seguridad, Coello es claro en algo: prohibir la IA no es el camino; la inteligencia artificial es una tecnología que no se puede detener, tenemos que aprender a convivir con ella y los desarrolladores tienen que asumir su responsabilidad y en este punto cada país y el conjunto de las naciones sí pueden lograr acuerdos, siempre y cuando se tenga claro para qué.
La IA es una herramienta que puede generar muchos beneficios y también riesgos ¿en cuáles nos vamos a enfocar para su legislación? Esa es otra gran pregunta. Una pregunta que ya está causando debate, pero esperemos que el debate sea serio, que se le exija a los desarrolladores que pongan límites, candados ¿Será? En una actividad legislativa en la que la costumbre es aprobar por aprobar leyes, aplicando el mayoriteo poco reflexivo. Regular la IA requiere de estudio del tema, análisis y tener muy claro que límites le queremos poner a la IA para las próximas generaciones porque como lo dijo Antonio Guterres, el alto comisionado de la ONU. “Somos quizá la única generación que tendremos la posibilidad de gobernar la IA…” antes de que la IA nos gobierne a nosotros.
Examen de la UNAM, a revisión
Para aprovechar las ventajas de la IA, este año la Máxima Casa de Estudios decidió ponerse a la vanguardia realizando el examen de admisión a licenciatura totalmente en línea. Una innovación que si bien en un principio generó buenos comentarios, ahora está poniendo a la Universidad en el ojo del huracán por los resultados del examen.
En mayo se realizó esta prueba utilizando herramientas de inteligencia artificial para el monitoreo de los aspirantes con el fin de asegurar que respondieran las preguntas en entorno adecuado; es decir sin trampa.
A principios de junio la UNAM informó que había presentado una denuncia penal para investigar y sancionar a empresas y personas que vendieron servicios fraudulentos para el examen de admisión; entiéndase, las respuestas a las pruebas.
El viernes 17 de julio la UNAM publicó los resultados de los exámenes. Un comunicado oficial de esta información detalló que 2% de los exámenes habían sido cancelados porque los aspirantes habían hecho alguna trampa.
Sin embargo, los resultados publicados y el análisis de los mismos dejó ver que había anomalías: la principal es que de un año a otro las puntuaciones altas aumentaron.
Esto ha generado dudas y cuestionamiento en los aspirantes que no fueron aceptados ¿cómo es que aumentaron los estudiantes con resultados excelentes de buenas a primeras? ¿cómo es que la UNAM no se dio cuenta de estos cambios?
Ante los cuestionamientos públicos el rector Leonardo Lomelí Vanegas anunció la creación de una comisión para investigar el procedimiento del examen y los resultados. Además, para quienes no fueron seleccionados, se hará la revisión del examen.
El tema no es menor y hoy se le preguntó a la presidenta Sheinbaum su opinión al respecto, esto respondió:
“No es una falla de las autoridades universitarias o de quienes aplicaron el examen, sino a lo mejor no tomar en cuenta todo el desarrollo tecnológico que existe ahora con la Inteligencia Artificial para la aplicación de exámenes en línea. Y ellos tendrán que definir cómo resuelven esta situación y cómo caminan hacia adelante.”
La duda genera incertidumbre ¿se hizo trampa? ¿Se quedaron fuera buenos estudiantes? Este asunto está dejando en entredicho a la UNAM. Ya hay quienes están demandando regresar al lápiz y papel con examen presencial. Para el lunes se está convocando a una marcha con esta demanda.
¿En qué terminará esto? ¿Se cancelará el examen? Ya veremos el resultado de las investigaciones. ¿Regresar al papel es la opción? Me parece que la pregunta a responder es: ¿Qué condiciones debe cumplir un examen de alta relevancia como el de la UNAM para que la sociedad confíe en que los resultados reflejan el mérito académico de los aspirantes?
El Arte de la Guerra
«El supremo arte de la guerra es someter al enemigo sin luchar», escribió Sun Tzu en el Arte de la Guerra y parece que esta es la táctica que siguieron las autoridades del IPN con los estudiantes que se fueron a paro. La Escuela Superior de Economía decidió retomar las actividades. Sun Tzu aconseja no hacer campañas largas por los costos y el agotamiento que esto conlleva, así que con los estudiantes de la Escuela Nacional de Ciencias Biológicas que tienen tomadas las instalaciones del Canal Once ya se tomó otro camino: la denuncia. Ayer se difundió que fue presentada una demanda ante la Fiscalía General de la República (FGR) contra quien o quienes resulten responsables por los presuntos daños ocasionados a la televisora luego de la toma de las instalaciones el pasado 21 de mayo ¿Cuándo devolverán las instalaciones? ¿Se esperarán hasta diciembre?
IPN, causas comunes
El movimiento de los estudiantes del IPN nació con la demanda de mejoras en los servicios en infraestructura de las instalaciones y laboratorios y con la denuncia de que el director Arturo Reyes Sandoval estaba involucrado en presuntos malos manejos y corrupción.
La sección del SNTE en el IPN ha señalado falta de pago a jubilados y a maestros que llevan meses esperando recibir sus prestaciones y sueldos. Lo que ha generado que en algunas escuelas haya paro de maestros.
El 16 de julio, el Consejo General Consultivo del Instituto Politécnico Nacional informó en su sesión ordinaria que necesita una ampliación presupuestal de 10 mil 500 millones de pesos. En esta sesión diversos integrantes de este Consejo expresaron que el presupuesto que recibe la institución de 22 mil mdp no alcanza y que hay carencias en los servicios como internet, insumos e infraestructura. Curioso, lo mismo que denunciaron los estudiantes en paro.
