La presidenta fue cuestionada sobre las posibles operaciones coordinadas a través de redes sociales y señaló que la IA puede utilizarse para propagar información falsa; recordó que una propuesta para identificar contenidos generados con esta tecnología durante las campañas no fue aprobada.
La presidenta Claudia Sheinbaum Pardo llamó este miércoles a abrir en México una discusión sobre la regulación de la inteligencia artificial, luego de ser cuestionada sobre el caso del consultor argentino Fernando Cerimedo y las posibles operaciones coordinadas a través de redes sociales para influir en la opinión pública.
La mandataria sostuvo que este tipo de casos muestran la necesidad de discutir el uso de la inteligencia artificial, particularmente por su capacidad no sólo para generar contenidos, sino también para amplificar y propagar información falsa mediante las plataformas digitales.
“Lo que pienso es que tiene que de alguna manera regularse, particularmente lo que tiene que ver con la inteligencia artificial”, afirmó durante su conferencia matutina.
La presidenta ya había señalado en conferencias anteriores que el tema debía analizarse ante la posibilidad de que se utilicen recursos, redes de cuentas y contenidos falsos para influir en la conversación pública.
En ese contexto, advirtió que el problema no se limita a los contenidos que genera esta tecnología, sino a la manera en que puede utilizarse para hacer que determinados mensajes circulen masivamente.
“Entonces, el problema de la inteligencia artificial en el uso de las redes no solamente es el contenido, sino cómo a través de la inteligencia artificial se propaga una información que en la mayoría de los casos es falsa. Entonces, sí es importante que lo discutamos en México, sí es muy relevante”, afirmó.
Una propuesta que no avanzó en el Congreso
La Presidenta recordó que su Gobierno había incluido una propuesta relacionada con el uso de inteligencia artificial durante las campañas electorales.
El planteamiento establecía que, cuando un partido utilizara IA en propaganda electoral, debía advertir de manera visible que el contenido había sido generado con esta tecnología.
“Nosotros en el plan que enviamos a la Cámara, que no se aprobó, decía que por lo menos en las campañas electorales, cuando se fuera a usar inteligencia artificial, dijera así en grande, esto se hizo con inteligencia artificial y si no, no podría, tendría que ser sancionado el partido que lo usara. No se aprobó eso”, explicó.
Para Sheinbaum, la ausencia de esta regulación deja pendiente una discusión sobre la forma en que la IA puede utilizarse para intervenir en el debate público.
Por ello, consideró que el Congreso podría asumir un papel central en la discusión y eventual regulación de estas herramientas.
“Estaría bueno que el Congreso lo planteara como una discusión, sería muy bueno”, afirmó.
IA, redes sociales y desinformación
La Presidenta puso especial énfasis en que el riesgo no se limita a que una herramienta de inteligencia artificial pueda generar una imagen, un video, un audio o un texto falso.
El problema, planteó, está también en la capacidad de las plataformas digitales para utilizar estos contenidos y hacerlos circular masivamente.
La discusión, dijo, debe considerar cómo la IA puede convertirse en una herramienta para la propagación de información que no corresponde con la realidad, particularmente cuando se utiliza dentro de estrategias políticas.
Este planteamiento coincide con una advertencia que Sheinbaum ya había formulado en agosto, cuando señaló que la inteligencia artificial podía utilizarse para identificar contenidos susceptibles de ser amplificados y generar grandes cantidades de publicaciones mediante redes de cuentas automatizadas. En aquella ocasión también planteó la necesidad de discutir una regulación específica.
El uso electoral, uno de los puntos pendientes
La Presidenta vinculó el debate sobre inteligencia artificial con el funcionamiento de las campañas electorales y la propaganda política en redes sociales.
Su propuesta para identificar los contenidos elaborados mediante IA buscaba que los ciudadanos pudieran distinguir entre material producido de manera convencional y aquel creado o manipulado mediante herramientas de inteligencia artificial.
El hecho de que esa propuesta no haya sido aprobada, sostuvo, deja abierta una discusión que considera cada vez más relevante para México.
La preocupación no se limita a la propaganda tradicional, sino a la capacidad de las plataformas digitales para modificar la circulación de información y favorecer que determinados contenidos alcancen grandes audiencias.
También plantea discutir el uso de plataformas en educación
Sheinbaum amplió el debate hacia el impacto de las plataformas digitales en la educación.
En la conferencia matutina cuestionó que la discusión sobre el uso de la tecnología en las escuelas se haya concentrado hasta ahora principalmente en la utilización de teléfonos celulares.
La Presidenta relacionó este tema con los resultados de la prueba PISA y señaló que, aunque su Gobierno no considera que una evaluación internacional pueda definir por sí sola la calidad de la educación mexicana, el propio reporte contiene elementos que, a su juicio, deberían generar una discusión sobre el uso de plataformas digitales.
“Si no nos alerta a todas las mexicanas y mexicanos el uso de las plataformas para la educación, que ahora es el uso de los celulares en la escuela, pero no hemos discutido más allá que ese tema. Entonces, es muy importante discutirlo”, señaló.
La mandataria sostuvo que el debate debe abarcar los efectos de la tecnología sobre la educación, la información y la formación de niñas, niños y jóvenes, y no reducirse únicamente a decidir si se permite o no el uso de teléfonos celulares dentro de las escuelas.
Un debate que Sheinbaum quiere llevar más allá del Gobierno
La Presidenta planteó que la discusión sobre inteligencia artificial debe ser amplia y contar con la participación del Congreso y de distintos sectores de la sociedad.
En junio, Sheinbaum ya había señalado que México debía avanzar en una regulación de la inteligencia artificial y abrir una discusión social sobre el impacto de estas herramientas. La mandataria había advertido entonces que la IA, combinada con la manipulación de información en redes sociales, podía generar confusión entre los usuarios.
Ahora, la Presidenta vuelve a colocar el tema sobre la mesa y plantea que, una vez que concluyan las discusiones de las iniciativas que actualmente se encuentran en el Congreso, es necesario abrir formalmente el debate sobre la inteligencia artificial.
“Cuando todo esto, digamos, termine de discutirse, las iniciativas, es muy importante que se abra la discusión sobre la inteligencia artificial”, concluyó.
