El Gobierno de México presentará esta semana el proyecto de decreto que busca establecer nuevas obligaciones para las plataformas digitales frente a contenidos que inciten directamente a la violencia, el abuso o el acoso, particularmente aquellos que puedan poner en riesgo a niñas, niños y adolescentes.
La presidenta Claudia Sheinbaum anunció que el proyecto será elaborado por un grupo de trabajo coordinado por la Consejería Jurídica del Ejecutivo Federal, con participación de las secretarías de Seguridad y Protección Ciudadana y de Educación Pública, el Centro Nacional de Inteligencia, la Agencia de Transformación Digital y Telecomunicaciones, así como instituciones académicas y especialistas.
La instrucción surgió después de los recientes episodios de violencia registrados en planteles educativos y de que las investigaciones oficiales detectaran, en algunos de estos casos, comunicación previa a través de redes sociales. La Presidencia sostiene que existen elementos que hacen necesario intervenir no sólo desde las escuelas y las familias, sino también sobre el ecosistema digital en el que se desarrollan y difunden determinadas conductas violentas.
Del “uso responsable” a la responsabilidad de las plataformas
El planteamiento representa un cambio relevante en la discusión sobre redes sociales en México.
Hasta ahora, buena parte de la responsabilidad frente a los riesgos digitales se había colocado en los usuarios, las familias y las escuelas. La nueva estrategia busca incorporar de manera explícita a las plataformas como actores con obligaciones concretas.
El objetivo inicial es que las empresas sean responsables de detectar, retirar oportunamente y reportar a las autoridades contenidos que inciten directamente a la violencia, así como aquellos relacionados con abuso o acoso. La Secretaría de Educación Pública confirmó que el proyecto de decreto pretende que las plataformas asuman responsabilidades frente a este tipo de contenidos.
La presidenta ha sido enfática en que no se pretende regular de manera indiscriminada las conversaciones en internet. El desafío, explicó, será establecer con precisión qué contenidos deben ser retirados para evitar que una medida de protección termine afectando la libertad de expresión.
Ese será, probablemente, uno de los puntos centrales de la discusión cuando se conozca el contenido jurídico del decreto.
El problema: los algoritmos y la propagación de la violencia
La discusión no se limita a publicaciones aisladas.
Las plataformas digitales funcionan mediante sistemas algorítmicos que determinan, en buena medida, qué contenidos reciben mayor exposición y cuáles permanecen frente a los usuarios. En este contexto, el Gobierno plantea intervenir sobre la circulación de materiales que puedan promover conductas violentas, acoso, abuso sexual o mecanismos de coordinación para realizar agresiones.
La preocupación adquiere una dimensión particular cuando se trata de adolescentes.
La propia Presidencia ha señalado que las investigaciones de algunos casos recientes encontraron vínculos entre jóvenes a través de redes sociales. Por ello, la estrategia gubernamental plantea que las plataformas deben convertirse en espacios más seguros para niñas, niños y adolescentes y no en canales para la organización o propagación de conductas violentas. (Gobierno de México)
En paralelo, el Gobierno ha planteado reforzar la regulación del acceso y uso de redes sociales por parte de menores, con mecanismos de verificación y mayores responsabilidades para las plataformas.
No será solamente un decreto
La propuesta forma parte de una estrategia más amplia.
El Gobierno también anunció el fortalecimiento del programa “ABC de las emociones”, con trabajo en las aulas y con madres y padres de familia; mecanismos confidenciales para detectar situaciones de riesgo; orientación y acompañamiento para adolescentes y jóvenes, y el llamado a las familias para mantener una comunicación cercana con sus hijos.
La lógica planteada por el Gobierno es que la prevención de la violencia escolar no puede descansar en una sola institución.
Escuelas, familias, autoridades de seguridad, especialistas y plataformas digitales tendrían responsabilidades diferenciadas.
La SEP ha señalado, además, que el trabajo emocional debe reforzarse desde las escuelas y que los casos que constituyan delitos deben ser investigados y perseguidos por las autoridades correspondientes.
El decreto abre una discusión mayor
Más allá del contenido específico que se presente esta semana, el anuncio abre un debate de fondo sobre quién debe responder cuando una plataforma se convierte en vehículo para la propagación de violencia.
La pregunta ya no es únicamente qué pueden o deben hacer las familias para proteger a los menores, sino hasta dónde llega la responsabilidad de las empresas tecnológicas cuando sus servicios son utilizados para difundir contenidos que pueden favorecer conductas violentas o delictivas.
La experiencia internacional muestra que México no es el único país que está intentando avanzar en esta dirección. Otros gobiernos han comenzado a establecer mayores obligaciones para las plataformas digitales, particularmente en materia de protección de menores y retiro de contenidos considerados dañinos.
Pero existe una diferencia fundamental entre combatir contenidos que incitan directamente a cometer delitos y establecer controles demasiado amplios sobre la conversación pública.
Por eso, uno de los aspectos más importantes del proyecto será conocer cómo definirá el Gobierno qué debe retirarse, quién determinará que un contenido constituye una incitación directa a la violencia, en cuánto tiempo deberá actuar una plataforma, cómo se notificará a las autoridades y qué mecanismos existirán para impugnar una decisión de retiro.
Son preguntas jurídicas, tecnológicas y de derechos digitales que determinarán el alcance real de la medida.
La prevención como nueva política de seguridad digital
El Gobierno de Sheinbaum está construyendo así una política que combina tres frentes: prevención en las escuelas, acompañamiento familiar y responsabilidad de las plataformas digitales.
La regulación del uso de celulares en las escuelas, que entrará en vigor el 3 de noviembre, forma parte del mismo contexto. En educación básica se prohibirá su utilización durante la jornada escolar, mientras que en educación media superior se establecerán esquemas de uso responsable y seguro de acuerdo con cada institución.
La apuesta gubernamental es, por tanto, modificar el entorno en el que los jóvenes interactúan con la tecnología: limitar el uso indiscriminado de dispositivos en las aulas, fortalecer la educación socioemocional y, ahora, exigir mayores responsabilidades a quienes administran las plataformas digitales.
El reto será convertir estos anuncios en reglas claras, aplicables y técnicamente viables.
El proyecto de decreto que se presentará esta semana permitirá conocer si México está frente a una nueva política de protección de menores en el entorno digital o ante el inicio de una regulación mucho más amplia de las plataformas sociales.
La frontera entre ambas será precisamente el contenido, alcance y mecanismos de aplicación que establezca el documento.
