El ataque ocurrido en una secundaria de Torreón colocó nuevamente en el centro de la discusión la responsabilidad de las plataformas digitales frente a contenidos que promueven violencia, abuso y acoso. México prepara un nuevo marco de obligaciones para las empresas tecnológicas. El desafío será regular sin censurar.
Durante años, la discusión sobre las redes sociales se concentró en una pregunta: ¿Qué responsabilidad tienen madres y padres sobre lo que consumen sus hijos en internet?
Ahora la pregunta empieza a cambiar:
¿Qué responsabilidad tienen las propias plataformas sobre los contenidos que distribuyen, recomiendan y amplifican?
El ataque ocurrido el 1 de octubre en una secundaria de Torreón, Coahuila, colocó esta discusión en un punto particularmente sensible. El gobierno federal informó que investiga posibles vínculos entre éste y otros casos de violencia y comunicaciones realizadas mediante redes sociales.
La respuesta anunciada por la presidenta Claudia Sheinbaum es la creación de un grupo de trabajo coordinado por la Consejería Jurídica, con la participación de Seguridad, Educación, la Agencia de Transformación Digital, el Centro Nacional de Inteligencia, instituciones académicas y especialistas.
El objetivo es preparar un decreto que establezca obligaciones para las plataformas digitales en materia de detección, reporte y retiro oportuno de contenidos que inciten directamente a la violencia, además de mecanismos de coordinación con las autoridades.
Pero el anuncio plantea una discusión mucho más profunda que simplemente retirar publicaciones.
El algoritmo también forma parte del problema
Una red social no es únicamente un espacio donde los usuarios colocan contenidos.
Las plataformas utilizan algoritmos para determinar qué aparece primero, qué se recomienda, qué genera interacción y qué permanece frente a los ojos de un usuario.
Ese modelo puede generar un círculo problemático: un adolescente observa determinado contenido, interactúa con él y el sistema puede ofrecerle más contenidos relacionados.
Por eso, el debate contemporáneo sobre seguridad digital ya no se limita a preguntar qué publicó una persona, sino también qué mecanismos utiliza una plataforma para distribuir ese contenido.
México ya había comenzado a discutir este asunto antes del ataque de Torreón. En julio, el gobierno federal anunció foros regionales para construir una propuesta de regulación de plataformas y redes sociales dirigida particularmente a niñas, niños y adolescentes.
En septiembre, además, se publicó el acuerdo que regula el uso de dispositivos digitales en las escuelas. La medida entra en vigor el 3 de noviembre y establece restricciones diferenciadas para educación básica, media superior y superior.
La discusión, por tanto, ya estaba en marcha.
El episodio de Torreón la convirtió en una emergencia política y de seguridad.
El mundo ya está experimentando distintas fórmulas
México no está discutiendo este problema en solitario.
Australia estableció una edad mínima de 16 años para determinadas plataformas sociales y en 2026 anunció nuevas facultades para su regulador y sanciones que pueden llegar hasta 99 millones de dólares australianos por incumplimiento.
El Reino Unido también está avanzando hacia restricciones para menores de 16 años y, paralelamente, impone obligaciones específicas a los servicios digitales cuando pueden ser utilizados por menores. Su régimen de seguridad en línea exige evaluaciones de riesgo y medidas de protección infantil.
La Unión Europea ha planteado incluso un esquema gradual de acceso: menores de 13 años sin acceso a redes sociales y adolescentes de 13 a menos de 15 años mediante cuentas administradas por madres, padres o tutores y con funciones limitadas, dentro de la propuesta europea.
El punto interesante es que no existe una única receta internacional.
Hay países que están poniendo el acento en la edad mínima. Otros, en la responsabilidad de las plataformas. Otros, en la evaluación de riesgos, los algoritmos y el diseño de los servicios.
México tendrá que decidir qué combinación necesita.
¿Regular contenidos o regular riesgos?
Aquí aparece uno de los mayores desafíos.
Si una regulación establece de manera demasiado amplia que las plataformas deben eliminar cualquier contenido considerado “violento”, podría terminar afectando contenidos periodísticos, documentales, educativos o de denuncia.
- Una imagen de una protesta puede contener violencia.
- Una investigación periodística puede mostrar violencia.
- Una denuncia de abuso puede describir violencia.
- Un documental histórico puede mostrar violencia.
Por eso no basta con decir “hay que bajar el contenido.
La verdadera discusión jurídica es:
- ¿Qué contenido debe retirarse?
- ¿Quién determina que incita directamente a la violencia?
- ¿Qué plazo tendrá una plataforma para actuar?
- ¿Cómo se evitarán decisiones arbitrarias?
- ¿Qué derecho tendrá un usuario para apelar una eliminación?
- ¿Qué autoridad supervisará a las plataformas?
Y quizá la pregunta más importante:
¿Cómo se protegerá a niñas, niños y adolescentes sin convertir internet en un espacio de vigilancia permanente?
La responsabilidad no puede recaer únicamente en las familias
El gobierno federal también plantea reforzar el programa ABC de las Emociones, las asambleas con madres y padres de familia, los mecanismos confidenciales de denuncia y la atención psicológica.
Es una parte necesaria de la estrategia.
Pero existe otra dimensión.
Una familia puede establecer límites en casa, hablar con sus hijos y supervisar su actividad digital. Sin embargo, difícilmente puede competir con plataformas diseñadas para mantener la atención del usuario durante horas y que procesan cantidades gigantescas de información mediante sistemas automatizados.
Por eso el debate sobre responsabilidad parental debe acompañarse de otro: responsabilidad tecnológica.
Las empresas que administran las mayores plataformas digitales tienen capacidades técnicas que ningún padre de familia posee.
- Pueden detectar patrones.
- Pueden identificar cuentas.
- Pueden reconocer determinadas imágenes.
- Pueden analizar interacciones.
- Pueden establecer controles de edad.
- Pueden modificar recomendaciones.
- Pueden retirar contenidos.
La discusión consiste en determinar cuándo deben hacerlo, bajo qué reglas y con qué supervisión.
La línea entre prevención y censura
La propia presidenta Sheinbaum ha planteado que el objetivo no es convertir automáticamente estas conductas en delitos ni establecer mecanismos de censura, sino prevenir situaciones de violencia y establecer responsabilidades para las plataformas.
Esa distinción será fundamental.
Una política de seguridad digital para menores necesita ser suficientemente firme para enfrentar contenidos que impliquen amenazas, abuso, explotación o incitación directa a la violencia.
Pero también debe ser suficientemente precisa para no convertir conceptos ambiguos en herramientas para eliminar cualquier contenido incómodo.
Regular no significa necesariamente censurar.
Pero una mala regulación sí puede terminar produciendo censura.
Y una regulación insuficiente puede dejar a niñas, niños y adolescentes expuestos a riesgos que las propias plataformas tienen capacidad tecnológica para detectar.
México está frente a una decisión de diseño institucional
El verdadero reto no es solamente aprobar un decreto.
Es construir un sistema.
Un sistema en el que participen gobierno, escuelas, familias, especialistas, plataformas y organizaciones de protección de derechos de niñas, niños y adolescentes.
Un sistema con reglas claras sobre:
- Protección de menores y verificación de edad.
- Detección de amenazas y contenidos que inciten directamente a la violencia.
- Reporte oportuno a las autoridades cuando exista un riesgo concreto.
- Responsabilidad de las plataformas sobre sus sistemas de recomendación.
- Transparencia sobre los mecanismos de moderación.
- Protección de datos personales y privacidad.
- Mecanismos de apelación para los usuarios.
- Supervisión independiente.
- Sanciones proporcionales cuando exista incumplimiento.
La regulación de las redes sociales ya no puede plantearse como una guerra entre “libertad de expresión” y “control gubernamental”.
El problema es mucho más complejo.
Se trata de definir qué derechos deben protegerse, quién tiene capacidad para hacerlo y qué responsabilidades corresponden a cada actor del ecosistema digital.
La conversación apenas comienza
El ataque de Torreón no demuestra, por sí mismo, que las redes sociales sean la causa de la violencia.
Pero sí vuelve urgente investigar qué papel desempeñaron las comunicaciones digitales en éste y otros casos, qué señales pudieron existir previamente y si las plataformas tenían mecanismos capaces de identificarlas.
La propia autoridad hizo una precisión relevante: una expresión o la consulta de determinados contenidos no significa automáticamente que una persona vaya a cometer un delito. La tarea de inteligencia, explicó el gobierno, consiste precisamente en distinguir entre expresión, contenido de riesgo y amenaza concreta.
Esa diferencia debe permanecer en el centro del debate.
Porque el futuro de la regulación digital no debería consistir simplemente en quitar contenidos después de una tragedia.
El objetivo tendría que ser construir mecanismos que permitan detectar riesgos antes de que se conviertan en violencia, proteger especialmente a quienes todavía están formando su criterio y, al mismo tiempo, preservar los derechos que hacen de internet un espacio abierto.
Las plataformas digitales ya son parte de la vida social.
Por eso la pregunta dejó de ser si deben asumir responsabilidades.
La pregunta ahora es cuáles, con qué límites y bajo qué reglas.
Y esa discusión, en México, acaba de entrar en una nueva fase.
