Gobierno prepara decreto para retirar contenido violento de plataformas
Tras el ataque en una secundaria de Torreón, el Gobierno plantea obligar a plataformas a detectar y retirar contenido violento.
Tras el ataque en una secundaria de Torreón, el Gobierno plantea obligar a plataformas a detectar y retirar contenido violento.
Claudia Sheinbaum anunció un grupo interinstitucional para atender contenidos violentos en redes sociales tras el ataque ocurrido en una escuela de Torreón.
En la Cámara de Diputados ya prendieron las alertas por algo que muchos padres apenas empiezan a dimensionar: internet no siempre es un lugar seguro para niñas, niños y adolescentes. Y el problema, dicen legisladores, es que la ley va varios pasos atrás de lo que ocurre todos los días en redes y plataformas digitales.
En el Congreso mexicano ya empezó a discutirse un problema que muchos ven en redes sociales, pero que hasta ahora no estaba del todo cubierto por la ley: el uso de inteligencia artificial para alterar imágenes de personas, sobre todo con fines sexuales. La diputada de Morena Irma Juan Carlos puso el tema sobre la mesa con una iniciativa que busca castigar este tipo de conductas con penas de cuatro a ocho años de prisión.
La red social X, propiedad del empresario Elon Musk, decidió poner freno al uso libre de su herramienta de inteligencia artificial Grok para editar imágenes, luego de varios días de denuncias por la manipulación de fotografías de personas sin su consentimiento, principalmente mujeres, a quienes se les alteraba la imagen para mostrarlas desnudas o con ropa sexualizada.
El uso de la inteligencia artificial Grok, integrada a la red social X, encendió una nueva controversia global que ya tiene eco en el debate político y regulatorio: suscriptores de X Premium están generando imágenes no consensuadas de personas —principalmente mujeres— en bikini o ropa interior, a partir de fotografías reales. La práctica ha provocado indignación y llamados para restringir la herramienta y eliminar ese contenido.
La idea estaba sobre la mesa y, en un inicio, había entusiasmo en el gobierno federal, pero al final no prosperó. La presidenta Claudia Sheinbaum explicó que su administración decidió cancelar el cobro de impuestos a los videojuegos con contenido violento, luego de revisar a fondo la propuesta y detectar que no existían bases claras ni técnicas sólidas para aplicarla sin generar más problemas que soluciones.
La presidenta municipal de Uruapan, Grecia Itzel Quiroz García, denunció públicamente ser víctima de violencia digital tras la difusión en redes sociales de un presunto video elaborado con Inteligencia Artificial, en el que se manipulan imágenes para presentarla en una supuesta relación con el diputado Carlos Alejandro Bautista Tafolla.
En México, muchos papás crecieron cuidándose de la calle, pero hoy el peligro puede estar dentro de la casa, en el celular, la tablet o la computadora. Ese fue el punto de partida del Foro Interinstitucional sobre Seguridad Digital, Salud Mental y Prevención de la Violencia Digital en Niñas, Niños y Adolescentes, organizado por la Comisión de Derechos de la Niñez que encabeza la diputada Elizabeth Martínez Álvarez, del PAN. Y aunque el tema suena técnico, lo que estuvo en juego es algo muy simple: cómo proteger a menores que navegan internet más rápido de lo que el Estado ha podido regularlo.
En el Senado, legisladoras, especialistas y activistas —entre ellas Olimpia Coral Melo, referente nacional en la defensa de derechos digitales— coincidieron en un diagnóstico urgente: México necesita visibilizar y legislar con mayor fuerza contra la violencia digital, un tipo de agresión que ya afecta a 10.6 millones de mexicanas desde los 12 años, según datos del INEGI.