¿Cazar deepfakes o silenciar periodistas? El debate sobre la Ley Serrano en México

De acuerdo con un comunicado emitido por las autoridades legislativas de San Luis Potosí, el concepto de inteligencia artificial se refiere a “cualquier sistema, modelo computacional o algoritmo, incluidas las redes neuronales y las técnicas de aprendizaje automático o equivalentes, capaz de ejecutar, de manera autónoma o asistida, tareas que impliquen procesos de razonamiento, aprendizaje, percepción, interpretación o generación de información, imitando o sustituyendo funciones cognitivas humanas, y que permita producir, modificar, alterar o difundir contenidos digitales, tales como textos, imágenes, sonidos o videos, con apariencia verosímil o similar a la realidad”.

Con base en esta definición, la norma establece una pena de dos a cinco años de prisión, además de una multa de 200 a 400 veces la Unidad de Medida y Actualización (UMA) vigente en el estado, para quien, a sabiendas de su falsedad, genere, altere o difunda mediante sistemas de inteligencia artificial imágenes, audios, videos o textos manipulados o creados artificialmente con el propósito de provocar alarma, temor, confusión o inestabilidad social, o inducir a error a la población sobre hechos de interés público.Re

Asimismo, establece que, cuando la conducta se lleve a cabo mediante medios de comunicación masiva, plataformas digitales o redes sociales, o a través de cuentas automatizadas o anónimas para simular información auténtica, la pena podrá incrementarse hasta en una mitad.

Respecto al delito de manipulación institucional mediante inteligencia artificial, la legislación contempla una sanción de tres a seis años de prisión y una multa de 300 a 600 veces la Unidad de Medida y Actualización vigente en el estado para quien, mediante el uso de sistemas de inteligencia artificial, genere, altere o difunda imágenes, audios, videos o representaciones digitales que simulen declaraciones, comunicados, acciones o la presencia de autoridades, instituciones públicas o cuerpos de seguridad, con pleno conocimiento de su falsedad.

De acuerdo con el Congreso local, esta conducta será sancionada cuando tenga “el propósito de provocar alarma, temor o desconfianza en la población; afectar el orden o la seguridad pública, o menoscabar la autoridad o la legitimidad de las instituciones del Estado”.

La legislación también señala que, si la conducta se comete durante procesos electorales, de seguridad pública o de procuración e impartición de justicia, o provoca alteraciones efectivas del orden público o daños a bienes públicos, la pena podrá incrementarse hasta en una mitad.

Finalmente, la norma establece que el uso no autorizado de la imagen o la voz generadas mediante inteligencia artificial será castigado con una pena de uno a tres años de prisión y una multa de 100 a 300 veces la Unidad de Medida y Actualización vigente en el estado. La sanción aplicará a quien, sin el consentimiento previo, expreso, específico e informado de la persona titular de la imagen, la voz o la identidad digital, utilice sistemas de inteligencia artificial o programas automatizados para crear, reproducir, modificar, manipular o difundir contenidos que simulen la apariencia, la voz, los gestos o la identidad de una persona real, cualquiera que sea el propósito del uso.

La pena aumentará hasta en una mitad cuando el contenido sea difundido, comercializado o utilizado con fines de lucro, o con el propósito de afectar el honor, la reputación o la vida privada de la persona afectada.

Un fin legítimo, pero con una redacción precaria

Como explica a WIRED en Español Jersain Llamas Covarrubias, académico de la Universidad de Guadalajara, “la reforma parte de una preocupación legítima y de un vacío regulatorio real. El uso de sistemas de IA generativa permite hoy producir imágenes, audios y videos con una verosimilitud cada vez mayor, y eso ha creado riesgos concretos para bienes jurídicos que sí ameritan tutela: la imagen, la voz, la identidad digital, la vida privada y la integridad personal, especialmente frente a fenómenos como los deepfakes sexuales no consentidos, la suplantación de identidad con fines de fraude o extorsión y el uso de contenidos sintéticos para causar graves daños reputacionales”.

No obstante, diversos grupos de activistas, colectivos de defensa de derechos y organismos internacionales han denunciado que esta ley es inconstitucional al violar el derecho fundamental de la población a la libertad de expresión.

En su momento, el diputado Serrano aseguró que la norma respetaría ese derecho al excluir de sanciones la generación o difusión de contenidos con fines periodísticos, académicos, artísticos, de parodia o de crítica política, “siempre que se indique expresamente ese carácter y no exista dolo en la intención de causar alarma o desinformación social”.

Sin embargo, Natalia Castillo, abogada y activista que lidera la lucha en contra de esta reforma, afirma que “la Ley Serrano es una especie de descripción de una conducta atípica para perseguir a comunicadores, periodistas, influencers o cualquier persona que utilice los medios digitales para expresar su opinión”.

A pocos días de la aprobación de la legislación, trascendieron las investigaciones emprendidas contra al menos 11 personas (periodistas, activistas, defensores de derechos humanos y administradores de páginas digitales) acusadas de utilizar herramientas de IA para generar “alarma social” y afectar la confianza en las instituciones de gobierno. De ese grupo, al menos tres fueron detenidas (Christian Herrera, Eréndira Reyes Aguillón y Alejandra Hermosillo), mientras que las demás enfrentan órdenes de aprehensión o citatorios pendientes. Estos casos han provocado movilizaciones de grupos de defensa de derechos humanos, en las que se documentan actos de violencia y supresión.

Los manifestantes sostienen que la ley no define con precisión qué constituye un “uso indebido” de la inteligencia artificial. Además, su redacción permite interpretaciones amplias sobre conceptos como “alarma social” o afectación a la confianza en las instituciones, lo que genera incertidumbre jurídica para periodistas, creadores de contenido y ciudadanos que utilizan herramientas de IA. En consecuencia, exigen su derogación.

Jersain Llamas, también CEO de Obex Cybersecurity, señala que “los tipos penales incorporados a la ley contienen conceptos con un grado de indeterminación difícil de sostener en materia punitiva. Expresiones como ‘alterar la confianza pública en las instituciones’, ‘alarma social’, ‘paz social’ o ‘riesgo verificable para la seguridad del Estado’ son formulaciones evaluativas y contextuales que requieren criterios objetivos adicionales para evitar aplicaciones expansivas. De lo contrario, pueden dejar a la autoridad ministerial un margen de apreciación demasiado amplio si no se interpretan de manera restrictiva al momento de calificar la conducta. La propia CNDH sostiene que ‘la confianza pública’ es un concepto difícil de medir objetivamente mediante parámetros jurídicos estables y, por naturaleza, variable en sociedades plurales”.

Ante las movilizaciones, el Congreso estatal anunció la realización de foros de debate con especialistas, organizaciones y demás actores involucrados para analizar posibles modificaciones a la norma. Sin embargo, la discusión fue pospuesta hasta septiembre de 2026, cuando inicie el siguiente periodo ordinario de sesiones.

¿Qué hace tan diferente a la Ley Serrano de otras normas que castigan el uso indebido de la IA en México?

Desde 2024, entidades como Quintana Roo, Oaxaca, Estado de México, Sinaloa y Nayarit cuentan con marcos jurídicos locales que sancionan el uso indebido de la inteligencia artificial, principalmente en casos de suplantación de identidad mediante deepfakes, violencia digital o cuando esta tecnología se utiliza como medio para cometer otros delitos.

Sin embargo, no todas tipifican nuevas conductas relacionadas con la IA de la misma manera. Mientras que en algunos estados su utilización se sanciona como un medio comisivo o una circunstancia agravante dentro de delitos ya existentes, en otros constituye un delito autónomo. Ese es el caso de San Luis Potosí, cuyo Congreso aprobó la creación de figuras penales específicas centradas, aparentemente, en el uso de inteligencia artificial.

Felipe Sánchez, socio del despacho Fulton & Fulton, precisa en entrevista con WIRED en Español que “la ley regula conductas, no medios”. No obstante, advierte que “el problema de esta iniciativa es que resulta bastante ambigua y amplia. Entonces, conductas que podrían ser cotidianas y realizarse sin ánimo de dañar a nadie podrían interpretarse, a la luz de este texto, como conductas delictivas”. Como ejemplo, señala que, de acuerdo con la redacción actual de la norma, “la simple edición de una fotografía con IA pudiera encuadrar en este tipo de conductas ilegítimas”.

Lo anterior abre la posibilidad de que la legislación se utilice con fines políticos. Según Castillo, la ley “solo habla de lo que no se puede hacer con los programas de inteligencia artificial para hablar mal de los políticos, generar una alarma social o hablar mal de otros ciudadanos. Eso es lo que dice, sencillamente. No hay otra definición, ni siquiera una definición de inteligencia artificial. Lo que sí establece son penas muy altas, similares a las previstas para la violación equiparada. Entonces, si tú criticas a cualquier político o difundes un video suyo, evidentemente estarías cometiendo un delito relacionado con inteligencia artificial, aunque la ley ni siquiera la defina”.

Lo que sucede en San Luis Potosí, según los especialistas, podría tener repercusiones en todo México, considerando el interés que tanto el Gobierno federal como diversas autoridades estatales han manifestado por regular esta tecnología. En repetidas ocasiones, Claudia Sheinbaum, presidenta de México, ha expresado su intención de impulsar un marco regulatorio federal para la inteligencia artificial mediante un proceso de discusión pública que incorpore las voces de especialistas, la academia, el sector público, la iniciativa privada y la ciudadanía.

No obstante, como señala Castillo, “¿qué académico, qué experto o qué medio de comunicación va a querer dar su opinión si en el Congreso existe un mecanismo mediante el cual, a quien opina y se expone públicamente, le pueden iniciar una denuncia penal?”.

Las (posibles) claves de una legislación para la IA

México se suma así a la creciente lista de países que buscan regular el desarrollo y uso de la inteligencia artificial. Los colectivos que han denunciado irregularidades en la llamada Ley Serrano respaldan ese objetivo. Sin embargo, consideran que, al menos en San Luis Potosí, la legislación vigente vulnera el Estado de derecho, ya que no solo limita el ejercicio de la libertad de expresión, sino que además se convierte en un mecanismo que inhibe el debate público sobre un tema de creciente relevancia internacional.

En un contexto en el que cada vez más países buscan establecer reglas para el desarrollo y uso de la IA, la pregunta que surge es qué rumbo debería seguir México.

Sánchez sostiene que el primer aspecto que debe considerarse es que “no existe una definición única ni generalmente aceptada de lo que significa inteligencia artificial”. Por su parte, Castillo argumenta que el abanico de aplicaciones, desafíos y problemas asociados con esta tecnología es tan amplio que resulta difícil delimitar el concepto con precisión. No obstante, añade que “cuando afirmas que la inteligencia artificial genera un problema social, primero tienes que demostrar que ese problema social realmente existe”.

Felipe Sánchez subraya que cualquier legislación o regulación en la materia debe construirse mediante un proceso amplio de participación y consulta que incluya a todas las partes interesadas: expertos, académicos, industria, usuarios, organizaciones de la sociedad civil y medios de comunicación. A su juicio, ello es indispensable porque “la libertad de expresión es el principal derecho que podría verse afectado”.

Sin embargo, como concluye Jersain Llamas, “en un Estado democrático, la crítica dura o incómoda al poder no debe ser criminalizada, salvo que exista una afectación grave, concreta y debidamente probada a un bien jurídico constitucionalmente protegido”, incluso en un contexto marcado por el uso cada vez más extendido de la inteligencia artificial.