A fin de robustecer el marco legal para sancionar a quienes, mediante la Inteligencia Artificial (IA) generativa, produzcan o distribuyan pornografía y desnudos simulados. el diputado del Partido Verde Ecologista de México, Luis Enrique Miranda Barrera, propuso reformar la Ley General de Acceso de las Mujeres a una Vida Libre de Violencia.
En su iniciativa, que busca agregar un párrafo al artículo 20 Quáter de la citada ley, el legislador puntualizó que su propuesta pretende generar un marco legal sólido que permita proteger a las personas de los abusos de la tecnología y garantizar su derecho a una vida libre de violencia digital.
Añadió que al actualizar nuestra legislación para sancionar el uso de IA generativa en la creación de pornografía simulada, México estará dando un paso crucial para resguardar la privacidad, la dignidad y el bienestar de sus ciudadanos.
Explicó que la generación de pornografía simulada mediante IA generativa presenta graves riesgos para la sociedad. En primer lugar, facilita la creación de imágenes falsas que pueden distribuirse rápidamente en redes sociales y otros espacios digitales, afectando la reputación y la integridad de las personas.
Añadió que, además, la falta de una regulación específica fomenta un clima de impunidad, ya que quienes generan y distribuyen este tipo de contenido actualmente no enfrentan consecuencias legales claras en México.
Destacó que de acuerdo con datos de la plataforma de análisis de la industria de la IA, Genevieve Oh, los 10 principales sitios web que albergan imágenes de pornografía generadas con Inteligencia Artifcial, los desnudos falsos han crecido un 290% desde el 2018, en donde se encuentran desde personalidades del entretenimiento y política, hasta gente que no es famosa.
Ante todo ello, señaló que la reforma propuesta se basa en la obligación del Estado mexicano de proteger los derechos humanos de las personas, especialmente su derecho a la privacidad, a la integridad y a la seguridad. Estos principios están consagrados en la Constitución Política de los Estados Unidos Mexicanos, así como en tratados internacionales de derechos humanos que México ha firmado y ratificado, como la Convención sobre los Derechos del Niño y la Convención Americana sobre Derechos Humanos.
En el artículo 20 Quater de la mencionada ley y que se refiere a todos aquellos actos dolosos que causen daño a la intimidad, privacidad y/o dignidad de las mujeres, que se cometan por medio de las tecnologías de la información y la comunicación, el Miranda Barrera propone agregar el siguiente párrafo:
“De la misma manera, toda acción dolosa generada a partir del uso de Inteligencia Artificial, por la que se produzcan de manera total o parcial imágenes, videos o audios de contenido sexual íntimo para simular actos sexuales o contenidos pornográficos de una persona sin su consentimiento, su aprobación o su autorización, o bien que divulgue, comparta, distribuya o publique imágenes, videos o audios de contenido íntimo sexual que simulen actos sexuales o contenidos pornográficos de manera que hayan sido generados de manera total o parcial a partir del uso de Inteligencia Artificial”.
