Informe técnico sobre la posible responsabilidad penal derivada de la generación y difusión de contenidos sexuales y pornografía infantil mediante IA en redes sociales
El Gobierno pedirá al Ministerio Fiscal que investigue los
delitos que las redes sociales X, Meta y TikTok podrían estar cometiendo por la
creación y difusión de pornografía infantil mediante sus IA.
Para ello, el Consejo de Ministros aprobó el día 17 de febrero
un acuerdo por el que se insta a la Fiscal General del Estado a
investigar y, en su caso, perseguir posibles delitos de violencia
sexual digital cometidos contra menores en las principales redes sociales. Esta
decisión, que se ampara en el artículo 8 del Estatuto Orgánico del Ministerio
Fiscal, se apoya en un informe técnico elaborado por el Ministerio de
la Presidencia, Justicia y Relaciones con las Cortes, el Ministerio para la
Transformación Digital y de la Función Pública, y el Ministerio de Juventud e
Infancia, que alerta de la afección de estas prácticas a los niños y niñas.
En el informe se analizan las posibles responsabilidades
penales de prácticas cada vez más extendidas en el entorno digital como la
generación y difusión de contenidos sexuales y pornografía infantil a través de
las ultrafalsificaciones (deepfakes) y la manipulación de imágenes reales para
crear otras de contenido sexual explícito y menoscabar la dignidad de las
víctimas.
Se solicita al Ministerio Fiscal que,
dentro de su autonomía y tras oír a la Junta de Fiscales de Sala del Tribunal
Supremo, analice e investigue estos hechos y ejerza las acciones penales que
estime pertinentes y, además, se establezcan criterios de actuación y medidas
concretas que permitan a las posibles víctimas y a sus tutores y representantes
legales hacer valer sus derechos ante la Fiscalía.
Esta acción responde al surgimiento de un ecosistema de
riesgo sin precedentes para la explotación sexual en el ámbito digital,
especialmente de menores. La convergencia de la inteligencia artificial
(IA) generativa y las redes sociales masivas ha generado un entorno
propicio para la creación y difusión de deepfakes hiperrealistas, y para la
proliferación de canales opacos que distribuyen y monetizan estos contenidos.
Según datos de la Comisión Europea, el 98% de estos deepfakes son de carácter
pornográfico.
La violencia sexual digital ha escalado a
niveles inéditos en las redes sociales. En España, una de cada cinco personas
jóvenes, especialmente niñas y adolescentes, afirma haber sufrido la difusión
de falsos desnudos suyos creados con IA siendo menores. Además, un tercio asegura
haber sufrido acoso sexual digital durante su infancia, según datos de Save the
Children.
Con esta iniciativa, España se suma a los países e
instituciones de nuestro entorno que ya están tomando medidas al respecto.
Fuera de la Unión Europea, países como el Reino Unido, Malasia, Indonesia,
Kenia y diversos estados de EE. UU. también han abierto diligencias por
estos hechos.
Aspectos jurídicos,criminológicos y sociales de la violencia en Iberoamérica
Pronto estará disponible. Un honor haber podido coordinar junto al gran Jafet a tantos y tan grandes expertos.
Suscribirse a:
Comentarios (Atom)