La Fiscalía de la Audiencia Provincial de Almería mantiene abierta una investigación por uno de los casos más escandalosos del uso delictivo de la inteligencia artificial en España: al menos 18 alumnas menores de edad de un instituto de la provincia habrían sido víctimas de la generación de imágenes sexuales falsas creadas mediante IA a partir de sus fotografías reales.
El caso fue revelado este martes por el fiscal delegado provincial de Criminalidad Informática, David Calvo López, durante su intervención en la jornada Inteligencia Artificial y Derechos Fundamentales, celebrada este pasado martes en la Universidad de Almería.
La herramienta utilizada es la aplicación ClothOff, que permite introducir fotografías reales de personas para obtener imágenes manipuladas de desnudos o escenas sexuales explícitas de forma automática. El funcionamiento es tan sencillo como perturbador: "Coges la foto de tu compañera de instituto, pulsas un botón y automáticamente aparece desnuda o participando en una escena sexual", explicó el propio fiscal durante su ponencia.
El fiscal advirtió que el 90% de los usuarios de esta aplicación la emplean para generar escenas sexuales completas, y que la herramienta produce miles de desnudos de mujeres cada día, siendo utilizada de forma generalizada por hombres.
Un delito de pornografía infantil virtual con la misma pena que si las imágenes fueran reales
El marco legal en torno a este tipo de contenidos es claro, aunque su aplicación entraña matices importantes. Calvo explicó que cuando las víctimas son menores de edad, la creación de estos contenidos mediante IA constituye un delito de pornografía infantil virtual, penado con la misma gravedad que si se tratara de imágenes reales obtenidas mediante grabación, siempre y cuando el resultado sea "realista".
Las nuevas herramientas de deepfake son capaces de producir imágenes hiperrealistas que en muchos casos resultan indistinguibles de las reales, lo que las sitúa de lleno en este tipo penal.
En aquellos casos en los que la imagen generada carece de ese nivel de realismo, el Ministerio Público califica los hechos como un delito contra la integridad moral, tipificado en el artículo 173 del Código Penal, por atentar gravemente contra la dignidad de las víctimas. Una distinción técnica que, en cualquier caso, no resta gravedad a las consecuencias que este tipo de contenidos tiene sobre las menores afectadas.
El salto tecnológico que lo ha cambiado todo
El fiscal subrayó durante su intervención la magnitud del cambio que suponen estas aplicaciones frente a los montajes tradicionales. Si antes manipular una fotografía requería conocimientos técnicos y tiempo, ahora cualquier persona con un teléfono móvil puede generar en segundos una imagen sexual falsa y hiperrealista de cualquier mujer o menor. Un salto tecnológico que ha disparado la frecuencia de este tipo de delitos y que plantea enormes desafíos tanto para la investigación policial como para el sistema judicial.
El caso de las 18 menores almerienses, circunscrito a un municipio que la Fiscalía no ha desvelado, salió a la luz precisamente en el marco de estas jornadas, organizadas por la Guardia Civil, donde expertos jurídicos y fuerzas de seguridad analizaron el impacto de la inteligencia artificial sobre los derechos fundamentales. Una realidad que, como demuestran estos hechos, ya no es una amenaza futura sino un problema presente que afecta a menores en centros educativos españoles.