NUESTRO PROPIO ALMENDRALEJO: DEL "DEEPFAKE" Y LA VULNERACIÓN DE DERECHOS FUNDAMENTALES A LA INTEGRIDAD SEXUAL EN MENORES

    En una revelación reciente que provocó tanto revuelo nacional como atención mundial, Almendralejo, una ciudad de Badajoz, España, se convirtió en el centro de atención de un inquietante incidente relacionado con la inteligencia artificial (IA). Un grupo de adolescentes manipuló fotografías de aproximadamente veinte compañeras de escuela, utilizando una herramienta de inteligencia artificial para representarlas desnudas en poses y acciones sexualmente explícitas. Estas imágenes alteradas se compartieron en plataformas de mensajería como WhatsApp, lo que demuestra un flagrante uso indebido de la tecnología. (Para más, por aquí)


    Este incidente provocó la acción inmediata de la Agencia Española de Protección de Datos (AEPD), que actuó rápidamente para detener la distribución de estas imágenes e inició una investigación exhaustiva sobre posibles violaciones de la privacidad (la noticia acá). La AEPD subrayó la urgente necesidad de que los proveedores de servicios eliminen dichos contenidos sensibles con prontitud y abrió la puerta a posibles sanciones administrativas para comprobar la responsabilidad. Según el marco legal español, las personas mayores de 14 años enfrentan responsabilidad penal, lo que dio lugar a procesos contra veintiún implicados. Además, cinco menores de 14 años fueron puestos a disposición de los servicios de protección infantil, lo que indica una posible negligencia de los padres.


    Simultáneamente, surgió un caso separado pero inquietantemente similar al otro lado del mapa. Una escuela de la capital del país informó que unos 20 menores crearon 700 videos sexuales a través de inteligencia artificial para reemplazar rostros originales con los de sus compañeros de clase. El asunto era tan grave que la fundación Rescate Escolar lo puso en conocimiento del Ministerio de Educación, que luego elevó el asunto a los órganos judiciales y de resolución de conflictos correspondientes.
Estos incidentes pusieron en primer plano el concepto de "deep fake", un término utilizado para describir la fabricación o alteración de contenido mediante IA para tergiversar la realidad de manera convincente. Si bien fabricar la realidad puede abarcar desde juegos de niños inofensivos hasta ficciones legales que abordan necesidades sociales y económicas (siga al Art. 13 del Código Civil) , la aplicación poco ética de la IA para crear falsificaciones profundas, especialmente con fines de daño o engaño, es universalmente condenada. La ley interviene cuando tales acciones infringen derechos, inducen daño o alteran la armonía social.
 


    Estas realidad simulada se destaca por su intención maliciosa, dirigida a vulnerar el consentimiento personal para la gratificación sexual, lo que constituye un claro delito. Esta suplantación digital (para beneficio personal o para engañar) se hace eco de los actos tradicionales de falsificación que desde hace mucho tiempo se reconocen como actividad delictiva; sin embargo, es crucial diferenciar entre las aplicaciones éticas de la IA que enriquecen nuestras vidas a través del entretenimiento, la memoria histórica y los avances cinematográficos, y aquellas que causan un daño irrefutable, como ocurre con TikTok, Deep Nostalgia, o las más atrevidas creaciones hollywoodenses (siga por esta vía de ladrillo amarillo). 

    La pornografía no es una actividad ilegal, salvo que se haga sin el consentimiento de las partes.  La penalización proviene del acto no consentido o cuando, siéndolo, el consentimiento está viciado en razón del estatus de protección de que goza la persona (menores de edad, mujeres forzadas o en situación de riesgo, personas con discapacidad, individuos protegidos a través del consentimiento informado reforzado), y debe tenerse en cuenta que, así producida, lesiona varios grupos de bienes jurídicamente protegidos, que van desde la integridad sexual, a la protección y autodeterminación informativa, pasando por la falta de intimidad, a la honra, al buen nombre, al proyecto de vida, sin dejar de lado los casos que entran de lleno en la violencia de género.

    En Ecuador, la pornografía infantil y de adolescentes está penada, incluso la simulada por medios electrónicos. Si la comete un sujeto imputable, el delito está sancionado en los Arts. 103 y siguientes:

Art. 103.- Pornografía con utilización de niñas, niños o adolescentes.- La persona que fotografíe, filme, grabe, produzca, transmita o edite materiales visuales, audiovisuales, informáticos, electrónicos o de cualquier otro soporte físico o formato que contenga la representación visual de desnudos o semidesnudos reales o simulados de niñas, niños o adolescentes en actitud sexual; será sancionada con pena privativa de libertad de trece a dieciséis años. Si la víctima, además, sufre algún tipo de discapacidad o enfermedad grave o incurable, se sancionará con pena privativa de libertad de dieciséis a diecinueve años.

Cuando la persona infractora sea el padre, la madre, pariente hasta el cuarto grado de consanguinidad o segundo de afinidad, tutor, representante legal, curador o pertenezca al entorno íntimo de la familia; ministro de culto, profesor, maestro, o persona que por su profesión o actividad haya abusado de la víctima, será sancionada con pena privativa de libertad de veintidós a veintiséis años.

 

Art. 104.- Comercialización de pornografía con utilización de niñas, niños o adolescentes.- La persona que publicite, compre, posea, porte, transmita, descargue, almacene, importe, exporte o venda, por cualquier medio, para uso personal o para intercambio pornografía de niños, niñas y adolescentes, será sancionada con pena privativa de libertad de diez a trece años.

    Es necesario subrayar que el catálogo de infracciones sexuales contiene un apartado que dispone que estas se cometan en perjuicio de menores, lo cual resulta en una agravante, cuando no es un tipo penal autónomo.

    Por eso urge reconocer la utilidad, mas también los peligros que encierran las capacidades de la IA, lo cual invita a un debate más amplio sobre su papel en nuestra sociedad, subrayando la importancia de fomentar su potencial positivo y al mismo tiempo combatir enérgicamente su uso indebido.





Comentarios

Entradas populares