Deepfakes y violencia de género digital. Una respuesta penal incierta
Contenido principal del artículo
Resumen
Los deepfakes son solo uno de los muchos productos de la Inteligencia Artificial (IA) generativa en auge. Sin embargo, el especial potencial lesivo y criminógeno de estas creaciones audiovisuales ultrafalsas resulta preocupante y demanda una respuesta normativa urgente. Por otra parte, resulta destacable el impacto desproporcionado de los deepfakes, especialmente de contenido sexual, en las mujeres, lo que invita a analizar el fenómeno como una nueva forma de violencia de género digital que, como tal, ha de ser abordado con la necesaria perspectiva de género. A pesar del potencial lesivo de los deepfakes de naturaleza sexual, el Código Penal español, hasta la fecha, no recoge de forma expresa estas conductas, lo que obligar a indagar sobre la mejor subsunción de estas conductas en delitos tradicionales como las injurias o los delitos contra la integridad moral. En este trabajo, se explorarán algunos de los usos ilegítimos y criminógenos de los deepfakes, se reflexionará sobre la forma en que estas creaciones afectan de manera desigual a las mujeres y se analizarán las posibilidades y las carencias de la actual respuesta normativa ante el imparable avance de los deepfakes de naturaleza sexual.
Palabras clave:
Descargas
Detalles del artículo
Referencias
AJDER, H.; PATRINI, G.; CAVALLI, F.; CULLEN, L. The State of Deepfakes: Landscape, Threats, and Impact, 2019, pp. 1-20. Disponible en: https://regmedia.co.uk/2019/10/08/deepfake_report.pdf
BACIGALUPO, E., Delitos contra el honor, Dykinson, Madrid, 2000.
BARRIENTOS-BÁEZ, A.; PIÑEIRO-OTERO, T.; PORTO RENÓ, D., “Imágenes falsas, efectos reales. Deepfakes como manifestaciones de la violencia política de género”, Revista Latina de Comunicación Social, Vol. 82, 2024, pp. 1-29. DOI: https://www.doi.org/10.4185/RLCS-2024-2278.
BELLO SAN JUAN, P., “La inteligencia artificial al servicio del crimen: la revolución del deepfake desde una perspectiva criminológica”, FONTESTAD PORTALÉS, L. (Dir); PÉREZ TORTOSA, F. (Coord.) La justicia en la sociedad 4.0. Nuevos retos para el Siglo XXI, Colex, A Coruña, 2023, pp. 219-246.
BLÁZQUEZ MORENO, R., “Deepfakes en el procedimiento probatorio”, Revista Vasca de Derecho procesal y arbitraje, Tomo XXXV, núm. 3, 2023, pp. 223-256.
BROWN, N. I., “Deepfakes and the Weaponization of Disinformation”, Virginia Journal of Law and Technology, Vol. 23, núm. 1, 2020, pp. 1-58. Disponible en: https://static1.squarespace.com/static/5e793709295d7b60295b2d29/t/5f0b7e4e0f4f095f7e70613f/1594588750542/v23i1_1-Brown.pdf.
BUENO DE MATA, F., “Un centinela virtual para investigar delitos cometidos a través de las redes sociales: ¿deberían ampliarse las actuales funciones del agente encubierto en Internet?”, PÉREZ GIL, J. (Dir.) El proceso penal en la sociedad de la información: las nuevas tecnologías para investigar probar el delito, La Ley, Madrid, 2012, pp. 311-330.
BUENO DE MATA, F., Investigación y prueba de delitos de odio en redes sociales: técnicas OSINT e inteligencia policial, Tirant Lo Blanch, Valencia, 2023.
CERDÁN MARTÍNEZ, V.; PADILLA CASTILLO, G., “Historia del "fake" audiovisual: "deepfake" y la mujer en un imaginario falsificado y perverso” Historia y comunicación social. Vol. 24, núm. 2, 2019, pp. 505-520. DOI: https://doi.org/10.5209/hics.66293.
COLE, K. K., “’It’s Like She's Eager to be Verbally Abused’”: Twitter, Trolls, and (En)Gendering Disciplinary Rhetoric”, Feminist Media Studies, Vol. 15, núm. 2, 2025, pp. 356-358. DOI: https://doi.org/10.1080/14680777.2015.1008750.
DELFINO, R. A., “Deepfakes on trial: a call to expand the trial judge’s. Gatekeeping role to protect legal proceedings from technological fakery”, Hastings Law Journal, Vol. 74, núm. 2, 2023, pp. 293-348. DOI: https://doi.org/10.2139/ssrn.4032094.
DEVÍS MATAMOROS, A., “Algunas claves del castigo penal del deepfake de naturaleza sexual”, Blog Ibericonnect, 24 de julio de 2023. Disponible en: https://www.ibericonnect.blog/2023/07/algunas-claves-del-castigo-penal-del-deepfake-de-naturaleza-sexual/.
DIALLO, A., “A Guide for Women and Girls to Prevent and Respond to Cyberviolence”, 2021. Disponible en: https://eca.unwomen.org/sites/default/files/2022-02/ONLINE%20cyberV%20women%20ENG.pdf.
EUROPEAN PARLIAMENTARY RESEARCH SERVICE (EPRS). SCIENTIFIC FORESIGHT UNIT (STOA), Tackling deepfakes in European policy, 2021. Disponible en: https://www.europarl.europa.eu/RegData/etudes/STUD/2021/690039/EPRS_STU(2021)690039_EN.pdf.
FERNÁNDEZ TERUELO, J., “Expansión de la represión penal de la pornografía infantil: la indemnidad sexual de los adultos que parecen menores y la de los personajes de 3D”, Revista Penal, núm. 42, 2018, pp. 67-81.
FISCALÍA GENERAL DEL ESTADO (FGE), Circular 2/2015, de 19 de https://www.boe.es/buscar/doc.php?id=FIS-C-2015-00002.
FISCALÍA GENERAL DEL ESTADO (FGE), Circular 7/2019, de 14 de mayo, sobre pautas para interpretar los delitos de odio tipificados en el artículo 510 del Código Penal, 2019. Disponible en: https://www.boe.es/diario_boe/txt.php?id=BOE-A-2019-7771.
GÁMEZ GUADIX, M., “Sexting, sextorsión y pornovenganza”. Universitat Oberta de Catalunya, PID_00268153, 2019. Disponible en: https://openaccess.uoc.edu/bitstream/10609/147580/5/CiberdelincuenciaSexual_Modulo6_SextingSextorsionYPornovenganza.pdf.
GARCÍA-MINGO, E., DÍAZ FERNÁNDEZ, S., TOMÁS-FORTE, S., “(Re)configurando el imaginario sobre la violencia sexual desde el antifeminismo: el trabajo ideológico de la manosfera española”, Política y Sociedad, Vol. 59, núm. 1, 2022, pp. 1-15. DOI: https://dx.doi.org/10.5209/poso.80369.
GARCÍA-ULL, F. J., QUIRÓS-FONS, A., “Inteligencia artificial y posverdad en tiempos de guerra”, ROMERO DOMÍNGUEZ, L. R.; SÁNCHEZ-GEY VALENZUELA, N. (Coords.) Sociedad digital, comunicación y conocimiento: retos para la ciudadanía en un mundo global, Dykinson, Madrid, 2022, pp. 73-90.
GING, D., “Alphas, Betas, and Incels: Theorizing the Masculinities of the Manosphere”, en: Men and Masculinities, Vol. 22, núm. 4, 2019, pp. 638-657. DOI: https://doi.org/10.1177/1097184X17706401.
GONZÁLEZ PULIDO, I., “El uso de la inteligencia artificial generativa en la investigación de la ciberdelincuencia de género: ante el auge de los deepfakes”, en: Ius et Scientia, Vol. 9, núm. 2, 2023, pp. 157-190. DOI: http://doi.org/10.12795/IESTSCIENTIA.2023.i02.08.
GRANDÍO RODRÍGUEZ, S., “Desarrollo de una aplicación de creación de deepfakes en tiempo real para el uso del agente encubierto informático”, Revista de Investigación CUGC, núm. 8, 2021, pp. 1-44. Disponible en: https://online.fliphtml5.com/jdrv/oyqy/index.html#p=1
JARAMILLO, O., CASTELLÓ, L., “El derecho al olvido en Internet y el efecto Streisand: aplicabilidad y soluciones”, CETINA PRESUEL, R., CORREDOIRA Y ALFONSO, L., GUTIÉRREZ ATALA, F. (Eds.), Media and Journalists in the age of Open Government and Transparency, Universidad Complutense de Madrid, Madrid, 2015, pp. 90-105.
JAREÑO LEAL, Á., “El derecho a la imagen íntima y el Código penal. La calificación de los casos de elaboración y difusión del deepfake sexual”, Revista Electrónica de Ciencia Penal y Criminología, núm. 26, 09, 2024, pp. 1-37. Disponible en: http://criminet.ugr.es/recpc/26/recpc26-09.pdf.
KOBIS, N. C., DOLEZALOVA, B., SORAPERRA, I., “Fooled twice: People cannot detect deepfakes but think they can”, iScience, núm. 24, 2021. DOI: https://doi.org/10.1016/j.isci.2021.103364.
KWEILIN T. L., “Deepfakes and Domestic Violence: Perpetrating Intimate Partner Abuse Using Video Technology” en: Victims & Offenders, Vol. 17, núm. 5, 2022, pp. 647-659. DOI: https://doi.org/10.1080/15564886.2022.2036656.
LAURENZO COPELLO, P., Los delitos contra el honor, Tirant Lo Blanch, Valencia, 2002.
LIBANO BERISTAIN, A., “Análisis crítico de la categoría de la perseguibilidad a instancia de parte a la luz de la reforma penal de 2015. Especial consideración de los supuestos de violencia doméstica y de género”, ESPUNY TOMÁS, María Jesús. La docencia del derecho con perspectiva de género, Dykinson, Madrid, 2018, pp. 93-112.
LLORIA GARCÍA, P., “Delitos y redes sociales: los nuevos atentados a la intimidad, el honor y la integridad moral. Especial referencia al «sexting»”, La Ley Penal, núm. 105, 2013, pp. 1-10.
LÓPEZ BRIEGA, R. E., IAAR Capacitación - Introducción al Deep lerning, 13 de junio de 2017. Disponible en: https://iaarhub.github.io/capacitacion/2017/06/13/introduccion-al-deep-learning/.
LÓPEZ TRUJILLO, N., “De deepfakes y ‘pornovenganza’: por qué se utiliza la sexualidad para dañar a las mujeres”, Newtral, 21 de septiembre de 2023. Disponible en https://www.newtral.es/pornovenganza-sexualidad-mujeres/20230921/.
MAI, K. T., BRAY, S., DAVIES, T., GRIFFIN L. D., “Warning: Humans cannot reliably detect speech deepfakes”, PLoS ONE, Vol. 18, núm. 8, 2023. DOI: https://doi.org/10.1371/journal.pone.0285333.
MALACARNE, A., “Profundamente falso” y profundamente incierto”: el deepfake como automated evidence en el proceso penal. Consideraciones generales”, Revista General de Derecho Procesal, núm. 60, 2023, pp. 1-27.
MARCO FRANCIA, M. P., “Victimización secundaria en los delitos sexuales. Consentimiento y enjuiciamiento a la víctima con especial referencia al caso de ‘La Manada’”, FARALDO CABANA, P., ACALA SÁNCHEZ, M. (Dirs.) RODRÍGUEZ LÓPEZ, S., FUENTES LOUREIRO, M. A. (Coords.) La Manada. Un antes y un después en la regulación de los delitos sexuales en España, Tirant Lo Blanch, Valencia, 2018, pp. 297-332.
MARTÍNEZ SÁNCHEZ, M., “El discurso sobre el revenge porn en la prensa: Estudio de caso de Rosalía y sus fotografías manipuladas”, en Journal of Feminist, Gender and Women Studies, núm. 15, 2023, pp. 94-115. Disponible en: https://revistas.uam.es/revIUEM/article/view/17933.
MONTESINOS GARCÍA, A., “Inteligencia artificial en la justicia con perspectiva de género: amenazas y oportunidades”, Actualidad Jurídica Iberoamericana, núm. 21, 2024, pp. 566-597. DOI: https://doi.org/10.15366/jfgws2023.15.005.
MORALES PRAT, F., “De la injuria”, QUINTERO OLIVARES, G. (Dir.); MORALES PRAT, F. (Coord.) Comentarios a la Parte Especial del Derecho Penal, 10ª edición, Aranzadi, Navarra, 2016, pp. 526-543.
MUÑOZ CONDE, F., Derecho Penal. Parte Especial, 25ª edición, Tirant lo Blanch, Valencia, 2023.
NIEVA FENOLL, J., “La prueba de los deepfakes pornográficos: I.A. sobre I.A”, Diario La Ley, núm. 10516, 2024, pp. 1-16.
ORTS BERENGUER, E., “Determinación a la prostitución (arts. 187, 188, 189 y 192 CP)”, GONZÁLEZ CUSSAC, J. L. (Dir.); GÓRRIZ ROYO, E., MATALLÍN EVANGELIO, A. (Coords.) Comentarios a la Reforma del Código Penal de 2015, 2ª edición, Tirant Lo Blanch, Valencia, 2015, pp. 637-662.
PÉREZ MACHÍO, A. I., “La sanción de la pornografía infantil virtual y técnica en el código penal: una manifestación más de la expansión del derecho penal”, en Revista General de Derecho Penal, núm. 35, 2021, pp. 1-32.
PFEFFERKORN, R., ““Deepfakes” in the Courtroom”, Boston University Public Interest Law Journal, Vol. 29, núm. 2, 2020, pp. 245-276. Disponible en: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4321140.
QUIRÓS-FONS, A., GARCÍA-ULL, F. J., “La inteligencia artificial como herramienta de la desinformación. Deepfakes y regulación europea”, GARCÍA-ANTÓN PALACIOS, E. (Dir.), Los Derechos Humanos en la inteligencia artificial: su integración en los ODS de la Agenda 2030, Aranzadi, Navarra, 2022, pp. 537-556.
ROBLES, J. M., DE MARCO, S., TORRES ALBERO, C., (Dir.) DELEGACIÓN DEL GOBIERNO PARA LA VIOLENCIA DE GÉNERO. El ciberacoso como forma de ejercer la violencia de género en la juventud: un riesgo en la sociedad de la información y del conocimiento. Ministerio de Sanidad, Política Social e Igualdad. Centro de Publicaciones, Madrid, 2014, pp. 1-202. Disponible en: https://violenciagenero.igualdad.gob.es/wp-content/uploads/Libro_18_Ciberacoso.pdf.
SALTER, M., “Responding to revenge porn: Gender, justice and online legal impunity”, Whose justice? Conflicted approaches to crime and conflict, University of Western Sydney, Sydney, 27 de septiembre de 2013, pp. 1-8. Disponible en: https://www.researchgate.net/publication/294787472_Responding_to_revenge_porn_Gender_justice_and_online_legal_impunity.
SALTER, M., CROFTS, T., “Responding to revenge porn: Challenging online legal impunity”, COMELLA, L., TARRANT, S. (Eds.), New views on pornography: Sexuality, politics and the law, Praeger, Estados Unidos, 2015, pp. 233-253.
SANTISTEBAN GALARZA, M., “La criminalización de las ultrafalsificaciones (con especial atención a las implicaciones de la normativa europea en materia de servicios digitales e inteligencia artificial)”, Revista de Derecho Penal y Criminología, núm. 31, 2024, pp. 211-249. DOI: https://doi.org/10.5944/rdpc.ENERO.2024.38890.
SAYLER, K. M.; HARRIS, L. A., Deep fakes and national security (Congressional Research Service), 2019. Disponible en: https://crsreports.congress.gov/product/pdf/IF/IF11333.
SECURITY HEROES, State of deepfakes. Realities, Threats, and Impact, 2023. Disponible en: https://www.securityhero.io/state-of-deepfakes/.
SIMÓ SOLER, E., “Retos jurídicos derivados de la inteligencia artificial generativa”, Indret, núm. 2, 2023, pp. 493-515. DOI: https://doi.org/10.31009/indret.2023.i2.11.
SOTO SANTANA, M., Justice for Women: Deep fakes and Revenge Porn. 3rd Global Conference on Women’s Studies, Rotterdam, 2022, pp. 113-128. Disponible en: https://www.dpublication.com/wp-content/uploads/2022/02/27-10177.pdf.
TAMARIT SUMALLA, J. M., “De las torturas y otros delitos contra la integridad moral”, QUINTERO OLIVARES, G. (Dir.) MORALES PRAT, F. (Coord.) Comentarios a la Parte Especial del Derecho Penal, 10ª edición, Aranzadi, Navarra, 2016, pp. 237-266.
TREND MICRO RESEARCH UNITED NATIONS INTERREGIONAL CRIME AND JUSTICE RESEARCH INSTITUTE (UNICRI) EUROPOL’S EUROPEAN CYBERCRIME CENTRE (EC3), Malicious Uses and Abuses of Artificial Intelligence, 2020. Disponible en: https://www.europol.europa.eu/cms/sites/default/files/documents/malicious_uses_and_abuses_of_artificial_intelligence_europol.pdf.
VALIÑO CES, A., “El agente encubierto informático y la ciberdelincuencia el intercambio de archivos ilícitos para la lucha contra los delitos de pornografía infantil”, BUENO DE MATA, F. (Coord.), FODERTICS 5.0: estudios sobre nuevas tecnologías y justicia, Comares, Granada, 2016, pp. 275-285.
VAN DER HOF, S.; GEORGIEVA, I.; SCHERMER, B.; KOOPS, B-J., Sweetie 2.0: Using Artificial Intelligence to Fight Webcam Child Sex Tourism, Springer, La Haya, 2019.
VAN DER NAGEL, E., “Verifying images: Deepfakes, control, and consent”, Porn Studies, Vol. 7, núm. 4, 2020, pp. 424-429. DOI: https://doi.org/10.1080/23268743.2020.1741434.
WAGNER, T. L.; BLEWER, A., “’The Word Real Is No Longer Real’”: Deepfakes, Gender, and the Challenges of AI-Altered Video”, Open Information Science, núm. 3, 2019, pp. 32-46. DOI: https://doi.org/10.1515/opis-2019-0003.
XIRAU TORERS, I., “Datos sintéticos e inteligencia artificial en medicina”, 2023. Disponible en: https://alma-medical.com/datos-sinteticos-inteligencia-artificial-medicina/.
Artículos más leídos del mismo autor/a
- Ana María Neira Pena, La prueba pericial en los delitos económicos. De la pericial contable al perito de compliance , Estudios Penales y Criminológicos: Vol. 40 (2020)

