Contenido principal del artículo

Ana María Neira Pena
Universidade da Coruña
Spain
https://orcid.org/0000-0002-6562-8208
Biografía
Vol. 46 (2025), Artículos doctrinales, Páginas 1-32
https://doi.org/10.15304/epc.46.10259
Recibido: 2024-11-12 Publicado: 2025-07-31
Cómo citar Citado por

Resumen

Los deepfakes son solo uno de los muchos productos de la Inteligencia Artificial (IA) generativa en auge. Sin embargo, el especial potencial lesivo y criminógeno de estas creaciones audiovisuales ultrafalsas resulta preocupante y demanda una respuesta normativa urgente. Por otra parte, resulta destacable el impacto desproporcionado de los deepfakes, especialmente de contenido sexual, en las mujeres, lo que invita a analizar el fenómeno como una nueva forma de violencia de género digital que, como tal, ha de ser abordado con la necesaria perspectiva de género. A pesar del potencial lesivo de los deepfakes de naturaleza sexual, el Código Penal español, hasta la fecha, no recoge de forma expresa estas conductas, lo que obligar a indagar sobre la mejor subsunción de estas conductas en delitos tradicionales como las injurias o los delitos contra la integridad moral. En este trabajo, se explorarán algunos de los usos ilegítimos y criminógenos de los deepfakes, se reflexionará sobre la forma en que estas creaciones afectan de manera desigual a las mujeres y se analizarán las posibilidades y las carencias de la actual respuesta normativa ante el imparable avance de los deepfakes de naturaleza sexual.

Descargas

##plugins.themes.xejournal.displayStats.noStats##

Detalles del artículo

Referencias

AJDER, H.; PATRINI, G.; CAVALLI, F.; CULLEN, L. The State of Deepfakes: Landscape, Threats, and Impact, 2019, pp. 1-20. Disponible en: https://regmedia.co.uk/2019/10/08/deepfake_report.pdf

BACIGALUPO, E., Delitos contra el honor, Dykinson, Madrid, 2000.

BARRIENTOS-BÁEZ, A.; PIÑEIRO-OTERO, T.; PORTO RENÓ, D., “Imágenes falsas, efectos reales. Deepfakes como manifestaciones de la violencia política de género”, Revista Latina de Comunicación Social, Vol. 82, 2024, pp. 1-29. DOI: https://www.doi.org/10.4185/RLCS-2024-2278.

BELLO SAN JUAN, P., “La inteligencia artificial al servicio del crimen: la revolución del deepfake desde una perspectiva criminológica”, FONTESTAD PORTALÉS, L. (Dir); PÉREZ TORTOSA, F. (Coord.) La justicia en la sociedad 4.0. Nuevos retos para el Siglo XXI, Colex, A Coruña, 2023, pp. 219-246.

BLÁZQUEZ MORENO, R., “Deepfakes en el procedimiento probatorio”, Revista Vasca de Derecho procesal y arbitraje, Tomo XXXV, núm. 3, 2023, pp. 223-256.

BROWN, N. I., “Deepfakes and the Weaponization of Disinformation”, Virginia Journal of Law and Technology, Vol. 23, núm. 1, 2020, pp. 1-58. Disponible en: https://static1.squarespace.com/static/5e793709295d7b60295b2d29/t/5f0b7e4e0f4f095f7e70613f/1594588750542/v23i1_1-Brown.pdf.

BUENO DE MATA, F., “Un centinela virtual para investigar delitos cometidos a través de las redes sociales: ¿deberían ampliarse las actuales funciones del agente encubierto en Internet?”, PÉREZ GIL, J. (Dir.) El proceso penal en la sociedad de la información: las nuevas tecnologías para investigar probar el delito, La Ley, Madrid, 2012, pp. 311-330.

BUENO DE MATA, F., Investigación y prueba de delitos de odio en redes sociales: técnicas OSINT e inteligencia policial, Tirant Lo Blanch, Valencia, 2023.

CERDÁN MARTÍNEZ, V.; PADILLA CASTILLO, G., “Historia del "fake" audiovisual: "deepfake" y la mujer en un imaginario falsificado y perverso” Historia y comunicación social. Vol. 24, núm. 2, 2019, pp. 505-520. DOI: https://doi.org/10.5209/hics.66293.

COLE, K. K., “’It’s Like She's Eager to be Verbally Abused’”: Twitter, Trolls, and (En)Gendering Disciplinary Rhetoric”, Feminist Media Studies, Vol. 15, núm. 2, 2025, pp. 356-358. DOI: https://doi.org/10.1080/14680777.2015.1008750.

DELFINO, R. A., “Deepfakes on trial: a call to expand the trial judge’s. Gatekeeping role to protect legal proceedings from technological fakery”, Hastings Law Journal, Vol. 74, núm. 2, 2023, pp. 293-348. DOI: https://doi.org/10.2139/ssrn.4032094.

DEVÍS MATAMOROS, A., “Algunas claves del castigo penal del deepfake de naturaleza sexual”, Blog Ibericonnect, 24 de julio de 2023. Disponible en: https://www.ibericonnect.blog/2023/07/algunas-claves-del-castigo-penal-del-deepfake-de-naturaleza-sexual/.

DIALLO, A., “A Guide for Women and Girls to Prevent and Respond to Cyberviolence”, 2021. Disponible en: https://eca.unwomen.org/sites/default/files/2022-02/ONLINE%20cyberV%20women%20ENG.pdf.

EUROPEAN PARLIAMENTARY RESEARCH SERVICE (EPRS). SCIENTIFIC FORESIGHT UNIT (STOA), Tackling deepfakes in European policy, 2021. Disponible en: https://www.europarl.europa.eu/RegData/etudes/STUD/2021/690039/EPRS_STU(2021)690039_EN.pdf.

FERNÁNDEZ TERUELO, J., “Expansión de la represión penal de la pornografía infantil: la indemnidad sexual de los adultos que parecen menores y la de los personajes de 3D”, Revista Penal, núm. 42, 2018, pp. 67-81.

FISCALÍA GENERAL DEL ESTADO (FGE), Circular 2/2015, de 19 de https://www.boe.es/buscar/doc.php?id=FIS-C-2015-00002.

FISCALÍA GENERAL DEL ESTADO (FGE), Circular 7/2019, de 14 de mayo, sobre pautas para interpretar los delitos de odio tipificados en el artículo 510 del Código Penal, 2019. Disponible en: https://www.boe.es/diario_boe/txt.php?id=BOE-A-2019-7771.

GÁMEZ GUADIX, M., “Sexting, sextorsión y pornovenganza”. Universitat Oberta de Catalunya, PID_00268153, 2019. Disponible en: https://openaccess.uoc.edu/bitstream/10609/147580/5/CiberdelincuenciaSexual_Modulo6_SextingSextorsionYPornovenganza.pdf.

GARCÍA-MINGO, E., DÍAZ FERNÁNDEZ, S., TOMÁS-FORTE, S., “(Re)configurando el imaginario sobre la violencia sexual desde el antifeminismo: el trabajo ideológico de la manosfera española”, Política y Sociedad, Vol. 59, núm. 1, 2022, pp. 1-15. DOI: https://dx.doi.org/10.5209/poso.80369.

GARCÍA-ULL, F. J., QUIRÓS-FONS, A., “Inteligencia artificial y posverdad en tiempos de guerra”, ROMERO DOMÍNGUEZ, L. R.; SÁNCHEZ-GEY VALENZUELA, N. (Coords.) Sociedad digital, comunicación y conocimiento: retos para la ciudadanía en un mundo global, Dykinson, Madrid, 2022, pp. 73-90.

GING, D., “Alphas, Betas, and Incels: Theorizing the Masculinities of the Manosphere”, en: Men and Masculinities, Vol. 22, núm. 4, 2019, pp. 638-657. DOI: https://doi.org/10.1177/1097184X17706401.

GONZÁLEZ PULIDO, I., “El uso de la inteligencia artificial generativa en la investigación de la ciberdelincuencia de género: ante el auge de los deepfakes”, en: Ius et Scientia, Vol. 9, núm. 2, 2023, pp. 157-190. DOI: http://doi.org/10.12795/IESTSCIENTIA.2023.i02.08.

GRANDÍO RODRÍGUEZ, S., “Desarrollo de una aplicación de creación de deepfakes en tiempo real para el uso del agente encubierto informático”, Revista de Investigación CUGC, núm. 8, 2021, pp. 1-44. Disponible en: https://online.fliphtml5.com/jdrv/oyqy/index.html#p=1

JARAMILLO, O., CASTELLÓ, L., “El derecho al olvido en Internet y el efecto Streisand: aplicabilidad y soluciones”, CETINA PRESUEL, R., CORREDOIRA Y ALFONSO, L., GUTIÉRREZ ATALA, F. (Eds.), Media and Journalists in the age of Open Government and Transparency, Universidad Complutense de Madrid, Madrid, 2015, pp. 90-105.

JAREÑO LEAL, Á., “El derecho a la imagen íntima y el Código penal. La calificación de los casos de elaboración y difusión del deepfake sexual”, Revista Electrónica de Ciencia Penal y Criminología, núm. 26, 09, 2024, pp. 1-37. Disponible en: http://criminet.ugr.es/recpc/26/recpc26-09.pdf.

KOBIS, N. C., DOLEZALOVA, B., SORAPERRA, I., “Fooled twice: People cannot detect deepfakes but think they can”, iScience, núm. 24, 2021. DOI: https://doi.org/10.1016/j.isci.2021.103364.

KWEILIN T. L., “Deepfakes and Domestic Violence: Perpetrating Intimate Partner Abuse Using Video Technology” en: Victims & Offenders, Vol. 17, núm. 5, 2022, pp. 647-659. DOI: https://doi.org/10.1080/15564886.2022.2036656.

LAURENZO COPELLO, P., Los delitos contra el honor, Tirant Lo Blanch, Valencia, 2002.

LIBANO BERISTAIN, A., “Análisis crítico de la categoría de la perseguibilidad a instancia de parte a la luz de la reforma penal de 2015. Especial consideración de los supuestos de violencia doméstica y de género”, ESPUNY TOMÁS, María Jesús. La docencia del derecho con perspectiva de género, Dykinson, Madrid, 2018, pp. 93-112.

LLORIA GARCÍA, P., “Delitos y redes sociales: los nuevos atentados a la intimidad, el honor y la integridad moral. Especial referencia al «sexting»”, La Ley Penal, núm. 105, 2013, pp. 1-10.

LÓPEZ BRIEGA, R. E., IAAR Capacitación - Introducción al Deep lerning, 13 de junio de 2017. Disponible en: https://iaarhub.github.io/capacitacion/2017/06/13/introduccion-al-deep-learning/.

LÓPEZ TRUJILLO, N., “De deepfakes y ‘pornovenganza’: por qué se utiliza la sexualidad para dañar a las mujeres”, Newtral, 21 de septiembre de 2023. Disponible en https://www.newtral.es/pornovenganza-sexualidad-mujeres/20230921/.

MAI, K. T., BRAY, S., DAVIES, T., GRIFFIN L. D., “Warning: Humans cannot reliably detect speech deepfakes”, PLoS ONE, Vol. 18, núm. 8, 2023. DOI: https://doi.org/10.1371/journal.pone.0285333.

MALACARNE, A., “Profundamente falso” y profundamente incierto”: el deepfake como automated evidence en el proceso penal. Consideraciones generales”, Revista General de Derecho Procesal, núm. 60, 2023, pp. 1-27.

MARCO FRANCIA, M. P., “Victimización secundaria en los delitos sexuales. Consentimiento y enjuiciamiento a la víctima con especial referencia al caso de ‘La Manada’”, FARALDO CABANA, P., ACALA SÁNCHEZ, M. (Dirs.) RODRÍGUEZ LÓPEZ, S., FUENTES LOUREIRO, M. A. (Coords.) La Manada. Un antes y un después en la regulación de los delitos sexuales en España, Tirant Lo Blanch, Valencia, 2018, pp. 297-332.

MARTÍNEZ SÁNCHEZ, M., “El discurso sobre el revenge porn en la prensa: Estudio de caso de Rosalía y sus fotografías manipuladas”, en Journal of Feminist, Gender and Women Studies, núm. 15, 2023, pp. 94-115. Disponible en: https://revistas.uam.es/revIUEM/article/view/17933.

MONTESINOS GARCÍA, A., “Inteligencia artificial en la justicia con perspectiva de género: amenazas y oportunidades”, Actualidad Jurídica Iberoamericana, núm. 21, 2024, pp. 566-597. DOI: https://doi.org/10.15366/jfgws2023.15.005.

MORALES PRAT, F., “De la injuria”, QUINTERO OLIVARES, G. (Dir.); MORALES PRAT, F. (Coord.) Comentarios a la Parte Especial del Derecho Penal, 10ª edición, Aranzadi, Navarra, 2016, pp. 526-543.

MUÑOZ CONDE, F., Derecho Penal. Parte Especial, 25ª edición, Tirant lo Blanch, Valencia, 2023.

NIEVA FENOLL, J., “La prueba de los deepfakes pornográficos: I.A. sobre I.A”, Diario La Ley, núm. 10516, 2024, pp. 1-16.

ORTS BERENGUER, E., “Determinación a la prostitución (arts. 187, 188, 189 y 192 CP)”, GONZÁLEZ CUSSAC, J. L. (Dir.); GÓRRIZ ROYO, E., MATALLÍN EVANGELIO, A. (Coords.) Comentarios a la Reforma del Código Penal de 2015, 2ª edición, Tirant Lo Blanch, Valencia, 2015, pp. 637-662.

PÉREZ MACHÍO, A. I., “La sanción de la pornografía infantil virtual y técnica en el código penal: una manifestación más de la expansión del derecho penal”, en Revista General de Derecho Penal, núm. 35, 2021, pp. 1-32.

PFEFFERKORN, R., ““Deepfakes” in the Courtroom”, Boston University Public Interest Law Journal, Vol. 29, núm. 2, 2020, pp. 245-276. Disponible en: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4321140.

QUIRÓS-FONS, A., GARCÍA-ULL, F. J., “La inteligencia artificial como herramienta de la desinformación. Deepfakes y regulación europea”, GARCÍA-ANTÓN PALACIOS, E. (Dir.), Los Derechos Humanos en la inteligencia artificial: su integración en los ODS de la Agenda 2030, Aranzadi, Navarra, 2022, pp. 537-556.

ROBLES, J. M., DE MARCO, S., TORRES ALBERO, C., (Dir.) DELEGACIÓN DEL GOBIERNO PARA LA VIOLENCIA DE GÉNERO. El ciberacoso como forma de ejercer la violencia de género en la juventud: un riesgo en la sociedad de la información y del conocimiento. Ministerio de Sanidad, Política Social e Igualdad. Centro de Publicaciones, Madrid, 2014, pp. 1-202. Disponible en: https://violenciagenero.igualdad.gob.es/wp-content/uploads/Libro_18_Ciberacoso.pdf.

SALTER, M., “Responding to revenge porn: Gender, justice and online legal impunity”, Whose justice? Conflicted approaches to crime and conflict, University of Western Sydney, Sydney, 27 de septiembre de 2013, pp. 1-8. Disponible en: https://www.researchgate.net/publication/294787472_Responding_to_revenge_porn_Gender_justice_and_online_legal_impunity.

SALTER, M., CROFTS, T., “Responding to revenge porn: Challenging online legal impunity”, COMELLA, L., TARRANT, S. (Eds.), New views on pornography: Sexuality, politics and the law, Praeger, Estados Unidos, 2015, pp. 233-253.

SANTISTEBAN GALARZA, M., “La criminalización de las ultrafalsificaciones (con especial atención a las implicaciones de la normativa europea en materia de servicios digitales e inteligencia artificial)”, Revista de Derecho Penal y Criminología, núm. 31, 2024, pp. 211-249. DOI: https://doi.org/10.5944/rdpc.ENERO.2024.38890.

SAYLER, K. M.; HARRIS, L. A., Deep fakes and national security (Congressional Research Service), 2019. Disponible en: https://crsreports.congress.gov/product/pdf/IF/IF11333.

SECURITY HEROES, State of deepfakes. Realities, Threats, and Impact, 2023. Disponible en: https://www.securityhero.io/state-of-deepfakes/.

SIMÓ SOLER, E., “Retos jurídicos derivados de la inteligencia artificial generativa”, Indret, núm. 2, 2023, pp. 493-515. DOI: https://doi.org/10.31009/indret.2023.i2.11.

SOTO SANTANA, M., Justice for Women: Deep fakes and Revenge Porn. 3rd Global Conference on Women’s Studies, Rotterdam, 2022, pp. 113-128. Disponible en: https://www.dpublication.com/wp-content/uploads/2022/02/27-10177.pdf.

TAMARIT SUMALLA, J. M., “De las torturas y otros delitos contra la integridad moral”, QUINTERO OLIVARES, G. (Dir.) MORALES PRAT, F. (Coord.) Comentarios a la Parte Especial del Derecho Penal, 10ª edición, Aranzadi, Navarra, 2016, pp. 237-266.

TREND MICRO RESEARCH UNITED NATIONS INTERREGIONAL CRIME AND JUSTICE RESEARCH INSTITUTE (UNICRI) EUROPOL’S EUROPEAN CYBERCRIME CENTRE (EC3), Malicious Uses and Abuses of Artificial Intelligence, 2020. Disponible en: https://www.europol.europa.eu/cms/sites/default/files/documents/malicious_uses_and_abuses_of_artificial_intelligence_europol.pdf.

VALIÑO CES, A., “El agente encubierto informático y la ciberdelincuencia el intercambio de archivos ilícitos para la lucha contra los delitos de pornografía infantil”, BUENO DE MATA, F. (Coord.), FODERTICS 5.0: estudios sobre nuevas tecnologías y justicia, Comares, Granada, 2016, pp. 275-285.

VAN DER HOF, S.; GEORGIEVA, I.; SCHERMER, B.; KOOPS, B-J., Sweetie 2.0: Using Artificial Intelligence to Fight Webcam Child Sex Tourism, Springer, La Haya, 2019.

VAN DER NAGEL, E., “Verifying images: Deepfakes, control, and consent”, Porn Studies, Vol. 7, núm. 4, 2020, pp. 424-429. DOI: https://doi.org/10.1080/23268743.2020.1741434.

WAGNER, T. L.; BLEWER, A., “’The Word Real Is No Longer Real’”: Deepfakes, Gender, and the Challenges of AI-Altered Video”, Open Information Science, núm. 3, 2019, pp. 32-46. DOI: https://doi.org/10.1515/opis-2019-0003.

XIRAU TORERS, I., “Datos sintéticos e inteligencia artificial en medicina”, 2023. Disponible en: https://alma-medical.com/datos-sinteticos-inteligencia-artificial-medicina/.