The use of generative artificial intelligence in the investigation of gender cybercrime: the rise of deepfakes
DOI:
https://doi.org/10.12795/IESTSCIENTIA.2023.i02.08Keywords:
Generative artificial , Intelligence, Deepfakes, Cybercrime, Gender violence, Technological researchAbstract
The rise of generative artificial intelligence has conditioned the evolution of the modus operandi of gender cybercrime, especially the use of deepfakes. Currently, there is concern about the rapid adaptation by cybercriminals, as opposed to the slow development of regulation of AI systems. The use of the latest technologies for the commission of gender-based cybercrime increases the obstacles already encountered by law enforcement and judicial authorities in the practice of Internet research. The present study focuses on analyzing the need to implement generative AI systems as technological research tools, proposing different lines of action in the short, medium and long term in order to carry out investigations that safeguard all the guarantees and, consequently, this type of criminal proceedings.
Downloads
References
AIDER, H., PATRINI, G., CAVALLI, F., CULLEN, L. (DEEPTRACE LABS). (2019). The State of Deepfakes: Landscape, Threats, and Impact.
BUENO DE MATA, F. (2021). “Protección de datos, investigación de infracciones penales e inteligencia artificial: novedades y desafíos a nivel nacional y europeo en la era postcovid”. La Ley Penal, nº 150.
CAROU GARCÍA, S. (2018). “El agente encubierto como instrumento de lucha contra la pornografía infantil en Internet”. Cuadernos de la Guardia Civil, nº 56, pp. 23-40. ISSN: 2341-3263.
CERDÁN MARTÍNEZ, V., PADILLA CASTILLO, G. (2019). “Historia del fake audiovisual: deepfake y la mujer en un imaginario falsificado y perverso”. Historia y comunicación social, 24 (2), pp. 505-520. ISSN–e 1988-3056.
Circular 2/2015, de 19 de junio, sobre los delitos de pornografía infantil tras la reforma operada por Ley Orgánica 1/2015. FIS-C-2015-00002.
Comisión de Derechos de las Mujeres e Igualdad de género a la Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas para prevenir y combatir el abuso sexual de los menores. Enmiendas 46-536. 8 de mayo de 2023. 2022/0155(COD).
Comunicación de la Comisión al Parlamento Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones. Fomentar un planteamiento europeo en materia de inteligencia artificial. COM/2021/205 final. Bruselas, 21 de abril de 2021.
Comunicación de la Comisión al Parlamento Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones sobre la Estrategia de la UE contra la Delincuencia Organizada 2021-2025. COM (2021) 170 final. Bruselas, 14 de abril de 2021.
CUATRECASAS MONFORTE, C. (2022). “La inteligencia artificial como herramienta de investigación criminal. Utilidades y riesgos potenciales de su uso jurisdiccional”. La Ley.
DEL CASTILLO, C. (18 de septiembre de 2023). “Un negocio con lista de espera: la app usada para ‘desnudar’ a menores en Badajoz cobra 9 euros por 25 fotos”. ElDiario.es.
Directiva 2011/93/UE del Parlamento Europeo y del Consejo, de 13 de diciembre de 2011, relativa a la lucha contra los abusos sexuales y la explotación sexual de los menores y la pornografía infantil y por la que se sustituye la Decisión marco 2004/68/JAI del Consejo. «DOUE» núm. 335, de 17 de diciembre de 2011, pp. 1 - 14.
Directiva 2014/41/CE del Parlamento Europeo y del Consejo, de 3 de abril de 2014, relativa a la orden europea de investigación en materia penal. OJ L 130, 1 de mayo de 2014, pp. 1–36.
DOLZ LAGO, J.M. (2022). “Una aproximación jurídica a la Inteligencia Artificial”. Diario La Ley, nº 10096.
EUROPOL. (27 de marzo de 2023). ChatGPT. The impact of Large Language Models on Law Enforcement. Luxembourg: Publications Office of the European Union.
EUROPOL (EUROPOL INNOVATION LAB). (2022). Facing reality? Law enforcement and the challenge of deepfakes. Luxembourg: European Union Agency for Law Enforcement Cooperation. ISBN 978-92-95220-40-9.
EUROPOL. (2020). Internet organised crime threat assessment (IOCTA). Consultado en: https://www.europol.europa.eu/cms/sites/default/files/documents/internet_organised_crime_threat_assessment_iocta_2020.pdf (Fecha de consulta: 01/10/2023).
GONZÁLEZ-ÁLVAREZ, J. L., SANTOS-HERMOSO, J. & CAMACHO-COLLADOS. (2020). “Policía predictiva en España. Aplicación y retos de futuro”. Behavior & Law Journal, 6(1), pp. 26-41.
GONZÁLEZ PULIDO, I. (2017). “Avances y desafíos en materia de ciberdelincuencia de género a nivel europeo”. FODERTICS 6.0. Los nuevos retos del derecho ante la era digital. Granada: Editorial Comares, pp. 149-160.
Instrumento de Ratificación del Convenio sobre la Ciberdelincuencia, hecho en Budapest el 23 de noviembre de 2001. «BOE» núm. 226, de 17 de septiembre de 2010, pp. 78847-78896.
LOREDO, A. (14 de junio de 2023). “IA multimodales, metaverse y más”. Consultado en: https://www.linkedin.com/pulse/ia-multimodal-metaverse-y-m%C3%A1s-all%C3%A1-alejandro-loredo/?trk=pulse-article&originalSubdomain=es (Fecha de consulta: 01/10/2023).
MAGRO SERVET, V. (2018). “La aplicación de la inteligencia artificial en la Administración de Justicia”. Diario La Ley, nº 9268, sección doctrina.
MAGRO SERVET, V. (2021). “La inteligencia artificial para mejorar la lucha contra la violencia de género”. Diario La Ley, nº 9898.
MARTÍN DIZ, F. (2020a). “Aplicaciones de inteligencia artificial en procesos penales por delitos relacionados con la corrupción”. Corrupción: Compliance, represión y recuperación de activos. Valencia: Tirant lo Blanch, pp. 533-568.
MARTÍN DIZ, F. (2020b). “Capítulo XLV. Inteligencia artificial y proceso: garantías frente a eficiencia en el entorno de los derechos procesales fundamentales”. Justicia: ¿Garantías versus Eficiencia? (Coord.: DE LUIS GARCÍA, E., BELLIDO PENADÉS, R., LLOPIS NADAL, P., JIMÉNEZ CONDE, F.). Valencia: Tirant lo Blanch, pp. 815-827.
MARTÍN RÍOS, P. (2022). “Empleo de big data y de inteligencia artificial en el ciberpatrullaje: de la tiranía del algoritmo y otras zonas oscuras”. Revista de Internet, Derecho y Política, nº 36, pp. 1-13.
NAVARRO, J. (21 de diciembre de 2022). “Detenido un pedófilo que usaba inteligencia artificial para crear material de abuso sexual infantil”. El País.
PARLAMENTO EUROPEO. (22 de mayo de 2023). Informe sobre la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión. COM (2021) 0206.
PARLAMENTO EUROPEO. Ley de Inteligencia Artificial. Enmiendas aprobadas por el Parlamento Europeo el 14 de junio de 2023 sobre la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión (COM (2021)0206 – C9-0146/2021 – 2021/0106(COD)). 14 de junio de 2023. Consultado en: https://www.europarl.europa.eu/doceo/document/TA-9-2023-0236_ES.pdf (Fecha de consulta: 01/10/2023).
Propuesta de Directiva del Parlamento Europeo y del Consejo sobre la lucha contra la violencia contra las mujeres y la violencia doméstica. Estrasburgo, 8 de marzo de 2022. COM (2022) 105 final.
Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (ley de inteligencia artificial) y se modifican determinados actos legislativos de la Unión. Bruselas, 21 de abril de 2021. COM (2021) 206 final.
Resolución del Parlamento Europeo, de 6 de octubre de 2021, sobre la inteligencia artificial en el Derecho penal y su utilización por las autoridades policiales y judiciales en asuntos penales (2020/2016(INI)). OJ C 132, 24 de marzo de 2022, pp. 17–26.
RETANA GIL, C. (2023). “Diálogos para el futuro judicial LX. IA Generativa y legalidad: ¿futuro o ciencia ficción? Diario La Ley, nº 10371.
RICHARD GONZÁLEZ, M. (2023). “Los sistemas biométricos de reconocimiento facial en la Unión Europea en el marco del desarrollo de la Inteligencia Artificial”. Justicia, nº 1, pp. 147-281.
RODRÍGUEZ TIRADO, ANA M. (2018). “Las víctimas menores de delitos de pornografía infantil y de delitos de child grooming y su protección en el proceso penal. Las TICs y las diligencias de investigación tecnológica”. Justicia, nº 1, pp. 137-199.
SECRETARIA GENERAL DE LA ORGANIZACIÓN DE LOS ESTADOS AMERICANOS. (s.f.). La violencia de género en línea contra las mujeres y niñas: Guía de conceptos básicos, herramientas de seguridad digital y estrategias de respuesta. ISBN 978-0-8270-7306-7
SIMÓ SOLER, E. (2023). “Retos jurídicos derivados de la Inteligencia Artificial Generativa: deepfakes y violencia contra las mujeres como supuesto de hecho”. InDret. 2. DOI: 10.31009/InDret.2023.i2.11.
TREND MICRO RESEARCH, UNITED NATIONS INTERREGIONAL CRIME AND JUSTICE RESEARCH INSTITUTE (UNICRI), EUROPOL’S EUROPEAN CYBERCRIME CENTRE (EC3). (2020). Malicious uses and abuse of Artificial Intelligence. Trend Micro Research.
VIEJO, M. (3 de octubre de 2023). “El caso de los desnudos con IA de Almendralejo se dispara: 26 menores implicados y 21 chicas afectadas”. El País. 3 de octubre de 2023.
VILLATORO GONZÁLEZ, T., CAMBLOR ECHANOVE, G. (16 de junio de 2023). “La propuesta de reglamento europeo sobre inteligencia artificial para mitigar los riesgos de ChatGPT”. El País.
—. (21 de diciembre de 2022). “La Policía Nacional detiene a un pedófilo que utilizaba inteligencia artificial para crear material de abuso sexual infantil de extrema dureza”. Gabinete de prensa de la Dirección General de la Policía. Consultado en: https://www.policia.es/_es/comunicacion_prensa_detalle.php?ID=14981# (Última consulta: 01/10/2023).
Published
How to Cite
Issue
Section
License
Copyright (c) 2023 IRENE GONZÁLEZ PULIDO
This work is licensed under a Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.
Those authors being published in this journal agree to the following terms:
- Authors retain their copyright and they will guarantee to the journal the right of first publication of their work, which will be simultaneously subject to license recognition by Creative Commons that allows others to share such work provided it is stated the author’s name and his first publishing in IUS ET SCIENTIA.
- Authors may take other non-exclusive distribution license agreements version of the published work (e.g. deposit in an institutional digital file or publish it in a monographic volume) provided it is stated the initial publication in this journal.
- It is allowed and encouraged that Author s disseminate their work via the Internet (e. g. institutional digital files or on their website) prior to and during the submission process, which can lead to interesting exchanges and to increase citation of the published work.
- Abstract 1582
- PDF (Español (España)) 1074
- HTML (Español (España)) 320
