El uso de la inteligencia artificial generativa en la investigación de la ciberdelincuencia de género: ante el auge de los deepfakes
DOI:
https://doi.org/10.12795/IESTSCIENTIA.2023.i02.08Palabras clave:
inteligencia artificial generativa, deepfakes, ciberdelincuencia, violencia de género, investigación tecnológicaResumen
El auge de la inteligencia artificial generativa ha condicionado el devenir de los modus operandi de los ciberdelitos de género; destacando la utilización de los deepfakes. En la actualidad, preocupa la rápida adecuación y adaptación por parte de los ciberdelincuentes, en contraposición al lento desarrollo de una regulación de los diferentes sistemas de IA. El empleo de las tecnologías más novedosas para la comisión de ciberdelitos de género aumenta los obstáculos que ya encontraban las autoridades policiales y judiciales en la práctica de investigaciones en Internet. Estas cuestiones han determinado que en el presente estudio se apueste por analizar la necesidad de implementar los sistemas de IA generativa como herramientas de investigación tecnológicas, proponiendo diferentes líneas de actuación a corto, medio y largo plazo para conseguir materializar investigaciones salvaguardando todas las garantías y, por consiguiente, finalizar este tipo de procesos penales con éxito.
Descargas
Citas
AIDER, H., PATRINI, G., CAVALLI, F., CULLEN, L. (DEEPTRACE LABS). (2019). The State of Deepfakes: Landscape, Threats, and Impact.
BUENO DE MATA, F. (2021). “Protección de datos, investigación de infracciones penales e inteligencia artificial: novedades y desafíos a nivel nacional y europeo en la era postcovid”. La Ley Penal, nº 150.
CAROU GARCÍA, S. (2018). “El agente encubierto como instrumento de lucha contra la pornografía infantil en Internet”. Cuadernos de la Guardia Civil, nº 56, pp. 23-40. ISSN: 2341-3263.
CERDÁN MARTÍNEZ, V., PADILLA CASTILLO, G. (2019). “Historia del fake audiovisual: deepfake y la mujer en un imaginario falsificado y perverso”. Historia y comunicación social, 24 (2), pp. 505-520. ISSN–e 1988-3056.
Circular 2/2015, de 19 de junio, sobre los delitos de pornografía infantil tras la reforma operada por Ley Orgánica 1/2015. FIS-C-2015-00002.
Comisión de Derechos de las Mujeres e Igualdad de género a la Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas para prevenir y combatir el abuso sexual de los menores. Enmiendas 46-536. 8 de mayo de 2023. 2022/0155(COD).
Comunicación de la Comisión al Parlamento Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones. Fomentar un planteamiento europeo en materia de inteligencia artificial. COM/2021/205 final. Bruselas, 21 de abril de 2021.
Comunicación de la Comisión al Parlamento Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones sobre la Estrategia de la UE contra la Delincuencia Organizada 2021-2025. COM (2021) 170 final. Bruselas, 14 de abril de 2021.
CUATRECASAS MONFORTE, C. (2022). “La inteligencia artificial como herramienta de investigación criminal. Utilidades y riesgos potenciales de su uso jurisdiccional”. La Ley.
DEL CASTILLO, C. (18 de septiembre de 2023). “Un negocio con lista de espera: la app usada para ‘desnudar’ a menores en Badajoz cobra 9 euros por 25 fotos”. ElDiario.es.
Directiva 2011/93/UE del Parlamento Europeo y del Consejo, de 13 de diciembre de 2011, relativa a la lucha contra los abusos sexuales y la explotación sexual de los menores y la pornografía infantil y por la que se sustituye la Decisión marco 2004/68/JAI del Consejo. «DOUE» núm. 335, de 17 de diciembre de 2011, pp. 1 - 14.
Directiva 2014/41/CE del Parlamento Europeo y del Consejo, de 3 de abril de 2014, relativa a la orden europea de investigación en materia penal. OJ L 130, 1 de mayo de 2014, pp. 1–36.
DOLZ LAGO, J.M. (2022). “Una aproximación jurídica a la Inteligencia Artificial”. Diario La Ley, nº 10096.
EUROPOL. (27 de marzo de 2023). ChatGPT. The impact of Large Language Models on Law Enforcement. Luxembourg: Publications Office of the European Union.
EUROPOL (EUROPOL INNOVATION LAB). (2022). Facing reality? Law enforcement and the challenge of deepfakes. Luxembourg: European Union Agency for Law Enforcement Cooperation. ISBN 978-92-95220-40-9.
EUROPOL. (2020). Internet organised crime threat assessment (IOCTA). Consultado en: https://www.europol.europa.eu/cms/sites/default/files/documents/internet_organised_crime_threat_assessment_iocta_2020.pdf (Fecha de consulta: 01/10/2023).
GONZÁLEZ-ÁLVAREZ, J. L., SANTOS-HERMOSO, J. & CAMACHO-COLLADOS. (2020). “Policía predictiva en España. Aplicación y retos de futuro”. Behavior & Law Journal, 6(1), pp. 26-41.
GONZÁLEZ PULIDO, I. (2017). “Avances y desafíos en materia de ciberdelincuencia de género a nivel europeo”. FODERTICS 6.0. Los nuevos retos del derecho ante la era digital. Granada: Editorial Comares, pp. 149-160.
Instrumento de Ratificación del Convenio sobre la Ciberdelincuencia, hecho en Budapest el 23 de noviembre de 2001. «BOE» núm. 226, de 17 de septiembre de 2010, pp. 78847-78896.
LOREDO, A. (14 de junio de 2023). “IA multimodales, metaverse y más”. Consultado en: https://www.linkedin.com/pulse/ia-multimodal-metaverse-y-m%C3%A1s-all%C3%A1-alejandro-loredo/?trk=pulse-article&originalSubdomain=es (Fecha de consulta: 01/10/2023).
MAGRO SERVET, V. (2018). “La aplicación de la inteligencia artificial en la Administración de Justicia”. Diario La Ley, nº 9268, sección doctrina.
MAGRO SERVET, V. (2021). “La inteligencia artificial para mejorar la lucha contra la violencia de género”. Diario La Ley, nº 9898.
MARTÍN DIZ, F. (2020a). “Aplicaciones de inteligencia artificial en procesos penales por delitos relacionados con la corrupción”. Corrupción: Compliance, represión y recuperación de activos. Valencia: Tirant lo Blanch, pp. 533-568.
MARTÍN DIZ, F. (2020b). “Capítulo XLV. Inteligencia artificial y proceso: garantías frente a eficiencia en el entorno de los derechos procesales fundamentales”. Justicia: ¿Garantías versus Eficiencia? (Coord.: DE LUIS GARCÍA, E., BELLIDO PENADÉS, R., LLOPIS NADAL, P., JIMÉNEZ CONDE, F.). Valencia: Tirant lo Blanch, pp. 815-827.
MARTÍN RÍOS, P. (2022). “Empleo de big data y de inteligencia artificial en el ciberpatrullaje: de la tiranía del algoritmo y otras zonas oscuras”. Revista de Internet, Derecho y Política, nº 36, pp. 1-13.
NAVARRO, J. (21 de diciembre de 2022). “Detenido un pedófilo que usaba inteligencia artificial para crear material de abuso sexual infantil”. El País.
PARLAMENTO EUROPEO. (22 de mayo de 2023). Informe sobre la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión. COM (2021) 0206.
PARLAMENTO EUROPEO. Ley de Inteligencia Artificial. Enmiendas aprobadas por el Parlamento Europeo el 14 de junio de 2023 sobre la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión (COM (2021)0206 – C9-0146/2021 – 2021/0106(COD)). 14 de junio de 2023. Consultado en: https://www.europarl.europa.eu/doceo/document/TA-9-2023-0236_ES.pdf (Fecha de consulta: 01/10/2023).
Propuesta de Directiva del Parlamento Europeo y del Consejo sobre la lucha contra la violencia contra las mujeres y la violencia doméstica. Estrasburgo, 8 de marzo de 2022. COM (2022) 105 final.
Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (ley de inteligencia artificial) y se modifican determinados actos legislativos de la Unión. Bruselas, 21 de abril de 2021. COM (2021) 206 final.
Resolución del Parlamento Europeo, de 6 de octubre de 2021, sobre la inteligencia artificial en el Derecho penal y su utilización por las autoridades policiales y judiciales en asuntos penales (2020/2016(INI)). OJ C 132, 24 de marzo de 2022, pp. 17–26.
RETANA GIL, C. (2023). “Diálogos para el futuro judicial LX. IA Generativa y legalidad: ¿futuro o ciencia ficción? Diario La Ley, nº 10371.
RICHARD GONZÁLEZ, M. (2023). “Los sistemas biométricos de reconocimiento facial en la Unión Europea en el marco del desarrollo de la Inteligencia Artificial”. Justicia, nº 1, pp. 147-281.
RODRÍGUEZ TIRADO, ANA M. (2018). “Las víctimas menores de delitos de pornografía infantil y de delitos de child grooming y su protección en el proceso penal. Las TICs y las diligencias de investigación tecnológica”. Justicia, nº 1, pp. 137-199.
SECRETARIA GENERAL DE LA ORGANIZACIÓN DE LOS ESTADOS AMERICANOS. (s.f.). La violencia de género en línea contra las mujeres y niñas: Guía de conceptos básicos, herramientas de seguridad digital y estrategias de respuesta. ISBN 978-0-8270-7306-7
SIMÓ SOLER, E. (2023). “Retos jurídicos derivados de la Inteligencia Artificial Generativa: deepfakes y violencia contra las mujeres como supuesto de hecho”. InDret. 2. DOI: 10.31009/InDret.2023.i2.11.
TREND MICRO RESEARCH, UNITED NATIONS INTERREGIONAL CRIME AND JUSTICE RESEARCH INSTITUTE (UNICRI), EUROPOL’S EUROPEAN CYBERCRIME CENTRE (EC3). (2020). Malicious uses and abuse of Artificial Intelligence. Trend Micro Research.
VIEJO, M. (3 de octubre de 2023). “El caso de los desnudos con IA de Almendralejo se dispara: 26 menores implicados y 21 chicas afectadas”. El País. 3 de octubre de 2023.
VILLATORO GONZÁLEZ, T., CAMBLOR ECHANOVE, G. (16 de junio de 2023). “La propuesta de reglamento europeo sobre inteligencia artificial para mitigar los riesgos de ChatGPT”. El País.
—. (21 de diciembre de 2022). “La Policía Nacional detiene a un pedófilo que utilizaba inteligencia artificial para crear material de abuso sexual infantil de extrema dureza”. Gabinete de prensa de la Dirección General de la Policía. Consultado en: https://www.policia.es/_es/comunicacion_prensa_detalle.php?ID=14981# (Última consulta: 01/10/2023).
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2023 IRENE GONZÁLEZ PULIDO
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-CompartirIgual 4.0.
Aquellos autores/as que tengan publicaciones con esta revista, aceptan los términos siguientes:- Los autores/as conservarán sus derechos de autor y garantizarán a la revista el derecho de primera publicación de su obra, el cuál estará simultáneamente sujeto a la Licencia de reconocimiento de Creative Commons que permite a terceros compartir la obra siempre que se indique su autor y su primera publicación esta revista.
- Los autores/as podrán adoptar otros acuerdos de licencia no exclusiva de distribución de la versión de la obra publicada (p. ej.: depositarla en un archivo telemático institucional o publicarla en un volumen monográfico) siempre que se indique la publicación inicial en esta revista.
- Se permite y recomienda a los autores/as difundir su obra a través de Internet (p. ej.: en archivos telemáticos institucionales o en su página web) antes y durante el proceso de envío, lo cual puede producir intercambios interesantes y aumentar las citas de la obra publicada. (Véase El efecto del acceso abierto).
- Resumen 1582
- PDF 1074
- HTML 320
