Consideraciones acerca de la aplicación de la IA en la cooperación judicial penal internacional[*]

CONSIDERATIONS ON THE APPLICATION OF THE IA IN INTERNATIONAL JUDICIAL COOPERATION IN CRIMINAL MATTERS

Leticia Fontestad Portalés

Catedrática (A) Derecho Procesal

Universidad de Málaga

Consejera Académica GUERRERO ABOGADOS

lfp@uma.es 0000-0001-5382-7990

I. Introducción

Son muchas las reflexiones, críticas y estudios que a lo largo de los últimos años han realizado los expertos en torno a los beneficios y los inconvenientes del uso de las nuevas tecnologías y, concretamente, del uso de sistemas basados en la Inteligencia Artificial en el ámbito de la Administración de Justicia. Nos encontramos, por tanto, ante una cuestión que, sin ser ni mucho menos novedosa, genera y continuará generando polémica a lo largo de los próximos tiempos.

Las razones por las que el uso de sistemas de inteligencia artificial provoca rechazo desde un punto de vista jurídico, entre otras razones, como de todos es sabido, por la ausencia de una regulación normativa suficiente que garantice la protección de los Derechos humanos [1] y los Derechos Fundamentales [2] de los ciudadanos (Guerrero Palomares 2021: 151-186). En nuestro caso, además, la principal preocupación como procesalistas entre otras muchas cuestiones, es la protección de los derechos fundamentales en el ámbito procesal, esto es, el derecho fundamental a la tutela judicial efectiva que reconoce nuestra Constitución en el artículo 24. Derecho a la tutela judicial efectiva, por otra parte, que, como afirma MARTIN DIZ, desde hace casi una década “... evoluciona hacia una nueva versión, más integradora, del mismo: el derecho a la tutela efectiva de la Justicia” (Martín Diz 2014:161-176) [3].

La preocupación acerca de una normativa que regule el uso de la inteligencia artificial, en adelante IA, no es, lógicamente, exclusiva de nuestro país, ni de cada uno de los países desde un punto de vista nacional, esto es, individual, sino que a la vista de la evolución de este tipo de sistemas inteligentes en una sociedad moderna que se caracteriza, como todos sabemos, por la globalización y, en lo que a nosotros nos interesa, por la criminalidad transfronteriza, no cabe duda alguna, que se trata de una cuestión necesitada de regulación normativa en un contexto global.

El uso de sistemas de IA en el ámbito judicial y, concretamente, en el ámbito de la cooperación judicial penal, ha dejado de ser ciencia ficción hace años por lo que, qué duda cabe que, en este momento más que nunca, resulta patente la necesidad de marcos regulatorios que garanticen que estas tecnologías emergentes beneficiarán a la humanidad en su conjunto. Así, como primer instrumento normativo mundial sobre la materia, desde la UNESCO, el 23 de noviembre de 2021, se aprobó la Recomendación sobre la ética de la inteligencia artificial [4].

Que evoquemos en este momento la ausencia de regulación normativa que garantice tanto a nivel individual –en cada Estado– como europeo o internacional, no implica el desconocimiento de las diferentes normativas que a lo largo de estos años han visto la luz en un intento de garantizar un uso ético y responsable de la IA tanto en los sistemas judiciales de cada Estado como en lo que se refiere a sus relaciones con otros países, esto es, en relación con la cooperación judicial internacional. Así, baste recordar la Carta Europea sobre el Uso Ético de la Inteligencia Artificial en los Sistemas Judiciales y su Entorno [5] y, con una finalidad armonizadora, la Propuesta de Reglamento del Parlamento Europeo y del Consejo, por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de inteligencia artificial) y se modifican determinados actos legislativos de la Unión Europea cuyos objetivos, entre otros, persiguen garantizar la seguridad jurídica para facilitar la inversión e innovación en IA, así como mejorar la gobernanza y la aplicación efectiva de la legislación vigente en materia de derechos fundamentales y los requisitos de seguridad aplicables a los sistemas de IA [6]. Sin olvidarnos, por supuesto, del Libro Blanco de la UE sobre IA del año 2020 [7] (De Hoyos Sancho 2020:9-44) y de la Carta de los Derechos Fundamentales en el contexto de la inteligencia artificial y el cambio digital, también del año 2020 [8].

En España, debemos resaltar la más reciente Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación [9] que introduce la primera regulación positiva de la inteligencia artificial en España [10] y, cómo no, la Carta de Derechos Digitales, con la que se pretende situar a España “a la vanguardia internacional en la protección de derechos de la ciudadanía” [11].

Unos días antes de iniciar este trabajo de investigación, como consecuencia de la Ley 28/2022, de 21 de diciembre, de fomento del ecosistema de las empresas emergentes, así como en cumplimiento de lo previsto en el Plan de Recuperación, Transformación, y Resiliencia [12], se ha aprobado el Real Decreto 729/2023, de 22 de agosto, por el que se aprueba el Estatuto de la Agencia Española de Supervisión de Inteligencia Artificial [13] adscrita al Ministerio de Asuntos Económicos y Transformación Digital a través de la Secretaría de Estado de Digitalización e Inteligencia Artificial. Sin embargo, “La inteligencia artificial no está siendo desarrollada por los Gobiernos, sino sobre todo por las empresas privadas. Si finalmente esa tecnología, en esas condiciones, se acaba por introducir, como se espera, en el sector de los tribunales, existe el riesgo de que las instituciones democráticas pierdan, al menos en parte, el control sobre la jurisdicción en beneficio de alguna o algunas de esas empresas” (Nieva Fenoll, 2023:1).

Especial relevancia, en el contexto de este trabajo, presenta, como veremos a continuación, la Resolución del Parlamento Europeo, de 6 de octubre de 2021, sobre la inteligencia artificial en el Derecho penal y su utilización por las autoridades policiales y judiciales en asuntos penales [14].

Dado que no somos expertos en cuestiones tecnológicas y, por ello, no nos atreveremos a explorar, ni siquiera de forma somera, el funcionamiento en sí de estos sistemas de inteligencia artificial, partiremos de la definición que sobre sistemas de IA ofrece la propuesta de Ley de inteligencia artificial de la Unión Europea, según la cual, se entiende por Sistema de inteligencia artificial (sistema de IA) aquel “software que se desarrolla empleando una o varias de las técnicas y estrategias que figuran en el anexo I y que puede, para un conjunto determinado de objetivos definidos por seres humanos, generar información de salida como contenidos, predicciones, recomendaciones o decisiones que influyan en los entornos con los que interactúa” [15].

II. La investigación penal y la inteligencia artificial en el ámbito de la cooperación judicial penal internacional

Qué duda cabe que la armonización normativa sobre el uso de los sistemas de IA en el ámbito judicial deriva en una mayor eficacia de la cooperación policial y judicial transfronteriza (De Hoyos Sancho 2021). De ahí la relevancia de la mencionada propuesta de Reglamento del Parlamento europeo y del Consejo para establecer reglas armonizadas en materia de Inteligencia Artificial y, especialmente, en lo que a nosotros nos interesa, con relación al régimen relativo al uso de los sistemas de IA en la función tanto policial como jurisdiccional (Bujosa Vadell 2022a: 43-73).

La Unión Europea, tras las últimas enmiendas en el Parlamento, introduce un nuevo artículo 4 bis, que regula los Principios generales aplicables a todos los sistemas de IA [16] :

1. Intervención y vigilancia humanas»: los sistemas de IA se desarrollarán y utilizarán como una herramienta al servicio de las personas, que respete la dignidad humana y la autonomía personal, y que funcione de manera que pueda ser controlada y vigilada adecuadamente por seres humanos.
2. Solidez y seguridad técnicas»: los sistemas de IA se desarrollarán y utilizarán de manera que se minimicen los daños imprevistos e inesperados, así como para que sean sólidos en caso de problemas imprevistos y resistentes a los intentos de modificar el uso o el rendimiento del sistema de IA para permitir una utilización ilícita por parte de terceros malintencionados.
3. Privacidad y gobernanza de datos»: los sistemas de IA se desarrollarán y utilizarán de conformidad con las normas vigentes en materia de privacidad y protección de datos, y tratarán datos que cumplan normas estrictas en términos de calidad e integridad.
4. Transparencia»: los sistemas de IA se desarrollarán y utilizarán facilitando una trazabilidad y explicabilidad adecuadas, haciendo que las personas sean conscientes de que se comunican o interactúan con un sistema de IA, informando debidamente a los usuarios sobre las capacidades y limitaciones de dicho sistema de IA e informando a las personas afectadas de sus derechos.
5. Diversidad, no discriminación y equidad»: los sistemas de IA se desarrollarán y utilizarán incluyendo a diversos agentes y promoviendo la igualdad de acceso, la igualdad de género y la diversidad cultural, evitando al mismo tiempo los efectos discriminatorios y los sesgos injustos prohibidos por el Derecho nacional o de la Unión.
6. Bienestar social y medioambiental»: los sistemas de IA se desarrollarán y utilizarán de manera sostenible y respetuosa con el medio ambiente, así como en beneficio de todos los seres humanos, al tiempo que se supervisan y evalúan los efectos a largo plazo en las personas, la sociedad y la democracia”.

Asimismo, para los sistemas de IA de alto riesgo, los proveedores o implementadores, se prevé la aplicación y cumplimiento de los citados principios generales atendiendo a los requisitos establecidos en los artículos 8 a 15 del presente Reglamento junto a las obligaciones pertinentes a las que hace referencia el capítulo 3 del título III del mismo.

Igualmente, para los supuestos de los modelos fundacionales, los proveedores o implementadores de los sistemas de IA tendrán que aplicar y cumplir los mencionados principios generales en función de los requisitos a los que hace referencia los artículos 28 a 28 ter del mismo Reglamento.

Según el artículo 4 bis apartado 2, in fine, del Reglamento “Para todos los sistemas de IA, la aplicación de los principios a los que se hace referencia en el apartado 1 puede conseguirse, según proceda, a través de las disposiciones del artículo 28 o el artículo 52 o de la aplicación de las normas armonizadas, especificaciones técnicas y códigos de conducta a los que hace referencia el artículo 69, sin crear nuevas obligaciones en virtud del presente Reglamento”.

En este sentido, la doctrina –sin ser contrarios al uso de los sistemas de inteligencia artificial en el ámbito judicial y, concretamente, en el de la cooperación judicial penal internacional– son unánimes al afirmar que, en todo caso, el uso de la IA debe respetar las siguientes premisas a las que, expresamente, alude y analiza DE HOYOS SANCHO (De Hoyo Sancho 2020: 32-39):

• Regulación normativa previa que determine el ámbito de aplicación y los procedimientos para el uso de estos sistemas IA. En lo que a nosotros concierne, en relación con el uso de herramientas de IA como apoyo a la función policial y jurisdiccional.
• Armonización normativa sobre el uso de algoritmos por las autoridades jurisdiccionales en el ámbito de la Unión Europea.
• Se debe llevar a cabo un control previo de la legalidad o admisibilidad del concreto algoritmo y del tratamiento de los datos que procesa el sistema IA. Supervisión de su aplicación y funcionamiento.
• Control humano —del juez— en la adopción de la decisión final —resolución jurisdiccional en sentido estricto—.
• Transparencia e imparcialidad de los sistemas IA, sin sesgos ni discriminaciones.

2.1. De la digitalización al uso de la IA en la investigación penal: instrumentos de cooperación judicial internacional

Como afirmaba ya hace unos años la profesora CALAZA LÓPEZ, España se encuentra a la vanguardia europea en cuanto al uso de los nuevos métodos tecnológicos en el proceso penal (Calaza López 2021: 171-1; Dalia 2022: 251-275), sin embargo, y aunque todos somos conocedores del incremento en el uso de las nuevas tecnologías en apoyo a la investigación judicial y penal en el proceso penal (Lara López 2022: 277-307), así como en los diferentes instrumentos de cooperación judicial internacional, nos encontramos en un momento de tránsito desde la digitalización de la Justicia a la, en palabras de BARONA VILAR, “Justicia orientada al dato” (Barona Vilar 2023) [17].

Efectivamente, poca sorpresa causa ya la celebración de un juicio a través de la videoconferencia o el uso de otros muchos recursos digitales para el desarrollo de los procesos judiciales tanto nacionales como de carácter transfronterizo. [18]. Igualmente, en la actualidad, estos mismos recursos digitales están presente en la mayoría de los instrumentos de cooperación judicial entre los Estados [19] (Fontestad Portalés 2022a: 239-268; Jiménez López 2021:187-224. Así, para el intercambio de datos y material probatorio, en el ámbito de la Unión Europea, se utiliza el sistema e-Codex [20] que, como instrumento de comunicación de la justicia electrónica mediante el intercambio de datos en línea, se ha convertido en la piedra angular digital de la cooperación judicial de la UE. Sistema informatizado para el intercambio electrónico transfronterizo de datos que servía, incluso antes de la aprobación del Reglamento de la Unión Europea que lo regula, como soporte para el sistema digital de intercambio de pruebas electrónicas, así como para los intercambios en relación con las órdenes europeas de investigación y la asistencia judicial mutua en el ámbito de la cooperación judicial en materia penal [21].

Igualmente, en el ámbito iberoamericano de los países miembros de IberRed [22], se conforman nuevos sistemas electrónicos de transmisión con vistas, además, a su implantación desde un punto de vista internacional, como es la Plataforma Iber@ para la transmisión de solicitudes de cooperación jurídica internacional entre Autoridades Centrales [23] (Fontestad Portalés 2021: 109-150).

Se trata ahora, por tanto, de dar un paso más dedicando la inteligencia artificial a lograr una mayor eficacia en materia de cooperación judicial penal internacional, no ya usando plataformas electrónicas para la comunicación, notificación e, incluso, intercambio de material probatorio, sino para determinar mediante sistemas de inteligencia artificial, por ejemplo, cómputos temporales; redactar o, incluso, traducir documentos legales de forma automática por voz, remisión de Órdenes Europeas Detención o de protección, etc.

Obviamente, y aun cuando todavía no haya entrado en vigor, no podemos dejar de lado y, al menos, mencionar la clasificación que de los sistemas de inteligencia artificial prevé, con carácter general, la citada propuesta de Ley de inteligencia artificial en función, como todos sabemos, del riesgo, atendiendo a aquellos que denomina de riesgo inaceptable [24], alto riesgo[25], riesgo limitado y riesgo mínimo o nulo. Sin olvidar, la referencia expresa a la inteligencia artificial generativa 26.

Gráfico 1.

2.2. Soluciones de inteligencia artificial en el ámbito de la cooperación judicial penal internacional

Las soluciones de IA en el ámbito de la cooperación judicial penal internacional podríamos sintetizarlas, por poner un ejemplo, atendiendo a su finalidad, en cuyo caso, encontramos, por un lado, sistemas de IA para la “automatización de determinadas medidas transnacionales”. Este sería el caso de DIGALAW-X [27], que se puede usar para la redacción/traducción automática por voz de una orden europea de detención; y, por otro lado, sistemas de IA con funciones asistenciales en la investigación y enjuiciamiento de la delincuencia organizada transfronteriza, por ejemplo.

Sin ánimo de llevar a cabo una enumeración taxativa ni un estudio detallado, entre los sistemas de inteligencia artificial de aplicación en el ámbito de la cooperación judicial penal internacional podemos destacar aquellos sistemas de identificación biométrica [28] a través de los cuales se puede identificar de forma unívoca a una persona basándose en algún rasgo físico que se considere único de cada persona [29], por ejemplo, el ADN, la huella dactilar o, incluso, el iris de los ojos [30]. En el ámbito de la cooperación judicial penal internacional, EUROPOL [31], para reforzar la seguridad de las fronteras, ha puesto en marcha la iniciativa HOTSPOT, basada en el uso de los datos biométricos (huellas dactilares e imágenes faciales, fundamentalmente) con el objetivo de detener a los terroristas que intentan huir de la acción de la justicia atravesando fronteras [32].

Especialmente útiles para las investigaciones penales son los sistemas de inteligencia artificial que permiten elaborar mapas criminales con identificación de los denominados hotspots, esto es, puntos geográficos en los que existe un elevado índice de delincuencia [33]. En esta línea, como instrumento de vigilancia predictiva, podemos hacer referencia a PredPol [34] como herramienta basada en inteligencia artificial que se utiliza, desde hace unos años, en Estados Unidos [35]. Asimismo, en relación con instrumentos para la evaluación y predicción delictiva en España, podemos destacar VeriPol [36], para detectar denuncias falsas, así como el Sistema de Seguimiento Integral en los casos de Violencia de Género de la Secretaría de Estado de Seguridad del Ministerio del Interior [37], esto es, el Sistema VioGén [38].

Lógicamente, muchas de estas soluciones de IA a disposición tanto de las autoridades policiales como judiciales inciden, sin duda alguna, en las relaciones de cooperación judicial entre los Estados. Pensemos, por ejemplo, en instrumentos de cooperación judicial penal internacional como la orden europea de detención y entrega o en la extradición. Cuando las autoridades judiciales de ejecución tengan que decidir sobre una solicitud de detención y entrega a otro Estado miembro o, igualmente, en el caso de que en el proceso de la extradición el Estado requerido tenga que decidir sobre la extradición de la persona requerida a un tercer Estado, en ambos casos, dichas autoridades deberán analizar si el uso de herramientas de inteligencia artificial en el Estado solicitante, o requirente, en su caso, pone en riesgo el derecho fundamental a un juicio justo como consecuencia de la falta de transparencia en cuanto a la forma en la que opera la inteligencia artificial.

Son múltiples las implicaciones de la inteligencia artificial en las herramientas de cooperación judicial penal internacional, razón por la que la citada Resolución del Parlamento Europeo sobre la inteligencia artificial en el Derecho penal y su utilización por las autoridades policiales y judiciales en asuntos penales reconociendo, no obstante, la contribución positiva de determinados tipos de aplicaciones de inteligencia artificial a la labor de las autoridades policiales y judiciales en la Unión Europea, “… considera que podrían estudiarse otros varios usos posibles de la IA para actuaciones de las autoridades policiales y judiciales teniendo en cuenta en el proceso los cinco principios de la Carta Ética sobre el uso de la inteligencia artificial en los sistemas judiciales y su entorno adoptados por la CEPEJ, y prestando especial atención a los «usos que han de estudiarse con la cautela más extrema», identificados por la CEPEJ”… [39].

Asimismo, la citada Recomendación afirma que todas las soluciones de IA para las autoridades policiales y judiciales “deben respetar plenamente los principios de dignidad humana, no discriminación, libertad de circulación, presunción de inocencia y derecho de defensa, incluido el derecho a guardar silencio, libertad de expresión e información, libertad de reunión y asociación, igualdad ante la ley, igualdad de armas y el derecho a una tutela judicial efectiva y a un juicio justo, de conformidad con la Carta y con el Convenio Europeo de Derechos Humanos; destaca que debe prohibirse todo uso de aplicaciones de la IA que sea incompatible con los derechos fundamentales” [40].

No cabe duda de que cualquier sistema judicial, con o sin el uso de sistemas de inteligencia artificial, debe garantizar y respetar los mencionados derechos y ello incluye, lógicamente, a las relaciones de cooperación judicial entre los Estados. Ningún instrumento de cooperación judicial penal internacional puede ser incompatible con los derechos fundamentales, ya sea con el derecho a un juicio justo, como acabamos de ver, o con el derecho a la protección de datos en atención a la cantidad de datos personales que a través de los sistemas de inteligencia artificial se pueden recopilar de forma automatizada y la posible transmisión de esos datos entre autoridades policiales y judiciales sin el requerido consentimiento de la persona afectada.

No obstante, a pesar de nuestra preocupación, como la de cualquier jurista, y casi me atrevería a decir, la de cualquier persona, acerca de las consecuencias del uso judicial –y policial– de la inteligencia artificial dada la incertidumbre que genera, en este ámbito, entre otras, la posible vulneración de los derechos fundamentales, nos planteamos si, en determinadas ocasiones, no estamos siendo más desconfiados y más exigentes con los sistemas judiciales de IA que con el juez-humano que, indudablemente, en el ejercicio de la función jurisdiccional, juzgando y haciendo ejecutar lo juzgado, también toma sus decisiones sesgado por sus principios, sus creencias y sus propios criterios. Es por ello que queremos por fin a este trabajo, a modo de reflexión, con la polémica afirmación de JAUME-PALASÍ acerca de que el derecho es un algoritmo que se aplica desde mucho antes de que existiera la informática de tal modo que cuando un juez juzga y condena en un juicio penal, también lo hace sesgado por sus propias convicciones, opiniones y aproximaciones a las diferentes teorías jurídicas [41].

Bibliografía

BARONA VILAR, S. (2023). “Resumen de Ecosistema digital de Justicia eficiente (De la Justicia digital orientada al documento a la Justicia orientada al dato)”, Actualidad civil, núm. 5.

BONET NAVARRO, J. (2023), “El juicio y el prejuicio por la máquina”, Revista General de Derecho Procesal, núm. 60.

BORGES BLÁZQUEZ, R. (2021). “Inteligencia artificial y perspectiva de género: programar, investigar y juzgar con filtro morado”, Revista General de Derecho Procesal, núm. 55.

BUENO DE MATA, F. (2021a). “Análisis de las medidas de cooperación judicial internacional para la obtención transfronteriza de pruebas en materia de cibercrimen”, en L. Fontestad Portalés, (dir.) y M. N. Jiménez López (coord.), La transformación digital de la cooperación jurídica penal internacional, Ed. Aranzadi.

BUENO DE MATA, F. (2021b) “Protección de datos, investigación de infracciones penales e inteligencia artificial: novedades y desafíos a nivel nacional y europeo en la era postcovid”, La ley penal: revista de derecho penal, procesal y penitenciario, núm. 150.

BUENO DE MATA, F. (2020). “Macrodatos, inteligencia artificial y proceso: luces y sombras”, Revista General de Derecho Procesal, 51.

BUENO JIMÉNEZ, M. (2022). “Los Planes Estratégicos como herramientas básicas para la transformación digital del futuro (y del presente)”, en A vueltas con la transformación digital de la cooperación jurídico penal internacional, Fontestad Portalés, L. (dir.); Jiménez López, M. N. (coord.), Ed. Aranzadi.

BUJOSA VADELL, L. (2022a). “Ética e inteligencia artificial: una mirada desde el proceso jurisdiccional”, en El impacto de las tecnologías disruptivas en el derecho procesal, Ed. Aranzadi.

BUJOSA VADELL, L. (2022b). “Cooperación judicial para la obtención y transmisión de pruebas electrónicas”, en A vueltas con la transformación digital de la cooperación jurídico penal internacional, Fontestad Portalés, L. (dir.); Jiménez López, M. N. (coord.), Ed. Aranzadi.

CALAZA LÓPEZ, S., y DE PRADA RODRIGUEZ, M. (2023). “Acción y Defensa en clave digital: «Dos caras de una misma moneda» y un «brindis al sol» en la inminente Ley de Derecho de Defensa”, Actualidad Civil, num. 4.

CALAZA LÓPEZ, S. (2021). “La investigación tecnológica en el proceso penal español a la vanguardia europea”, en Estudios procesales sobre el espacio europeo de justicia penal, J. A. Posada Pérez y M. Llorente Sánchez-Arjona (dirs.), Ed. Aranzadi.

COLOMER HERNÁNDEZ, I., (2023). “Limitaciones en el uso de la información y los datos personales en un proceso penal digital”, en El proceso penal ante una nueva realidad tecnológica europea, Pillado González, E. y Freitas, P.M. (dirs.), Ed. Aranzadi.

COLOMER HERNÁNDEZ, I. (2021). “Control y límites en el uso de los datos personales penales en la investigación y represión de delitos a la luz de la Directiva 2016/680”, en Nuevos postulados de la cooperación judicial en la Unión Europea, Moreno Catena, V. y Romero Pradas, M.A. (dir.), Ed. Tirant lo Blanch.

CORDON MORENO, F. (2004). “El derecho a obtener la tutela judicial efectiva”, Manuales de formación continuada, núm. 22 (Ejemplar dedicado a: Derechos procesales fundamentales).

DALIA, G. (2022). “El uso de la I.A. en el marco del proceso penal entre las exigencias de eficacia y las valoraciones judiciales”, en A vueltas con la transformación digital de la cooperación jurídico penal internacional, Fontestad Portalés, L. (dir.); Jiménez López, M. N. (coord.), Ed. Aranzadi.

DE LA OLIVA SANTOS, A. (1980). Sobre el derecho a la tutela jurisdiccional: la persona ante la administración de justicia: derechos básicos, J.M. Bosch Editor.

DÍEZ-PICAZO, L. (1987). “Notas sobre el derecho a la tutela judicial efectiva”, Poder Judicial, núm. 5.

DE HOYOS SANCHO, M. (2021). “El uso jurisdiccional de los sistemas de inteligencia artificial y la necesidad de su armonización en el contexto de la Unión Europea”, Revista General de Derecho Procesal, núm. 55.

DE HOYOS SANCHO, M. (2020). “El Libro Blanco Sobre Inteligencia Artificial de la Comisión Europea: reflexiones desde las garantías esenciales del proceso penal como “sector de riesgo””, Revista Española de Derecho Europeo, núm. 76.

DOLZ LAGO, M.J. (2022). “Una aproximación jurídica a la Inteligencia Artificial”, Diario La Ley, núm. 10096.

ESPARZA LEIBAR, I. (2022). “Derecho fundamental a la protección de datos de carácter personal en el ámbito jurisdiccional e inteligencia artificial. En especial la LO 7/2021, de protección de datos personales tratados para fines de prevención, detección, investigación y enjuiciamiento de infracciones penales y de ejecución de sanciones penales”, en Inteligencia artificial legal y administración de justicia, Calaza López, S. y Llorente Sánchez-Arjona, M. (dirs.), Ed. Aranzadi.

FIODOROVA, A. (2021). “Directiva 2016/680: hacia mayor coherencia de protección de datos personales en la cooperación policial y judicial penal”, en Nuevos postulados de la cooperación judicial en la Unión Europea, Moreno Catena, V. y Romero Pradas, M.A. (dir.), Ed. Tirant lo Blanch.

FONTESTAD PORTALÉS, L. (2022a). “Evolución y avances en materia de cooperación judicial internacional a través de las transmisiones electrónicas”, en Digitalización de la justicia: prevención, investigación y enjuiciamiento, J. C. Muinelo Cobo (coord.); Llorente Sánchez-Arjona, M. y Calaza López, S. (dirs.), Ed. Aranzadi.

FONTESTAD PORTALÉS, L. (2022b). “La digitalización de la cooperación judicial penal en la Unión Europea”, en A vueltas con la transformación digital de la cooperación jurídico penal internacional, Fontestad Portalés, L. (dir.), Jiménez López, M. N. (coord.), Ed. Aranzadi.

FONTESTAD PORTALÉS, L. (2021). “La digitalización de la cooperación jurídica internacional: la plataforma IBER@”, en La transformación digital de la cooperación jurídica penal internacional, Fontestad Portalés, L. (dir.); Jiménez López, M. N. (coord.), Editorial Aranzadi.

FLÓREZ ÁLVAREZ, L. A. (2021). “Reflexiones sobre la innovación del ámbito probatorio en el modelo europeo de cooperación judicial en materia penal”, en La transformación digital de la cooperación jurídica penal internaciónal, Fontestad Portalés, L. (dir.); Jiménez López, M.N., (coord.), Ed. Aranzadi.

GUERRERO PALOMARES, S. (2021). “La protección del derecho a la intimidad en el marco de la investigación tecnológica en el proceso penal”, en La transformación digital de la cooperación jurídica penal internacional, Fontestad Portalés, L. (dir.); Jiménez López, M.N., (coord.), Ed. Aranzadi.

HERNÁNDEZ GIMÉNEZ, M. (2019). “Inteligencia artificial y derecho penal”, Actualidad Jurídica Iberoamericana, núm. 10 bis.

JIMÉNEZ LÓPEZ, M. N. (2021). “Las medidas de investigación tecnológicas en la orden europea de investigación”, en La transformación digital de la cooperación jurídica penal internacional, Fontestad Portalés, L. (dir.); Jiménez López, M. N. (coord.), Editorial Aranzadi.

LARA LÓPEZ, A. M. (2022). “La captación y grabación de las comunicaciones orales mediante dispositivos electrónicos como medida de investigación tecnológica en el proceso penal”, en A vueltas con la transformación digital de la cooperación jurídico penal internacional, Fontestad Portalés, L. (dir.), Jiménez López, M. N. (coord.), Ed. Aranzadi.

LLORENTE SÁNCHEZ-ARJONA, M. (2022). “Hacia una justicia penal predictiva”, Cuadernos de política criminal, núm. 136.

LÓPEZ GIL, M. (2021). “La autenticidad de las comunicaciones interceptadas al amparo de la orden europea de investigación. SITEL versus otros sistemas”, Revista General de Derecho Procesal, núm. 55.

MARCOS GONZÁLEZ, M. (2021). “Cesión de datos personales generados en las comunicaciones electrónicas y cooperación penal internacional”, en La transformación digital de la cooperación jurídica penal internacional, Fontestad Portalés, L. (dir.); Jiménez López, M. N. (coord.), Editorial Aranzadi.

MARTIN DIZ, F. (2022). “Justicia predictiva: inteligencia artificial y algoritmos aplicados al proceso judicial en materia probatoria”, en El impacto de las tecnologías disruptivas en el derecho procesal, Ed. Aranzadi.

MARTIN DIZ, F. (2021). “Inteligencia artificial y derecho procesal: luces, sombras y cábalas en clave de derechos fundamentales”, en Nuevos postulados de la cooperación judicial en la Unión Europea, Moreno Catena, V. y Romero Pradas, M.A. (dir.), Ed. Tirant lo Blanch.

MARTÍN DIZ, F. (2014). “Del derecho a la tutela judicial efectiva hacia el derecho a una tutela efectiva de la justicia”, Revista europea de derechos fundamentales, núm. 23 (Ejemplar dedicado a: Tutela judicial efectiva en el siglo XXI: un análisis interdisciplinar).

MARTIN RÍOS, P. (2022). “Empleo de big data y de inteligencia artificial en el ciberpatrullaje de la tiranía del algoritmo y otras zonas oscuras”, en IDP: revista de Internet, derecho y política = revista d’Internet, dret i política, núm. 36.

MARTÍN RÍOS, P. (2022). “Relevancia de las nuevas tecnologías en la práctica de actos de comunicación judicial transfronterizos en materia civil o mercantil”, en A vueltas con la transformación digital de la cooperación jurídico penal internacional, Fontestad Portalés, L. (dir.), Editoiral Aranzadi.

MONTESINOS GARCÍA, A. (2021). “Los algoritmos que valoran el riesgo de reincidencia: En especial, el sistema Viogen”, Revista de derecho y proceso penal, núm. 64.

NIEVA FENOLL, J. (2023). “Perder el control digital: ¿hacia una distopía judicial?”, Actualidad civil, núm. 4.

PASCUAL GARCÍA, A. (2020). “Inteligencia artificial y Justicia: ¿condenados a entenderse?”, (disponible en https://www.unir.net/derecho/revista/inteligencia-artificial-justicia/).

PÉREZ GIL, J. (2019). “Exclusiones probatorias por vulneración del derecho a la protección de datos personales en el proceso penal”, en Justicia: ¿garantías versus eficiencia?, Jiménez Conde, F. y Bellido Penadés, R. (dirs.), Ed. Tirant lo Blanch.

PÉREZ TORTOSA, F. (2022). “La propuesta de implantación de las órdenes europeas de entrega y conservación de pruebas electrónicas como instrumentos complementarios a la orden europea de investigación”, en A vueltas con la transformación digital de la cooperación jurídico penal internacional, Fontestad Portalés, L. (dir.); Jiménez López, M. N. (coord.), Ed. Aranzadi.

PERLINGEIRO, R. y FAZA, G. (2022). “Cooperación judicial internacional sobre pruebas en el derecho brasileño”, en A vueltas con la transformación digital de la cooperación jurídico penal internacional, Fontestad Portalés, L. (dir.); Jiménez López, M. N. (coord.), Ed. Aranzadi.

PILLADO GONZÁLEZ, E. (2021). “Principios generales de protección de datos en la cesión de información en la persecución criminal a la vista de la Directiva 2016/680 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, por la que se deroga la Decisión Marco 2008/977”, en Nuevos postulados de la cooperación judicial en la Unión Europea, Moreno Catena, V. y Romero Pradas, M.A. (dir.), Ed. Tirant lo Blanch.

ROA AVELLA, M.P., y SANABRIA-MOYANO, J.E. (2022). “Uso del algoritmo COMPAS en el proceso penal y los riesgos a los derechos humanos”, Revista Brasileña de Derecho Procesal Penal, v.8, núm. 1.

SUÁREZ XAVIER, P.R. (2023a). “Justicia digital, gobernanza y eficiencia procesal: algunos apuntes”, en Justicia en red para la Paz, Calaza López, S. y Fontestad Portalés, L. (dirs.), Ed. Dykinson.

SUÁREZ XAVIER, P. R. (2023b) Informe sobre aspectos bioéticos, legales y procesales del derecho a la identidad y el uso de procedimientos de reconocimiento facial por las fuerzas y cuerpos de seguridad, Ed. Colex.

SUÁREZ XAVIER, P.R. (2023c). Justicia predictiva: construyendo la justicia del siglo XXI, Ed. Aranzadi.

SUÁREZ XAVIER, P.R. (2021). Reconocimiento facial y policía predictiva: entre la seguridad y garantías procesales, Ed. Colex.

SUÁREZ XAVIER, P. R. (2022). “Policía predictiva en el combate al terrorismo: ¿seguridad sin garantías fundamentales?”, en Justicia proceso y tutela judicial efectiva en la sociedad postpandemia, Fontestad Portalés, L. y Jiménez López, M.N. (dirs.), Ed. Aranzadi.

VALLESPIN PÉREZ, D. (2023). “Robotización” de la valoración de la prueba en el proceso civil español”, en Inteligencia artificial y proceso: eficiencia vs. Garantías, Vallespín Pérez, D. (dir.), Ed. Juruá.

VILLAR FUENTES, I. (2019). “Datos personales al servicio de la investigación y detección de infracciones penales”, Revista General de Derecho Procesal, núm. 48.

---