El sesgo de la máquina en la toma de decisiones en el proceso penal
DOI:
https://doi.org/10.12795/IETSCIENTIA.2020.i02.05Resumen
La inteligencia artificial tiene innumerables ventajas en nuestras vidas. La capacidad de almacenar y conectar datos que tiene un ordenador es muy superior a la capacidad humana. Pero esta “inteligencia” comporta también problemas de hondo calado ético que el derecho deberá responder. Digo “inteligencia” porque a día de hoy las máquinas no son inteligentes. Las máquinas solo utilizan aquellos datos que, previamente, un humano le ha ofrecido como ciertos. La verdad es relativa y los datos van a tener los mismos sesgos y prejuicios que tiene el humano que programa la máquina. En otras palabras, las máquinas van a ser racistas, sexistas y clasistas si lo son sus programadores. A todo esto se le suma un nuevo problema, la dificultad de comprender el algoritmo por parte de los aplicadores del derecho. Esto puede atacar derechos fundamentales básicos en el sistema de justicia penal como son el derecho a la publicidad de las actuaciones y el derecho a la motivación de las decisiones judiciales. Esta situación obliga a repensar el proceso penal tan y como hoy lo conocemos, incluyendo la inteligencia artificial e hilando muy fino indicando cómo, cuándo, por qué y en qué supuestos podemos hacer uso de la inteligencia artificial y, sobretodo, quién va a programarla. Porque, tal y como indica Silvia Barona, tal vez la pregunta debería ser: ¿quién va a controlar el pensamiento jurídico global?
Descargas
Citas
ANGWIN, J.; LARSON, J.; MATTU, S.; KIRCHNER, L., “Machine Bias. There’s software used across the country to predict future criminals. And it’s biased against blacks”, en ProPublica, 2016.
AVILÉS PALACIOS, L., “La perspectiva de género como técnica jurídica e instrumento necesario para una justicia igualitaria”, en: AAVV, Análisis de la Justicia desde la perspectiva de género, Tirant Lo Blanch, Valencia, 2018.
BAMBAUER, J.; ROGERS, J. E., “The Algorithm Game”, Notre Dame Law Review, núm. 1, 2018.
BARONA VILAR, S., “La necesaria deconstrucción del modelo patriarcal de justicia”, en: AAVV, Análisis de la Justicia desde la perspectiva de género, Tirant Lo Blanch, Valencia, 2018.
BARONA VILAR, S., “Inteligencia artificial o la algoritmización de la vida y de la justicia: ¿solución o problema?”, Rev. Boliv. de Derecho, núm. 28, 2019.
BERK, R.; HEIDARIC, H.; JABBARIC, S.; KEARNSC, M.; ROTH; A., “Fairness in Criminal Justice Risk Assessments: The State of the Art”, Berk, 2017.
COCA VILA, I., “Self-driving Cars in Dilemmatic Situations: An Approach Base don the Theory of Justification in Criminal Law”, Criminal Law and Philosophy, vol. 12, núm,. 1, 2018.
COUNCIL OF EUROPE COMMISSIONER FOR HUMAN RIGHTS, Unboxing Artificial Intelligence: 10 steps to protect Human Rights, 2019.
DE LA OLIVA SANTOS, A., “Justicia predictiva, interpretación matemática de las normas, sentencias robóticas y la vieja historia del ‘juztizklavier’”, El Cronista del Estado Social y Democrático de Derecho, núm. 50.
EUROPEAN COMMISSION, Brussels, 25.4.2018 COM (2018) 237 final, Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions. Artificial Intelligence for Europe, {SWD(2018) 137 final}, 2018.
EUROPEAN PARLIAMENT, Understanding algorithmic decision-making: Opportunities and challenges, 2019.
FERRAJOLI, L., La ley del más débil, Editorial Trotta, 7 edición, 2010.
FRA, BigData: Discrimination in data-supported decision making, 2018, p. 2.BARONA VILAR, Silvia, “Cuarta revolución industrial (4.0.) o ciberindustria en el proceso penal: revolución digital, inteligencia artificial y el camino hacia la robotización de la justicia”, Revista Jurídica Digital UANDES, vol. 3, núm. 1, 2019.
GUTIERREZ-SOLANA JOURNOUD, A., “La invisible perspectiva de género del TJUE en asuntos que afectan exclusivamente a las mujeres: generalidad frente a especificidad”, en: ETXEBARRÍA ESTANKONA, K.; ORDEÑANA GEZURAGA, I.; OTAUZA ZABALA, G. (Dirs.) Justicia con ojos de mujer. Cuestiones procesales controvertidas, Tirant Lo Blanch, Valencia, 2018.
LAMMERANT, H., DE HERT, P. “Predictive profiling and its legal limits: Effectiveness gone forever” en: VAN DER SLOOT, B.; BROEDERS, D.; SCHRIJVERS, E. (eds.), Exploring the boundaries of big data. Amsterdam University Press/WRR, vol. 32, 2016.
MARTÍNEZ GARAY, L., “Peligrosidad, Algoritmos y Due Process: el Caso State v Loomis”, en Revista de Derecho Penal Y Criminología, núm. 20, 2018.
MARTÍNEZ GARCÍA, E., “Análisis de la justicia procesal desde la perspectiva de género”, Proyecto de investigación, Segundo ejercicio de Cátedra inédito defendido en la Universidad de Valencia, 2018.
MARTÍNEZ GARCÍA, E., “Capítulo 14: Posibilidades reales que ofrece la mediación penal en los procesos por violencia de género: violencia leve, primaria, perfiles de las partes y modelo procesal recomendable”, en: BARONA VILAR, Silvia (ed.), Justicia civil y penal en la era global, Tirant Lo Blanch, Valencia, 2017.
MAYSON, S. G., “Bias In, Bias Out”, en The Yale Law Journal, 2019.
MIRÓ LLINARES, F., “El modelo policial que viene: mitos y realidades del impacto de la inteligencia artificial y la ciencia de datos en la prevención policial del crimen” en: Libro Blanco de la Prevención y Seguridad Local Valenciana, 2019.
MIRÓ LLINARES, F., “Inteligencia artificial y justicia penal: más allá de los resultados lesivos causados por robots”, Revista de Derecho Penal y Criminología, núm. 20, 2018.
O’DONNELL, R. M., “Challenging racist predictive policing algorithms under the equal protection clause”, 2019, New York University Law Review, vol. 94, núm. 3.
OSWALD, M.; GRACE, J.; URWIN S.; BARNES, G. C., “Algorithmic risk assessment policing models: lessons from the Durham HART model and ‘Experimental’ proportionality”, Information & Communications Technology Law, vol. 27, núm. 2, 2018.
PALMA ARTIGOSA, A., “La inteligencia artificial en la toma de decisiones automatizadas. Análisis técnico de las fases que comprenden el desarrollo e implantación de los sistemas inteligentes”, en prensa.
PÉREZ ESTRADA, M. J., “Capítulo XI. El uso de algoritmos en el proceso penal y el derecho a un proceso con todas las garantías”, en: BARONA VILAR, Silvia, Claves de la Justicia Penal. Feminización, Inteligencia Artificial, Supranacionalidad y Seguridad, Tirant Lo Blanch, 2019.
Descargas
Publicado
Cómo citar
Número
Sección
Licencia
Aquellos autores/as que tengan publicaciones con esta revista, aceptan los términos siguientes:- Los autores/as conservarán sus derechos de autor y garantizarán a la revista el derecho de primera publicación de su obra, el cuál estará simultáneamente sujeto a la Licencia de reconocimiento de Creative Commons que permite a terceros compartir la obra siempre que se indique su autor y su primera publicación esta revista.
- Los autores/as podrán adoptar otros acuerdos de licencia no exclusiva de distribución de la versión de la obra publicada (p. ej.: depositarla en un archivo telemático institucional o publicarla en un volumen monográfico) siempre que se indique la publicación inicial en esta revista.
- Se permite y recomienda a los autores/as difundir su obra a través de Internet (p. ej.: en archivos telemáticos institucionales o en su página web) antes y durante el proceso de envío, lo cual puede producir intercambios interesantes y aumentar las citas de la obra publicada. (Véase El efecto del acceso abierto).
