VALLESPÍN PÉREZ, D., Inteligencia Artificial y Proceso: eficiencia vs garantías. Juruá, Oporto, 2023, 279 páginas. IBSN: 978-989- 712-909-4

Luis Ernesto Orozco Torres

Profesor del Instituto de Ciencias Sociales y Administración

Universidad Autónoma de Ciudad Juárez, México.

luis.orozco@uacj.mx 0000-0003-4659-5153

Reseña de “Inteligencia Artificial y Proceso: eficiencia vs garantías”

A mediados del siglo pasado Ulrich Beck nos advertía en su “sociedad del riesgo” que vivimos en una “aldea” global, inter e hiperconectada, una sociedad, en definitiva, caracterizada por las amenazas globales -como la derivada de la crisis sanitaria que padecimos los últimos tres años-. En efecto, vivimos en un mundo de creciente complejidad, movilidad e incertidumbre en el que la globalización se nos presenta como un proceso irreversible, que ha tenido tanto efectos positivos como negativos sobre la vida de cientos de millones de seres humanos. El desarrollo de la técnica y la tecnología, la internacionalización de los capitales, la revolución en los medios de comunicación (que han dado lugar a la sociedad de la información) y el perfeccionamiento de los medios de transporte (que han acortado, y algunas veces desaparecido prácticamente las distancias) han hecho del mundo contemporáneo una realidad social cada vez más global e interdependiente pero no menos conflictiva ni más segura.

En el contexto de esta sociedad del riesgo global, y en plena era digital, el libro dirigido por el profesor David Vallespín Pérez analiza aquellos retos y desafíos que los Sistemas de Inteligencia Artificial (IA) han introducido en la ciencia del Derecho. Una IA que ha llegado para quedarse y que genera, a partes iguales, tanta fascinación como desconfianza. Como es sabido, son muchas las ventajas de la aplicación de la IA en el proceso, pero también lo son sus riesgos, tal como reconoce el director de la obra que hoy tenemos el privilegio de reseñar (véase el prólogo de la misma). Las ventajas son por todos conocidas: reducción de la carga de trabajo de los órganos encargados de administrar justicia, agilizar los tiempos de respuesta de los órganos jurisdiccionales, así como la previsión cuasi matemática de su contenido entre otras muchas. Por otro lado, la cara obscura de la IA nos ubica en la deshumanización de la justicia, la invasión de la intimidad, el desajuste de la administración de justicia con las exigencias de la protección de datos, así como el alejamiento de la ponderación real, en cada caso concreto, de las circunstancias particulares que le rodean. De ahí, precisamente, que tenga sentido plantearse la definición de un conjunto de reglas éticas que hagan posible no sólo definir una IA fiable, sino también una IA ajustada al irrestricto cumplimiento de los derechos humanos (en particular de las garantías del debido proceso legal) consagrados tanto en las constituciones nacionales como en los instrumentos jurídicos internacionales que limitan la actuación de los actores tanto estatales como subestatales dentro del marco del desarrollo y puesta en práctica de los cada vez más avanzados sistemas de IA.

La obra titulada Inteligencia Artificial y Proceso: eficiencia vs garantías, editado por Juruá, está integrada por 15 estudios científicos especialmente vinculados a la ciencia del Derecho con una marcada carga hacia su vertiente procesal. Los autores, todos ellos voces autorizadas en la materia, provienen de distintas latitudes, tanto de Europa como de América Latina. Precisamente, temas como los abordados en esta obra están caracterizados por la difuminación del tiempo, del espacio y de las fronteras toda vez que no existe nada más global que los sistemas de IA.

Los estudios que componen la presente obra están relacionados con temas de notable actualidad y desafío futuro como lo son, por ejemplo, los relativos a la robotización de la valoración probatoria (pp. 13-21); los juicios telemáticos (pp. 23-36); los testigos virtuales y los testigos on line (pp. 37-53); los Smart Contracts y la prueba en el proceso (pp. 55-80); los títulos ejecutivos inteligentes (pp. 81-105); los riesgos del mediador avatar (pp. 133-145); los puertos, el transporte marítimo y la navegación inteligentes (pp. 147-156); la IA en la mediación (pp. 157-170); los aspectos éticos del uso de la IA en la toma de decisiones a la luz del Derecho de la Unión Europea (pp. 171-189); la Administración Pública en la era de la IA (pp. 191-204); la IA, las decisiones judiciales y la rendición de cuentas (pp. 205-212); la IA, las garantías judiciales y la motivación de las sentencias (pp. 213-233); la criminalidad informática en el sistema penal (pp. 235-254); el empleo de algoritmos en la función jurisdiccional (pp. 255-273), así como los enormes desafíos que imponen la gobernanza algorítmica, la ética de la IA y el Estado (Algorítmico) de Derecho a todos los juristas en la era digital (pp. 107-131). En efecto, se trata de temas de acuciante actualidad y de enorme trascendencia legal.

De forma particular, la obra analiza los retos derivados de la transformación digital de la administración pública, en la que la implantación de sistemas de IA se ha convertido en un arma de doble filo. Por un lado, la IA tiene el potencial para transformar nuestro mundo para bien, pero, por otro lado, su implantación práctica habría generado importantes inconvenientes para garantizar los derechos fundamentales de las personas.

Por otro lado, los autores de la obra analizan el complejo debate que se ha generado en torno a la denominada gobernanza algorítmica o de la IA. La gobernanza de la IA debe ser afrontada de manera urgente por nuestros representantes políticos, existe, en este sentido, una imperiosa necesidad de asegurar que los procesos de toma de decisiones y los sistemas institucionales se centren en las personas (como propone el modelo de gobernanza de la Unión Europea) y que se pueda rendir cuentas de ellos para, a su vez, garantizar la transparencia y la calidad de la gestión en la prestación de los servicios públicos.

Asimismo, se discuten las directrices éticas para una IA fiable, elaboradas por el Grupo Independiente de Expertos establecido en el seno de la Comisión Europea en 2018 -mismas que constituyen la base del modelo europeo de gobernanza de la IA- y de las que el principio del estado de Derecho integra una parte esencial.

En línea con lo anterior, los autores se preguntan hasta qué punto sería legalmente admisible, a la luz del principio del estado de Derecho, todo lo que es posible lograr gracias a los adelantos científicos y tecnológicos en el campo de la IA. Para tal finalidad, se analizan las connotaciones particulares de este principio en el ámbito regional europeo para, posteriormente, analizar algunas propuestas que se han elaborado para adaptar este principio constitucional del orden jurídico europeo a la nueva era digital, llegándose incluso a hablar de un hipotético “Estado algorítmico de Derecho” para poner de manifiesto que deben existir mecanismos legales para evaluar la exactitud, relevancia y calidad de los datos de entrenamiento de los algoritmos, la publicidad del código fuente, y la fiscalización algorítmica, la evaluación ex ante y ex post de los sistemas de IA, los medios para determinar y gestionar el sesgo en los sistemas de aprendizaje automático o la trazabilidad, la fundamentación de las decisiones adoptadas y las posibilidades de defensa y recurso frente a ellas.

En suma, los trabajos que componen la obra que hoy reseñamos hacen un balance de los retos y desafíos que el Derecho debe afrontar ante una nueva y desconocida realidad: la era de la Inteligencia Artificial, cuyas luces y sombras integran las dos caras de una misma moneda.

Por último, debemos señalar que se trata de un libro muy bien escrito, a pesar de la complejidad técnica de los temas abordados el mensaje llega con facilidad al lector, su claridad expositiva no le resta profundidad a las cuestiones materiales que aborda y sobre las que no sólo se limita a plantear las diferentes posturas del debate científico, sino que se posiciona ante él. En definitiva, Inteligencia Artificial y Proceso: eficiencia vs garantías –dirigida por el profesor David Vallespín Pérez– constituye una obra de obligada lectura no sólo para los distintos operadores del sistema de justicia, sino también para cualquier otra persona interesada en la incidencia de las nuevas tecnologías en el campo del Derecho.