La facultad de juzgar vs inteligencia artificial: más allá de la automatización del sistema de justicia

tHE POWER TO JUDGE VS. A I: BEYOND THE AUTOMATION OF THE JUSTICE SYSTEM

M. Isabel García Sánchez

Universidad de Sevilla

margasan2@alum.us.es 0009-0001-9838-8271

I. De la automatización a la inteligencia artificial en la administración de justicia

El inicio de la globalización marcó un punto de partida para que el mundo se interconectara de una manera más eficiente. Los medios de comunicación de aquel entonces consistían básicamente en los medios escritos, los radiales, los televisivos y los telefónicos. Naturalmente, los medios masivos o comúnmente denominados Mass Media, de los años ochenta y noventa no son lo que ahora tenemos como medios de comunicación debido al avance tecnológico y con ello también el surgimiento del mercado digital, que ha permeado no solo en el ámbito comercial en donde se hizo necesario, sino que las esferas gubernamentales.

En efecto, con el paso del tiempo, las instituciones de gobierno han cedido a la necesidad de ponerse al corriente con la tecnología y brindar un servicio eficiente iniciando los primeros procesos de automatización que brindaban la oportunidad de hacer mucho más ágil algunas funciones en todos los ámbitos administrativos. De allí en adelante, las administraciones públicas y los poderes del Estado han visto con urgencia la necesidad de utilizar la tecnología enfocada, en principio a automatizar procedimientos y gestiones que se hacían cotidianamente, esta automatización de procedimientos no fue más que el inicio a la integración de las administraciones públicas y las instituciones de gobierno al mundo digital.

Habrá que detenerse un poco a considerar lo que es y lo que no es la automatización y con ello se podrá hacer una diferencia real entre la automatización y la inteligencia artificial y su uso. No cabe duda que estas dos categorías han sido interpretadas como una sola y se les ha dada un mismo tratamiento y consideración en diferentes ámbitos, sin embargo, resulta ser todo lo contrario, puesto que la llamada automatización es sin duda algo que se nos ha ido imponiendo sin siquiera darnos cuenta puesto que al inicio de estos procesos la inexistencia de las redes sociales no le daba cobertura alguna. Así, la automatización parece definida como procedimientos o series de acciones relacionadas entre sí de modo que una conduce necesariamente a la otra, conducción que se delega total o parcialmente en el uso de un intermediario tecnológico no humano (BEIRO MAGAN, 2020). De la definición atinada se puede destacar que la automatización dentro de procedimientos judiciales es más bien una serie de acciones que tienen un intermediario tecnológico es decir que no es un ser humano quien media entre la gestión de los usuarios y la institución.

Dicho esto, es natural que pensemos en algún ejemplo que pueda guiarnos a entender los procesos de automatización, aunque los damos por hecho. De allí que se podría pensar en un ejemplo, muchas veces trillado, pero efectivo a la hora de entender la automatización es aquel que se considera cuando vamos a un cajero para retirar dinero en efecto, entre el usuario del cajero y el banco se encuentra un intermediario tecnológico la máquina de cajero que conduce el proceso de retirar o ingresar dinero a una cuenta. Gestiones sencillas y automatizadas como la indicada anteriormente, se ha promovido una serie de procedimientos que conlleva todo un sistema de gestión automatizada que busca la agilidad en los procesos. Hablar de automatización es hablar de “la aplicación de tecnología, programas, robótica o procesos para lograr resultados con una intervención humana mínima” (-IBM–, 2025), es decir que la automatización conlleva un proceso digital en el que las personas al utilizarlo no solo ocupen menos tiempo, sino que su intervención muy básica y fundamenta de cara a la utilización del sistema. En el mundo contemporáneo la utilización de procesos tecnológicos es una tendencia muy marcada, cada día los procesos automatizados forman parte del quehacer diario y con ello, como se apuntó anteriormente, las instituciones no se han quedado atrás; aunque, si bien es cierto, en las instituciones gubernamentales los procesos automatizados difieren de la empresa y la industria en cuanto a su función y finalidad.

Sin embargo, la automatización de procesos en la administración de justicia ha tornado un desarrollo superior a partir del año 2009 con la implementación del Plan Estratégico de Modernización la Justicia 2009-2012 y con ello se dio pie a un proceso más formal sobre la implementación de tecnologías en la administración de la justicia, a través de la automatización de procesos de manera incipiente pero que daba pie a mejorar los sistemas de gestión y con ello se inició el proceso de transformación del papel al ordenador. Así se dio pie a la utilización de las tecnologías de la información y comunicación dentro del sector de justicia, promoviendo la incorporación de aspectos novedosos como un expediente judicial electrónico y todo lo que trajo consigo la implementación de la Ley 18/2011, de 5 de Julio , Reguladora del uso de las Tecnologías de la Información y Comunicación en la Administración de Justicia con lo cual se inició una serie de cambios que supuso un ajuste de operadores de justicia como de los ciudadanos en general. Este cambio un poco automatizado al principio pero que se han ido desarrollando de acuerdo al avance tecnológico ha contribuido a la agilización de procesos que, en realidad nos podrían llevar mucho tiempo como por ejemplo escritos de mero trámite, resoluciones judiciales, archivo de documentos o la sencilla revisión de correo no ocupen la mayor parte de la jornada. La automatización de procesos en el sector justicia español ha sido en doble vía. En efecto, por un lado, la gestión de los propios órganos judiciales ya indicada con anterioridad y por otros asuntos como como presentar escritos directamente a las plataformas judiciales o descargar notificaciones se facilitan a los usuarios, en suma, la automatización, representó para el poder judicial en especial, que un cúmulo de funciones judiciales puedan ser realizadas desde plataformas digitales con las características de que estos procesos son predecibles y, por lo tanto, controlables.

Ahora bien, hay que determinar que existen procedimientos de tramitación judicial que involucran elementos tecnológicos pero que difieren en su enfoque y función, por lo que podrían ser considerados como etapas en la implementación de procesos automatizados que, a decir de Beiro Magan son: “La Tramitación Guiada y la Tramitación Automatizada y que la diferencia entre una y otra está en el algoritmo” (BEIRO MAGAN, 2020) De manera que, en tanto la tramitación guiada, cuya naturaleza se puede definir por el nombre que se le da, es aquella en la cual las diferentes etapas pueden ser llevadas a cabo con la intervención del personal para poder darle continuidad al proceso. Así, por ejemplo, subir una notificación al sistema o una resolución implica, claramente procedimientos de tramitación guiada que, si bien es cierto, se utilizan los medios tecnológicos al alcance, siempre está la diferencia entre una tramitación guiada y una tramitación automatizada y no es difícil de comprender en cuanto a que una tramitación guiada es aquella en la cual existen ciertas etapas que se van cubriendo paulatinamente con la intervención propia del personal, es decir, que interviene la mano del hombre en partes del procedimiento.

Al contrario, una tramitación automatizada por lo general no precisa de la intervención humana porque, como lo afirmó Beiro Magan, precisa de algoritmos [1] 1 y minimiza en lo que se puede la intervención del ser humano. Dicho en otras palabras, se han ido abandonando todos aquellos procedimientos de tramitación guida porque la intervención del hombre en los mismos “empujando” los procedimientos no contribuía a la agilidad y esto fue cambiando a una tramitación automatizada, que se desarrolla a través del algoritmo y ha permitido una mayor agilidad en la gestión de expedientes, la tramitación de los mismos y con ello se ha realizado la transición del sistema judicial arcaico a un sistema que ha empezado a dar sus primeros pasos en la era digital.

Naturalmente, luego de años de implementación de la automatización en el sector justicia español se han perfeccionado los incipientes procesos de entonces y además de todo, tanto la institución como los usuarios han aprendido con el transcurrir del tiempo a utilizar de una manera asidua, adecuada y rutinaria todos los procedimientos que se encuentran en las diversas plataformas digitales y de allí que ya es de lo más común en la gestión de expedientes, notificaciones judiciales, presentación de escritos y otras tantas funciones que a diario se realizan.

La irrupción de la Inteligencia Artificial o AI como se le ha conocido por sus siglas en inglés y en español IA es algo que ha sorprendido al mundo. En efecto, hasta unos pocos años la idea de que la IA estuviere al alcance de todos parecía una idea descabellada. Las fuentes de consulta en la web eran, por así decirlo la única fuente de conocimiento que tenía la población al alcance de la mano. Sin embargo, todo cambió cuando en noviembre de 2022 le empresa Open IA dio a conocer el famoso Chat GPT que vino a transformar y revolucionar las tecnologías de la información. Pero básicamente se debe preguntar ¿Qué es la Inteligencia Artificial? Para Diego Olite el Chat GPT se puede definir como “una nueva tecnología que genera textos a partir de las preguntas de los usuarios; es decir, tiene la capacidad de crear contenido “original” y de alta exactitud en lugar de apenas reproducir información de un banco de datos, a partir de las cuestiones que se le planteen. Resulta un modelo de lenguaje basado en la arquitectura de “transformadores” (DIEGO OLITE, 2023). Es decir que la Inteligencia Artificial va un paso más delante de las tecnologías que conocimos anteriormente porque no solo “automatizan” los procesos, que era hasta dónde se había llegado con las introducciones tecnológicas en todos los ámbitos de la vida humana, sino que ahora ya se dan pasos a sostener diálogos coherentes con entes que no son meramente personas.

Desde 2022 en adelante se ha avanzado mucho en cuanto a las consideraciones que se le deben tener a la IA o Inteligencia Artificial, desde los memes y las mofas de la extinción de ciertas profesiones debido a que los diálogos que se establecen con Chat GPT pueden evitarnos una consulta con algún experto en el tema, cosa que sigue siendo incierto desde todo punto de vista, hasta lo dimensión que ha tomado las consideraciones del avance y la utilización de la IA en diversos campos del saber humano. Y, es aquí en dónde llegamos a considerar si la definición citada anteriormente por Olite tiene sentido, cuando indica que la IA no solo tiene la capacidad de producir contenido original, es decir, que no es un buscador de temas, sino que tiene la capacidad productora de un nuevo contenido a partir de los diálogos y, además de ello, el fundamento de todo este cúmulo de conocimiento sobre lo que se le ha dado en llamar “arquitectura de transformadores”.

Dicho de otra manera, con la IA, se avanza de la utilización de la tecnología automatizada debido a que ya no se está en la dirección de utilizar la tecnología para el avance de las etapas de un procedimiento, sino que ahora se cuenta en el dialogo y respuesta, en la producción de conocimiento. Es por ello que esta herramienta trae consigo un cambio muy significativo en la interacción humana, no solo en el comercio e industria, sino en otros campos por la capacidad de generar con relativa facilidad el acceso y uso para la mayoría de los usuarios.

La seducción de la IA en el campo de ciencias ha sido implacable tanto en las ciencias exactas, como en las ciencias aplicadas se ha plantado su utilidad. En el campo del derecho, como otras ciencias aplicadas que se distinguen por manejar un cúmulo considerable de información, la IA ha sido muy seductora, puesto que si con procesos automatizados se dio un avance significativo que tenía por objeto la agilidad en la tramitación de expedientes judiciales, qué no puede hacer con su implementación en el campo del derecho. ¿Hasta qué punto puede la IA con sus algoritmos desarrollar un camino de ascenso en la administración de la justicia? ¿qué puede ser motivo de alarma o desasosiego? Preguntas como lase anteriores son las que valen la pena encontrar su respuesta debido a que no se está ante las puertas de la entrada al mundo digital como antes, sino que se está en pleno avance de llamada cuarta revolución industrial que “Comenzó a principios de este siglo y tuvo como base la revolución digital. Está caracterizada por un Internet mucho más móvil y mundial, por sensores más pequeños y más potentes, y por inteligencia artificial y aprendizaje automático” (SCHWAB, 2016) Así, se ha pasado de la era del internet, a las plataformas digitales y de los buscadores de internet y motores de búsqueda al Chat GPT y otras plataformas de IA que ahora ya se han publicitado.

Uno de los factores que ha hecho atractivas las plataformas de IA es que se han deslindado de la estandarización de conocimientos, es decir que no presentan conocimientos uniformes a cada cuestionamiento, como lo hacían los motores de búsqueda a los cuales había que acudir como fuente de información, los buscadores tradicionales siempre mostraban búsquedas robotizadas de la información requerida, con la IA la novedad es que no hay respuestas robotizadas, sino que generadas a partir de los diálogos que se plantean. Así se plantean los logros de la automatización en el sector judicial español al indicar que la máxima automatización completa y posible de todo tipo de trámites que no requieran una valoración jurídica, de inicio y fin de plazos, de libramiento de notificaciones y actos de comunicación, de integración de Registros, de documentación de actos procesales, de traslado de versiones ya documentadas de esos actos o la expedición de certificaciones, testimonios, acuses de recibo o recopilación y aunque no sea materia estrictamente procesal– de tratamiento de datos estadísticos y gerenciales, es un paso necesario para la optimización de los recursos públicos en la mejora del servicio a la ciudadanía (BEIRO MAGAN, 2019). De esa cuenta, se puede comprender que hasta el momento la automatización en el sistema judicial español tiene una hoja de ruta, tiene un derrotero trazado y sobre el cual se han implementado las tecnologías para completar todo este tipo de trámites que no requieren valoración jurídica, es decir, que allí estriba precisamente la diferencia entre la automatización implementada en el poder judicial y la irrupción de la IA, habida cuenta que, en la automatización no se va a incluir ninguna valoración jurídica, no existe tal cosa puesto que son etapas y procedimientos que se han desarrollado a través de plataformas tecnológicas pero con la mínima intervención humana. Al contrario, la IA plantea una generación de conocimientos basados en algoritmos y en el diálogo como constructor de conocimientos o arquitecto de transformadores.

En realidad, los expertos han buscado hacer una división práctica de lo que se considera la IA que se le atribuye a los motores de búsqueda y otras formas de tecnologías y la IA capaz de lograr generación de conocimiento a partir de la construcción del dialogo, tanto así que clasifican del modo siguiente: La primera, Inteligencia artificial débil: considera que los ordenadores únicamente pueden simular que razonan y solamente pueden actuar de forma inteligente. Los partidarios de la inteligencia artificial débil consideran que no será nunca posible construir ordenadores conscientes y que un programa es una simulación de un proceso cognitivo, pero no un proceso cognitivo en sí mismo. La segunda, Inteligencia artificial fuerte: especifica que un ordenador puede tener una mente y estados mentales y que, por tanto, un día será posible construir uno con todas las capacidades de la mente humana. Este ordenador será capaz de razonar o imaginar (VIDAL LEDO, 2019) De allí que el reto que se plantea de implementar la IA dentro del sistema judicial no es fácil, no es sencillo, pero presenta una posibilidad cada vez más cierta debido a la irrupción de IA en muchas de las áreas de la actividad humana.

Ante los cambios tecnológicos ciertamente ningún Estado puede abstraerse puesto que el rezago en esta era digital siempre se paga muy caro. La IA ha cobrado terreno en varios campos en los cuales su aplicación práctica ha permitido ver avances significativos, por lo que pensar que su implementación en diversos ámbitos resultaría común de ahora en adelante. El uso de la IA en sectores industriales es ya un hecho y su implementación va ganando terreno en otros campos, de manera que, en un futuro próximo, pueda empezar a ser utilizado en instituciones de gobierno de una manera más asidua, especialmente en el sector judicial que presentaría un dilema que en este artículo nos ocupa.

II. La naturaleza jurídica la facultad de juzgar en el ordenamiento jurídico español

Juzgar ha sido siempre parte de la naturaleza del ser humano. Desde tiempos inmemoriales la emisión de juicios buenos, malos, concretos, abstractos, justos o injustos han sido parte del ejercicio de la razón humana y por ende ha sido un ejercicio cotidiano en la sociedad, en la colectividad. Así casi por naturaleza se podría afirmar que todos tienen una facultad innata de juzgar y se procede a hacerlo hasta para resolver un conflicto creado en la familia, entre los amigos o los compañeros de trabajo. Alguien que no se siente afectado por el problema actúa para mediar, para decidir o por lo menos se inclina a una u otra parte detallando a quien le asiste o no la razón y en todo caso, el derecho. Para Kant esta naturaleza de juzgar no pasó desapercibida debido a que planteaba la posibilidad de conocer nos permite la facultad de juzgar de allí que expresa: “Los principios trascendentales del conocimiento nos autorizan a admitir una finalidad, por la cual la naturaleza en sus leyes particulares se concierta subjetivamente con la facultad de comprensión del juicio humano, y nos permite juntar las experiencias particulares en un sistema” (KANT, 1976). El pensamiento kantiano establece facultad de juzgar como aquella acción del ser humano capaz de experimentar la comprensión de un hecho a partir del conocimiento, la experiencia y un conjunto de leyes particulares unidos en un sistema. Es decir que esta facultad para emitir juicios deviene de la naturaleza misma del hombre y con ello habrá que sujetarles a ciertos parámetros dentro de un sistema, con la finalidad precisa de que no se exacerbe, es decir que el ser humano utilizando esta facultad de juzgar no puede extralimitarse y actuar por encima de la regla, codificación o sistema.

Todo lo anterior resume en cierto modo, lo que ha considerado en la teoría de la funcionalidad del derecho, especialmente en la relación entre poder y derecho en una colectividad, en una sociedad. En efecto, las relaciones entre poder y derecho fueron forjando Estados más fuertes en dónde primeramente las sociedades han tenido una fuerte contradicción en la disputa de las relaciones de derecho y poder lo que ha significado los diferentes modelos de Estado que han existido a través del tiempo en dónde la lucha estriba siempre entre quien o quienes concentran más poder y que función tiene el derecho en limitar o regular ese poder concentrado. Es allí en donde se debe centrar el debate sobre la naturaleza jurídica de la facultad de juzgar, puesto que es fácil determinar que en la Constitución Española como en muchos otros textos constitucionales alrededor del mundo se determina que la facultad de juzgar corresponde al Estado. Esto claro está, no se encuentra en discusión y de hecho en el transcurso del presente trabajo se hará un análisis jurídico sobre ello sin embargo, habrá que ir un poco más atrás, es decir a las relaciones de derecho y poder y a la función del derecho para determinar y atraer luz a la idea, no tanto descabellada, de la irrupción de la IA y su consiguiente aplicación dentro de las esferas de poder judicial, más allá de cualquier proceso de automatización, es decir su aplicación práctica en las funciones judiciales.

Cuando Norberto Bobbio planteó la teoría funcional del derecho afirmó la idea de que es el derecho el que contiene o limita el poder y por ello “el Derecho viene a ser analizado, precisamente en función del poder, como instrumento que éste emplea para realizar determinados fines y, por lo tanto, como instrumento para dirigir, condicionar y controlar el sistema social” (GREPPI, 1995) Bajo esta premisa resulta claramente establecida la función del derecho en cuanto a contener el poder, limitarlo, condicionándolo a efecto de que no se exacerbe puesto que esto provocaría simplemente una anarquía o un despotismo, entendida esta como la ausencia total del poder público o el ejercicio del poder individual sin control. De esta manera, el derecho controla en poder público y con ello la facultad de juzgar estaría sometida siempre al derecho dentro de un Estado [2] . No viene al caso, exponer aquí la evolución que han tenido los Estados hasta llegar al Estado Social y Democrático de orden Constitucional debido a que el presente trabajo pretende ser un análisis más bien jurídico que político. Sin embargo, es aquí en dónde cobra plenamente sentido la sujeción del poder público a la norma constitucional puesto que a partir del orden constitucional se han construido los Estados democráticos en la era presente ya que el ejercicio de juzgar que desde tiempos inmemoriales se ejercía en diferentes formas sin mayores límites más que la discrecionalidad de quien o quienes tienen el poder para ejercerla viene a ser regulada a través del derecho constituido en una norma de orden constitucional.

La facultad de juzgar tiene como un elemento indispensable para su ejercicio en la legitimidad para hacerla efectiva. En efecto, es el derecho el que legitima todo el ejercicio del poder público y con ello también legitima el ejercicio de la facultad de juzgar. En este aspecto es importante hacer una breve diferencia entre la facultad de juzgar y la potestad [3] de juzgar ya que, aunque suele considerarse conceptualmente lo mismo en realidad la diferencia entre estas dos categorías radica en la relación que una y otra tienen dentro de la estructura jurídica de un Estado. En efecto si partimos del orden constitucional la potestad 3 de juzgar la tiene exclusivamente el Estado, así lo establece el artículo 149.6, que establece que es competencia exclusiva del Estado la administración de justicia, de tal forma que la potestad para administrar justicia y consabidamente la potestad de juzgar le corresponde al Estado. Naturalmente como todo poder público originario emana del pueblo no se puede dejar de lado que la justicia emana o proviene también del pueblo que lo delega, como ya se ha indicado en el Estado para que a través de ese ejercicio del poder público fundado en derecho puede administrar la justicia de manera pronta.

Ahora bien, como se ha apuntado anteriormente es a través de la Constitución que se legitima el ejercicio de la potestad para juzgar por parte del Estado, dado que la justicia, como bien lo regula el texto constitucional, emana del pueblo y la administración que el Estado hará de la justicia lo ejecutará a través del Poder Judicial. La Constitución Española regula en el artículo 117, lo relacionado al ejercicio de la jurisdicción, entendida “como aquella forma de aplicación del derecho que se distingue de las otras modalidades posibles por representar el máximo grado de irrevocabilidad admitido en cada ordenamiento positivo” (REQUEJO PAGES, 1989), cabe explicar que la jurisdicción como concepto se dice que es la potestad de juzgar, sin embargo por definición la jurisdicción es, como se dicen en la definición anterior, una forma exclusiva de aplicar el derecho con un grado de irrevocabilidad, es decir que no solo se aplica el derecho sino que se ejecuta lo juzgado como parte de esa jurisdicción que ejerce el Estado al recibir del pueblo el poder para administrar la justicia, es decir la potestad de juzgar.

Por otro lado, se tiene la facultad de juzgar que deriva precisamente del poder o potestad de juzgar que ejerce el Estado con exclusividad. Y de allí que la Constitución Española en el artículo 117.3 Establece: “El ejercicio de la potestad jurisdiccional en todo tipo de procesos, juzgando y haciendo ejecutar lo juzgado, corresponde exclusivamente a los Juzgados y Tribunales determinados por las leyes, según las normas de competencia y procedimiento que las mismas establezcan”. Indudablemente tenemos por un lado el poder o la potestad de juzgar, que ejerce con exclusividad el Estado y la facultad de juzgar, que es aquella capacidad que ejercen los órganos judiciales a través de los jueces y tribunales a quienes se les otorga esa capacidad para que puedan ejercer la jurisdicción limitada, claro está, por la competencia por razón de su orden jurisdiccional, territorial o cuantía para resolver conflictos legales y hacer cumplir sus decisiones. Así se podría indicar que un Estado de Derecho se caracteriza entre otras cosas, por imponer el imperio de la ley a través del poder de juzgar, de ejercer jurisdicción por medio de los diversos órganos judiciales cuya funcionalidad no es de ejecutar venganzas, sino de impartir la justicia, imponer aquel valor emanado del pueblo que lo ha delegado precisamente para que, bajo el respeto de todas las garantías legales que prescribe el derecho, pueda mantener el orden.

En el ordenamiento jurídico español la responsabilidad de juzgar se establece, como en otros muchos sistemas judiciales, en la figura del Juez. Ya sea el Juez como un órgano unipersonal o bien Magistrados como órganos colegiados en el quehacer diario se enfrentan a la disposición de dictar resoluciones o sentencias en diferentes procesos. La garantía de esta facultad de juzgar deviene de su independencia que permite un ejercicio pleno sin cortapisas, tal y como lo establece la Constitución Española en el artículo 117. 1y 2 que establece: “1. La justicia emana del pueblo y se administra en nombre del Rey por Jueces y Magistrados integrantes del poder judicial, independientes, inamovibles, responsables y sometidos únicamente al imperio de la ley. 2. Los Jueces y Magistrados no podrán ser separados, suspendidos, trasladados ni jubilados, sino por alguna de las causas y con las garantías previstas en la ley”. De lo anterior es importante comprender que la única barrera o limite que tienen los juzgadores al momento de ejercer la facultad de juzgar es la ley misma, el sometimiento al impero de la ley marca los límites de la facultad de juzgar, teniendo esto en cuenta se debe comprender que los procesos de automatización y posiblemente de aplicación de la IA en el ámbito judicial son posibles siempre y cuando la regulación legal que se establezca lo permita.

Entonces estamos ante un fenómeno que no es relativamente antiguo, pero que determina que la facultad de juzgar si puede ampliarse, modificarse o implementarse de manera diferente siempre y cuando se encuentre una regulación legal que lo permita, que lo apruebe y que, en general, haga viable cualquier proceso digital o tecnológico. En este sentido, si consideramos el poder de juzgar, es decir la potestad de juzgar que pertenece al Estado, esta permanece inamovible desde todo punto de vista, puesto que la Constitución es la que establece que este poder jurisdiccional solamente lo debe ejercer el Estado, en la forma en que ha sido dispuesta en la Constitución, es decir a través del poder judicial mediante el ejercicio de la facultad de juzgar que tienen los Jueces y Magistrados que integran el poder judicial. Sin embargo, recalco, en cuanto a la facultad de juzgar que ejercerán los Jueces y Magistrados, allí si hay un dilema habido cuenta que el límite de este ejercicio es el imperio de la ley que, buscando al día de los avances tecnológicos, ha ido regulando la implementación de la tecnología dentro de los procesos judiciales.

Así, en efecto los procesos de automatización del poder judicial dieron inicio con la Ley 18/2011, de 5 de julio, Reguladora Del Uso De Las Tecnologías De La Información Y La Comunicación En La Administración De Justicia, que abrió las puertas a la era digital en el poder judicial dio inicio a la digitalización y automatización de procesos en los órganos judiciales con lo cual también se obtuvo la agilización. La influencia de la era digital en la población también ha contribuido de manera importante a lo que podríamos llamar la “normalización” de los procesos automatizados de tal manera que los poderes públicos y en especial el poder judicial tiene la facilidad de continuar con la automatización de trámites y poco a poco continuar con la implementación de procesos tecnológicos más complejos como la IA aplicada a diversos otros procedimientos o gestiones cuya automatización es más compleja, pero que por virtud de ley se pueden continuar desarrollando. Si se preguntara ¿hasta dónde puede llegar la intervención de la IA en los procesos judiciales? No habría una respuesta adecuada. De igual manera no se puede responder con acierto si se preguntara ¿Puede la IA llegar contribuir con la facultad de juzgar? No se sabría con certeza. Lo único seguro es que desde que empezaron los procesos de automatización de los que ya se hizo referencia anteriormente, se dio un vuelco necesario hacia la generación de procesos ágiles y el abandono al papel y de la intervención humana en etapas que necesitan una mínima intervención; y que esto puede llevar a considerar procesos más complejos que utilicen la aplicación de la IA. Sin embargo, no se puede negar que la facultad de juzgar cuya naturaleza se encuentra en el seno mismo del Estado, se encuentra regulada por normas jurídicas, limitada por las mismas y, por consiguiente, tampoco se puede asegurar que esas normas no pueden ir cambiando hasta permitir que estos avances tecnológicos sean parte del sistema judicial.

De mediados y finales del siglo pasado ninguna persona podría haber afirmado que las notificaciones judiciales se harían a través de medios electrónicos, era impensable en aquellos tiempos, sin embargo, con el avance de la tecnología ese tipo de gestiones se hizo palpable y posible, al igual que la presentación de escritos y otras etapas procesales. Es por ello que, el tema que nos ocupa trata principalmente de ir un poco más allá de lo que ahora se conoce en cuanto a la automatización y pensar si la facultad de juzgar puede, también ir más allá de su naturaleza tradicional en la que son personas a cargo de órganos judiciales quienes ejercen tal facultad y que de ahora en adelante se derive en dos formas que puedan dar pie a la utilización de IA ya sea en su uso como auxiliar en decisiones judiciales, planteamiento polémico pero que ya ha sido puesto en escena o bien, la de sustituir el razonamiento del juzgador lo cual, aunque mucho más complejo y polémico también ha sido considerado como una posibilidad futura.

III. La irrupción de la inteligencia artificial en el ámbito judicial

Luego del 30 de noviembre de 2022 cuando ChatGPT fue anunciado al mundo por OPEN AI , se puede decir que todos los sectores revolucionaron, porque se marcó una tendencia en considerar si era beneficioso la utilización de AI en todas las actividades profesionales, industriales e incluso en el sector público. El sector jurídico no fue para menos, porque la IA planteó la posibilidad no solo de agilizar procedimientos, sino que en la vida misma nunca se había considerado la posibilidad de sostener una conversación con “una maquina” de manera coherente sobre diversos temas, y en la actualidad las conversaciones con ChatGPT sobre cualquier tema posible es un hecho porque la información siempre fluye de alguna u otra manera. La interacción con un Chat de Inteligencia Artificial pareció de primera mano algo novedoso no solo porque en esta era de información, la desinformación fluía por las redes sociales apareciendo una serie de Fake News a las cuales muchos les daban credibilidad puesto que se lanzaban a las redes sociales sin mayor verificación y se reproducían viralmente. Con un chat de inteligencia artificial esto ya no sucedería puesto que sostener una conversación con la IA daba certeza en cuanto a la mayoría de las respuestas y se podría corroborar la fuente tal y como ahora puede hacerse de primera mano con Grok en la red social X (antiguo Twitter ) o bien consultando directamente a la AI sobre las noticias que se hacen virales.

Aunque se ha cuestionado el uso de herramientas como ChatGPT en el sector jurídico, especialmente en la abogacía, lo cierto es que actualmente se han desarrollado otras herramientas tecnológicas que han estado auxiliando a la Abogacía a través de herramientas especializadas como, por ejemplo, la herramienta para despachos Harvey [4] de IA generativa van teniendo una gran demanda en el mercado de los denominados Logitech es decir las empresas tecnológicas enfocadas al campo jurídico y otros de su clase. Como ya se ha indicado, antes del surgimiento de la IA existían programas que automatizaban la utilización de documentación jurídica, gestionaban expedientes, fichas de clientes, agendas; pero no eran capaces de generar conocimiento como sí lo hacen herramientas como Harvey . De manera que se puede considerar como un hecho que la IA ya se encuentra inmersa en los despachos de Abogados que le han visto con buenos ojos porque en el área de la litigación los despachos de abogados han visto que el auxilio de la IA para redactar escritos y alegaciones con fundamentos legales y facticos e no solo posible sino que un recurso invaluable dado que contar con una herramienta con una gama de conocimientos permite que haya resultados claros relacionados al tiempo de búsqueda y análisis para aplicarlo a un caso en concreto.

Con la Inteligencia Artificial en boga por doquier y un mundo cada vez más dependiente de la tecnología, en medio de esta era digital, parece ser ineludible que los ámbitos de las administraciones públicas también sean presa de este fenómeno. A ciencia cierta se ignora hasta dónde la IA llegue a tener presencia dentro de los procesos automatizados, sin embargo, cierto es que en el judicial ya ha empezado a cobrar relevancia y por lo mismo también existe la seria probabilidad que su incorporación llegue más temprano que tarde.

En efecto, en un mundo tan globalizado y dependiente cada vez más de procesos tecnológicos, procedimientos digitales, la sociedad se debate en dos polos opuestos: los que urgen la necesidad de aplicar todo cuanto representa una ventaja tecnológica a los procedimientos que anteriormente realizaba únicamente el ser humano y los que “satanizan” a la tecnología porque consideran con una dependencia cada vez mayor en la tecnología, el ser humano llegaría a ser un instrumento en lugar de servirse de ella. Así, cuando se plantea la posibilidad real de que, procesos y procedimientos de orden judicial puedan ser desarrollados completamente a través de instrumentos informático a partir de la IA se crea un dilema que hasta el día de hoy ha causado un serio debate.

En el campo del derecho y especialmente en el ámbito judicial, se tiene por sentado que el ejercicio de esta función pública está comprometida básicamente a procesos mentales del ser humano, procesos de generación de pensamiento puesto que gran parte de lo que se hace en los Juzgados es resolver o decidir sobre algún conflicto, sobre alguna petición o bien considerar los insumos jurídicos para determinar a quien asiste el derecho y a quien no. Todo esto conlleva un ejercicio del pensamiento jurídico que, por lo regular es llevado a cabo tanto por el Juez como, en algunos otros aspectos, por el Letrado de la Administración de Justicia. Aunque exista una resistencia al uso de la IA en el campo judicial muy probablemente, debe considerarse que, como ha ocurrido en otros cambios, su uso va a terminar generalizándose e implementándose. El punto de la discusión no radica en considerar si la IA se va a implementar o aplicar, sino que la discusión deberá centrarse en la pregunta ¿Hasta qué punto se deberá permitir el uso y aplicación de la IA en las decisiones de los Jueces o si llegara a suplantarlos?

A la pregunta ¿Cuánto ha incursionado la IA en el campo de la justicia? La respuesta pueda sorprenda a muchos debido a que ya se han desarrollado algunas herramientas sobre aspectos puramente jurídicos, especialmente en lo que se ha dado en llamar herramientas de justicia predictiva, como por ejemplo el programa denominado COMPAS [5] , que se utiliza en algunos países como Estados Unidos para su aplicación en el sistema penitenciario, aunque se ha reconocido que esta herramienta tecnológica tienen algunos errores se espera que con el avance de la IA pueda mejorarse los resultados y su aplicación sea mucho más eficiente. Sin embargo, lo importante es resaltar que estas herramientas que utilizan IA ya se encuentran en la ruta de marcar el sendero por el cual muchas otras herramientas van a surgir, con lo cual se hace previsible que la utilización de herramientas tecnológicas basadas en IA sea incluida en el ámbito judicial.

La realidad es que en la actualidad muchas otras ciencias ya han aceptado el uso de herramientas tecnológicas basadas en IA como un auxiliar para el desarrollo y aplicación a dicha ciencias. El profesor Nieva explica este fenómeno atinadamente al indicar “otros sectores como la medicina o las propias redes sociales se debe a la enorme dificultad de recoger lo que esencialmente necesita la IA para poder funcionar: datos. La IA lo único que hace es imitar nuestros procesos de decisión, recopilando nuestros criterios para resolver hacer algo” (NIEVA FENOLL, 2024) Lo que parece ser en muchos casos la aplicación de IA en la administración de la justicia deviene básicamente del hecho de que se puede creer que son los programas que tomarán las decisiones y no la personas que los crean o quienes los utilizan, en este sentido considerar que en el futuro los casos judiciales dependan de una decisión que puede estar parametrizada es lo que crea la resistencia al cambio debido a que, aunque se recojan criterios establecidos por procesos mentales de los jueces, la parametrización de estos criterios pueda afectar el aspecto fáctico que conllevan los casos judiciales.

Resulta natural plantearse las dudas en cuanto a la forma en que se puede abordar la irrupción que ha tenido la IA en los campos de la ciencia, en el caso del derecho y la justicia esto es fundamental para su desarrollo. Sin embargo, no debe de evadirse la discusión sobre el tema, como se apuntó anteriormente, tarde o temprano habrá de acceder a su aplicación de la IA en la administración de la justicia y por ello, en lugar de rehuir del tema habrá que abordarlo necesariamente. Abordar este tema por parte de los Estados deberá necesariamente tener una estructura propia formada de, al menos, ingenieros en telecomunicaciones, informáticos, matemáticos y personas del derecho que diseñen las aplicaciones y los algoritmos relacionados con la Justicia (NIEVA FENOLL, 2024) Y, siguiendo la idea expuesta anteriormente los Estados deben de medir los tiempos para la implementación de estas herramientas tecnológicas puesto que el rezago en tecnología como se ha indicado anteriormente tiene un costo muy alto para los países. Así, el Estado Español deberá promover la conformación de una estructura institucional que permita como prioridad la comprensión de la IA y a la vez establecer las etapas necesarias de cara a la implementación de un proceso tecnológico de implementación en el sector judicial.

Ahora bien, la implementación de este tipo de sistemas no siempre ha sido exitosa y por ello de la experiencia se debe aprender. En México se ha intentado crear algunas herramientas de apoyo a la facultad de juzgar de los jueces como por ejemplo el denominado Expertius [6] que fue elaborado a partir de expedientes reales llevados a cabo en órganos judiciales y combinando este conocimiento con las experiencias y razonamientos lógicos y metódicos realizados por jueces a partir de las reglas de valoración de la prueba en juicios especialmente sobre la obligación de alimentos. Si bien es cierto, habrá que aclarar, que la aplicación de esta herramienta es puramente experimental, es decir que no se ha aplicado a casos reales actuales, sino que se ha aplicado a casos ya concluidos en los Tribunales de Ciudad de México y Tabasco y con ello se buscaba determinar el grado de certeza en la aplicación práctica de la IA en relación a los casos resueltos. El resultado es que, pese a que se puede procesar variables reales de un juicio de alimentos tales como la necesidad del alimentista, la obligación del alimentante, la capacidad económica del alimentante y del alimentista, también existen otro tipo de enunciados que no se pueden considerar puesto que algunos aspectos se derivan de la experiencia judicial de los jueces que, en la mayoría de veces resulta ser muy personal y por otro lado de conocimiento heurístico [7] debido a la indagación y la consideración de la prueba, además de ello aunque las presunciones no son prueba en sí misma tal y como lo establece el artículo 385 y 386 de la Ley de Enjuiciamiento Civil las mismas devienen del razonamiento del Juez los cuales lógicamente no pueden estandarizarse.

En efecto, los problemas con que se ha encontrado las herramientas basadas en IA aplicadas a la justicia son precisamente la ausencia de ciertas variables cuyos patrones no pueden ser sujetos a algún tipo de algoritmo puesto que el ejercicio del Juez en cuanto a la facultad de Juzgar lo hace bajo unas reglas de valoración de pruebas como la Sana Critica cuyo ejercicio en ciertas pruebas como en el caso de la declaración de testigos o el Dictamen Pericial que indica la Ley de Enjuiciamiento Civil ( Artículo 348 LEC) ya que en estos casos la valoración no se encuentra tasada y por lo tanto el valor de una u otra prueba está en la sola disposición del Juez, contrario a otras pruebas que se encuentran tasadas y cuya valoración se encuentra establecida en ley, como por ejemplo el valor que, en la Ley de Enjuiciamiento Civil se le otorga a los documentos públicos (Articulo 322 LEC). En este sentido, las pruebas que se encuentran tasadas, como plantean un estándar de criterio que no permite más que el Juez aplique la normativa que le otorga un valor probatorio el cual no se puede discutir, es decir que su valor es por ministerio de ley con lo cual el Juzgador únicamente deberá considerarla al emitir sentencia y con ello resulta muy práctico para las herramientas tecnológicas crear los algoritmos necesarios para que se puedan aplicar que pueden ser paramétricos.

Sin embargo, en sentido contrario operan algunas pruebas cuya consideración y valoración dependen del criterio del Juez utilizando, como ya se indicó, la Sana Critica y es aquí entra el juego varios elementos del razonamiento judicial como la experiencia, la lógica, la ciencia, y los conocimientos; por lo que resulta sumamente complejo hasta el momento actual, la creación de herramientas tecnológicas basadas en IA que puedan valorar dichas pruebas. Con lo cual, se puede entender que herramientas como la que se ha pretendido implantar en México, como Expertius podría paulatinamente en casos el juicio de alimentos ya que resulta ser un juicio centrado en aspectos económicos de capacidad de pago y establecimiento de necesidades, con parámetros muy determinados, aunque aún en otros aspectos aún precisa de perfeccionamiento para poder ser implementada.

La aplicación de sistemas de Inteligencia Artificial en muchos campos, como ya se indicó, es una realidad hoy en día, el uso de estas tecnologías en diversos contextos de la sociedad es un fenómeno de orden mundial que no cesa de avanzar y por ello en el contexto jurídico se ha considerado seriamente su utilización. La automatización de procesos ya es un hecho y podría decirse, que es parte de la realidad actual inimaginable hace algunas décadas y ahora, se debe tomar muy en serio que la Inteligencia Artificial y los algoritmos tienen impacto en la sociedad de tal suerte de que ya están presentes, aunque de manera experimental, en el campo jurídico.

La mayor preocupación que se pueda tener en el ámbito jurídico la irrupción de la Inteligencia Artificial radica en la complejidad de su implementación y las posibilidades que podría presentar su perfeccionamiento. Dado que se pretendería dar un saldo de un proceso de automatización a una especie de coworking entre el órgano judicial o, mejor dicho, el Juez y la herramienta tecnológica o sistema basado en IA, puesto que previsiblemente se teme una especie de “robotización” en la facultad de juzgar. Si nos basamos en la experiencia, comprobamos que se da el fenómeno de la robotización, ya que se ampliaron las posibilidades de trabajo. Licuar en los algoritmos tareas rutinarias, repetitivas y mecánicas, posibilita que los trabajadores puedan ser más productivos en tareas postergadas o más complejas (CORVALÁN, 2019). Ahora bien, en el caso de una probable implementación de herramientas tecnológicas basadas en IA, no solo se está ante una mezcla de algoritmos, tareas rutinarias, repetitivas o mecánicas, puesto que esto es lo que se logró con la automatización, sino que se está ante procedimientos de utilización de la AI para que puedan ser parte de la facultad de juzgar de los jueces y es por ello que allí se centra el debate y es allí en dónde radica el dilema sobre su implementación.

Ahora bien, ante la serie de probables dilemas o desventajas que puedan considerarse a la IA es importante recalcar, sin lugar a dudas, que su utilidad es innegable para la administración de la justicia. Como lo afirma Valladolid “las grandes ventajas que puede aportar a los procesos judiciales en beneficio de principios como el de celeridad, neutralidad y sobre todo a favor del principio de eficiencia, esto por la agilización que brinda la IA” (VALLADOLID, 2024); de tal manera que las desventajas que puede acusar la IA son compensadas con grandes ventajas que podrían ser utilizadas en los diferentes procesos judiciales todo basado como se indicó anteriormente al principio de eficiencia, ahora bien, no podríamos decir lo mismo sobre los valores de la justicia ya que los procesos fundados en IA aplicados a la justicia no se pueden implementar sin tener presente la figura del Juez, al menos por el momento. Como se indicó anteriormente es el Juez quien mantiene una independencia tal para ejercer la facultad de Juzgar, por lo cual, sin considerar este papel primordial dentro de los procesos, aunque en términos de imparcialidad y neutralidad algunos otros ven que una maquina podría ser la solución ya que algunas características que en la práctica no siempre se cumplen a cabalidad cuando se trata del juez humano, lo que plantea la cuestión de si un enfoque diferente, como la utilización de una máquina, podría lograr una mayor imparcialidad y eficiencia en el sistema judicial (VALLADOLID, 2024). Debe tenerse presente que los programas y las herramientas tecnológicas no son infalibles, tampoco están exentas de manipulación, ello es comprobable con las largas discusiones sobre manipulación de las redes sociales y las cuantiosas sanciones que se han impuestas a gigantes tecnológicos por manipulación de datos o filtraciones de los mismos, con lo cual se corrobora que la infalibilidad de las herramientas tecnológicas se encuentran bajo las empresas que las crean y perfeccionan, aunque de ello se hablará con más detalle en el capítulo siguiente, baste decir que no se puede hablar meramente de imparcialidad o neutralidad si los algoritmos se programan con alguna tendencia.

Al final, no cabe duda que la IA ya está incursionando fuertemente en el sistema de justicia y ha llegado seguramente para quedarse. Con el avance de la ciencia tecnológica va a ser muy difícil desprenderse de estas herramientas puesto que ya la automatización de procesos ha quedado atrás, la informática jurídica documental y la informática jurídica de gestión ya han quedado como antecedentes del proceso de la incursión de la tecnología digital en el sistema de justicia. Ahora se avanza a modelos automatizados de meta gestión y meta documentarios que sirven de base para proyectos que conllevan la inclusión de IA para que puedan servir como auxiliares del Juez. Los ingenieros informáticos, físicos matemáticos, ingenieros en sistemas, Ingenieros en diseño, los profesionales en robótica, en bioinformática, los investigadores jurídicos y hasta los abogados consideran que es posible que el conocimiento jurídico, la información jurídica documentada, la experiencia judicial plasmada en expedientes judiciales, la jurisprudencia y el conocimiento jurídico legal puede llegar a ser moldeado adecuadamente para que con ello se puedan crear herramientas tecnológicas capaces de simular procesos de conocimiento, tales que puedan asimismo ofrecer los mismos resultados que se podrían esperar del ejercicio que pueden hacer los jueces al ejercer la facultad de administrar justicia y con ello se está avanzando a una era muy diferente a la que hasta ahora se ha vivido dado el hecho de que, como se verá más adelante, este tema ya ha generado discusiones serias relacionadas con los límites de estos programas o lo relacionado con la cuestión ética.

IV. LÍMITES Y RIESGOS SOBRE LA UTILIZACIÓN DE LA INTELIGENCIA ARTIFICIAL EN FUNCIONES JUDICIALES

¿Hasta dónde puede llegar la utilización de la Inteligencia Artificial en las funciones judiciales? ¿Habrá necesidad de imponer ciertos límites? ¿Qué riegos tiene la implementación y uso de la Inteligencia Artificial en las funciones judiciales? ¿Sustituirá la AI a los jueces? Son preguntas válidas que cobran una relevancia importante cuando se considera la utilización de la Inteligencia Artificial y los efectos que puedan provocarse a raíz de su implementación en funciones judiciales.

Es verdad que algunos estudiosos del tema plantean que la utilización de la Inteligencia Artificial en funciones judiciales no significa la sustitución del Juez, así lo expone Ramallo al indicar: “En el contexto judicial, la IA no se plantea como un sustituto del juez o del fiscal, sino que actúa como una herramienta complementaria que facilita su labor y proporciona una mayor garantía en la toma de decisiones” (RAMALLO MIÑAN, 2024) Lo anterior es cierto si se considera la utilización de la Inteligencia Artificial razonablemente como una herramienta auxiliar. Sin embargo, en la práctica se ha demostrado que los programas de IA generativa ya han sustituido muchos procesos de conocimiento y elaboración de documentos. Esto es cierto cuando vemos como grandes despachos han invertido en LegalTcch en programas que se plantean como auxiliar de las funciones de abogacía pero que al final han cedido a su aplicación práctica porque los programas así lo permiten. De allí, como se ha indicado, programas como Harvey, Ross Inteligence , Lexis, Casetext, han sido parte de los grandes despachos desde 2022 cuando se anunció la Inteligencia Artificial al servicio de la sociedad. De hecho, algunos despachos españoles como Cuatrecasas anuncian en su página web la utilización de IA indicando que “pone en marcha una herramienta pionera que, aplicando la Inteligencia Artificial generativa a los servicios legales permitirá redactar escritos, hacer análisis documentales y localizar información jurídica relacionada las distintas prácticas del despacho” Al verificar el anunciado anterior, se puede entender que si se utiliza las herramientas con Inteligencia Artificial Generativa para análisis documental o localización de información jurídica claro está que puede ser una herramienta útil y a la postre necesaria. Sin embargo, la parte de redactar escritos viene a ser básicamente una sustitución de la función de abogados que se ha cuestionado mucho debido a la sustitución práctica del quehacer de la profesión en cuanto a que sustituye una de las actividades que más se realiza en ese ámbito.

¿A qué se enfrenta la sociedad ante el avance de un mundo en donde la IA y los algoritmos están inmersos en muchos ámbitos de su desarrollo? No se sabe, lo cierto es que este ascenso de la IA que se ha presentado como un adelanto científico que facilita muchos procesos y procedimientos a la vez que ofrece una gama de aplicaciones que en cada campo presenta un grado de perfección debido al cumulo de información que procesa, y plantea un riesgo muy cierto sobre si llegará o no a desplazar al ser humano reemplazándolo eventualmente. No estamos ante una serie de ciencia ficción de Netflix o de cualquier otra plataforma de streaming sino ante acontecimientos reales que pueden presentar riesgos como el desplazamiento laboral en algunas tareas que anteriormente eran realizadas por seres humanos.

El mundo jurídico tiene una caracterización muy particular que le difiere de otros ámbitos y que radica en que se encuentra en cualquier esfera de la sociedad y podría decirse que de la vida humana. Así, desde el nacimiento hasta después de la muerte las personas se encuentran sujetas al mundo del derecho, al campo jurídico. Aún podría decirse que en algunos casos desde la concepción de la vida humana. Así, el mundo jurídico tiene como característica principal la de acumulación de información y de regular normativamente otros campos. Como diría Kelsen “Todo está en el Derecho”, y no es para menos, aparecen sujetos a derecho todos los ámbitos de la sociedad. Salud, Agricultura, Medicina, Construcción, Saneamiento etcétera, todo bajo regulación legal. De hecho, siempre hablamos del Estado de Derecho al referirnos a aquel Estado regido por normas que se hacen respetar, aplicar y ejecutar. Es por ello que al adentrarnos de los riesgos que pueden presentar en el mundo jurídico todos aquellos sistemas de Inteligencia Artificial no cabe más que pensar, en realidad, estos programas al ser utilizados en lo jurídico pueden inferir en otros ámbitos y es por ello, que cabe una mirada a los riesgos que pueden correrse si no se determina los límites que deben privar en la implementación de la Inteligencia Artificial al ámbito jurídico y de forma especial en la administración de la justicia, es decir en las funciones judiciales.

La utilización de Inteligencia Artificial en las funciones judiciales no necesariamente se corre un riesgo si lo vemos en procesos automatizados o cuando el resultado previsto se encuentra normalizado o estandarizado como ocurre con la resolución de algunos escritos que son de mero trámite o cuya solución se encuentra en la normativa aplicable, de ese modo estos procedimientos en realidad no se corre riesgo alguno y la utilización de la IA es no solo necesaria, sino que asegura la agilidad y eficacia en los procesos. Sin embargo, el riesgo más notable y latente se encuentra ante aquellas situaciones en las que el conflicto no se resuelve de mero trámite o bien la normativa aplicable deja en manos del Juez la decisión sobre el asunto, que, en efecto, resulta decisiva no solo para la resolución del proceso, sino que, porque una de las garantías de todo el sistema judicial es la del respeto a derechos fundamentales que, de ser transgredidos provocar precisamente que el proceso pudiera decaer.

Por tanto, se entiende que uno de los actores públicos en el que se puede llegar a pensar al mencionar estos principios es el juez, pues de acuerdo con uno de los papeles primordiales de este es actuar como el protector del Derecho en su sentido más preciso dentro de un Estado Constitucional (VALLADOLID, 2024) De esta manera el mayor riesgo que se encuentra la aplicación de la IA al sistema de justicia es precisamente que los jueces son actores principales en los procesos y, en principio la garantía de imparcialidad, de neutralidad y de sujeción única y completa a la ley se dejaría de lado no solo por la utilización de la IA como una herramienta tecnológica que pueda darle luz al juez, sino en el último caso, que no puede darse por descontado, de que sea la Inteligencia Artificial la que finalmente resuelva.

A lo anterior se suma otro cuestionamiento que presenta para muchos el riesgo de la implantación de la Inteligencia Artificial es la cuestión de la imparcialidad y neutralidad debido a la integración de los algoritmos a los sistemas digitales de IA. ¿Quiénes lo elaboran? ¿Tienen sesgo ideológico? ¿Influirán los algoritmos en la toma de decisiones? Todos los cuestionamientos son válidos y ningún es de descartarlo. En efecto, existe una creciente preocupación que se centra en que la IA se está desarrollando gracias a enormes cantidades de dinero que están invirtiendo macroempresas privadas, los gigantes tecnológicos –Google y Microsoft entre otras12–, cuyo tamaño y actividades son muy difíciles de controlar por nuestras instituciones democráticas e incluso europeas, sino que es realmente complicado evitar que incurran en conductas monopolísticas o sesgadas y que, a la postre, influyan en las decisiones de nuestros Gobiernos y Parlamentos sin que nadie haya controlado democráticamente el nombramiento de la dirigencia de estas empresas (NIEVA FENOLL, 2024). Es decir, que entre el algoritmo y el juez la preocupación estribaría sobre quien crea el algoritmo podría controlar algunos aspectos esenciales de las funciones judiciales y que, probablemente podría sino controlar, al menos influir en las decisiones del Juez, lo cual constituiría un grave daño a la independencia judicial. Considerar este riesgo no es paranoia, es algo completamente válido planteado del hecho fundamental que estos gigantes tecnológicos podrían influir en la forma de administrar justicia y por ello nada es de descartar.

Algunos podrían incluso asumir de que estas empresas inmensamente ricas que destinan millones de euros a la investigación y al desarrollo de estas tecnologías de Inteligencia Artificial podrían influir en el manejo de algoritmos como ya se ha hecho en algunas otras plataformas o motores de búsqueda se ha denunciado sesgo racial, por lo que no se puede anticipar que no pueda suceder algo parecido en los sistemas de IA. Además de los riesgos ya indicados con anterioridad, también se suma otro más que tiene que ver con la implementación de la IA en la Justicia si esta se encarga a las diferentes empresas privadas, no resulta descabellado pensar si con el tiempo los gobiernos deciden entregar el control de estos procedimientos a manos privadas para su continuo desarrollo lo cual pareciera ser contraproducente si se parte de la idea fundamental en que el poder de juzgar es exclusivo del Estado.

Se podría continuar exponiendo una serie de riesgos más, pero en realidad cada cambio en las instituciones trae riesgos y dudas sobre su implantación, así sucedió con la automatización de procesos y ahora con la Inteligencia Artificial, lo que si es conveniente matizar en este apartado es que los Estados al momento de entrar en la senda de la IA y la Justicia deberán establecer los límites necesarios para que no exacerbe la utilización de la IA y que se pueda se eficiente sin caer en condiciones negativas que hagan de la implementación de la IA una forma de lograr una justicia eficiente. En ese orden de ideas lo principal que los Estados deben de considerar para su entrada obligada y urgente a los aspectos relacionados con la implementación de la IA en las funciones judiciales deberá de iniciar con la institucionalización de una estructura necesaria para considerar estos procesos de implementación de IA, esta estructura deberá estar conformada por diferentes profesiones que son propias para el diseño de los algoritmos en principio puesto que sin esto, la aplicación de la IA en la justicia podría sufrir serios contratiempos y problemas.

Claro está que se precisa que una estructura institucional dedicada al desarrollo de la IA aplicada a la Justicia podría verse sin importancia, sin embargo, no lo es cuando se pude proveer de un desarrollo tecnológico propio, fundado en algoritmos y diseños programáticos apropiados al sistema jurídico español y a la idiosincrasia social que es muy importante en cuanto a la producción, formulación y ejecución normativa. El desarrollo de una herramienta basada en IA, deberá buscarse que tenga las mismas garantías en cuanto a independencia y objetividad parametrizados. En el fondo, deben tener idénticas garantías en cuanto a su independencia y objetividad que si fueran jueces, puesto que van a parametrizar y automatizar el trabajo de los propios jueces en no pocos asuntos, lo que implicará, a la postre, sustituirles, aunque suene muy duro decirlo (NIEVA FENOLL, 2024) De allí que los efectos que conllevaría la implementación de un sistema de IA en las funciones judiciales implican riesgos pero también grandes retos especialmente en lo que se relaciona con los límites que se pueden establecer para que su funcionamiento sea adecuado.

Sin embargo uno de los límites más férreos que se encuentran es el que expone el aspecto factico más notable en cuanto a las ideas que se promueven de la aplicación de la IA a las funciones judiciales devienen de una postura más radical ius naturalista que plantearía la necesidad de conservar al Juez humano, dado que el derecho nace humano en sí mismo y suplantar a la persona que tiene la facultad de juzgar sería entrar a una era en donde la justicia sería e-justicia y el juez sería un algoritmo algo que se ha criticado duramente, pero que tienen sus adeptos. En especial resulta la argumentación básica de que la sensibilidad, la experiencia y el proceso cognoscitivo del juez se perdería completamente ante la idea de un reemplazo por la IA y ante ello se plantea que estos límites, aunque subsanables con el desarrollo y avance de la IA hacen que su implementación no sea completa en el momento actual.

Asimismo, aparece otro limite en cuanto a la implementación de la IA a las funciones judiciales y que tienen que ver con la aplicación de esta a asuntos más complejos que no admiten una estandarización plena. Por ejemplo, se habla de procesos de aplicación de programas de IA en China bajo el concepto de E-JUSTICIA que destaca el Tribunal de Internet de Hangzhou, un sistema con propiedades únicas que permite buscar jurisprudencia, analizar contextos, revisar pruebas e incluso dictar sentencias. Sin embargo, estas sentencias deben ser finalmente autorizadas por un juez humano (VALLADOLID, 2024), de esta forma procesos complejos aún no han sido objeto de experimentación por parte de quienes se encuentran elaborando este tipo de programas puesto que aún los procesos más repetitivos y automatizados de una manera permanente, necesitan en la actualidad de una supervisión humana.

Al final de cuentas, como todo proceso tecnológico, inician dudas sobre qué riesgos se corren, qué limites tienen y que otros hay que imponer para su implementación. En las funciones judiciales las decisiones de juez son las más importantes en términos de dictar sentencias o resolver cuestiones que presenten una contradicción judicial. El avance tecnológico no va a cesar, por lo que debe de plantearse apropiadamente que los Estados deben estar preparándose para que estos avances tecnológicos no queden sin aplicación alguna.

En realidad, el mayor riesgo que puede representar la aplicación de la Inteligencia Artificial a las funciones judiciales y la administración de la justicia devienen de que si, al asociarse con los funcionarios judiciales o al ser utilizada por ellos puedan mantener los mismos problemas judiciales que se cometen con intervención humana y que puedan llegar a mantenerlos o perpetuarlos. Otro aspecto deviene del respeto de derechos fundamentales que se necesitan mantener sin conculcar y con ello preservar un debido proceso capaz de mantenerlos debidamente dentro de un proceso y no caer en los errores que son inherentes a la intervención humana porque de otra manera solo se gana en agilizar procesos, pero no en depurarlos.

Hasta el momento los procedimientos de Inteligencia Artificial aplicados a la justicia han ganado en optimizar en eficiencia y mitigar deficiencias humanas, sin embargo, las limitaciones que tiene son en el orden de que no puede simular totalmente un procedimiento cognoscitivo en el que se involucre especialmente la transparencia en la toma de decisiones y otros aspectos relacionados con la conciencia humana. Es por ello que, aunque algunos exponen que los beneficios de la IA y los algoritmos no deben suplantar las funciones judiciales sino solo deben ser considerados como herramientas, aun así, estos entran en completa colisión con aspectos éticos puesto que el Juez puede caer en la tentación de inclinarse para utilizarla y apegarse al resultado de la IA para dictar la resolución de casos, he allí el dilema ético.

V. La delegación de funciones judiciales a la inteligencia artificial: un debate jurídico y ético

La implementación de la IA en las funciones judiciales presenta grandes desafíos estructurales y a la vez un debate jurídico y ético. Desde noviembre de 2022 cuando se anunció por la empresa Open AI el chat GPT inició un serio debate sobre la utilidad que tendría y las profesiones que suplantaría, algunas veces en broma otras veces en serio, la discusión sobre el límite que tendría que hacerse a la IA fue muy amplio, tanto en el campo académico en donde se empezó a limitar debido a su uso inadecuado. De por si no escapa para nadie el hecho de que en el campo académico se ha luchado mucho contra el plagio y la utilización inadecuada de la AI lo que planteó una situación muy diferente que ha limitado su utilización en los trabajos académicos. En otros campos la utilización de la IA plantea un debate ético dado que se discute si es una herramienta o una suplantación de las funciones. Debido al auge que ha tenido desde su anuncio y la masificación de su utilización en las ciencias, en la industria, comercio y en las esferas gubernamentales este dilema ético es objeto de discusiones diarias y planteamientos serios que promueven su limitación cuando deja de ser una herramienta y se convierte en un suplantador del conocimiento humano.

Con ello, la aplicación de la IA en las funciones judiciales puede constituir una herramienta importante que podría aportar muchos beneficios desde la optimización de recursos, la eficiencia y agilidad en los procedimientos, así como la reducción de tiempos en cada una de las etapas de un proceso y sin duda puede tener una predictibilidad que mejoraría con el tiempo y especialmente con la mejora de sus algoritmos, sin embargo a pasar de los beneficios que pueda aportar, también existen algunos desafíos especialmente de tipo ético. Como ya se indicó anteriormente el debate ético está planteado, esto es porque la escasa regulación legal que tiene la AI y su implementación aún incipiente en materia normativa, no precisa de un debate jurídico en cuanto a su implementación y su función, sino más bien el debate jurídico se centra, como ya se expondrá más adelante, en la discusión si la IA debe ser una herramienta del Juez o le debe suplantar, debate este que genera un verdadero dilema. Sin embargo, en cuanto a la ética de la implementación de la IA en las funciones judiciales sí que ha generado un debate ético de acuerdo a varios aspectos referidos específicamente en su diseño, sus algoritmos y la generación de procesos cognoscitivos. Como bien lo indicaba Habermas “al desafío de la técnica no podemos hacerle frente únicamente con la técnica” (HABERMAS, 1989) con lo cual, ante este desafío de la IA la forma en que se le puede hacer frente, en lugar desecharle o increparle problemas éticos a su diseño se debe de conocer estos problemas y desafíos y luego poder proceder a buscar la solución mediante operaciones puramente tecnológicas.

Uno de los principales aspectos éticos que se promueve es que la IA aplicada a las funciones judiciales debe contener una eliminación de todo tipo de sesgos especialmente políticos y raciales, pero también sesgos ideológicos y religiosos ya que esto comprometería seriamente la imparcialidad y con ello se podría conculcar derechos fundamentales. Así finalmente, se entiende que el punto clave radica en la necesidad de encontrar un equilibrio entre la adopción de tecnologías avanzadas y la preservación de los valores y principios fundamentales del sistema legal (VALLADOLID, 2024) está claro que la búsqueda de un equilibrio en los algoritmos que diseñan la IA es fundamental para que esta no se utilice como una forma para coartar ciertas conductas que puedan parecer adecuadas o para fomentar algunas otras que nos parecen que por ser minorías se deben de proteger y fomentar perdiendo así el equilibrio en los resultados.

Existen algunos otros desafíos éticos que se pueden mencionar en cuanto a la Inteligencia Artificial aplicada a funciones judiciales, entre estos se encuentran los siguientes: La garantía del debido proceso, este aspecto es sin duda uno de los principales desafíos que encuentra la aplicación de la IA a las funciones judiciales puesto que deberá de garantizarse que la aplicabilidad no conculque derechos fundamentales o bien, no viole el debido proceso puesto que esto hará nugatorio en definitiva la utilización de esta herramienta tecnológica. Además, se puede intuir en otro aspecto fundamental que es el que está relacionado con la transparencia y explicabilidad o motivación de las resoluciones que se puedan obtener, puesto que si la utilización de IA en las resoluciones judiciales no plantea ninguna transparencia o bien no se explica ni motiva adecuadamente puede dar lugar a que la resolución no sea producto de un proceso cognoscitivo es decir de algún silogismo jurídico que haya considerado las premisas para arribar a la resolución.

Luego de algunas de las cuestiones éticas que se han indicado, existe también el debate ético sobre si la IA está controlada por un humano como una herramienta o bien si la herramienta digital es decir la IA está influyendo en el humano. Este debate se centra en que la sujeción que deberían de tener los programas de IA en el ser humano puesto que, de no hacerlo, entonces se corre el riesgo de que no tenga un norte ético y sobre todo que se pierdan ciertos valores que son necesarios para la administración de la justicia. En este caso la propuesta resulta ser sobre la existencia de una supervisión por parte del operador jurídico sobre el programa lo que provocaría que no se pierda un control sobre la implementación, aunque siempre deberá ir acompañado de un marco regulatorio que garantice que esta supervisión humana no pueda interferir en su funcionamiento puesto que de otra manera podría considerarse que esta exigencia ética en sí misma plantearía una contradicción.

A este tema se expone que existen dos cuestiones fundamentales exigen una respuesta en el seno de este principio que estamos tratando: el momento y la intensidad del control y el grado de vinculatoriedad de la propuesta del sistema. En realidad, se trata de una misma cuestión, pero aplicada a casos distintos (PULIDO, 2023) Bajo esta premisa debe considerarse que es imprescindible y necesaria la regulación del uso de la tecnología para evitar que se pierda la imparcialidad y neutralidad. Esta regulación debe considerarse desde la base de los algoritmos lo cual da muchísimo margen a considerar las propuestas legislativas en ese aspecto y por otro lado, lo que debe ser considerado con base a una gestión que supervise o controle el funcionamiento de la herramienta de Inteligencia Artificial, con ello la propuesta de control de la herramienta de IA no es tan fácil como bien lo manifestó Pulido porque los dos momentos tanto de intensidad del control como del grado de vinculación a una normativa no son fáciles de determinar pero sí que son muy necesarios.

La delegación de funciones en realidad sí plantea un debate ético muy fuerte sobre si la IA sustituirá paulatinamente en un futuro a los jueces o bien solo será una herramienta que pueda ser utilizada por estos para dictar sus sentencias. Ya en el campo de la Abogacía en el presente trabajo se ha hablado de que su utilización en diferentes despachos es cada vez más abierta y necesaria. Los despachos la utilizan ya como un medio para afinar escritos, búsqueda de jurisprudencia adecuada y en fin para otras tareas de las cuales, aunque se han servido de ella con mucha seguridad la profesión de Abogado no se suplantará con sistemas de Inteligencia Artificial debido a un cumulo de funciones que se imponen en la relación abogado – cliente y que no pueden suplantarse con IA, aunque quizá algunas consultas jurídicas si se solucionen con ChatGPT. Sin embargo, en cuanto a los jueces no se podría indicar lo mismo dado que muchos de los procesos que se han ido experimentando en el campo de las funciones judiciales y, en forma particular, en la función de los jueces puesto que aún no se han implementado plenamente herramientas o sistemas de IA en funciones propiamente judiciales. Aun así, existen algunos estudiosos que afirman que la IA no sustituirá a los jueces, sino que los complementará ayudando a crear un sistema de justicia más eficiente, ágil y centra en las necesidades de la sociedad (VALLADOLID, 2024) .

Por otro lado, aparecen algunos otros estudiosos que exponen las posibilidades reales de que paulatinamente la IA termine por suplantar a los jueces y encargarse de funciones judiciales y de allí que se habla mucho de E-JUSTICIA, o bien el llamado “Juez Algoritmo” y con ello algunos han planteado la posibilidad de que sean los jueces siempre humanos y no algoritmos o e-jueces pero que basen sus resoluciones al resultado que puedan arrojar los sistemas basado en IA con su correspondiente aprobación o bien, como algunos han expuesto, el Juez simplemente comunicaría lo que ha resultado de un sistema de e-justicia. Algo que parece muy lejano, pero con el avance tecnológico y su implementación podría ser inminente. Aquí probablemente radica uno de los mayores problemas éticos que presenta la implementación de Inteligencia Artificial a las funciones judiciales puesto que ya se sustituiría el razonamiento lógico, el silogismo jurídico que conlleva aquel proceso cognoscitivo del juez por el resultado de un sistema tecnológico basado en una serie de algoritmos dispuestos para resolver los casos.

Ahora bien, ¿Qué implicaciones éticas podría tener el auxilio del algoritmo en un Juez? Sin duda todo esto parte de la figura del juez es central en el proceso de cualquier jurisdicción. En efecto, el Juez no solo es quien decide la mayoría, sino todas las resoluciones de un órgano judicial, sino que además de ello, es quien goza de la facultad de juzgar, está establecido su cargo constitucionalmente y además de ello goza de una independencia tal que su cargo está garantizado. Ante todas estas condiciones, sus decisiones debidamente motivadas son las que le ponen fin a un caso. Obviamente, el Juez goza de cierta protección jurídica tanto de orden constitucional como de orden normativo y con ello la garantía del poder jurisdiccional del Estado, se encuentra depositada en la facultad de juzgar del juez. Ante todo esto, siempre es importante considerar que la tendencia a servirse de una herramienta tecnológica por parte del ser humano no exime a los jueces de hacer lo mismo y con ello pueda que el resultado de una sentencia quede más contenida en lo que el sistema de IA ha planteado como posible solución que el raciocinio del juez y allí es donde pueda radicar el planteamiento ético más grave, que es un problema más allá del planteamiento jurídico, puesto que determinar cuándo un juez pueda auxiliarse de una herramienta de IA y cuando no lo haga resulta bastante complicado y, si por otro lado se deja al Juez la facultad de “revisar” el contenido de una sentencia dictada por un sistema de IA, estaríamos ante la desnaturalización de la función judicial puesto que ya no sería el Juez quien juzgue sino la IA. Con lo cual el debate queda totalmente planteado, con la Inteligencia Artificial nos encontramos ¿Ante una herramienta que auxilia al Juez o bien nos encontramos ante un sistema que terminará por juzgarnos?

VI. Conclusión

A manera de conclusión del presente trabajo resulta un hecho inminente y real de que la Inteligencia Artificial ya ha incursionado en el mundo jurídico después de los procesos de automatización que permitieron la utilización de ciertas tecnologías en el sistema judicial. Sin embargo, la Inteligencia Artificial va mucho más allá de lo que se puede concebir puesto que no solamente se presenta con un modelo de vasta información, sino que sus sistemas de dialogo, de generador de procesos cognoscitivos utilizando tanta información como es posible presenta no solo algo novedoso sino también se infiere en la necesaria utilización.

En el sistema judicial se debate sobre su inclusión no solo porque podría ser una herramienta muy útil, sino porque para muchos es un hecho que su inclusión se irá dando paulatinamente y por ello presenta un desafío enorme para no rechazarla del todo, puesto que esto podría causar un rezago innecesario y perjudicial para el país. Es por ello que presentar el proceso de inclusión paulatino de la Inteligencia Artificial en el país y a su vez determinar cuáles deberían ser los retos que se tendrán que afrontar es parte de lo que se buscó plasmar en el presente trabajo.

Como toda tecnología, siempre se verá con reticencia, especialmente por la vulneración que podría suponer el hecho de dejar en manos de un programa, una maquina la predicción de un resultado judicial y, ya que se le considera en su totalidad o se le valide o bien que sea una herramienta en las funciones públicas, siempre habrá que considerar factores éticos que no son fáciles de prevenir, limitar y señalar, como también ciertos factores legales que son los más difíciles de considerar habida cuenta que si se supone la influencia de Inteligencia Artificial en la facultad del juzgador entonces se estaría ante la dependencia del algoritmo para decidir un caso o utilizar la consideración del mismo para tomar una decisión.

Aprovechando que todavía se está en fases experimentales en el campo de la administración de justicia bueno fuera que se empezaran a tomar medidas de cómo se abordará el tema en el futuro y cuáles serían los límites legales que se le impondrían a la utilización de la inteligencia artificial, porque lo peor que pueda pasar es que sobre la marcha se empiece a considerar su implementación o bien, que habiéndola implementado se hayan dejado de lado aspectos fundamentales mencionados tales como la vulneración de derechos fundamentales, protección de datos, independencia judicial e imparcialidad en las resoluciones evitando toda clase de sesgos que perjudicarían la administración de la justicia.

Ante las diversas posiciones si estamos ante una e-justicia, ante un juez algoritmo o bien ante solo la utilización de la herramienta de Inteligencia Artificial por parte de la persona del Juez; no se debe de dejar por un lado que sea el Estado a través de las administraciones públicas y el poder judicial quien tome la iniciativa de crear una institución fuerte científica e independiente capaz de abordar con propiedad este tema y que empiece la era de la utilización plena de la Inteligencia Artificial en el campo judicial con la regulación legal adecuada.

Bibliografía

Beiro Magan, J. M. (2019). Retos tecnológicos de la Administración de Justicia. Madrid.

Beiro Magan, J. M. (2020). Automatización E Inteligencia Artificial: Por Qué Debe Generalizarse Su Implantación En El Sector Justicia Español. “La organización de la OJ y la OF en la transformación tecnológica. Aplicaciones de inteligencia artificial”. Granada.

Corvalán, J. G. (ENERO/ABRIL de 2019). EL IMPACTO DE LA INTELIGENCIA

ARTIFICIAL EN EL TRABAJO. Revista Dirito Economico, Socioambiental Curitiba, v. 10, n. 1, p. 35-51, jan./abr. 2019, 35-51. Obtenido de www.pucpr.br/direitoeconomico . https://doi.org/10.7213/rev.dir.econ.soc.v10i1.25870

Diego Olite, F., Suarez, M. M., & Ileana del Rosario y Vidal Ledo, M. (2023). Chat GPT: origen, evolución, retos e impactos en la educación. Educación Médica Superior. Obtenido de http://scielo.sld.cu/scielo.php?script=sci_arttext&pid=S0864– 21412023000200016&lng=es&tlng=es.

Greppi, A. (1995). Derecho, poder, estructura y funcion. Anuario de filosofia del derecho, 547–568.

Habermas, J. (1989). Ciencia y tecnica. Madrid: tecnos.

-IBM–, I. B. (10 de 5 de 2025). IBM.COM. Obtenido de IBM: https:/ /www.ibm.com/es– es/topics/automation

Kant, E. (1976). Critica del juicio (178 ed.). Madrid, España: Librerías

De Francisco Iravedra. Obtenido de. http:/ www.cervantesvirtual.com

Maria Josefina Vidal Ledo, A. M. (2019). Inteligencia Artificial en la Docencia Médica. Revista Cubana de Educación Superior.

Nieva Fenoll, J. (2024). Inteligencia artificial y justicia. ¿Perderemos el control? Dialogos juridicos, 69-84.

Pulido, M. D. (2023). Etica de la inteligencia artificial juridica aplicada al proceso. Cuadernos electrónicos de filosofía del derecho, 60-79. https://doi.org/10.7203/CEFD.48.25389

Ramallo Miñan, E. D. (2024). La aplicación de la inteligencia artificial en la justicia. Atalaya. Obtenido de https://elenaramallo.es/2024/12/17/la-aplicacion-de-la-inteligencia-artificial-en-la– justicia/

Requejo Pages, J. L. (1989). Jurisdicción e independencia judicial. Madrid: Centro de Estudios Constitucionales.

Schwab, K. (2016). La Cuarta Revolución Industrial. Nueva York, Randon House.

Valladolid, J. M. (2024). Automatización de la justicia: ¿Puede un algoritmo reemplazar a un juez? Revista San Gregorio, 1(60), 127-135. Obtenido de https://doi.org/10.36097/rsan.v1i60.3222

---