Daniel García San José
Fernando Llano Alonso
César Villegas Delgado
US ET SCIENTIA • 2021
Vol. 7 • Nº 1 • pp. 6 - 10
ISSN 2444-8478 • https://dx.doi.org/10.12795/IESTSCIENTIA.2021.i01.01
Para este primer número del año 2021, la redacción de la revista Ius et Scientia ha seleccionado diecinueve artículos de distinta temática jurídica, pero con un denominador común: la irrupción de la Inteligencia Artificial, la robótica, las tecnologías conexas y el bioderecho en el horizonte ético-jurídico de los juristas de la cuarta revolución industrial, también conocida como Revolución 4.0 (Klaus Schwab).
Partiendo desde un enfoque iusfilosófico, Michele Zezza se pregunta en su artículo si la Filosofía de la física puede aplicarse al contexto externo en la interpretación de las disposiciones constitucionales que reconocen derechos fundamentales, para ello, se retoman algunas indicaciones metodológicas procedentes del ámbito de la “tesis de Duhem-Quine”: no se pretende sostener la existencia de una relación de identidad entre la filosofía de la física y el plan jurídico, sino más bien la posibilidad de una transposición analógica, en el marco de la interpretación jurídica, de algunas adquisiciones esenciales del holismo epistemológico.
Desde una perspectiva penalista de la Inteligencia Artificial (IA), Cristina Alonso Salgado considera que las implicaciones de la interacción entre el Derecho Penal y la IA son evidentes, tanto potencialmente como problemáticamente; en este sentido, el ámbito de lo penal es quizás uno de los más propicios para la aplicación de la IA en materia de vigilancia policial y seguridad. Precisamente a realizar un examen crítico acerca del uso garantista de las herramientas de IA en Derecho Penal dedica esta autora su investigación.
A propósito de la ciberseguridad y la protección de datos personales en el entorno de la IA, la informática y las Nuevas Tecnologías, Juan Francisco Rodríguez Ayuso centra su análisis de la novedosa normativa sobre protección de datos personales en el campo científico de la informática dirigida a la creación de programas y mecanismos que pueden mostrar comportamientos considerados inteligentes.
En la era de las nuevas tecnologías, utilizadas en el ámbito de la justicia penal, también la ciencia forense ha superado retos reales a los que se enfrentan esos medios de recopilación y administración de pruebas científicas en los procesos penales. En este sentido, Delia Magherescu analiza en su artículo las claves y los rasgos caracterústicos de la actividad judicial en materia penal durante el proceso. En este sentido, esta autora lleva a cabo su estudio a través de métodos de investigación cualitativa realizados sobre el abordaje de los desafíos de la ciencia forense frente a las nuevas tecnologías, combinados con elementos en profundidad del proceso penal.
Ante la generalización del uso de tecnologías basadas en sistemas de inteligencia artificial en manos de la Administración pública, Nora Libertad Rodríguez Peña plantea en su estudio la necesidad de reflexionar sobre los riesgos que supone la interacción entre la inteligencia artificial y los derechos de los ciudadanos. Principalmente en lo que respecta a la automatización de la administración, el tratamiento de datos personales y el perfilamiento de ciudadanos en sectores sensibles de la administración como es la hacienda pública. El presente estudio tiene como finalidad, identificar y analizar los desafíos éticos y jurídicos que se derivan de la utilización de las tecnologías disruptivas asociadas a la inteligencia artificial en manos de la administración pública en general y la tributaria en particular, sobre todo cuando se destina a la persecución del fraude fiscal.
En un estudio transversal entre el Derecho de familia y el Derecho procesal, Jackeline Flores Martín trata de confrontar en su artículo las respuestas dadas por el jurista, desde un marco subjetivo inherente a su cualidad de persona, frente al de una inteligencia artificial, desde su contexto puramente objetivo. A este respecto, la autora examina la normativa específica del Código Civil y la Ley de Enjuiciamiento Civil.
En sintonía con los anteriores trabajos, Gabriel R, Juan presente dedica su trabajo a la defensa del Derecho de los sistemas jurídicos constitucionalizados, por el lugar central que otorga a los derechos humanos, cuya base es la dignidad de la persona humana. Asimismo este autor sostiene que la aspiración de realización del valor justicia nos caracteriza como Homo Juridicus. Todo lo cual encuentra justificación en una ética humanista que, en tanto integrante de una cultura jurídica, concuerda con el objeto de estudio del Bioderecho Internacional. En ese marco, luego de identificar los problemas y riesgos de la Inteligencia Artificial, de conceptualizar y caracterizar la posición transhumanista, mediante un abordaje ético se contrapone esta última visión con aquella biojurídica. La conclusión es que esta última es la única que proporciona una adecuada justificación a las acciones y límites normativos.
Por su parte, Elena Atienza Macías centra su estudio en la exploración de las principales consideraciones jurídicas que surgen, destacando la necesidad de diversas reformas de la doctrina jurídica y las estructuras reguladoras. Dado que los robots y la Inteligencia Artificial son un componente emergente más que establecido en la prestación de asistencia sanitaria, este artículo pretende provocar, desafiar e inspirar a pensar de forma crítica sobre lo que seguramente será uno de los puntos álgidos en los debates sobre legislación y políticas sanitarias en los próximos decenios.
En relación con el mundo de los algoritmos de las plataformas digitales y los sistemas de IA, Alejandro Platero Alcón analiza en su artículo los postulados existentes en la Unión Europea en relación con el régimen de responsabilidad civil derivado de posibles daños producidos por sistemas de inteligencia artificial. Además, se analizará el sistema de recomendaciones de títulos utilizado por Netflix, sistema que será catalogado como de bajo riesgo, exponiendo también, las posibles consecuencias civiles derivadas del acceso a los datos personales del usuario de la citada plataforma.
Respecto a la influencia de las herramientas tecnológicas -basadas en IA, aprendizaje automático y big data- en el mundo del trabajo, Matías Mascitti pondera las ventajas y los riesgos que estos medios tecnológicos suponen para el trabajador. Entre estos últimos, el autor destaca el peligro que corre en su ecosistema de trabajo de vigilancia ilegítima, manipulación que daña su salud y discriminación. Tras un breve recorrido por el Derecho laboral desde su fundación hasta hoy, se analizan, en clave de Derecho laboral comparado, las normativas europeas, españolas, norteamericanas y argentinas que cubren algunas de las lagunas normativas generadas en este novedoso universo fáctico.
El tema de la identidad digital se presenta como un elemento esencial para cualquier transacción, especialmente, con el surgimiento del Blockchain como innovación tecnológica. Por ello, en su trabajo, Antonio Merchán Murillo pretende realizar un estudio de la identidad y su incidencia en el Blockchain; asimismo se plantea su reconocimiento entre Estados. Por otro lado, debe prestarse atención a la IA, que plantea retos en su aplicación, junto a la tecnología Blockchain; no en vano, ésta tiene el objetivo de generar confianza, transparencia y actuar de mediador.
A partir del análisis de los Tratados UE y de sus disposiciones capaces de justificar la incorporación de un enfoque bioético y biojurídico, y buscando un equilibrio entre los principios e intereses contrapuestos, Simona Fanni aborda en su estudio la jurisprudencia del Tribunal de Justicia de la Unión Europea y el papel desempeñado por la Carta de los Derechos Fundamentales de la Unión Europea (CDFUE). Mediante la comparación con la jurisprudencia del Tribunal Europeo de Derechos Humanos, la autora pretende elaborar unas soluciones viables basadas en los derechos humanos para enfrentar los desafíos que plantean la bioética y el bioderecho, haciendo hincapié en la técnica de la fertilización cruzada jurisprudencial y de conformidad con el Artículo 52(3) de la CDFUE.
A raíz de los cambios sustanciales producidos por la IA y la robótica en la sociedad, se presume que muy pronto se plantearán grandes dilemas para la consolidación, calidad y cohesión de la aplicación de la IA. Por ello, el Derecho tendrá que ocuparse de esta tecnología disruptiva que revolucionará la asistencia sanitaria. Por ello, en su estudio, Jesús Esteban Cárcar Benito pretende profundizar, también, sobre el concepto de razonabilidad en un mundo como la IA, que refleja lo indefinido, lo atípico, producto, en buena parte, de la superación de un formalismo estéril, que nunca se ha dejado encorsetar en el mundo de la tecnología.
Como observa en su artículo Cristina San Miguel Caso, la aplicación de la Inteligencia Artificial en el ámbito jurídico no está exenta de controversia debido a la multitud de vicisitudes que se generan como consecuencia de los riesgos implícitos que conlleva el uso de estos nuevos sistemas. Partiendo de un análisis exhaustivo en torno al concepto de Inteligencia Artificial esta autora analiza, desde una perspectiva procesal, tanto las ventajas como los problemas que genera la implantación de los sistemas inteligentes dentro de un proceso penal. Por último, tomando como referencia la novedosa propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen las normas armonizadas sobre Inteligencia Artificial, la autora lleva a cabo una reflexión sobre la concurrencia necesaria de una serie de principios que, con carácter general y transversal, deben ser tenidos en cuenta en las futuras y eventuales regulaciones sobre la IA jurídica.
En cuanto al avance tecnológico y los crecientes procesos de modernización de las diferentes Administraciones públicas, las cuales no son ajenas en forma alguna al actual tsunami digital, José Luis Domínguez Álvarez se propone en su estudio evidenciar la necesidad de contar con un ordenamiento jurídico-administrativo adaptado a la realidad en red, capaz de combatir el pernicioso alcance que el impulso de la digitalización y datificación de la sociedad posee en la esfera vital de la ciudadanía. En efecto, el transcurso del tiempo y el progreso digital no han hecho más que acentuar la preeminencia del Derecho administrativo, entendido como dique de contención capaz de preservar la dignidad de la persona ante las tribulaciones propiciadas por la (r)evolución tecnológica.
La llegada de la Covid-19 ha irrumpido con fuerza en nuestra sociedad y en el sistema sanitario. Precisamente a partir de ese contexto pandémico, Belén Andrés Segovia dedica su análisis a explorar las causas fundamentales que motivaron e impulsaron la llegada de una nueva era digital en la que la inteligencia artificial podría ser la clave para un gran reinicio del sistema sanitario a nivel global. Por último, esta autora estudia las razones por las que la IA constituye una oportunidad para liderar el restablecimiento del actual servicio público de salud más allá de los desafíos que propone la crisis pandémica.
A propósito de la cuestión sobre si la normativa europea de consumo se adecúa a las especificidades de los contenidos o servicios digitales generados por Inteligencia Artificial, Mónica García Goldar estudia la repercusión de la calidad como criterio de valoración de la satisfacción y las opciones de las que dispone el consumidor en caso de que dicho resultado generado por IA (bien sea un contenido, bien un servicio) no le satisfaga. Esta convicción lleva a la autora a defender que la omisión de la calidad como un criterio de conformidad objetivo no resulta justificable y que debería interpretarse aplicable igualmente, toda vez que la IA es una tecnología en desarrollo y puede que no siempre conduzca a resultados satisfactorios.
Hoy en día el uso de algoritmos que resuelven o predicen problemáticas en el entorno digital hacen uso de información de los individuos quienes con sus datos nutren las bases que a su vez son el insumo de los análisis de los grandes cúmulos de datos. Sin embargo, es necesario reconsiderar si la información que se recolecta es adecuadamente recogida y protegida. La presente contribución teórica de Evelyn Téllez Carvajal pretende indagar en el significado de la ética de la IA y la transparencia algorítmica así como la importancia de comprender el manejo de la información que atañe a los individuos cuando se trata del tema de IA.
La praxis científico-tecnológica nos ha situado ya en un nuevo mundo y ha creado como frontera del mismo un nuevo contorno envolvente, aunque sus perfiles sean difusos. Por eso, para movernos en él, son necesarios recursos interpretativos y reflexivos en constante renovación. Para llegar a comprenderlos es preciso, como nos propone Domingo Fernández Agis en su artículo, rastrear su historia. Partiendo de esta premisa, el autor sigue diversas líneas de investigación recorridas por Michel Foucault que, a su entender, resultan muy elocuentes, en la medida que cada vez somos más dependientes de la IA. Al mismo tiempo, tenemos que reparar en que su funcionamiento interno y sus aplicaciones conllevan el enfrentamiento con numerosos dilemas morales y jurídicos. Por ello es necesario crear escenarios solventes de acción virtual y la programación adecuada para que, no sólo la inteligencia natural sino también la IA llegue a afrontar con eficiencia tales dilemas.
Finalmente, abrimos un apartado de recensiones con el comentario de Cristina Alonso Salgado al libro Retos jurídicos de la inteligencia artificial, coordinado por Agustí Cerrillo i Martínez y Miguel Peguera Poch.
Cuando se ha cumplido el primer año de la pandemia y acción combinada de la investigación científica, la industria farmacológica, la ingeniería especializada en IA y robótica han permitido que la humanidad comience a vislumbrar el brillo esperanzador de la luz al final de un duro trance para la humanidad. Superada la pandemia vendrá el tiempo de hacer balance ético-jurídico de las ventajas y los inconvenientes que las tecnologías NBIC, la IA, la robótica y las tecnologías suponen en las vidas cotidianas de los ciudadanos. En este sentido, confiamos en que las nuevas voces de los juristas e investigadores que han colaborado en este número 1/2021 de Ius et Scientia contribuyan a definir el papel que en el futuro inmediato le corresponderá desempeñar al jurista en la era digital, en un mundo en proceso de metamorfosis donde el paradigma humanista está siendo sustituido poco a poco por un tecnoparadigma.