Daniel García San José
Fernando Llano Alonso
César Villegas Delgado
IUS ET SCIENTIA • 2024 • ISSN 2444-8478
Vol. 10 • Nº 1 • pp. 6-8
La regulación de los Estados sobre la IA se asienta sobre las bases institucionales del Derecho Internacional, ya que es precisamente a los Estados a quienes les corresponde aplicar las medidas legislativas o de otra índole que sean necesarias, de acuerdo con la práctica constitucional y las estructuras de gobierno de cada país, para hacer efectivas en sus respectivas jurisdicciones los principios y normas enunciados en la normativa reguladora del espacio digital y las tecnologías de frontera.
Al hilo de la legitimidad que confiere el Derecho Internacional a los Estados o a comunidades políticas de derecho como la UE, como partes interesadas en la buena gobernanza y la regulación de los sistemas de IA, robótica y tecnologías conexas, cabría preguntarse en qué medida se está cuestionando la legitimidad y la competencia de los gobiernos y parlamentos de dichos Estados u organizaciones internacionales por parte de algunas grandes empresas tecnológicas de investigación y seguridad de IA, como Anthropic, Google, Microsoft u OpenAI. Estas Big Techs pretenden crear sus propios organismos, al margen de cualquier colaboración con los poderes públicos como propone el modelo europeo, y decidir por los ciudadanos aún no habiendo sido elegidos por éstos. Dicho en otras palabras, se trata de organismos empresariales, sin poder de representación democrática que, a pesar de ello, pretenden regular por su cuenta la seguridad y la ética de la IA, o más bien autorregularse, compitiendo con el marco normativo estatal e internacional (sirva como ejemplo el Frontier Model Forum, definido pretenciosamente por las empresas fundadoras como “un organismo de la industria centrado en garantizar el desarrollo seguro y responsable de los modelos de IA de frontera”).
Se trata, en definitiva, de nuevas formas de desregulación del mercado digital, más cerca de la estrategia del capitalismo de la vigilancia y de la búsqueda de sus propios intereses empresariales, que de una genuina vocación reguladora de las nuevas tecnologías acorde a los principios y valores de la Ética de la IA.
El presente número consta de seis artículos en los que se abordan temas novedosos en materia de derecho digital, proceso judicial, garantías procesales, regulación de la investigación biomédica, sistema europeo de derechos humanos, neuroderechos y libertad cognitiva.
En el trabajo que abre la sección doctrinal su autor, David Vallespín Pérez, centra su análisis en la reforma del juicio verbal con motivo de la aprobación del Real Decreto-Ley 6/2023, de 19 de diciembre, por el que el que se aprueban medidas urgentes para la ejecución del Plan de Recuperación, Transformación y Resiliencia en materia de servicio público de Justicia, función pública, régimen local y mecenazgo; con especial referencia a las que afectan a su ámbito de aplicación, demanda, contestación, procedimiento testigo, citación para la vista, casos especiales de tramitación del juicio verbal, causas de oposición, diligencias finales, o resoluciones sobre prueba y recursos. Medidas que no solo resultan de aplicación al juicio verbal auténtico, sino también a no pocos procesos civiles especiales.
En el segundo artículo su autor, José Manuel Sánchez Patrón, examina la normativa internacional y la española en relación con la investigación biomédica, prestando especial atención a la investigación en el ámbito de la genética del ser humano. Con ello se pretende deducir los principios y reglas que regulan este tipo de investigaciones centrándose en el análisis de la coherencia entre la normativa internacional y española, así como los desafíos que plantean a dichos principios y reglas los nuevos descubrimientos que se están produciendo en esta área del conocimiento científico.
En el tercer artículo, en el cual se examinan por parte de Fernando Martín Diz los derechos y garantías penales procesales, se parte de la necesidad de que la aplicación de la inteligencia artificial dependa del control humano, lo cual permite que el órgano jurisdiccional sea el garante de la legalidad y constitucionalidad de la utilización de soluciones de inteligencia artificial en funciones auxiliares en la actividad procesal sin que el justiciable vea afectados derechos fundamentales como la presunción de inocencia, el derecho de defensa o el derecho a la tutela judicial efectiva, que, a su vez, deben ser interpretados y adaptados a la realidad tecnológica actual.
En cuarto lugar, Francisco Placín Vergillo dedica su estudio al análisis que está llevando a cabo el Sistema Europeo de Derechos Humanos a propósito del discurso de odio online es muy importante para poder hacer frente a uno de los grandes males jurídico-sociales del siglo XXI: la proliferación de expresiones de odio en Internet que desafían el ejercicio del derecho a la libertad de expresión. Por ello resulta esencial comprender cómo se aborda esta problemática a nivel regional, a fin de lograr una persecución efectiva y armonizada entre todos los Estados Miembros del Consejo de Europa. Esta tarea implica explorar las tensiones entre la protección de la libertad de expresión y la necesidad de salvaguardar la dignidad humana y los derechos fundamentales. En última instancia, según el autor, comprender cómo aborda el Sistema Europeo de Derechos Humanos el discurso de odio online es fundamental para promover sociedades inclusivas, respetuosas y democráticas en la era digital en nuestro continente.
El potencial transformativo de la neurotecnología supone una mejora de las condiciones de vida a corto-medio plazo, y permite concebir la idea de un salto en la evolución de la especie humana más a largo plazo; por otra parte, el carácter transformativo de la naturaleza humana por parte de la neurotecnología ha generado un debate en torno a la necesidad de crear un marco jurídico específico que sirva para reconocer y amparar un nuevo catálogo de derechos humanos que llevan la etiqueta de “neuroderechos”. Precisamente a uno de esos neuroderechos, la libertad cognitiva, dedican Diego Borbón y otros autores su análisis conceptual de este supuesto nuevo derecho entendido como prerrequisito para el resto de neuroderechos. El análisis se basa en las dimensiones negativa y positiva de este derecho. En el primer caso, la libertad cognitiva se relaciona estrechamente con la propuesta de un neuroderecho al libre albedrío. En el segundo caso, se relaciona con el acceso a las neurotecnologías de mejora cognitiva.
En sexto lugar, P. Ramón Suárez Xavier, centra su estudio en el uso extendido de los denominados Online Dispute Resolution (ODR, por sus siglas en inglés) en el ámbito procesal, para la resolución de conflictos, especialmente en materia de consumo. En este sentido, el autor analiza cómo estos métodos, si bien promocionados como eficientes y accesibles, pueden socavar principios fundamentales de que rigen el proceso, como la igualdad, la legalidad y el desinterés objetivo, así como otros principios típicos de los medios autocompositivos de resolución de conflictos, como la voluntariedad. Desde la perspectiva procesal y de los derechos humanos, se cuestiona el impacto de los ODR en la igualdad de acceso a la justicia y la protección de los derechos individuales. Además, se examinan los riesgos asociados con la privatización de la resolución de disputas y la falta de supervisión y regulación adecuadas en este ámbito.
En el apartado de comentarios publicamos dos trabajos:
En el primero de ellos su autora, Alessandra Castagnedi Ramírez, explora la relación entre transhumanismo y discapacidad, centrándose en el caso de Neil Harbisson, un artista y ciborg que nació con acromatopsia y que se implantó un dispositivo que le permite escuchar colores. Se analizan las implicaciones éticas y filosóficas de la tecnología en la superación de limitaciones humanas y se reflexiona sobre cómo los avances tecnológicos pueden potenciar la calidad de vida de las personas con discapacidades, resaltando la importancia de una responsabilidad ética y social en el desarrollo tecnológico.
En el segundo comentario su autor, Daniel Suárez Alonso, nos muestra cómo la extracción de eventos y el aprendizaje multi-instancia, basados en inteligencia artificial (IA), aplicados a un conjunto de artículos de noticias locales, pueden predecir inicialmente casos de delitos de odio. Además, se pone de manifiesto que el modelo entrenado de IA para detectar incidentes de odio en ciudades para las cuales el FBI carece de estadísticas. Finalmente, se explica cómo se entrenan modelos de IA para predecir homicidios y secuestros, se comparan las predicciones con los informes del FBI y se establece que, de hecho, los incidentes de odio están subestimados en comparación con otros tipos de delitos en la prensa local.
Por último, el presente número se cierra con la recensión de Mohamed Saad Bentaouet al libro de Silvia Irene Verdugo Guzmán titulado: Ciberespacio, Metaverso y nuevos delitos que gravitan sobre los derechos humanos.
En suma, en este nuevo número de Ius et Scientia (1/2024) que ahora ofrecemos al lector, se pueden hallar algunas de las claves principales para comprender la repercusión de la revolución digital 4.0 en el mundo del Derecho. En este sentido, ha emergido una nueva generación de derechos cuyo objetivo principal consiste en la corrección de los problemas y perjuicios causados a la ciudadanía debidos a la falta de una regulación apropiada capaz de establecer un marco jurídico específico para el uso, el despliegue y el desarrollo las tecnologías digitales e Internet, la IA, la robótica y las tecnologías conexas; se trata de los derechos digitales, unos derechos que, como advierte Moisés Barrio Andrés, están asentados conceptualmente sobre un soporte virtual, no analógico, donde el cuerpo se volatiliza para dar paso a una estructura distinta de derechos que han de buscar la seguridad de la persona sobre el tratamiento de los datos y la arquitectura matemática de los algoritmos.