Daniel García San José
Fernando Llano Alonso
César Villegas Delgado
IUS ET SCIENTIA • 2020
Vol. 6 • Nº 2 • pp. 5 - 10
Desde que en 1956 John McCarthy acuñase el término Artificial Intelligence (Inteligencia Artificial), referido a máquinas inteligentes de computación (con sentido instrumental, es decir, como herramienta de apoyo), las cosas han cambiado tanto que hemos pasado a hacer una lectura problemática de la misma, debida, sobre todo, a la irrupción de la Revolución 4.0 encabezada por las Tecnologías NBIC, la Robótica y la Informática.
Evidentemente esta revolución conlleva nuevos desafíos a los que la regulación existente no da respuesta. Precisamente por eso se hace necesaria la elaboración de una regulación avanzada que pueda impulsar el desenvolvimiento de la robótica y de la Inteligencia Artificial, y asegurar un desarrollo congruente con los valores propios de las constituciones y de la Carta de los Derechos Fundamentales de la Unión Europea y del Derecho Internacional.
También es preciso abrir espacios de reflexión y debate tan fecundos en términos intelectuales como el del Congreso Internacional sobre Inteligencia Artificial y Derecho: los retos del jurista en la era digital, celebrado a través de un webinar que tuvo lugar entre los días 9 y 11 de diciembre y que reunió en cinco mesas a 17 ponentes, todos ellos juristas especializados en IA y Derecho (procedentes de 9 universidades europeas y americanas), que contó además con una selección de 13 comunicaciones defendidas de un total de 53 recibidas, y al que se inscribieron más de 300 personas que siguieron con regularidad cada una de las jornadas de forma masiva.
En el presente número de la revista Ius et Scientia presentamos una primera selección de doce comunicaciones enviadas a este Congreso una vez adaptadas al formato de los artículos que se publican en nuestra revista. Los doce artículos del número 2/2020 abordan desde diferentes perspectivas teóricas las implicaciones de la Inteligencia Artificial en el mundo del Derecho. De forma sucinta, y a modo de lectura aproximativa, haremos una sinopsis del contenido de cada uno de dichos trabajos.
En el primer artículo, Pilar Martín Ríos estudia el uso de las Nuevas Tecnologías en la lucha contra los delitos urbanísticos, y analiza, además, cómo el debido respeto a la privacidad entra en conflicto con las posibilidades de actuación que brindan estos modernos y sofisticados medios de intrusión, como sucede, por ejemplo, con la ortofotografía digital y el empleo de drones, particularmente eficientes en el ámbito que nos ocupa.
En el segundo artículo, Guillermo Lazcoz Moratinos realiza un análisis de la propuesta de reglamento sobre los principios éticos para el desarrollo, el despliegue y el uso de la Inteligencia Artificial, la robótica y las tecnologías conexas. A este respecto, el pasado 20 de octubre de 2020, el Parlamento Europeo aprobó una Resolución (2020/2012(INL)) con recomendaciones destinadas a la Comisión sobre inteligencia artificial, robótica y tecnologías conexas, entre las cuales, se recoge una propuesta legislativa para la tramitación de un Reglamento sobre los principios éticos para el desarrollo, el despliegue y el uso de dichas tecnologías. El contenido de esta propuesta deriva, sin lugar a duda, de la visión regulatoria que la Comisión Europea ha mantenido en documentos como el Libro Blanco sobre Inteligencia Artificial (COM (2020) 65 final) o las Directrices éticas para una IA fiable elaboradas por el Grupo independiente de expertos de alto nivel. Ante este nuevo horizonte normativo, se hace más necesario que nunca abordar una crítica constructiva de la propuesta, destacando la necesidad o no de reformular su marcado carácter de soft law a pesar de ubicarse en una fuente normativa de alcance general y eficacia directa como los Reglamentos, o el desarrollo de algunos principios clave como la supervisión humana o la discriminación.
En tercer lugar, Juan Francisco Rodríguez Ayuso dedica su artículo a la evaluación del riesgo como criterio fundamental para una interpretación exhaustiva en la determinación de la idoneidad del teletrabajo. Este estudio ofrece, además, un análisis exhaustivo de las novedades que, desde una perspectiva eminentemente técnica, trae consigo la entrada en vigor del Real Decreto Ley 28/2020, de 22 de septiembre, de trabajo a distancia. Más concretamente, establece las medidas que, en favor de la integridad, la confidencialidad y la disponibilidad de la información, deben ser aplicadas por las empresas para garantizar la protección adecuada de los datos tratados por los empleados que, excepcional o regularmente, deben desempeñar sus tareas fuera de las instalaciones de la organización a la que pertenecen en forma de teletrabajo.
En el cuarto artículo, Raquel Borges Blázquez estudia el sesgo de la máquina en la toma de decisiones en el proceso penal. En este sentido, las máquinas solo utilizan aquellos datos que, previamente, un humano le ha ofrecido como ciertos. La verdad es relativa y los datos van a tener los mismos sesgos y prejuicios que tiene el humano que programa la máquina. En otras palabras, las máquinas van a ser racistas, sexistas y clasistas si lo son sus programadores. A todo ello se le suma un nuevo problema, la dificultad de comprender el algoritmo por parte de los aplicadores del derecho. Esto puede atacar derechos fundamentales básicos en el sistema de justicia penal como son el derecho a la publicidad de las actuaciones y el derecho a la motivación de las decisiones judiciales. Esta situación obliga a repensar el proceso penal tan y como hoy lo conocemos, incluyendo la inteligencia artificial e hilando muy fino indicando cómo, cuándo, por qué y en qué supuestos podemos hacer uso de la inteligencia artificial y, sobre todo, quién va a programarla.
En el quinto artículo, Jorge Castellanos Claramunt analiza, desde una perspectiva constitucional, la influencia de los algoritmos en la determinación de las resoluciones judiciales, sobre todo desde el punto de vista de cómo afectaría esta cuestión al derecho a la tutela judicial efectiva, reconocida como derecho fundamental en el artículo 24 de la Constitución española.
En sexto lugar, María Dolores García Sánchez centra su investigación en el estudio de las cuestiones jurídicas que suscita la eventual creación de una personalidad electrónica para el caso de los robots autónomos más avanzados (cuarta generación robótica). En efecto, las especiales características de estos sistemas –y su dificultad para enmarcarlos en alguna de las categorías jurídicas existentes– demandan un tratamiento específico por parte del Derecho que permita hacer frente a los desafíos de esta clase de tecnología en el futuro. Igualmente, abordaremos los diferentes posicionamientos doctrinales en torno a esta eventualidad para concluir aportando nuestra propia postura al respecto.
Gabriel R. Juan nos ofrece, en el séptimo artículo, una visión crítica sobre la Inteligencia Artificial, porque, a su juicio, provoca efectos negativos sobre la autonomía personal y relacional de los individuos y favorece la consolidación de ciertas corrientes de pensamiento defensoras de un Derecho mínimo. Ante ello, propone una dimensión colaborativa entre distintas éticas, que permitan direccionar una regulación jurídica precisa de la IA. Ello favorecerá el resguardo de la dignidad humana como centro de gravitación de los ordenamientos jurídicos de los Estados Constitucionales. La cuestión se analiza desde el Bioderecho, esto es, desde el cruce entre Bioética y Derecho, nueva área de interés para la Filosofía jurídica.
En octavo lugar, Ramón Darío Valdivia Jiménez reivindica una ética de la Inteligencia Artificial capaz de adaptarse a los arquetipos sociales de nuestra Weltanschauung. Desde este punto de vista, los avances tecnológicos generarán un desarrollo humano, pero no alcanzan todavía la posibilidad de cambiar al hombre sustancialmente. Uno de los árbitros más importantes que moderarán el constante diálogo entre la Inteligencia física humana y la nueva Inteligencia Artificial, es el Derecho, que tendrá la misión de compatibilizar la relación entre el ser y el deber ser. En esta relación, propone tres imágenes alegóricas que sirven de guía para esta discusión: la nube, el muro y la peste.
El noveno artículo está firmado por Diego Alejandro Borbón Rodríguez, Luisa Fernanda Borbón Rodríguez y Jeniffer Laverde Pinzón, y plantea una innovadora propuesta para establecer límites éticos y jurídicos al desarrollo de tecnologías: los neuroderechos humanos. En ese sentido, el artículo aborda, en primer lugar, algunos avances de las neurotecnologías y la inteligencia artificial, así como sus implicaciones éticas. En segundo lugar, se expone el estado del arte sobre la innovadora propuesta de los neuroderechos humanos, en específico, la propuesta de la NeuroRights Initiative de la Universidad de Columbia. En tercer lugar, se analiza de manera crítica la propuesta de los derechos al libre albedrío y al acceso equitativo a tecnologías de aumento para concluir que, si bien es necesario plantear nuevas regulaciones a las neurotecnologías y la inteligencia artificial, todavía es muy prematuro el debate como para pretender incorporar una nueva categoría de derechos humanos que puede ser inconveniente o innecesaria. Por último, se esbozan algunas consideraciones sobre la forma de regular nuevas tecnologías y se exponen las conclusiones del trabajo.
En el décimo artículo, su autor, Matías Mascitti, pretende ilustrar el aumento de la potencia de la función predictiva del Derecho que generará el uso de los motores inteligentes de búsqueda jurídica integrales (MIBJI). Ellos permitirán un análisis conjetural estratégico más eficaz en virtud de la información sociológica, psicológica, normativa y axiológica que brindarán al operador jurídico para su toma de decisión. A tal efecto usamos una perspectiva de análisis interdisciplinario del Derecho, resaltando el avance de los sistemas de inteligencia artificial en una sociedad de la transparencia donde el dato es un bien valioso. Los MIBJI integrados con un lenguaje natural eficiente y con algoritmos creados para obtener la información interdisciplinaria citada serán un instrumento de auxilio valioso para: una mayor precisión lingüística, la interpretación normativa, la ponderación de principios jurídicos, la predicción de las sentencias judiciales, la democratización del Derecho y una disminución significativa de las diferencias de los efectos prácticos vigentes entre las tradiciones del Civil Law y del Common Law.
En el penúltimo artículo, Miguel de Asís Pulido sostiene una visión crítica sobre la Inteligencia Artificial, porque provoca efectos negativos sobre la autonomía personal y relacional de los individuos y favorece la consolidación de ciertas corrientes de pensamiento defensoras de un Derecho mínimo. Ante ello, propone una dimensión colaborativa entre distintas éticas, que permitan direccionar una regulación jurídica precisa de la IA. Ello favorecerá el resguardo de la dignidad humana como centro de gravitación de los ordenamientos jurídicos de los Estados Constitucionales. La cuestión se analiza desde el Bioderecho, esto es, desde el cruce entre Bioética y Derecho, nueva área de interés para la Filosofía jurídica.
Finalmente, Simona Fanni centra su estudio en el análisis del desafío de definir un nuevo estatuto para el cuerpo digital, a través de un enfoque basado en los derechos humanos, desde el punto de vista del derecho internacional público y del derecho de la Unión Europea. En particular, se analizan las actividades, los proyectos y las herramientas de la UNESCO, de la Unión Europea y del Consejo de Europa, puesto que estas organizaciones internacionales vienen apuntando a la adopción de específicas respuestas a los retos planteados por la IA. Específicamente, el propósito del presente trabajo consiste, de iure condito, en analizar el state of the art, enfocándose en las herramientas existentes que puedan resultar relevantes, a fin de formular algunas consideraciones críticas – de iure condendo – sobre el escenario in progress, así como algunas propuestas sobre una moderna Magna Carta dedicada al habeas data.
Esperamos que la variada temática en la primera remesa de artículos seleccionados para el presente número suscite la curiosidad de nuestros lectores y contribuya a enriquecer el debate ético-jurídico en torno a la Inteligencia Artificial.
Since in 1956 John McCarthy used the term Artificial Intelligence to refer to intelligent computing machines (as a support tool), things have changed a lot to the point that we have become a problematic reading of it, due, above all, to the irruption of the 4.0 Revolution led by NBIC Technologies, Robotics and Information Technology.
Obviously this revolution brings new challenges to which the existing regulation does not respond. Precisely for this reason, it is necessary to develop advanced regulations that can promote the development of robotics and Artificial Intelligence, and ensure a development consistent with the values of the constitutions and the Charter of Fundamental Rights of the European Union. and International Law.
It is also necessary to open spaces for reflection and debate as fruitful in intellectual terms as that of the International Congress on Artificial Intelligence and Law: the challenges of the jurist in the digital age, held through a webinar that took place between the 9th and 11th of December and that brought together 17 speakers in five tables, all of them jurists specialized in AI and Law (from 9 European and American universities), which also had a selection of 13 communications defended out of a total of 53 received, and in which more than 300 people participated.
In this issue of Ius et Scientia we present a first selection of twelve communications sent to this Congress once they have been adapted to the format of the articles published in our e-magazine. The twelve articles of number 2/2020 address the implications of Artificial Intelligence in the world of Law from different theoretical perspectives. As a summary, we will make a synopsis of the content of each of these papers.
In the first paper, Pilar Martín Ríos studies the use of new technologies in the fight against urban planning offences, and also analyzes how due respect for privacy conflicts with the possibilities of action offered by these modern and sophisticated instruments. as happens, for example, with digital orthophotography and the use of drones, which are particularly efficient in this field.
In the second papers, Guillermo Lazcoz Moratinos analyzes the proposed regulation on the ethical principles for the development, deployment and use of Artificial Intelligence, robotics and related technologies in the EU. The content of this proposal undoubtedly follows from the regulatory vision that the European Commission has maintained in documents such as the White Paper on Artificial Intelligence (COM(2020) 65 final) or the Ethical guidelines for trustworthy AI drawn up by the High-Level Expert Group on AI. Given this new legislative horizon, it is more necessary than ever to address a constructive criticism on the proposal, highlighting the possibility of reformulating its markedly soft-law character despite its location in a regulatory source of general application and directly applicable, such as regulations, or the adopted approach for certain key principles such as human supervision or discrimination.
Third, Juan Francisco Rodríguez Ayuso dedicates his article to an exhaustive analysis of new developments which, from an eminently technical perspective, brings with it the entry into force of Royal Decree Law 28/2020, of 22 September, on distance working. More specifically, it sets out those measures which, in favour of the integrity, confidentiality and availability of information, must be implemented by companies in order to guarantee the adequate protection of the data processed by employees who, exceptionally or regularly, have to carry out their tasks outside the installations of the organization to which they belong in the form of teleworking.
In the fourth article, Raquel Borges Blázquez studies the bias of the machine in decision-making in criminal proceedings. As the author has pointed out, machines will be racist, sexist and classist if their programmers are. Furthermore, we are facing a new problem: the difficulty to understand the algorithm of those who apply the law.This situation forces us to rethink the criminal process, including artificial intelligence and spinning very thinly indicating how, when, why and under what assumptions we can make use of artificial intelligence and, above all, who is going to program it.
In the fifth article, Jorge Castellanos Claramunt analyzes, from a constitutional perspective, the influence of algorithms in the determination of judicial decisions, especially from the point of view of how this issue would affect the right to effective judicial protection, recognized as fundamental right in article 24 of the Spanish Constitution.
Sixth, María Dolores García Sánchez focuses on the study of the legal issues raised by the eventual creation of an electronic personality in the case of the most advanced autonomous robots (fourth robotic generation).
Gabriel R. Juan offers us, in the seventh article, a critical vision on Artificial Intelligence, because, in his opinion, it causes negative effects on the personal and relational autonomy of individuals and favors the consolidation of certain currents of thought that defend a Minimum right. Given this, he proposes a collaborative dimension between different ethics, which allow directing a precise legal regulation of AI.
On the other hand, Ramón Darío Valdivia Jiménez claims an ethics of Artificial Intelligence capable of adapting to the social archetypes of our Weltanschauung. From this point of view, technological advance will generate human development, but they do not yet reach the possibility of substantially changing human being. One of the most important referees that will moderate the constant dialogue between human “physical and artificial intelligence” is Law, which will have the mission of reconciling the relationship between being and what should be.
The ninth article written by Diego Alejandro Borbón Rodríguez, Luisa Fernanda Borbón Rodríguez and Jeniffer Laverde Pinzón, proposes an innovative proposal to establish ethical and legal limits to the development of technologies: human neuro-rights. In this sense, the article addresses, first, some advances in neurotechnologies and artificial intelligence, as well as their ethical implications. Second, the state of the art on the innovative proposal of Human NeuroRights is exposed, specifically, the proposal of the NeuroRights Initiative of Columbia University. Third, the proposal for the rights of free will and equitable access to augmentation technologies is critically analyzed to conclude that, although it is necessary to propose new regulations for neurotechnologies and artificial intelligence, the debate is still very premature as if to try to incorporate a new category of human rights that may be inconvenient or unnecessary. Finally, some considerations on how to regulate new technologies are explained.
In the tenth article, Matías Mascitti intends to illustrate the increase in the power of the predictive function of Law that will be generated by the use of intelligent integral legal search engines (IILSE).
In the penultimate paper, Miguel de Asís study the incidence of new technologies in the judicial process from the perspective of due process of Law. To achieve its objectives, the autor analyzes how the new tools in ICTs and Artificial Intelligence are influencing the rights that must be respected in the judicial and extrajudicial processes, such as the right of access to justice, the right to legal assistance or the right to an independent and impartial tribunal.
Finally, Simona Fanni focuses on the analysis of the challenge of defining a new status for the digital body, through an approach based on human rights, from the point of view of public international law and the law of the European Union.
We hope that the papers published in the current issue of Ius et Scientia arouse the curiosity of our readers and contribute to enriching the ethical and legal debate on Artificial Intelligence.