Inteligencia artificial:Cuando los algoritmos se convierten en neuronas

ARTIFICIAL INTELLIGENCE:WHEN ALGORITHMS BECOME NEURONS

Alessandra Esther Castagnedi Ramírez

Universidad de Sevilla

alecastagnedi@gmail.com 0000-0002-4905-0362

Recibido: 19 de noviembre de 2022 | Aceptado: 30 de noviembre de 2022

IUS ET SCIENTIA • 2022

Vol. 8 • Nº 2 • pp. 136-145

ISSN 2444-8478 • http://doi.org/10.12795/IESTSCIENTIA.2022.i02.10

RESUMEN

PALABRAS CLAVE

En los últimos años, el uso de la Inteligencia Artificial (IA) ha supuesto cambios muy significativos en distintos ámbitos de la vida de los seres humanos. La medicina es uno de esos sectores donde más han repercutido dichos cambios. El objeto del presente trabajo es el análisis de herramientas basadas en eHealth y neurorobótica que pueden reducir la carga de trabajo humano y contribuir a una mejor gestión de la salud pública, considerando determinados problemas ético-jurídicos que deben ser tenidos en consideración. En este sentido, se lleva a cabo un estudio sobre la cuestión de la responsabilidad en caso de daños causados por el uso de sistemas de IA a través de determinadas herramientas de soft law, llevadas a cabo por el legislador europeo. A este respecto, se analiza, la nueva propuesta de Directiva COM (2022) 496 final del Parlamento Europeo y del Consejo, relativa a la adaptación de las normas de responsabilidad civil extracontractual a la IA (Directiva sobre responsabilidad en materia de IA), por considerar que puede dar lugar a innovaciones muy significativas.

Inteligencia Artificial

Medicina

eHealth

Responsabilidad

Soft law

ABSTRACT

KEYWORDS

In recent years, the use of Artificial Intelligence (IA) has led to very significant changes in different areas of human life. Medicine is one of those sectors where these changes have had the greatest impact. The purpose of this paper is the analysis of tools based on eHealth and neurorobotics that can reduce the human workload and contribute to a better management of public health, considering certain ethical-legal problems that must be taken into consideration. In this sense, a study is carried out on the issue of liability in case of damages caused by the use of IA systems through certain soft law tools, carried out by the European legislator. In this regard, the new Proposal for Directive COM (2022) 496 final of the European Parliament and of the Council on the adaptation of non-contractual civil liability rules to IA (AI-Liability Directive) is analyzed, considering that it can lead to very significant innovations.

Artificial Intelligence

Medicine

eHealth

Liability

Soft Law

I. Inteligencia artificial y la vida onlife

Actualmente vivimos en una sociedad totalmente dependiente de la tecnología. La Inteligencia Artificial (IA), come se ha demostrado, es una de las herramientas más utilizadas por el hombre. La rapidez con la que se alcanzan determinados resultados, través de la IA, es sorprendente e impensable por un ser humano. Nuestras vidas están cambiando a la velocidad de la luz y con ellas muchísimas actividades diarias.

Entre los sectores públicos y privados que han mayormente contribuido al gran desarrollo tecnológico, merece ser mencionada la biología y en caso particular la Neurociencia. Según el premio Nobel Erik Kandel, la Neurociencia tiene como objetivo explicar el comportamiento en términos de actividad cerebral. Para el experto la última frontera de la ciencia de la mente es comprender la base biológica de la conciencia y los procesos mentales a través de los cuales percibimos, actuamos, aprendemos y recordamos (Kandel, E., ET alii, 2014, pp. 378-379). La neurona humana se convierte así en el paradigma computacional que nutre el aprendizaje profundo a través de Redes Neuronales Artificiales que reproducen el funcionamiento de la neurona humana osea todos aquellos procesos que tienen lugar en el cerebro durante la fase de aprendizaje y la fase posterior de reconocimiento. En el software neuronal, el aprendizaje de la experiencia necesaria para generar un resultado tiene lugar por medio de un programador que introduce los datos conocidos en la máquina. Al final de este proceso, la máquina podrá reproducir ciertos resultados que no pueden ser programados a priori, sino que dependerán del tipo de aprendizaje que haya desarrollado. Los circuitos neuronales artificiales son la base de sofisticadas formas de IA cada vez más evolucionadas y capaces de aprender con el uso de mecanismos similares a los de la mente humana, logrando alcanzar e incluso superar las capacidades de esta última. Los estudios neurocientíficos, de hecho, han conseguido grandes resultados con el utilizo de la Inteligencia Artificial y de los Big Data. La Neuro-robótica, la disciplina emergente que estudia la interacción entre dispositivos artificiales y redes neuronales, tratando de simular la forma con la cual el cerebro humano procesa la información, ha sido de gran releve para la creación de robots capaces de realizar movimientos y acciones típicas humanas.

Se define “ Internet of All Things” la conexión entre objetos “inteligentes”, a través de la Red, con el fin de intercambiar informaciones. El Profesor y experto en esta disciplina Yuval Noah Harari, en una de sus obras más importantes, intenta explicar el fenómeno del IoT como la capacidad del hombre de poder diseñar y crear animales, plantas e incluso seres humanos según sus propios deseos, demarcándolo como la mejor revolución biológica realizada desde la aparición en la tierra de la primera forma de vida. El hombre es el nuevo “ Homo Deus” capaz de poder sobrepasar el poder del “ Bible God” y crear formas de vidas no orgánicas, funcionantes a través de las leyes de ingeniería genética. Por lo tanto, se asiste a una nueva visión de la realidad en la cual la figura del “ Man-God” y el poder científico ocupan un rol central, dejando al margen las leyes de la selección natural (Juval Noha, H., 2017, p. 312).

El mismo Luciano Floridi, profesor de Filosofía y Ética de la Información de la Universidad de Oxford, en su último trabajo, explica este fenómeno, cuñando el término “ Infoesfera” (Floridi, L., 2022, pp. 123-126). Según el ilustre Profesor, el hombre vive actualmente en una realidad onlife, pudiendo simultáneamente presenciar tanto en la realidad virtual como en la vida real. De hecho, la tecnología está tratando de fusionar el mundo digital y el mundo real hasta el punto de hacerlos indistinguibles. Este es el punto de partida para la creación, en un futuro próximo, de una nueva figura humana: el homo excelsior (Llano Alonso, F. H., 2022, p. 193), capaz de desarrollarse neurológicamente y de experimentar los cinco sentidos a través de la tecnología digital.

Elon Musk está avanzando en esta dirección, anunciando durante el Tesla AI Day 2022, las nuevas habilidades del humanoide Optimu s, en la versión de Bumble C. Según las declaraciones del CEO de Tesla, Optimus podrá sustituir la mano de obra humana y ser empleado en su propia empresa. Además, dado que el coste económico es asequible (aproximadamente 20.000 dolares) será accesible a la mayoría de la población. Otro ejemplo de gran impacto es la creación del Metaverso de Mark Zuckerberg. Se trata, de un mundo virtual, donde los humanos se personifican a través de avatares creados a su propia imagen y semejanza. Esta realidad virtual posibilita, a los hombres, por medio de sus alter ego, reproducir en dicho entorno digital sus movimientos y sensaciones, como si estuviesen en el mundo real. Es precisamente en esta realidad donde se puede experimentar fácilmente el “ Internet de las no-cosas”, la nueva realidad que se está difundiendo y que a lo largo de unos pocos años habrá sobrepasado el IoT.

II. Medicina e inteligencia artificial

El mundo sanitario es uno de los sectores más implicados en el desarrollo tecnológico. La IA es una de las herramientas más importantes al servicio de la medicina moderna, que abarca todas las áreas que requieren conocimiento médico, desde el diagnóstico a la cirugía, desde la terapia a la gestión de la monitorización del paciente. Un papel fundamental lo desempeña la tecnología eHealth que basciamente consiste en la utilización de las TIC en beneficio de la salud. La 58ª Asamblea Mundial de la Salud, órgano legislativo de la World Health Organization (WHO) en el 2005, en Ginebra, reconoció oficialmente el potencial de la sanidad electrónica como un medio para reforzar los sistemas sanitarios y mejorar la calidad, la seguridad y el acceso al tratamiento. Por consiguiente, animó a los Estados miembros a incorporarla a sus sistemas sanitarios.

La dificultad de atribuir una definición univoca al termino eHealth está relacionada con las numerosas implicaciones que el mismo conlleva. La Unión Europea, en la Comunicación de la Comisión al Parlamento Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones Empty, relativa a la consecución de la transformación digital de la sanidad y los servicios asistenciales en el Mercado Único Digital, la capacitación de los ciudadanos y la creación de una sociedad más saludable, COM(2018) 233 final, de 25 de Abril del 2018, lo define como “(…) the collective term used to refer to tools and services that use information and communication technologies (ICTs) that can improve prevention, diagnosis, treatment, monitoring and management of health and lifestyle”. Para acelerar el proceso de adopción de la eHealth y facilitar la cooperación entre los estados miembros europeos que se adhirieron a la Directiva 2011/24/UE del Parlamento Europeo y del Consejo de 9 de marzo de 2011 relativa a la aplicación de los derechos de los pacientes en la asistencia sanitaria transfronteriza, se ha dado vida a una red de autoridades nacionales en el ámbito de la salud digital y la asistencia sanitaria conocida como “ eHealth Network”. Un ejemplo de cómo esta tecnología es utilizada en el ámbito de la seguridad del tráfico son las eCall, que gracias a unos dispositivos instalados en los vechiulos, que resultan hoy obligatorios en los nuevos medios de transporte y vehículos industriales ligeros, contactan con los servicios de emergencia.

La eHealth se centran en tres ámbitos principales: el ámbito sanitario, el ámbito tecnológico y el ámbito humano.

Desde el punto de vista sanitario, la eHealth se refiere a todos los nuevos procedimientos y productos derivados de la innovación tecnológica que pueden mejorar la calidad de los servicios de salud ofrecidos a los pacientes, por ejemplo, en términos de mayor eficiencia y conveniencia y/o menor costo. Muestra de ello, es el proyecto Open Bionics, que desarrolla manos biónicas a un costo asequible para jóvenes y adultos que han perdido o que han nacido sin dicha extremidad.

El fundamento base de estos nuevos inventos radica en la necesidad, cada vez más demandada, de diagnosticar el futuro de la enfermedad con mucha antelación, sin necesariamente llegar a las etapas más graves. Según un estudio realizado de los dispositivos médicos de Confindustria, nueve de cada diez italianos consideran fundamental la actividad de cribado y el fortalecimiento de los diagnósticos preventivos. Dichas acciones en aras de la preventividad de las enfermedades se consagran en las conocidas “ cuatro p” (preventivo, participativo, personalizado y predictivo). La medicina preventiva consiste en la posibilidad de que los médicos visiten a los pacientes de forma remota, diagnostiquen patologías a través de patrones de diferentes fuentes de investigación y dispositivos. En relación con la primera función (preventiva), resulta de mayor interés el desarrollo que se ha producido en el campo de las enfermedades oncológicas, a través del cual se pueden anticipar sin llegar a etapas irreversibles (Torrisi, C., 2022).

En al ámbito tecnológico, se han desarrollados numerosos software y dispositivos médicos avanzados para la investigación y el tratamiento de patologías, como la cirugía robótica; las tecnologías de IA para mejorar el diagnóstico y reducir el error humano; los web-based online systems; los wereables; los mobile apps y finalmente, las tecnologías de gestión de la información respetuosas con la privacidad, lo que es muy importante, para garantizar la tutela de la intimidad respeto al historial médico electrónico.

Algunos de los softwares que merecen ser nombrados aquí son los wereables desarrollados por la Universidad de California (UCLA). Se trata de dispositivos capaces de monitorizar los cambios de nivel de la hormona cortisol para diagnosticar el nivel estrés o de otras enfermedades, asociadas a esta hormona, presente en nuestros cuerpos. Se trata de invenciones no invasivas que pasan a complementar las actuales técnicas de medición por la vía de las analíticas de sangre o de la cumplimentación de un cuestionario sobre el estrés. El uso de estas tecnologías está siendo de gran utilidad para realizar un seguimiento más completo de las reacciones del cuerpo y advertir, en algunos casos, la posible presencia de otros problemas más complejos como pueden ser los trastornos mentales. Tal operación es posible ya que la depresión es una enfermedad cuyo diagnóstico se detecta según el nivel de cortisol de la persona. En este sentido, el Grupo de Investigación de Skoltech (Rusia) está desarrollando un prototipo de sensor basado en la fluoreciencia, con el que medir la concentración de cortisol en la sangre sin límites de tiempo. Se trataría de un chip subcutáneo, situado en el torrente sanguíneo y dotado de una membrana semipermeable, que lo separa de fluidos biológicos como la saliva y la sangre. Otras herramientas menos invasivas son sin duda las diseñadas por Apple, que, en colaboración con el mundo universitario, ha creado el proyecto Seabreeze focalizado en el estudio del nivel de estrés en la población a través de las cámaras del iPhone, para detectar expresiones faciales. Los hombres manifiestan ciertas expresiones faciales que, combinadas con otras actitudes como la velocidad con la cual se pulsan las teclas del teléfono, el ritmo de la voz, la rapidez en la marcha, los latidos del corazón y el nivel de oxígeno en la sangre, se posibilita la capacidad de diagnosticar rápidamente la presencia de estrés o no en nuestros cuerpos.

Interesante es el proyecto MARIA, realizado en 2020 por parte de expertos de la Universidad Autónoma de Barcelona (UAB) y el Centro de Investigación Biomédica en Red de Bioingenieria, Biomateriales y Nanomedicina (CIBER-BBN). El objetivo de este proyecto era detectar y mitigar en una etapa no del todo avanzada los síntomas de estrés que presentan los profesionales de la salud: enfermeras, médicos y auxiliares médicos. El instrumento utilizado para detectar el estrés fue una pulsera inteligente con la que registrar las diferentes señales fisiológicas (temperatura de la piel, actividad electrodérmica, ritmo cardíaco y respiratorio) asistidas por el programa informático MARIA. El resultado permitió evitar o mitigar la aparición de alteraciones mentales de mayor gravedad, como el estrés postraumático o la depresión.

También la administración hospitalaria y la gestión de los datos de los pacientes pertenece a una de las ramas con la cual se desarrolla la eHealth. Se trata de los nuevos hospitales que explotando el deep learning, regulan el flujo de entradas de los clientes y gestionan las terapias de los clientes a través de un sistema de análisis de datos en tiempo real, como se ha demostrado por el Humber River Hospital de Toronto. En Italia se ha intentado lograr un resultado similar, pero con un rango de aplicación más bajo. Se trata de la cooperación establecida entre la Universidad de Génova y la start-up Surgi-Q, que asigna día, franja horaria y quirófano a los pacientes, indicando la disponibilidad de las habitaciones, la urgencia y el equipo quirúrgico disponible.

Por último, la Robótica aplicada al mundo de la medicina está dando múltiples resultados. Como se especificó anteriormente, estos son robots que trabajan a través de un “cerebro plástico”, cuyo funcionamiento depende de la reproducción de una red neuronal basada en algoritmos. A este respecto, conviene citar, dos estudios estadounidenses centrados en la enfermedad de Parkinson, la patologia neurodegenerativa progresiva más extendida en el mundo. El primero, llevado a cabo por el New York Stem Cell Foundation Research Institute, consiste en el diseño de una plataforma que, mediante la integración de sistemas robóticos capaces de estudiar las células de los pacientes con algoritmos de IA para el análisis de imágenes, pueda descubrir características, condiciones, reacciones a diversos tipos de estrés, identificando sus rasgos comunes.

Otro estudio se refiere al uso del aprendizaje automático para detectar el Parkinson, centrándose en la micrografía, como un trastorno de escritura entre los marcadores para el descubrimiento de la enfermedad. También es interesante el descubrimiento de la “nariz inteligente”, capaz de detectar la misma enfermedad. Este proyecto, lanzado en 2019 por la Universidad de Zhejiang, consiste en transformar el sebo de los pacientes con Parkinson en vapor. Este último es sondeado por un ordenador especial capaz de reconocer el modelo asociado al Parkinson con una tasa de éxito del 70%.

Finalmente, como prueba del objetivo de unificar las dos realidades, virtual y real, la compañía Meta de Zuckerberg está patrocinando la posibilidad que se concede a los cirujanos de poder llevar a cabo toda la práctica necesaria en dicho entorno virtual. Esta es una de las nuevas prácticas lanzadas por Silicon Valley, que permite no solo lo que se acaba de informar sino también la supervisión de operaciones quirúrgicas de forma remota, través de la creación de un digital twin. Se trata de un “gemelo virtual”, es decir una réplica digital del paciente con la que se pueden probar operaciones quirúrgicas para predecir cualquier daño colateral de manera aún más efectiva (Campagna, L., 2022).

III. Cuestiones críticas relacionadas con el uso de la inteligencia artificial y cuestiones ético-legales

Está claro que el sistema de eHealth se basa sobre el análisis multifactorial de datos, necesarios para permitir la creación de modelos matemáticos predictivos cada vez más precisos. Las principales tareas de los algoritmos, que cumplan actividades de diagnosis, son crear modelos semánticos de datos con el uso de ontologías (modelos compartidos, acordados y detallados de un problema o dominio determinado); predecir el riesgo y diagnosticar las diversas patologías, especialmente oncológicas, en sus tipos, características y niveles de complejidad; clasificar los tipos de cáncer a través de la evaluación visual de las células cancerosas; visualizar y analizar las estructuras de conocimiento para identificar patrones explícitos y ocultos (Kourou, K., ET alii, 2015, pp. 8 – 17).

Si, por un lado, esta técnica facilita el trabajo del hombre y aumenta el bienestar de la población; por el otro lado, es necesario que las mismas herramientas sean validadas científicamente por parte de médicos expertos que puedan supervisar el trabajo realizado por la tecnología, evitando de tal manera la formación de sesgos o la generalización de las soluciones propuestas (en relación con esto último, evitando por ejemplo, que los algoritmos de aprendizaje automático aprendan solo, sobre los datos de algunas categorías de pacientes, ignorando otras). Todo ello presupone la necesidad de una gobernanza de estos sistemas por parte de las agencias reguladoras de cada estado europeo. Este tema ha sido abordado durante varios años por parte de la Food and Drug administration de los Estados Unidos (Matheny, M. E., ET alii, 2019, pp. E1 – E2), la cual ha adoptado el Statement from FDA Commissioner Scott Gottlieb, M.D. on steps toward a new, tailored review framework for artificial intelligence based medical devices, que establece la necesidad de aprobación de sistemas de IA que se utilizan en el campo sanitario.

Encontrar una regulación específica depende sobre todo de la creciente autonomía de los algoritmos y de sus resultados, agravado por la dificultad de supervisión de las actividades algorítmicas debidas a la utilización del Deep Learning como método de aprendizaje. El problema surge cuando se llegue al punto en el cual la maquina inteligente tenga el poder de decidir si tratar o no a un paciente. Por lo tanto, es necesario crear tecnologías al alcance de toda la población, que sean capaces de enfrentar males concretos que oprimen la humanidad y nuestro planeta, como las catástrofes ambientales y sanitarias, las crisis financieras y el terrorismo, la pobreza y la ignorancia. Se trata de seguir uno de los aforismos del primer ministro Winston Churcill que se expresa con las siguientes palabras: “ First we give shape to buildings; then these are the ones that give shape to us”.

En Europa la regulación de los dispositivos médicos (incluidos los sistemas de IA en el campo del diagnóstico) ha sido introducida por parte del Reglamento (UE) 2017/745 del Parlamento europeo y del Consejo, de 5 de abril de 2017, y por parte de la Propuesta de Reglamento Europeo del Parlamento Europeo y el Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (ley de inteligencia artificial) y se modifican determinados actos legislativos de la unión, COM (2021) 206 final, de 21 de abril de 2021, que clasifica los dispositivos médicos y los dispositivos sanitarios para diagnóstico in vitro como sistemas de IA de alto riesgo. El tema de la responsabilidad está en el centro de las grandes dudas sobre la utilización de los sistemas de IA en la sociedad y en particular en el ámbito médico. Por esta razón, la Unión Europea ha nombrado a un Grupo de Expertos en IA, confiándole la tarea de elaborar directrices precisas que disminuyan el riesgo respecto a la fiabilidad. Se trata de un programa ( Ethics guidelines for trustworthy AI) divido en siete pilares fundamentales, que se articula de la siguiente forma: realización de una actividad de revisión de los resultados por parte del usuario; seguridad por parte del sistema y solidez del mismo, permitiendo planes de contingencia en caso de errores; garantía del mantenimiento de la privacidad e integridad de los datos manipulados; transparencia y capacidad de comunicación de los motivos de las decisiones adoptadas; capacidad por parte del sistema de interpretación respecto al interés de los usuarios; propósito de un beneficio para la sociedad y la minimización de las posibles consecuencias negativas de las decisiones. Para coadiuvar el Ethics guidelines for trustworthy AI, el legislador europeo ha elaborado la reciente Propuesta de Directiva del Parlamento europeo y del Consejo sobre responsabilidad por los daños causados por productos defectuosos, COM (2022) 495 final, del 28 de septiembre de 2022, adoptada conjuntamente a la Propuesta de Directiva del Parlamento Europeo y del Consejo relativa a la adaptación de las normas de responsabilidad civil extracontractual a la Inteligencia Artificial (Directiva sobre responsabilidad en materia de IA), COM (2022) 496 final, del 28 de septiembre de 2022, la. Ambas las propuestas se completan mutuamente en el proporcionar una protección integral para los daños extracontractuales causados por la IA. Por una parte, la primera sobre daños causados por productos defectuosos establece el régimen de responsabilidad de los fabricantes por los daños causados a personas físicas por sus productos, definiendo las condiciones del derecho a indemnización y las normas para determinar la responsabilidad en los distintos casos que puedan presentarse. Por otra parte, la segunda sobre responsabilidad por IA establece normas ad hoc sobre la prueba de daños causados por un sistema de IA, facilitando así las acciones de reparación de daños y perjuicios ante una tecnología cuyo funcionamiento puede resultar difícil de entender para una entidad ajena a su cadena de producción. De hecho, dada la complejidad, autonomía y opacidad de los algoritmos utilizados para las aplicaciones de IA (efecto caja negra), puede ser difícil, si no imposible, demostrar el perjuicio sufrido por estas aplicaciones e identificar a la persona responsable de acuerdo con las normas tradicionales de los Estados miembros sobre responsabilidad extracontractual.

Con la nueva Propuesta (COM (2022) 496 final), el legislador europeo ha querido establecer instrumentos de protección, en el marco del procedimiento, para el sujeto perjudicado por la IA, con el fin de superar las dificultades que plantea la misma. Su ámbito de aplicación se limita a la responsabilidad civil extracontractual, con exclusión de la responsabilidad penal, y cubre las acciones de indemnización, incluso fuera del ámbito de la Directiva sobre productos defectuosos, como, por ejemplo: la violación de las normas de privacidad o el caso de que se haya discriminado a una persona en un proceso de contratación en el que se haya utilizado la IA.

En su conjunto, la Propuesta se aplica a todos los sistemas de IA, independientemente de su clasificación en función del nivel de riesgo. Sin embargo, hay algunas normas que solo se aplican a los sistemas de alto riesgo y viceversa. Muy importante resulta su artículo 4, que establece normas sobre la presunción relativa de causalidad en caso de culpa. En particular, está previsto que, en determinadas condiciones, los órganos jurisdiccionales puedan presumir la existencia de una relación de causalidad entre la culpa del demandado y la producción producida por un sistema de IA, o la falta de producción por parte de dicho sistema a efectos de la aplicación de las normas de responsabilidad. Se trata de tres condiciones, ilustradas en los termines siguientes: “ el demandante haya demostrado o el órgano jurisdiccional haya alegado, la falta del demandado o de una persona cuya conducta responsable del incumplimiento de una obligación de diligencia prevista en el Derecho de la Unión o nacional y destinado directamente a proteger contra el daño ocurrido; puede considerarse razonablemente probable, sobre la base de las circunstancias del caso, que el comportamiento erróneo haya afectado a la producción del sistema de IA o a la ausencia de producción de un sistema de este tipo; el demandante ha demostrado que el daño ha sido causado por la producción producida por el sistema de IA o la falta de producción de una salida por parte de dicho sistema”.

Dicha Propuesta tiene que ser coordinada con la mencionada Propuesta de Reglamento COM (2021) 206 final. En el texto de la Propuesta de Directiva se hacen numerosas referencias al Reglamento, tanto para algunas definiciones clave (incluida la propia definición de IA) como para las normas de conformidad de la IA. Por consiguiente, salvo que se introduzcan modificaciones en el texto de la Directiva, los procedimientos legislativos correspondientes de ambas propuestas deberán coordinarse. La propuesta de Reglamento se encuentra en una fase temprana del proceso legislativo y aún no se ha alcanzado un acuerdo político entre los colegisladores sobre un texto común.

En general la propuesta de Directiva simplifica el procedimiento legal para las víctimas cuando se trata de demostrar que la culpa de alguien ha causado un daño. En segundo lugar, las víctimas tendrán más medios para obtener una compensación legal, introduciendo un derecho de acceso a las pruebas por parte de empresas y proveedores, en los casos en que la IA de alto riesgo esté involucrada. El objetivo de estas nuevas normas es establecer un equilibrio entre la protección de los consumidores y el fomento de la innovación, eliminando nuevas barreras para el acceso de las víctimas a la compensación y estableciendo al mismo tiempo garantías para el sector de la IA. Parece ser el inicio de una nueva etapa, en la cual quedan eliminadas las barreras del escepticismo relativa a la adopción de sistemas de IA, que han disuadidos a los consumidores de comprar un producto que utiliza IA hasta la fecha actual.

IV. Conclusión

Entre los nuevos desafíos actuales se encuentran: comprender el análisis realizado por algoritmos para una correcta interpretación e inferencia clínica; enfrentar la falta de herramientas tecnológicas en algunas áreas que integren datos clínicos y analíticos en múltiples niveles, así como sistemas que combinen diversos enfoques de interacciones biológicas; utilizar datos prospectivos y evaluar la interpretabilidad intrínseca del modelo con respecto a los potenciales sesgos de búsqueda. Otros retos, por otro lado, constituyen resultados reales no deseados, como el riesgo de dar excesiva confianza ante la presunta fiabilidad del algoritmo, renunciando a implementar mecanismos de supervisión. En este sentido, es necesario crear pautas sobre la interacción y el uso correcto de la IA en el diagnóstico. Igualmente, importante, es encontrar una solución al tema de la responsabilidad extracontractual en caso de la utilización de instrumentos de IA. Con la nueva Propuesta sobre responsabilidad por IA, el legislador europeo ha intervenido en una problemática que ha sido ampliamente discutida en los últimos años. El nexo causal, en particular, ha sido un rompecabezas que el legislador ha decidido resolver mediante el mecanismo de la presunción relativa. En cuanto a los próximos pasos, es probable que transcurra un plazo de tiempo bastante largo antes de que las normas de la Propuesta se apliquen a nivel nacional. El proceso legislativo para la adopción de la Directiva acaba de comenzar y es probable que su duración sea bastante larga si pensamos que se tiene que coordinar con la adopción del Reglamento sobre la IA citado. Por último, confiemos que los Estados miembros dentro del plazo de dos años que tienen a partir de la entrada en vigor de la Directiva para aplicarla en sus legislaciones nacionales, puedan desarrollar dicha transposición de manera adecuada.

Bibliografía

“Cos’è la eHealth (Salute Digitale), Blog Salute Digitale / eHealth Blog. Consultado en fecha 10 de octubre de 2022 en: https://www.blogsalutedigitale.it/ehealth/

“eHealth Per le Persone Senza Arti: Open Bionics”, Blog Salute Digitale / eHealth Blog. Consultado en fecha 10 de octubre de 2022 en: https://www.blogsalutedigitale.it/2018/03/21/ehealth-persone-senza-arti-open-bionics/

CAMPAGNA, Leo. (13 giugno 2022). “Rivoluzione Metaverso, la nuova frontera dei gemelli digitali”, Economia&Finanza. Consultado en fecha 10 de octubre de 2022 en https://financialounge.repubblica.it/news/2022/06/13/rivoluzione-mataverso-la-nuova-frontiera-dei-gemelli-digitali?y=62.

FLORIDI, Luciano, (2022). Etica dell’Intelligenza Artificiale. Sviluppi, opportunità, sfide, Milano, Raffaello Cortina Editore, pp. 123-126.

HANS, Oh; RIZO, Carlos; ENKIN, Murray; JADAD Alejandro. “What is eHealth: A Systematic Review of Published Definitions”, Journal of Medical Internet Research, 2005, vol. 7, enero – marzo. Consultado en la fecha 07 de octubre de 2022: https://www.ncbi.nlm.nih.gov/pmc/articles/PMC1550636/#ref42

HESTON, Thomas F. (2018). eHealth – Making Health Care Smarter, Londres, Intech Open, pp. 65-74.

JUVAL NOHA, Harari (2017), Homo deus: breve historia del mañana. trad. J. ROS, Barcelona, Debate.

KOUROU, Konstantina, EXARCHOS, Themis P., EXARCHOS, Konstantinos P., M. V. KARAMOUZIS, Michalis V., FOTIADIS, Dimitrios I., “Machine learning applications in cancer prognosis and prediction”, Computational Andstructural Biotechnology Journal, 2015, vol. 13, pp. 8–17.

L. G. DE RIVERA. (5 giugno 2022). Inteligencia Artificial. La revolución que està cambiando nuestra vida. Muy Interesante, num. 493.

LAGHI, Andrea (Coord.). (9 novembre 2021). “I sistemi di Intelligenza Artificiale come strumento di supporto alla diagnostica”, Sezione V del Ministero della Salute del Consiglio Superiore della Sanità italiana.

LLANO ALONSO, Fernando Higinio (Dir.), (2022), “Singularidad Tecnológica, Metaverso e Identitdad personal: Del Homo Faber al Novo Homo Ludens” , Inteligencia Artificial y Filosofia del Derecho, Murcia, Ediciones Laborum S. L.

MATHENY, Michael; DANIELLE, Whicher; ISRANI, Sonoo Thadaney; “Artificial Intelligence in Health Care - A Report From the National Academy of Medicine”, Jama, 17 diciembre 2019.

MESKÓ, Bertalan, DROBNI, Zsófia, BÉNYEI, Éva, GERGELY, Bence, GYŐRFFY, Zsuzsanna, “Digital health is a cultural transformation of traditional healthcare”, Mhealth, 2017, vol. 3.

PALMERINI, Erica, “Robotica e diritto: suggestioni, intersezioni, sviluppi a margine di una ricerca europea”, Responsabilità civile e previdenza, 2016, vol. 6, p. 1816.

TORRISI, Carla, “Diagnosi precoci con l’Intelligenza Artificiale”, Il giornale della previdenza dei medici e degli odontoiatri, 2022, n° 1-2-3.

(01 de Octubre de 2022), “Musk presenta il suo robot umanoide Optimus. Innaffia e fa compiti semplici. “Gli manca un cervello”, la Repubblica. Consultado en fecha 25 de septiembre de 2022 en: https://www.repubblica.it/economia/2022/10/01/news/musk_robot_optimus_tesla-368109789/.