Deontología profesional, la seguridad del paciente y principios esenciales. Conceptos clave para la regulación de la telemedicina, la Inteligencia Artificial y la robótica en el ámbito sanitario[1]

PROFESSIONAL DEONTOLOGY, PATIENT SAFETY AND ESSENTIAL PRINCIPLES. KEY CONCEPTS FOR THE REGULATION OF TELEMEDICINE, ARTIFICIAL INTELLIGENCE AND ROBOTICS IN THE HEALTH FIELD

Manuel Pérez Sarabia

Universidad de Sevilla. Consejo Andaluz de Colegios de Médicos

mperezsarabia@cacm.es 0000-0001-5901-5643

Deontología profesional, la seguridad del paciente y principios esenciales. Conceptos clave…

1. Introducción

La sociedad actual vive un momento de desarrollo tecnológico disruptivo, la llamada 4ª revolución industrial, que afecta de pleno al ámbito sanitario.

Este desarrollo tecnológico, expansivo y galopante, genera la sensación generalizada de que, para regular este fenómeno, de incesante evolución, hay que renovar el sistema jurídico por completo. Una inquietud generalizada de que los sistemas jurídicos y la regulación vigentes ya no sirven, promoviéndose la creación de nuevos marcos regulatorios específicos.

A modo de ejemplo, la Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión Europea sobre normas de Derecho Civil sobre Robótica (Parlamento Europeo, febrero 2017), vino a proponer, que al actual sistema de personalidad jurídica que distingue entre persona física y personas jurídicas, como sujetos de obligaciones y derechos, sería plausible que se incorporara una tercer tipo de personalidad jurídica, la personalidad jurídica electrónica de los robots como nuevos sujetos de derechos y obligaciones, plateado un escenario normativo tan disruptivo como el propio sistema tecnológico. Aunque este debate parece haber sido superado por la doctrina mayoritaria y por las iniciativas reguladoras de la propia Unión Europea, no deja de ser un planteamiento que cuenta con apoyos que incluso postulan crear una nueva rama jurídica (Valente, 2019, págs. 1-30), el derecho de los robots (Belloso Martín, 2018, págs. 21-81).

En respuesta a lo anterior, el Profesor SEOANE nos invita a no dejarnos deslumbrar por el desarrollo tecnológico, pues muchos problemas ya existían y nos son de la IA; por su parte la Profesora WISNER cita a parte de la doctrina que considera que no es necesario regular más, porque ya existe una regulación de derechos humanos en los distintos países; o la Profesora SEPULVEDA nos invita a romper con el concepto disrupción, pues implica una ruptura con el sistema anterior y significaría un retroceso; también reflexionaba el Profesor DE ASIS, sobre la incógnita de nuevos derechos para problemas nuevos o viejos derechos para problemas nuevos, o sobre las soluciones malas para problemas simples (DE ASÍS ROIG, SEOANE, WISNER GLUSKO, SEPULVEDA GÓMEZ, 2021).

Me complacen las anteriores citas, aproximadas a las realizadas en sus conferencias, porque mi propuesta base es coincidente con las mismas, en cuanto considero que la disrupción tecnológica no tiene que ir pareja a una disrupción normativa.

Por todo ello, ante la pregunta ¿nos hace falta una regulación especifica para la telemedicina, la IA y la robótica? La primera respuesta es que en todo caso esa regulación especifica deberá observar la normativa de los estados y específicamente la normativa profesional y sanitaria, como primera conclusión anticipada, y en concreto, en este trabajo perfilamos dos claves o conceptos normativos que consideramos esenciales, la deontología profesional y la seguridad del paciente, que junto con los principios esenciales de trasparencia, veracidad y competencia profesional, deberán ser punto de partida para cualquier puesta en funcionamiento o regulación de sistemas tecnológicos que tratamos.

Como punto de partida debemos comprender que la técnica y el desarrollo tecnológico no son nada nuevo en la historia de la humanidad.

II. La técnica

La técnica y la tecnología no son nada nuevo, si bien su velocidad de desarrollo se ha multiplicado y la aparición de una nueva capacidad de autoaprendizaje en los desarrollos tecnológicos sobre inteligencia artificial, resulta desconcertante, aunque seguro que en cada etapa de la historia fueron igualmente desconcertantes los procesos capaces alterar los sistemas de desarrollo humano.

Ya lo dijo Ortega y Gasset, “sin la técnica el hombre no existiría ni habría existido nunca” (Ortega y Gasset, 2000, p.13) , al inicio del libro meditaciones de la técnica que surge en la inauguración de la Universidad de verano de Santander en el año 1933.

También , hace pocos días tuve la fortuna de escuchar al Profesor Fernando Llano en una magistral ponencia sobre el marco regulador de la medicina genética y la dignidad humana (Llano Alonso, 2021), donde hacía un breve recorrido por las distintas revoluciones industriales, describiéndonos, para ilustrar su ponencia, aquella famosa película de Chaplin en la que el director y actor era absorbido cómicamente por una maquinaria, que evidenciaba como el hombre podía ser absorbido por la tecnología.

En aquel instante, mi mente, además entender que podíamos ser absorbidos por el deslumbramiento que produce el desarrollo tecnológico hasta extremos cómicos o dramáticos, sintió como también podríamos ser absorbidos por un afán regulatorio que nos hiciera retroceder y olvidar los hitos logrados, por lo que retrocedí a miles de años atrás, cuando el primer ser humano descubrió el fuego, y pensé en aquella situación como tragicómica también, en cuanto la cantidad de veces que nuestros antepasados se quemarían y dañarían hasta lograr perfeccionar la técnica y tecnología del momento, entendiendo la técnica como el conjunto de habilidades adquiridas, por la práctica, y la tecnología, como aplicación instrumental de esas habilidades.

Con esta reflexión, quiero llegar a una segunda conclusión adelantada: Los instrumentos y herramientas que han revolucionado, transformado y evolucionado el desarrollo del hombre, siempre han partido desde puntos de partida muy anteriores, no ex novo, puesto que han sido la adaptación de los elementos e instrumentos para el hombre, y no la adaptación del hombre a estos instrumentos.

Llego aquí, partiendo del pensamiento de ORTEGA, cuando afirma acertado como siempre, que, “la técnica es lo contrario a la adaptación del sujeto al medio, puesto que es la adaptación del medio al sujeto” (Diéguez Lucena, 2013, págs.73-97).

Pero en los momentos que vivimos, en ocasiones, parece que se propone una adaptación, al contrario, la del hombre a la tecnología, en lugar de la adaptación de la tecnología al hombre; y esto sí que constituiría un cambio de paradigma en la historia de la humanidad, o al menos en la historia contemporánea de occidente, desde la proclamación de los Derechos Humanos. Me refiero a una situación futurible, en la que los seres humanos, por ejemplo, nos tendríamos que adaptar obligadamente a recibir asistencia médica por un robot o sistema de IA autónomos, a distancia o presencial, el lugar de recibirla de un ser humano como nosotros, pues como señala el Profesor SEOANE, estamos perfilados; avocados a ser objetos de decisiones automatizadas, lo que quiebra nuestra seguridad jurídica (De Asís Roig, Seoane, 2021). El origen del problema no es la tecnología, sino el uso que hagamos de ella, o el uso que la regulación permita que se haga con ella.

Por ello, debemos resituarnos y ver que, si bien el desarrollo tecnológico al que nos enfrentamos, o disfrutamos, se caracteriza por desarrollar unas capacidades tecnológicas asimilables o incluso superiores a las naturales humanas, la técnica y la tecnología siempre ha existido desde que existe el hombre, y en la actualidad para su regulación debemos partir del ordenamiento vigente, sin necesidad de romper con él, pues especialmente en Europa y en España en concreto, es un ordenamiento garantista de los Derechos Humanos y más en el ámbito de la protección de la salud, la integridad y la vida, existiendo soluciones normativas idóneas para la mayoría de los problemas que se pueden plantear, existiendo ya garantías para un uso respetuoso con los derechos humanos, debiendo constituirse una regulación reducida, conducida a los aspectos más controvertidos de estas nuevas tecnologías:

• La opacidad y necesidad de transparencia de los algoritmos que constituyen estos sistemas.
• Las garantías de seguridad en su uso, como instrumentos o herramientas de especial peligrosidad. Una peligrosidad intrínseca, debido a su complejidad y capacidad de resolución que pueda afectar a bienes e intereses jurídicos protegidos.

En sentido con lo anterior, es conveniente visualizar las previsiones reguladoras de la Unión Europea y a continuación la regulación particular en España en el ámbito sanitario, para poder comprobar que efectivamente existe una regulación normalizada que debe de asumirse para no romper con el sistema de garantías y derechos del que disfrutamos actualmente, y que posteriormente se debe complementar con la regulación o exigencias necesarias para garantizar el respeto a los derechos humanos en los aspectos controvertidos señalados.

III. Previsiones reguladoras en la UE

La extensión de este trabajo no nos permite ser demasiado exhaustivos en la descripción de la regulación y previsiones para el derecho a la protección de la salud y el desarrollo de las nuevas tecnologías, pero sí daré unas pinceladas sobre aspectos de gran relevancia.

En el ámbito de la inteligencia artificial y sus desarrollos debemos partir del derecho a la protección de datos, pues el punto de partida de todos estos sistemas parte del llamado Big Data, del uso masivo de datos correlacionados entre sí por esos desarrollos tecnológicos.

Esta es la razón, por la que para cualquier análisis de la materia estudiada debemos tener como muy relevante punto de referencia el Reglamento Europeo de Protección de Datos (Reglamento (UE), 2016) que establece en su artículo 9 los datos de salud como una categoría especial de datos, con un sistema de protección alta y reforzado, lo que hay que tomar en consideración de base, pues como señala PALMA ORTIGOSA (Palma, 2019) o TRONCOSO REIGADA (Troncoso Reigada, 2010, págs. 74 y 75), entre otros autores, la aplicación del derecho fundamental a la protección de datos tiene una repercusión en unos términos más amplios que la intimidad, sino también instrumental para el resto de los derechos fundamentales, y en nuestro caso como garantía para el derecho fundamental a la protección de la salud, la integridad y la vida, en cuanto al derecho, por ejemplo, de la prohibición de la toma de decisiones automatizadas sin revisión humana, o evidentemente, la exigencia normativa de especial protección de los datos de salud que hemos señalado anteriormente.

Por su parte, el Libro en Blanco sobre la inteligencia artificial (Comisión Europea, 2020), publicado por la Comisión Europea, hace referencia a la necesidad de supervisión humana, en relación con el artículo 22 del Reglamento Europeo de Protección de Datos, cuando exista una aplicación de inteligencia artificial con riesgo elevado de socavar la autonomía humana o provoque otros efectos adversos, lo que desde luego interpretamos cómo directamente aplicable a los derechos relacionados con la protección de la salud la integridad y la vida, pues qué característica más profunda de la autonomía humana que los derechos relacionados con la salud. Así mismo, la referencia que hace este artículo del 22 del mencionado Reglamento, a los efectos adversos, no podemos dejar de reflejarla y relacionarla con el capítulo que más adelante desarrollamos en referencia a la seguridad del paciente, sustentada sustancialmente sobre los llamados eventos adversos, que son incidentes sanitarios con daños para el paciente.

En relación con lo anterior, el libro en blanco destaca que tanto desarrolladores como implementadores de inteligencia artificial están sometidos a la legislación europea, al igual que cualquier otro ámbito de desarrollo tecnológico, industrial o comercial, señalando derechos fundamentales como la protección de consumidores, o la seguridad de productos y responsabilidad civil, lo que es una referencia congruente con la realidad que planteamos, en cuanto a la preexistencia un marco regulador idóneo en la actualidad.

Prosigue el Libro Blanco, indicando que debido a las características específicas de estas nuevas tecnologías, concretamente su opacidad, habrá que modificar las normativas, en la búsqueda de soluciones factibles, describiendo los principales riesgos relacionados con aspectos principalmente económicos y sobre privacidad e intimidad, sin reparar expresamente en los riesgos para el derecho a la protección de la salud y la integridad de las personas, lo cual consideramos que lo sobreentiende como evidente en su posterior referencia a la exigencia que tiene la IA de respetar los derechos y valores fundamentales. Aunque sí afirma, que el objetivo de una IA fiable, ética y antropocéntrica solo puede alcanzarse garantizando una participación adecuada de las personas con relación a las aplicaciones de IA de riesgo elevado, lo cual se trata de referencias de cierta ambigüedad, pero sobre las que no cabe otra interpretación respecto a los derechos tratados, que la señalada instrumentalidad del derecho a la protección de datos (Palma, 2019) (Troncoso Reigada, 2010, págs. 74 y 75) en relación con la restante normativa señalada en este trabajo, viniendo a determinar que en el ámbito de la salud, la adecuada participación profesional sanitaria constituye el núcleo de reserva de humanidad, participación indispensable por parte de médicos y otros sanitarios, como veremos en el capítulo sobre deontología profesional.

Por su parte, la Comunicación de IA para Europa (Comisión Europea, 2018) establece el derecho de las personas a saber si se están comunicando con una máquina o con otro ser humano, así como la necesidad de que la persona pueda ponerse en contacto con un ser humano, y garantizar que estos siempre puedan verificar o corregir las decisiones.

Asimismo, la Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión para normas de Derecho civil sobre robótica (Parlamento Europeo, 2017), incide en la necesidad de integrar salvaguardas, control y verificación de las personas en los procesos de toma de decisiones automatizadas y basadas en algoritmos, incidiendo en el riesgo de deshumanización, subrayando la necesidad de no invadir el ámbito de decisión del médico, y la importancia de que no se disminuya ni perjudique la relación entre médico y paciente, lo que hay ponerlo en relación con la iniciativa del Consejo General de Colegios Oficiales de Médicos de España, que ha solicitado a la UNESCO, junto con otras organizaciones médicas internacionales, que declare la Relación Médico Paciente como Patrimonio Cultural Inmaterial de la Humanidad (Foro Profesión Médica en España, 2017).

Por su parte, el Parlamento Europeo en la incitativa legislativa aprobada el 21 de octubre de 2020[2], indica que la IA tiene que ser antropocéntrica y antropogénica, cumplir condiciones de seguridad, transparencia, rendición de cuentas, salvaguardas contra el sesgo y discriminación, contemplar el derecho de reparación, la responsabilidad social y medioambiental, el respeto de la intimidad y protección de datos.

En continuidad con la anterior iniciativa, el pasado 21 de abril de 2021, se presentó por la Comisión Europea la Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (ley de inteligencia artificial) y se modifican determinados actos legislativos de la Unión[3], que hace referencia a los resultados positivos y ventajas competitivas que la inteligencia artificial puede tener en sectores de gran impacto como la salud, la cual sitúa en el ámbito de un alto riesgo junto con la seguridad y los derechos fundamentales de las personas, estableciendo determinadas exigencias sobre gestión de riesgos y vigilancia humana, así cómo trazabilidad y transparencia garantizadas, priorizando la salud junto la seguridad y la protección de consumidores, así como también prevé otros derechos como el derecho a la libertad de empresa, exigiendo igualmente que estos sistemas tengan una evaluación de conformidad ex ante.

Por su parte, la Consideración 27 de la anterior Propuesta de Reglamento, merece la pena reflexionarla, en cuanto establece que la calificación de alto riesgo debe limitarse a aquellos sistemas de inteligencia artificial que tengan consecuencias perjudiciales importantes para la salud. La redacción literal del precepto introduce dos condiciones que pueden inducir al equivoco, en cuanto restringe la calificación de alto riesgo para cuando haya consecuencias perjudiciales e importantes. Estos conceptos jurídicos indeterminados, perjudiciales e importantes, manifiestan, salvo error de interpretación por el exponente, una clara intención de desarrollar una interpretación laxa, solo limitada por riesgos extremos, lo cual podría ser contradictorio con el marco garantista de derechos y valores de la propia Unión Europea.

En sentido muy parejo, la regulación específica sobre robótica, en concreto la Resolución del Parlamento Europeo, de 12 de febrero de 2019, sobre política industrial global europea en materia de inteligencia artificial y robótica (Parlamento Europeo, 2019), vuelve a reivindicar la necesidad de convertir a Europa en un continente emergente gracias al desarrollo de las nuevas tecnologías, incidiendo en el ámbito de la salud y los sistemas sanitarios.

Como crítica, principalmente a la Propuesta Reglamento de inteligencia artificial, significar que la Comisión Europea ha desarrollado un texto repetitivo y excesivamente amplio, que desvela cierta ambigüedad rehuyendo de la practicidad, posiblemente de manera consciente, redundando en aspectos como la compensación de daños, en lugar de reducir y sistematizar la regulación los aspectos verdaderamente controvertidos y no regulados por el momento, como son la transparencia, la trazabilidad, la exigencia de controles de calidad y seguridad por la autoridad pública, o la definición clara de la IA como instrumento. Es claro, desde mi punto de vista, que los órganos de Gobierno de la Unión Europea quieren lanzar un liderazgo mundial sobre inteligencia artificial y para ello reducir al máximo sus límites, viéndose también obligados a equilibrar con los Derechos Humanos y fundamentales, saliendo perdedora la transparencia y claridad normativa, por tanto, la seguridad jurídica, en esta búsqueda de equilibrio. De hecho, la Consideración 45 abre claramente el tráfico de datos de salud como fórmula potenciadora del desarrollo de sistemas de inteligencia artificial, lo que es principal prueba y señal del fin último de la propuesta reguladora.

Merecen mención, por su actualidad e influencia internacional, las Recomendaciones sobre ética de la inteligencia artificial publicadas por la UNESCO (Unesco, 2022), donde entre numerosos aspectos de interés se pone de relieve la importancia de las relaciones de los pacientes con su familia y con el personal sanitario (Recomendación 121), en línea con la importancia de potenciar la relación médico paciente como elemento clave para la dignidad humana, como bastión de humanidad (Foro Profesión Médica en España, 2017, p. 39).

Por su parte, la Organización Mundial de la Salud (OMS), en su Estrategia mundial sobre salud digital 2020-2025[4], promueve una salud digital ética, segura, fiable, equitativa Y trasparente, entre otras cuestiones.

Todas estas cuestiones vienen a ratificarnos que el marco normativo que se prevé, independientemente del fin último, no puede obviar principios y derechos básicos como la transparencia algorítmica o la reserva de humanidad. Por este motivo, cuestiones, como la propuesta de conferir personalidad a un robot, se han ido diluyendo, pues sería deshumanizar la humanidad, insolidario entre los hombres iguales, y arriesgar los Derechos Humanos, confiriéndole poderes humanos a las maquinas.

Por todo ello, partiendo de la base de que la normativa que se desarrolle debe respetar siempre los ordenamientos y derechos vigentes que vamos señalando, sí debemos anunciar como ya hemos venido insinuando, que la normativa en esta materia debe de centrarse en cuestiones como la opacidad, la transparencia, la explicabilidad, la fundamentación, y la responsabilidad sobre estas herramientas e instrumentos, que debe conllevar un sistema de matriculación o licencia con sus correspondientes revisiones periódicas o inspecciones técnicas, ajustadas a la ficha técnica del producto, también sistemas de certificación de calidad y seguridad, así como el correspondiente seguro de responsabilidad.

El concepto de riesgo es una idea clave para la Unión Europea a la hora de elaborar medidas y normas, riesgos centrados, como hemos expuesto, en cuestiones como la opacidad y la transparencia en las decisiones automatizadas, donde es necesario regular una exigencia de argumentación y fundamentación junto con la reserva de humanidad

Nos preguntamos, qué si bien para un médico es imperativo legal proporcionar información transparente al paciente, o para un juez es obligado motivar sus resoluciones, por qué para un tecnólogo no es una exigencia la transparencia en sus códigos fuentes y de los sistemas de elaboración de algoritmos. Quizás esta exigencia sí sea necesaria regularla expresamente, como ya se ha regulado los derechos de información médica o la obligación de motivación judicial, en aras de proteger los derechos e intereses públicos en juego, que no son baladíes.

IV. Regulación desde la perspectiva del ámbito sanitario

Como hemos señalado en la introducción, ni existe la necesidad de un sistema jurídico diferenciado, ni debemos romper en ningún caso con el sistema jurídico que tenemos, tanto en cuanto a la industria y desarrollo tecnológico, como respecto a los sistemas sanitarios en su sentido más amplio. Tenemos un modelo sanitario seguro, con garantías de atención universal, igualdad, seguridad y calidad.

Ley 14/1986 General de Sanidad, de 25 de abril[5], recoge necesidades como el respeto a la personalidad, la dignidad humana y la intimidad, el derecho de los pacientes a que se les asigne un médico y a elegirlo. Un médico persona física, desde luego, cuyo nombre se le dará a conocer al paciente, como parte de sus derechos fundamentales, como puede ser el derecho fundamental a un Juez predeterminado por Ley.

Ley 44/2003 de Ordenación de la Profesiones Sanitarias[6], establece que los profesionales sanitarios actuaran con autonomía técnica y científica, con la limitación de la Ley y la deontológica, debiendo quedar identificados los profesionales y garantizándose la continuidad asistencial.

Ley 41/2002 Reguladora Autonomía del Paciente[7], recoge derechos que han sido constituidos como fundamentales por el Tribunal Constitucional, como el derecho a la información del paciente, el consentimiento informado, u otros derechos que podríamos llamar complementarios a los anteriores, como el derecho a un historial clínico o la figura del médico responsable. Respecto a esta norma, quiero poner de relieve la trascendencia que tiene en relación por la aplicación de sistemas tecnológicos al ámbito de la salud, en cuanto a la garantía que supone el derecho a la información para el debido ejercicio de la autonomía de la voluntad en el momento de decidir sobre nuestra propia salud y/o un tratamiento médico. En este sentido el Tribunal Europeo de Derechos Humanos, en sentencia de 29 de abril de 2002, dictaminó que “la imposición de un tratamiento sin el consentimiento del paciente supondría un ataque a la integridad física” (Fernández Coronado, 2014, p.164). Esta doctrina, en línea con la seguida por el Tribunal Constitucional (Sentencia Tribunal Constitucional, 37/2011), en la que se reconoce el derecho a un consentimiento debidamente informado, como parte integrante del derecho fundamental a la integridad física, ex artículo 15 CE, adquiere una especial relevancia en cuanto al derecho de los pacientes de ser informados transparentemente de todas las cuestiones que afecten a su salud, incluso los medios tecnológicos utilizados, más aún cuando se trata de sistemas tan complejos como la inteligencia artificial o la robótica, aumentando aún más la complejidad si estos medios u otros se llevan a cabo desde la distancia.

La normativa enunciada es solo una muestra relevante, a la que habría que unir, además del resto de normativa estatal, la normativa autonómica especifica, y por supuesto normativa específica de protección de datos, como ya hemos señalado, y por supuesto normativa europea de aplicación directa, como pueden ser las directivas de cualificaciones porfesionales, de productos sanitarios o de medicina transfronteriza.

Pero sí me gustaría detenerme en la regulación profesional, concretamente en los informes emitidos por la Asociación Médica Mundial y el Comité Permanente de Médicos Europeos, destacando entre ellos el emitido en la 69 Asamblea Mundial (Rekiavik-2018), que reivindicaba que la telemedicina es un acto médico como otro cualquiera; debiendo respetarse las exigencias propias de cada acto y de la normativa del país del paciente (Asociación Médica Mundial, 2018). También la Comisión Central de Deontología y Derecho Médico del Consejo General de Colegios Oficiales de Médicos en un documento titulado “E-consulta. La Telemedicina en el acto médico”, el 10 de junio 2020 (Comisión Central de Deontología Médica, 2020), señalaba entre otros aspectos que “la asistencia médica ofrecida mediante las nuevas tecnologías o sistemas de comunicación se concibe como un verdadero acto médico que completa la atención presencial del médico.”; Asimismo, “en determinadas circunstancias, como la actual pandemia de COVID-19, la e-consulta puede sustituir y otras veces completar el acto médico presencial porque este no sea posible, aconsejable o porque la ponderación del beneficio/riesgo para el paciente así lo sugiera. En cualquier caso, en situación de normalidad, la opción de usar la e consulta deberá ser consensuada con el paciente.”

La razón de destacar, estas declaraciones de la profesión médica, es dejar muestra palpable de que nuestra sociedad, debido a la situación extrema producida por la pandemia de COVID-19, ha avanzado y se ha adaptado a pasos agigantados en la aplicación tecnológica, se ha regulado y adaptado también normativamente, aunque haya sido por la vía de la autorregulación de las profesiones garantes de Derechos Humanos, como es la medicina, sin renunciar a las bases y principios esenciales que garantizan los intereses que protegen, pudiendo resultar ejemplarizante para el desarrollo regulador que se prevé, que como venimos diciendo debe de partir de las bases y principios que actualmente son garantía para los ciudadanos, y en el ámbito sanitario, para los pacientes.

Entre las cuestiones esenciales para las garantías de los pacientes que tenemos reguladas, y que en su caso la regulación futura deberá garantizar con mayor énfasis, se encuentran cuestiones cómo la transparencia, en la que ya hemos insistido, con exigencias como la identificación recíproca de personas físicas intervinientes, para evitar actos de intrusismo, suplantación de identidad, garantizando de esta manera la relación médico paciente, previa comprobación de la habilitación profesional; también el derecho a la intimidad, el derecho a la información y autonomía del paciente, o el seguro de responsabilidad civil, entre otros.

Por estos motivos, proponemos como punto de partida, que para cualquier proyección legislativa en la UE sobre el ámbito sanitario, se debe partir desde la regulación existente sobre deontología profesional, sobre los criterios de la seguridad del paciente y sobre los principios esenciales de trasparencia, veracidad y de competencia profesional; como claves para la regulación del desarrollo tecnológico en este ámbito, que se enfoque desde las garantías que sirven en el momento actual para que la humanidad se pueda beneficiar de las ventajas que brinda la IA, la robótica, y la medicina a distancia, como pueden ser la accesibilidad, la mejor adherencia a tratamientos, mejor intercomunicación profesional médico-médico, médico-farmacéutico, farmacéutico y médico paciente, o el control de riesgos con los farmacológicos, entre otras muchas aplicaciones.

V. Deontología profesional, seguridad del paciente y principios esenciales

Consideramos que en el debate abierto sobre regulación de la telemedicina, la IA y la robótica en el ámbito sanitario, y como estrategia de gobernanza europea prevista en el Libro Blanco sobre inteligencia artificial, así como para garantizar el establecimiento de un marco ético y jurídico apropiado, basado en los valores de la Unión Europea y en consonancia con la carta de Derechos Fundamentales de la propia Unión, de la manera establecida en la Comunicación de la Comisión al Parlamento Europeo sobre inteligencia artificial (Comisión Europea, 2018), es fundamental partir de estos conceptos claves para superar con éxito los retos tecnológicos sanitarios a los que nos enfrentamos, y para que las autoridades públicas puedan garantizar que el desarrollo y uso de tecnologías de inteligencia artificial está en consonancia con los derechos y valores enunciados.

5.1. La deontología profesional médica

La deontología profesional sanitaria se constituye como el deber y obligación ética y conductual, a la que se encuentran sujetos los profesionales sanitarios, suponiendo una relación de sujeción especial, a diferencia de la sujeción general de los restos de los ciudadanos respecto a las administraciones, esta sujeción especial es definida por García de Enterría y Fernández (García de Enterría, 2001, p.107) como una relación en la que existe una dependencia mayor por parte de los sujetos vinculados.

La ordenación profesional, cuya regulación y vigilancia compete a las corporaciones de derecho público, es la principal garantía para la protección de los intereses públicos, que en el ámbito sanitario son los derechos a la protección de la salud, a la integridad y la vida, que justifican el por qué de esta relación de especial sujeción, de esta especial dependencia deontológica de los sanitarios. El motivo de esta garantía es que la independencia profesional, amparada por el carácter público e independiente también de las corporaciones de derecho público, aseguran que los profesionales sanitarios puedan anteponer los derechos fundamentales e interese públicos que les competen, los derechos a la protección la salud, la integridad y la vida de los pacientes, por encima de los vaivenes propios de los intereses políticos, ideológicos, económicos, o de cualquier otra índole que puedan existir.

En el ámbito de la telemedicina, la inteligencia artificial y la robótica, estas garantías adquieren una especial relevancia, en cuanto a que al enfoque de esa función de autorregulación no es solo directa, respecto a lo que es el acto médico en concreto, sino que adquiere una función pública institucional, velando, al igual que ya lo hace para que no haya intrusismo profesional, porque las realidades tecnológicas sean instrumentos al servicio de los derechos de los pacientes, en lugar de medios autónomos, con funciones finalistas, ajenos a las garantías de nuestro sistema jurídico, donde es esencial la sujeción deontológica de los profesionales.

La ley 2/1974 sobre Colegios Profesionales[8], Con sus correspondientes modificaciones, entre ellas las más importantes introducidas mediante la conocida como ley ómnibus, la Ley 25/2009, de 22 de diciembre, para la adaptación a la Ley 17/2009 sobre el libre acceso de actividades y servicios, en relación con el bloque de la constitucionalidad, en cuanto competencias profesionales, y con el artículo 36 de la Constitución española, establece como fin esencial de las corporaciones de derecho público:

• La ordenación del ejercicio de las profesiones.
• La defensa de los intereses profesionales de los colegiados y la protección de los intereses de consumidores y usuarios de los servicios de los colegiados, en nuestro caso de los servicios médicos, o de otros profesionales sanitarios.

La razón de ser de los colegios profesionales, como corporaciones de derecho público, se justifica en la defensa del interés público que es la protección de la salud de los pacientes, confiriéndoles la Ley de Consumidores y Usuarios[9] la defensa de los usuarios de servicios prestados por médicos colegiados, por autoexclusión prevista en su artículo 93, así como la garantía de calidad de los servicios profesionales, estando entre sus deberes el control deontológico y la vigilancia frente al intrusismo profesional; y así lo ha venido estableciendo la reciente jurisprudencia, entre otras, la Sentencia del Tribunal Supremo 1216/2018, de 16 de julio[10], y en Sentencia del Tribunal Constitucional 3/2013, de 17 de enero[11].

Por su parte, la referida doctrina, consolidada, del Tribunal Constitucional, en numerosas sentencias, entre ellas la 3/2013, de 17 de enero, que ratificaba la obligatoriedad de la colegiación en Andalucía, fundamentaba:

• Que la institución colegial está basada en encomienda de funciones públicas.
• Que esas funciones son los fines de ordenación del ejercicio de la profesión, reiterando la protección de los intereses de consumidores y usuarios.
• Todo ello sobre el sustento de la deontología y ética profesional, así como el control de las desviaciones en la práctica.
• Actuado con competencias propias, que son de manera exclusiva de los colegios profesionales, sustentada en el control de la buena práctica médica y de los requisitos habilitantes para el ejercicio profesional.
• Destaca la importancia de la función pública de ordenación deontológica y la reglamentación general de cualquiera de las formas de ejercicio profesional.
• Todo ello de manera indubitada, cuando se trata de materias de especial interés público y general que afecten de manera grave y directa a derechos fundamentales e intereses públicos especialmente protegidos, como son los derechos a la protección de la salud, la integridad física y la vida de las personas.

Asimismo, el TC establece una condición impuesta, una exigencia constitucional, que la colegiación tiene que demostrar ser un instrumento eficiente de control del ejercicio profesional para la mejor defensa de los destinatarios de los servicios. Se tiene que llevar a cabo, por tanto, una verdadera protección de los intereses generales y una actuación adecuada para la consecución de fines públicos y tutela del interés público protegido, la protección de la salud en relación con el derecho fundamental a la integridad y la vida.

No solo el Tribunal Constitucional se ha pronunciado sobre esta materia, sino que también nuestro Tribunal Supremo en reciente Sentencia 1216/2018, de 16 de julio[12], que conecta nuevamente con las garantías de colegiación obligatoria y los derechos de los pacientes, fundamentando su necesidad para las siguientes acciones:

• La evitación del intrusismo y de actos ilegales.
• Garantía de la colegiación para los derechos de los pacientes.
• Ser una herramienta eficaz para la calidad de la prestación médica y la responsabilidad profesional.

En este caso, el TS determina la legalidad de la colegiación de oficio, como una potestad administrativa de los colegios para que puedan garantizar la atención de calidad de los pacientes, validando una reglamentación mediante la que el colegio profesional podría colegiar, incluso contra su propia voluntad, a aquellos profesionales que cumpliendo con los requisitos de titulación se encontraran ejerciendo la profesión sin cumplir con el requisito habilitante de la colegiación, con el objeto de que los colegios pudieran controlar un ejercicio profesional conforme a derecho, en aras de garantizar los intereses públicos protegidos.

Asimismo, el Tribunal Supremo, en Sentencia de 11 de noviembre de 1992, e igualmente el Tribunal Constitucional en Sentencia de 8 de marzo de 1996, ya venían avalando la tutela del interés público de los colegios profesionales, disponiendo que: “dicha potestad disciplinaria debe entenderse de modo amplio, de manera que suponga un robustecimiento de los poderes públicos del Colegio profesional”.

Por su parte, a nivel internacional, las organizaciones médicas internacionales como la Asociación Médica Mundial nacida como respuesta a los crímenes de la 2ª Guerra Mundial (Asociación Médica Mundial, 2021), o la Unión de Médicos Especialistas Europeos, determinan una unidad supranacional de principios y valores para los derechos de los pacientes.

La deontología profesional va en línea con el espíritu de la regulación internacional más actual, en el sentido reivindicado por gran parte de la doctrina y los documentos que hemos venido analizando, que viene poniendo de manifiesto que inteligencia artificial y la robótica evidencian una especial necesidad asumir los valores de la ética y de la deontología profesional, más en el ámbito sanitario donde nuestro ordenamiento y la jurisprudencia establecen la garantía de la deontología para los derechos a la protección de la salud, la integridad y la vida de los pacientes.

5.2. Seguridad del paciente

La segunda clave, la seguridad del paciente, es recogida por la Estrategia Mundial sobre Salud Digital 2020-2025[13], como una dimensión más de la salud digital, junto a la promoción de la salud, la ética, la interoperabilidad, entre otros aspectos.

Asimismo, la Propuesta de Reglamento de IA, en su Consideración 28[14], recoge que los sistemas de inteligencia artificial pueden tener efectos adversos para la salud, especificando que en el sector sanitario los riesgos para la salud y la vida son especialmente elevados, por lo que los sistemas de diagnóstico y de apoyo a las decisiones humanas, cuya sofisticación es cada vez mayor, dice el texto que deben de ser fiables y precisos. Aunque el texto identifique “efectos” en lugar de “eventos”, sí podemos decir o interpretar que existe una remisión práctica a la seguridad del paciente.

En este contexto, de desarrollo tecnológico, entra en escena la seguridad del paciente, que es un concepto jurídico y al tiempo un concepto sanitario, que se está desarrollando doctrinalmente, principalmente en el segundo ámbito, el sanitario, y en el que se trata de establecer sistemas de prevención de los llamados eventos adversos, que son incidentes sanitarios con daños para los pacientes.

La seguridad del paciente, como hemos indicado, podemos considerarla como un concepto con un doble sentido de análisis, el sentido puramente sanitario y el sentido como concepto jurídico, estando ambos íntimamente relacionados, pero con perspectivas de desarrollo teórico y práctico diferenciada y única al tiempo.

En origen y principal área de desarrollo surge como objetivo de las ciencias de la salud, pero contiene un eminente sentido jurídico, pues tanto su desarrollo como implementación conllevan diversos aspectos con repercusión legal, tanto en el ámbito de la ordenación administrativa, en cuanto prevé una regulación sanitaria orientada a la prevención de daños, como en el ámbito de la seguridad jurídica, y también en el ámbito de las responsabilidades, tanto profesionales como patrimoniales.

En un sentido puramente sanitario se constituye como un objetivo o estrategia sanitaria, orientado a conocer los riesgos de eventos adversos con el fin de implantar medidas de prevención para evitarlos.

En un sentido o en otro, la seguridad del paciente es un elemento de garantías y seguridad sanitaria y jurídica para los pacientes, pero también para los profesionales.

El Ministerio de Sanidad ha publicado informe con recomendaciones para el análisis de incidentes de seguridad del paciente con daños (Ministerio de Sanidad, 2021), donde nos señala el marco de creciente de complejidad sanitaria con elevado uso de tecnología. También menciona la obligación deontológica de informar al paciente, que antes hemos remarcado como parte intrínseca del derecho a la protección de la salud y la integridad, según doctrina del TC[15].

Por su parte, la ley 16/2003 de Cohesión y Calidad del Sistema Nacional de Salud[16], establece en su art. 59 el registro de acontecimiento adversos, que recogerá información sobre practicas que sean potenciales problemas para la seguridad del paciente.

Llegados a este punto, podemos considerar los derechos de información al paciente como parte del contenido esencial de los derechos a la protección de la salud y del derecho a la integridad y como exigencia deontológica necesaria para la seguridad del paciente. Información en el sentido más amplio, en todo lo que pueda afectar a los derechos del paciente y donde desde luego está la información sobre el uso de las tecnologías. Incluso, podríamos llevar este derecho al ámbito de la salud pública, y el derecho a ser informados con veracidad por los agentes responsables en cada caso, de todo aquello que pueda afectar a su derecho a la protección de la salud, como se ha puesto de manifiesto en las últimas crisis sanitarias vividas, como la pandemia del covid 19, la llamada fiebre del nilo, la listeriosis, o la viruela del mono.

Es reseñable significar que países como Dinamarca o Italia ya han promulgado leyes especificas sobre seguridad del paciente (Ministerio de sanidad, 2021, p.37), lo que unido al desarrollo estratégico que existe en las diferentes Comunidades Autónomas (Ministerio de Sanidad, 2021, págs. 30-51), nos lleva observar que cualquier desarrollo tecnológico en este ámbito sanitario tiene que prever las premisas y garantías establecidas por las estrategias de seguridad del paciente, así como también definir e introducir los riegos de estos desarrollos tecnológicos en las estrategias de seguridad del paciente.

5.3. Principios esenciales: trasparencia, veracidad y de competencia profesional

En relación con las claves reguladoras motivadas anteriormente, desde las que se debe de partir para regular y aplicar en todo caso los nuevos instrumentos tecnológicos, considero que existen tres principios fundamentales para enfocar normativamente de manera correcta los retos a los que nos enfrentamos, estos son los principios de transparencia, de veracidad y de competencia profesional.

5.3.1. Principio de trasparencia

El principio de transparencia, en relación con la deontología y la seguridad del paciente, parte de principios irrenunciables cómo son la perfecta identificación del profesional, la adecuada elaboración de un historial clínico, o la adecuada información al paciente y consentimiento informado para que pueda decidir en ejercicio de su autonomía de la voluntad.

Todas estas cuestiones son directamente aplicables a la práctica medica con instrumentos tecnológicos, por lo que cualquier instrumento cuya resolución pueda tener una repercusión en los derechos a la protección de la salud, la integridad o la vida debe partir de una información veraz, completa y trasparente, tanto en el plano estrictamente sanitario, como en el plano tecnológico, para que la decisión sea debidamente informada y con todas las garantías.

En este punto, debemos referir el cada vez más nombrado termino posverdad, que se considera un neologismo, más utilizado desde que los partidarios de la salida del Reino Unido de la Comunidad Europea se valieran de mensajes que distorsionaban la realidad, para influir en las votaciones del referéndum, donde finamente se acordó la salida del Reino Unido.

Los axiomas, aquellas realidades tan evidentes que no requieren ser demostradas, están desapareciendo. Las verdades o certidumbres evidentes para todos están siendo absorbidas por intereses ideológicos y económicos, o incluso por el despotismo de la incultura. Intereses ilegítimos, que no se corresponden con la evidencia razonada y razonable, la evidencia científica, ni tan siquiera el interés por lo esencial, que es el ser humano.

Este relativismo en los conceptos, como hemos señalado, es fruto del fenómeno llamado posverdad, que consiste en una manipulación de hechos objetivos, instrumentada por estos intereses ilegítimos, en la medida que manipulan la realidad, generando una pseudorealidad paralela, que sustituye a la realidad objetiva, que encuentra sus canales de influencia en diversos medios como pueden ser las redes sociales, de comunicación, o incluso en los propios órganos de gobierno de las administraciones, y por supuesto en sistemas de inteligencia de organismos públicos o privados.

La posverdad no es un fenómeno nuevo, si bien es cierto que es un término cada vez más utilizado en los últimos tiempos, pues constituye un verdadero problema de actualidad debido a los canales tecnológicos expansivos de trasmisión de información, hablamos de una manipulación deliberada de la realidad, que se puede implantar en los diferentes ámbitos de la sociedad.

Por ello, la importancia del principio de trasparencia, ante estos retos tecnológicos que sobrepasan nuestro conocimiento, la regulación debe exigir la ciencia, la conciencia y liderazgo profesional de juristas, periodistas y sanitarios, pues somos garantes de intereses públicos y derechos humanos irrenunciables para la dignidad de las personas.

No podemos dejar que las realidades científicas y objetivas sean modificadas a capricho de la manipulación. Científicos y porfesionales de todos los ámbitos, y más del ámbito del derecho, del periodismo y la sanidad, tenemos una gran responsabilidad en el devenir de nuestra sociedad, pues si nos plegamos a este fenómeno de la posverdad, claudicaremos ante la verdad de la mentira, y es por esta razón por la que el liderazgo, competencia y función publica de instituciones como la Universidad tiene que quedar patente, para desarrollar sus competencias y reafirmar la vocación, la ciencia y la deontología profesional, médica y jurídica en nuestro caso, frente a las ideologías e intereses de todo tipo.

Desde mi punto de vista, el principio de trasparencia es una clave esencial para el mantenimiento de los Derechos Humanos, tal y como los tenemos concebidos y los disfrutamos en la Comunidad Europea, mediante una regulación que exija trasparencia, basada en ciencia y conciencia profesional, principalmente para los tecnólogos, al igual que es una exigencia para los informes y documentos de juristas y sanitaritos, pues estos valores deben formar parte de la vocación de los profesionales y el liderazgo, que aunque sea una palabra que pueda sonar muy poética, hoy en día se hace fundamental para los derechos y libertades un liderazgo desde la ética, y por su puesto desde los valores y los Derechos Humanos.

5.3.2. Principio de veracidad

Es un principio íntimamente relacionado con el propicio de trasparencia, y aunque su base doctrinal surge en relación con la presunción de veracidad de la autoridad pública, que constituye prueba iuris tantum, o también como elemento clave en el ámbito de la publicidad, concretamente como instrumento para distinguir la publicidad engañosa y proteger al consumidor (Martín García, 2002, págs. 81-110) este principio adquiere especial relevancia en cuanto la exigencia de información veraz en el ámbito sanitario, donde la Ley 41/2002 de autonomía del paciente[17] recoge el derecho a la información, una información completa y veraz, así se puede deducir indubitadamente de su articulado.

Este derecho, íntimamente relacionado como el principio de confianza legítima, que al igual que en el siguiente punto hacemos con el principio de competencia profesional, lo atraemos desde el ámbito de aplicación de las administraciones públicas hacia el ámbito de los profesionales, en los que ciudadanos y más aún los pacientes - véanse como consumidores y usuarios de los servicios sanitarios– tienen derecho a la confianza legítima en el sistema sanitario y en sus profesionales.

Es por ello, por lo que existe un deber y obligación de transmitir una información veraz, que abarque a todos los aspectos sanitarios, y ello conlleva la información completa y transparente en cuanto el funcionamiento de los sistemas de inteligencia artificial, telemedicina y robótica.

5.3.3. Principio de competencia profesional

El principio de competencia, referido a las competencias, generalmente exclusivas y excluyentes, que tienen asignadas los diferentes órganos de las administraciones publicas, adquiere especial relevancia si lo aplicamos al ámbito sanitario.

La Real Academia de la Lengua lo define como la ordenación de las potestades consistente en la asignación de atribuciones[18], aunque también lo define en relación con las competencias normativas de los gobiernos de las distintas administraciones publicas.

Como antes hemos indicado, las competencias profesionales para desarrollar actos médicos están atribuidas, de forma exclusiva, a los licenciados en medicina que cumplan normativa de habilitación profesional, concretamente el artículo 6 de la Ley de Ordenación de las Profesiones Sanitarias[19] establece que a los médicos corresponde la indicación y realización de actividades dirigidas a la promoción y mantenimiento de la salud, la prevención de enfermedades, el diagnóstico, tratamiento terapéutica y rehabilitación de los pacientes, así como el enjuiciamiento y pronóstico de los procesos objetos de atención.

Con lo cual, quedarían zanjadas las dudas concernientes a la habilitación del robot o inteligencia artificial para operar en el ámbito médico. Al margen del profesional médico, no es posible, al menos conforme la legalidad vigente.

Esta competencia excluyente operaría con todas aquellas profesiones reguladas que velen por intereses públicos, con competencias propias exclusivas y excluyentes, como farmacéuticos, enfermeros o médicos, o no sanitarias como abogados, entre otras.

De esta manera, de cualquier intervención en el ámbito sanitario que sea llevada a cabo por un instrumento de IA deberá responder el titular jurídico del desarrollo tecnológico, como si de cualquier otro tipo de bien industrial se tratara, tanto en el ámbito administrativo, civil y penal, pudiendo incurrir el titular del sistema, incluso, en un delito de intrusismo profesional, si se valiera de una IA para prestar servicios médicos sin intervención directa de un médico.

Por ello, consideramos también, que dada esta complejidad técnica y tecnológica, la necesaria regulación de estos instrumentos debe pasar por el establecimiento de sistemas reguladores de matriculación y/o licencia, certificación de calidad e inspección técnica periódica, donde se incluyan exigencias de trasparencia algorítmica, códigos fuentes y cualquier otra información necesaria para comprender el funcionamiento y argumentación en la toma de decisiones, así como un seguro de responsabilidad civil obligatorio.

Alcanzada esta conclusión, la intervención de sistemas de robótica e inteligencia artificial en el ámbito sanitario solo puede serlo de forma instrumental y así debe de observarlos cualquier regulación, como desarrollos tecnológicos de gran utilidad para los sanitarios, para la innovación, la investigación y el desarrollo, considerando siempre que debido a su complejidad técnica conllevará la obligación de cumplimiento de condiciones y medidas de prevención para seguridad del paciente que se puedan exigir en cada caso.

VI. Conclusiones

En definitiva, aunque el marco regulador europeo se manifiesta con una incomprensible ambigüedad en lo que respecta a la aplicación de las tecnologías 4.0 en el ámbito sanitario, lo cierto es que de un análisis profundo rezuma la evidencia de que estos sistemas son instrumentos que deben actuar en los exactos límites que establece la normativa vigente, debiendo centrarse la regulación en desarrollar los aspectos y principios claves, que son la transparencia, la veracidad de la información, la competencia profesional, así cómo la regulación de cuestiones referentes a responsabilidad y seguridad análogas a las que ya pueden existir para otros bienes tecnológicos, con el establecimiento de sistemas de matriculación o licencia, inspección técnica periódica, certificaciones de calidad, y seguro de responsabilidad civil. En consecuencia, no es necesaria una nueva regulación disruptiva, aunque sí estén siendo disruptivos los cambios del desarrollo tecnológico.

Asimismo, la eventual regulación debe partir de la regulación profesional existente, así como las estrategias sanitarias y normativas que se están desarrollando sobre la seguridad del paciente; y estar íntegramente enfocada desde los principios claves enunciados, el principio de transparencia, el principio de veracidad y el principio de competencia profesional, como fuentes inspiradoras de las garantías previstas en nuestro ordenamiento ante los retos tecnológicos y sanitarios a los que nos enfrentamos.

Por ello, consideramos que en el debate abierto sobre regulación de la telemedicina, la IA y la robótica en el ámbito sanitario, y como estrategia de gobernanza europea prevista en el Libro Blanco sobre inteligencia artificial, así como para garantizar el establecimiento de un marco ético y jurídico apropiado, basado en los valores de la Unión Europea y en consonancia con la carta de Derechos Fundamentales de la propia Unión, de la manera establecida en la Comunicación de la Comisión al Parlamento Europeo sobre inteligencia artificial, es fundamental partir de estos conceptos, como premisas, para superar con éxito los retos tecnológicos, y para que las autoridades públicas puedan garantizar que el desarrollo y uso de tecnologías de inteligencia artificial está en consonancia con los derechos y valores enunciados.

Los principios de competencia profesional exclusiva y excluyente, la identificación transparente y veraz de la persona responsable de los sistemas de inteligencia artificial y/o robótica, así como de cualquier sistema tecnológico a distancia, así como la información técnica trasparente de toda la información sanitaria y tecnológica son garantías irrenunciables para los Derechos Humanos.

Estos instrumentos tecnológicos que tratamos no deben dejar nunca de ser herramientas o instrumentos, cuyos daños son cubiertos por el titular y propietario de las inteligencias fuertes o robots, como se responde de los daños causado por cualquier otro bien del que podamos ser titulares. Lo que sí habrá que definir es cuáles son esos instrumentos y qué características tienen; además de que todos deberán superar controles de calidad e inspecciones técnicas periódicas.

La identificación veraz de la persona, la veracidad científica y técnicamente describible, en definitiva, la trasparencia del informante y sus motivaciones, son garantías frente al fenómeno posverdad.

Por último, normas de calidad, códigos de conducta y códigos éticos, incluso recogiendo posibles declaraciones de conflicto de intereses, son elementos que deben de instaurarse en el ámbito, y que contribuirán a consolidar el núcleo de los derechos humanos (García San José, 2021, págs. 255-276).

VI. Bibliografía y otras referencias citadas

Asamblea General de la Asociación Médica Mundial, Reikiavik, 2018. https://www.wma.net/es/events-post/asamblea-general-de-la-amm-reykjavik-2018/

Asociación Médica Mundial. https://www.wma.net/es/quienes-somos/historia/. Consultada el 10 de diciembre de 2021.

Belloso Martín, N. “La necesaria presencia de ética en la robótica: La Roboética y su incidencia en los Derechos Humanos”. Cuadernos do Programa de Pos- Graduacao. DIREITO/UFRGS, Vol. 13 (2), 2018, págs. 21-81.

Comisión Central de Deontología del Consejo General de Colegios Oficiales de Médicos. “La Telemedicina en el acto Médico; Consulta médica no presencial o consulta online”. https://medicostenerife.es/wp-content/uploads/2020/06/INFORME-E-CONSULTA_CCD_10_06_2020.pdf

Comisión Europea. Libro Blanco sobre la inteligencia artificial: un enfoque europeo orientado a la excelencia y la confianza. Bruselas. 19 de febrero de 2020. https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_es.pdf

Comisión al Parlamento Europeo, al Consejo Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones. Comunicación de la Inteligencia artificial para Europa. COM/2018/237 final. https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=CELEX:52018DC0237

De Asís Roig, R., Seoane, J.a., Wisner Glusko, C., Sepulveda Gómez, M. Ponencias Congreso Internacional sobre Inteligencia Artificial, Robótica y Filosofía del Derecho. Sevilla, 1 y 2 de diciembre de 2021.

Diéguez Lucena, A. “La filosofía de la técnica de Ortega como guía para la acción. Una comparación con Heidegger”, Revista internacional de tecnología, conocimiento y sociedad. 2013. Págs. 73-97.

Estrategia mundial sobre salud digital 2020-2025. https://apps.who.int/iris/bitstream/handle/10665/344251/9789240027572-spa.pdf?sequence=1&isAllowed=y

Fernández-Coronado, A. Pérez Álvarez, S. La protección de la salud en tiempos de crisis: Nuevos retos del bioderecho en una sociedad plural. Tirant lo Blanch. Valencia, 2014, pág. 164.

Foro de Profesión Médica de España. La Relación Médico Paciente. Patrimonio Cultural Inmaterial de la Humanidad, CGCOM, Madrid, 2017.

García San José, D. “Implicaciones jurídicas y bioéticas de la inteligencia artificial. Especial consideración al marco normativo internacional”. Cuadernos de Derecho Transnacional. Vol. 13, Nº1. Marzo 2021. Págs. 255-276.

García De Enterría, E., Curso de Derecho Administrativo, Tomo II, CIVITAS, Madrid, reimpresión 2001, pág. 107.

Ley 2/1974, de 13 de febrero, sobre Colegios Profesionales. https://www.boe.es/buscar/act.php?id=BOE-A-1974-289

Ley 14/1986 General de Sanidad, de 25 de abril https://www.boe.es/buscar/act.php?id=BOE-A-1986-10499

Ley 41/2002, de 14 de noviembre, básica reguladora de la autonomía del paciente y de derechos y obligaciones en materia de información y documentación clínica. https://www.boe.es/buscar/act.php?id=BOE-A-2002-22188

Ley 16/2003, de 28 de mayo, de cohesión y calidad del Sistema Nacional de Salud. https://www.boe.es/buscar/act.php?id=BOE-A-2003-10715

Ley 44/2003, de 21 de noviembre, de ordenación de las profesiones sanitarias. https://www.boe.es/buscar/pdf/2003/BOE-A-2003-21340-consolidado.pdf

Llano Alonso, F.H. Ponencia en VII Convención de Colegios de Médicos de Andalucía. Huelva. 25, 26 y 27 de noviembre de 2021.

Martín García, M. L., La Publicidad: Su incidencia en la contratación. Dykinson, Madrid, 2002, págs. 81-110.

Ministerio de Sanidad. Recomendaciones para el análisis de los incidentes de seguridad del paciente con daño (eventos adversos); Cuestiones metodológicas y legales. Informe, estudios e investigación del Ministerio de Sanidad,2021. https://seguridaddelpaciente.es/resources/documentos/2021/05/Recomendaciones%20para%20el%20an%C3%A1lisis%20de%20los%20incidentes%20de%20seguridad%20del%20paciente%20con%20da%C3%B1o.%20Accesible.pdf

Ortega y Gasset, J. Meditaciones sobre la técnica y otros ensayos sobre ciencia y filosofía. ALIANZA, Madrid, 2000, pág. 13.

Palma Ortigosa, A. “Decisiones automatizadas en el RGPD. El uso de algoritmos en el contexto de la protección de datos”, Revista General de Derecho Administrativo, nº 50. Iustel. Enero de 2019. http://laadministracionaldia.inap.es/noticia.asp?id=1509629

Parlamento Europeo. Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (ley de inteligencia artificial) y se modifican determinados actos legislativos de la Unión. COM /2021/ 206 final. Bruselas, 21.4.2021. https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=CELEX:52021PC0206

Parlamento Europeo. Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo de 27 de abril de 2016 relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE. https://www.boe.es/doue/2016/119/L00001-00088.pdf

Parlamento Europeo. Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica. https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_ES.html

Parlamento Europeo. Resolución del Parlamento Europeo, de 12 de febrero de 2019, sobre política industrial global europea en materia de inteligencia artificial y robótica. https://www.europarl.europa.eu/doceo/document/TA-8-2019-0081_ES.html

Real Academia de la Lengua. Diccionario. https://dpej.rae.es/lema/principio-de-competencia. Consultado el 8 de diciembre de 2021.

Real Decreto Legislativo 1/2007, de 16 de noviembre, por el que se aprueba el texto refundido de la Ley General para la Defensa de los Consumidores y Usuarios y otras leyes complementarias. https://www.boe.es/buscar/act.php?id=BOE-A-2007-20555

Troncoso Reigada, A. La Protección de Datos personales: En busca del equilibrio. Tirant Lo Blanch, Valencia, 2010, págs. 74 y 75.

Sentencia del Tribunal Constitucional 37/2011, de 28 de marzo. https://hj.tribunalconstitucional.es/es/Resolucion/Show/6819

Sentencia del Tribunal Constitucional 3/2013, de 17 de enero 2013. http://hj.tribunalconstitucional.es/es-ES/Resolucion/Show/23233

Sentencia del Tribunal Supremo 2791/2018, de 16 de julio de 2018. Nhttp://www.poderjudicial.es/search/AN/openCDocument/47c54a4d73e1a1965a444dd3e915a50c327144d5ce39e908

Unesco. Recomendaciones sobre ética de la inteligencia artificial publicada por la UNESCO. 22 de noviembre de 2021. https://es.unesco.org/artificial-intelligence/ethics

---