El reinicio tecnológico de la inteligencia artificial en el servicio público de salud*

THE ARTIFICIAL INTELLIGENCE RESET IN THE PUBLIC HEALTH SERVICE

Belén Andrés Segovia

Profesora del Máster Universitario en Dirección en la Gestión Pública

y del Máster Universitario en Derechos Humanos: Sistemas de Protección

Universidad Internacional de La Rioja

belenanse@gmail.com 0000-0002-4818-924X

I. Introducción

La Cuarta Revolución Industrial, o también denominada Revolución 4.0, viene a acuñar un nuevo paradigma marcado por la integración de las tecnologías ya existentes y la producción de innovaciones técnicas que permitirán mejorar los diferentes sectores económicos (Schwab, 2016). Entre los avances tecnológicos emergentes en una serie de campos por los que apuesta esta etapa, se encuentran: la robótica, la inteligencia artificial, la nanotecnología, la biotecnología, la cadena de bloques, la computación cuántica, la impresión 3D, el Internet de las Cosas y los vehículos autónomos. En todos estos sistemas se refleja la tendencia hacia la automatización y el intercambio de los datos, con especial incidencia en lo que se conoce como el marco de las tecnologías de manufactura y desarrollo.

Pese a la importancia que adquieren todos estos elementos, centraremos el presente estudio en la representación del sistema de inteligencia artificial como una nueva forma en la que, la tecnología se integra en las Administraciones Públicas para lograr avances en el sector público hasta entonces desconocidos. La inteligencia artificial se convierte así, en una herramienta para el progreso público-privado y económico que afectará a prácticamente todos los ámbitos, pero especialmente al sector de la salud. Frente a las reacciones que se observan de la inteligencia humana, la inteligencia artificial podrá resolver problemas más complejos a través de los algoritmos. Este sistema permitirá a las Administraciones Públicas, favorecer las prestaciones que realiza el sector público sanitario en la búsqueda por la satisfacción del interés general. Al fin de cuentas, un sector público eficiente se convierte en imprescindible para garantizar un crecimiento estable y sostenido, para fomentar el bienestar de los ciudadanos e implementar las modificaciones necesarias para la generación de riqueza en una sociedad determinada. El presente estudio, pretende dar visibilidad así a algunos de los supuestos que ofrece la inteligencia artificial en su aplicación en el servicio público sanitario y que dan a conocer su versatilidad, así como, la rapidez con la que los organismos públicos y los gobiernos pueden hacer de su uso una herramienta que favorezca al interés público.

II. Inteligencia Artificial ¿nueva tecnología?

Nos encontramos en un escenario de evolución de las diferentes infraestructuras sin parangón. Las opciones que nos proporciona la revolución tecnológica han sido puestas sobre la mesa con el objeto de que permitan avanzar y cubrir las necesidades que de forma inminente plantea la ciudadanía. La cuestión en este sentido pasa por plantearnos si realmente estas tecnologías, por las que apuesta la Cuarta Revolución Industrial, son nuevas o quizá pertenecen al pasado. Para poder dar respuesta a este supuesto debemos imaginar como sería la sociedad a mediados de 1800: carruajes, inexistencia de medios de telecomunicación, ciudades sin energía eléctrica, etc. Es difícil incluso comprender que los diseños para un sistema de computación moderno pudieran imaginarse entonces, pero Charles Babbage (1791-1871), logró descifrarlos (Swade, 1993).

Babbage encontró errores al revisar tablas astronómicas que se calcularon a mano, y se dio cuenta de que los problemas computacionales eran peligrosos para la navegación. Entonces, ideó una solución y creó el primer plan para un cálculo mecánico. En 1822, propuso crear un ‘motor de diferencias’ que era estrictamente una calculadora. Aunque el motor nunca se terminó antes de su fallecimiento, en 2002, el Museo de Ciencias de Londres completó dos versiones de los diseños originales y solo partes disponibles de la época. Babbage utilizó los conocimientos adquiridos al diseñar el motor de diferencias con el fin de esbozar su motor de análisis. Fue el primer diseño de un ordenador que ofrecía un propósito general. Disponía de muchas de las funciones que en la actualidad caracterizan a nuestros dispositivos, incluido el almacenamiento separado y el procesamiento central, así como áreas para ingresar y enviar datos e instrucciones. Su inventor se adelantó mucho a su tiempo creando prototipos que nunca llegarían a completarse por el mismo debido a las fuertes limitaciones de financiación que obtuvo.

Más tarde, los avances en la tecnología se incrementaron exponencialmente. Baste pensar en las grandes incorporaciones suscitadas entre los años 1930-1950 coincidiendo con la II Guerra Mundial. Entre las invenciones propias de este tiempo, encontramos las de Alan Turing (1912-1954). Su papel fue crucial para el encriptado de los mensajes que darían la victoria a la Alemania. Pero también fue, debemos señalar que fue pionero en creer que el cerebro humano era similar, en gran parte, a una máquina de computación digital y, por lo tanto, proponía un sistema basado en su propia inteligencia que pudiera desarrollar las competencias necesarias para pensar de forma automática. En 1950 Turing publicó un trabajo titulado “Computing Machinery and Intelligence” (Turing, 1950) donde expuso una prueba llamada juego de imitación, ahora comúnmente conocida como prueba de Turing (Alfonseca, 2014). En ella, un evaluador humano tendría una conversación con otros dos elementos, uno que era una máquina y el otro un humano. La prueba se aprobaría cuando el evaluador humano no pudiera distinguir entre sendas condiciones. En resumen, cuando los humanos no lograran diferenciar la inteligencia artificial de la real. Al mismo tiempo, Claude Shannon (1916-2001) rompió las barreras tecnológicas existentes permitiendo muchos de los avances hacia la inteligencia artificial que ahora damos por sentado. Shannon se convirtió así, en uno de los principales arquitectos de la era de la información. Aunque no es tan conocido, sus avances rivalizan con los de Albert Einstein por cuanto cambiaron la forma de entender la información.

A medida que las ordenadores y el almacenamiento de información hicieron posible analizar más información, la investigación en inteligencia artificial nació en un taller en el Dartmouth College en 1956. Allen Newell, Herbert Simon, John McCarthy, Marvin Minsky y Arthur Samuel fueron los primeros participantes en su detección y se convirtieron en los líderes fundadores de la investigación en inteligencia artificial. Su propuesta de investigación original dice lo siguiente: “el estudio se realiza sobre la base de la conjetura de que todos los aspectos del aprendizaje o cualquier otra característica de la inteligencia pueden, en principio, describirse con tanta precisión que se puede hacer una máquina para simularlos. se hará ahora para encontrar cómo hacer que las máquinas usen el lenguaje, formen abstracciones y conceptos, resuelvan tipos de problemas ahora reservados para los humanos y se mejoren a sí mismos. Creemos que se puede lograr un avance significativo en uno o más de estos problemas si se selecciona cuidadosamente grupo de científicos trabajan juntos durante un verano” (McCarthy, Minsky, Rochester and Shannon, 1955). El grupo tuvo algunas victorias tempranas ese verano (Booth, 2020).

El progreso continúa en proceso. Esto se debe, en gran parte, al creciente poder que ocupan los ordenadores y la digitalización, cuyos esfuerzos ha sabido combinar con éxito la inteligencia artificial. Fruto de tales circunstancias, comenzarán a desarrollarse un conjunto de estudios, en este sentido, cuyo protagonismo perduraría más allá de la década de 1990. La cuestión clave en este tiempo versaba sobre cómo un ordenador podría captar las necesidades que plantea la inteligencia humana. Tuvo que transcurrir mucho tiempo hasta que Geoffrey Hinton comenzara a comprender cómo funcionaba el cerebro (Hinton, 1992). Logrado este aspecto, la siguiente cuestión que se esboza en este punto sería qué debemos de entender por ‘inteligencia’, con carácter general, para después poder ahondar en qué es la ‘inteligencia artificial’, desde una vertiente más específica. El primer autor en realizar una comparativa y pronunciarse sobre el sentido de sendos conceptos fue McCarthy quien defiende que la ‘inteligencia’ es “la parte computacional de la capacidad de lograr objetivos en el mundo. Se producen diversos tipos y grados de inteligencia en las personas, muchos animales y algunas máquinas” (McCarthy, 2007).

Establecido este concepto, profundiza más si cabe en el mismo y alega que, por ‘inteligencia artificial’ debemos comprender “la ciencia y la ingeniería de hacer máquinas inteligentes, especialmente programas informáticos inteligentes. Está relacionado con la tarea similar de usar computadoras para comprender la inteligencia humana, pero la Inteligencia Artificial no tiene que limitarse a métodos que son biológicamente observables” (McCarthy, 2007). Su definición resulta muy importante por cuanto nos permite entender cuál va a ser la base que acompañará al desarrollo del presente estudio y las innovaciones que se proponen para mejorar las actividades ofrecidas por el sector público sanitario.

La Comisión Europea aportará, años más tarde, una definición de lo que debemos entender por inteligencia artificial a través de lo señalado en el Libro Blanco sobre inteligencia artificial- un enfoque europeo orientado a la excelencia y a la confianza [ 1 ] por cuanto establece que, “La inteligencia artificial es una tecnología estratégica que ofrece numerosas ventajas a los ciudadanos, las empresas y la sociedad en su conjunto, siempre y cuando sea antropocéntrica, ética y sostenible y respete los derechos y valores fundamentales. La Inteligencia Artificial aporta importantes mejoras de la eficiencia y la productividad que pueden reforzar la competitividad de la industria europea y mejorar el bienestar de los ciudadanos. También puede contribuir a encontrar soluciones a algunos de los problemas sociales más acuciantes, como la lucha contra el cambio climático y la degradación medioambiental, los retos relacionados con la sostenibilidad y los cambios demográficos, la protección de nuestras democracias y, cuando sea necesario y proporcionado, la lucha contra la delincuencia”. Este Libro Blanco se presenta al mismo tiempo que la Estrategia Europea de Datos[ 2 ] y la Comisión titulada Configurar el futuro digital de Europa[ 3 ]. Estos tres textos reflejan la manera en que la Comisión apoyará y promoverá el desarrollo y el uso generalizado de la inteligencia artificial en toda la Unión Europea.

Con este objeto, da a conocer su compromiso de facilitar: el avance científico de modo que permita mejorar la atención sanitaria –con diagnósticos más precisos y con una mejor prevención de las enfermedades que se puedan desarrollar-, aumentará la eficiencia en la gestión del servicio, contribuirá a realizar una transformación más sostenible de su actividad, mejorará la eficiencia de los sistemas de salud a través de la previsión de materiales sanitarios necesarios para poder llevar a cabo una intervención, entre otros que, de momento, solo podemos intuir. En definitiva apuesta por la búsqueda de nuevas estrategias, con miras a la inteligencia artificial que le permitan: preservar un liderazgo tecnológico y garantizar que estas tecnologías se encuentren a disposición de todos los ciudadanos europeos con el fin de que vean en los mismos una garantía más adecuada a sus derechos. En este aspecto, la inteligencia artificial ya no solo se propone como una simple estrategia tecnológica sino más bien, como una oportunidad que deberán aprovechar los poderes públicos para mejorar el funcionamiento de las administraciones públicas y los servicios públicos.

III. Revolución tecnológica a través de la Inteligencia Artificial

Los primeros pasos hacia la consolidación de la que se conoce hoy como la Cuarta Revolución Industrial, partían de la premisa de que el binomio compuesto por ‘tecnología y digitalización’ lograría revolucionar todo los sectores económicos como los entendíamos hasta la fecha (Andrés Segovia, 2020). Las innovaciones, llevadas al campo de las diferentes infraestructuras ya existentes, se traduciría en un escenario que favorecerá, de forma transcendental, las necesidades de todos los ciudadanos del mundo. El progreso tecnológico, que nos conduce en esta senda, ha sido vertiginoso. Muestra de ello, lo constituye la Inteligencia artificial por cuanto ha venido a revolucionar todos los dispositivos tradicionales y las oportunidades que ofrece no son pocas. Pongamos por caso, la traducción simultánea de una conversación entre dos individuos.

Al igual que sucede con la evolución del sistema de telefonía móvil, el sistema de inteligencia artificial se va a convertir en un elemento indispensable en la vida de los ciudadanos. Entre ellos, en su interacción con la administración. La automatización y la creación de robots, a través de este sistema, permitirá transformar la forma en la que entendíamos las relaciones laborales y lo rendimientos a escala. Otro de los aspectos claves, será el que guarda relación con la innovación genética, con la biología sintética, así como elementos que potenciarán nuevos métodos que ayudarán a garantizar un sistema de salud y bienestar de calidad. La biotecnología es un campo que se encuentra aún en ciernes. Sin embargo, las novedades en la evolución tecnológica ya permiten detectar las enfermedades y con ellas secuenciar el genoma del coronavirus a fin de poder alcanzar diagnósticos efectivos. El desarrollo de técnicas biotecnológicas con base en plataformas de ADN y ARN permitirán una inoculación de vacunas más eficaz (Schwab y Mallaret, 2020).

La Comisión Europea trata de destacar la importancia de regular la inteligencia artificial a través de una Comunicación de la Comisión Europea sobre Inteligencia artificial para Europa[ 4 ]. La cuestión es de máxima trascendencia. Muestra de ello, lo encontramos en los objetivos presentes de la inteligencia artificial en el sector público, en los que se indica que, “es necesario que el sector público (a nivel nacional y de la EU) y el sector privado aúnen esfuerzos a fin de incrementar gradualmente las inversiones globales de aquí a 2020 y a partir de entonces, en consonancia con la importancia económica de la UE y las inversiones en otros continentes”. La inteligencia artificial se convierte así en una herramienta para el progreso público-privado y económico que afectará a prácticamente todos los ámbitos: seguridad, vehículos autónomos, sanidad, industria, etc.. No obstante, por la importancia que ocupa en el presente estudio, nos centraremos en su incidencia en el ámbito sanitario.

Frente a las reacciones que se observan de la inteligencia humana, la inteligencia artificial permite resolver problemas más complejos a través de los algoritmos. Este sistema permitirá a las Administraciones Públicas, favorecer las prestaciones que realiza el sector público sanitario en la búsqueda por la satisfacción del interés general. Al fin de cuentas, un sector público eficiente se convierte en imprescindible para garantizar un crecimiento estable y sostenido, para fomentar el bienestar de los ciudadanos e implementar las modificaciones necesarias para la generación de riqueza en una sociedad determinada. Entre algunas de las opciones de sistemas que promete la inteligencia artificial en el sector público en nuestros días, debemos citar las siguientes: Chatbots, drones, Big Data, prevención contra la corrupción y Blockchain[ 5 ].

Respecto a los Chatbots permiten ofrecer una atención virtual que será capaz de resolver las dudas que planteen los ciudadanos de forma automática y personalizada. El denominado bot hace referencia a un componente de inteligencia artificial que es capaz de detectar el lenguaje natural de los diferentes individuos permitiendo interpretar la interacción y ofrecer una respuesta o una solución a su cuestión. Este sistema ha sido empleado en Estados Unidos y cuenta con innumerables ventajas respecto a la situación que plantea el coronavirus. Entre sus virtudes, podemos destacar en primer lugar que, permite ofrecer un servicio de calidad y aporta tranquilidad a los ciudadanos ya que se trata de una infraestructura que emplea un lenguaje natural que ayudará a resolver las dudas que, a diario, plantea la situación de la pandemia. En segundo lugar, respecto al servicio público sanitario, permite liberar al equipo de médicos y asegurar su salud al ofrecer una atención ciudadana más personalizada y con todas las garantías de seguridad e higiene. En tercer lugar, pone a disposición del ciudadano el servicio de atención 24 horas a fin de poder atender y dar respuesta a cuantas cuestiones deseen plantear. Por último, en cuarto lugar, se trata de un servicio accesible que requiere de una colaboración con el servicio universal de telecomunicaciones. Las múltiples opciones de canales de comunicación cercanos y accesibles se materializan a través de aplicaciones comunes tales como: Whatsapp, Skype, Telegram, etc. (Andrés Segovia, 2020).

En definitiva, la inteligencia artificial viene a potenciar sistemas cuya creación primigenia no es actual pero que su poder de actuación está adquiriendo en nuestros días niveles excepcionales. La Covid-19 permitirá acelerar este proceso y su efecto catalizador, de cambios tecnológicos, permitirá la mejora de elementos técnicos que ya se encuentran hoy en marcha. También ayudará a acelerar dos de los desafíos que se encuentran en el punto de mira de las tecnologías emergentes tales como: la protección de datos y la ciberseguridad. La capacidad inigualable que disponen estos dispositivos de rastreo y seguimiento de los contactos permitirá combatir la Covid-19, al tiempo que se convertirá en un elemento facilitador de la vigilancia masiva.

IV. Derecho e innovación en el sector público sanitario

La protección del derecho a la salud ha sido uno de los objetivos que mayor reconocimiento ha obtenido, con carácter general, por la ciudadanía. Sin embargo, se trata de un ámbito que no se encuentra exento de controversia. Como apuntaba, a mi juicio con acierto, De La Cruz Ferrer, “La sanidad es uno de los servicios públicos más apreciados por los ciudadanos, pero también constituye la principal partida del gasto público del Estado. Por eso, cada vez que llega una crisis económica, nuestro modelo de sanidad pública (…) resulta discutido por su ‘elevado coste’ y se presentan propuestas de gestión alternativa” (De La Cruz Ferrer, 2020). Esta afirmación se torna de máxima actualidad ante la llegada de la Covid-19. Su garantía requiere de una partida presupuestaria que se verá afectada por las devastadoras consecuencias económicas causadas por la pandemia. La apuesta que realicen las instituciones públicas en este sentido, será determinante no solo a fin de poder garantizar un sistema sanitario adecuado sino también deberá hacerlo atendiendo a la sostenibilidad y la digitalización. Así, tanto la ‘calidad’ como la ‘eficacia’, constituirán dos elementos claves que deberán ser guiar un futuro servicio público sanitario. Por ello, consideramos necesario un estudio que ponga en balance: cómo el derecho afectará desde un triple plano: internacional, europeo y estatal, a la realidad que propone una crisis sanitaria sin precedentes, cuáles son los sujetos implicados en este proceso y cómo la innovación a través de un sistema de inteligencia artificial nos podrá ayudar a poder garantizar un servicio público de salud de calidad, así como detectar los riesgos que surgen de este escenario.

1. El derecho a la salud ante la Covid-19

El derecho a la salud constituye uno de los derechos fundamentales y básicos. Sin su reconocimiento sería prácticamente imposible poder acceder a otros derechos más complejos de orden social y político. Es por tales circunstancias por las que no sólo en las Declaraciones Universales el derecho a la salud aparece reconocido sino también en las cartas magnas que vertebran las diferentes normativas nacionales y que acaban asumiendo los diferentes gobiernos regionales y locales, más cercanos al usuario de todo servicio de salud. Por lo señalado, resulta necesario realizar un sucinto análisis que nos permita observar cuál es su delimitación desde el punto de vista regulatorio y alguna de las políticas públicas que se comienzan a adoptar en aras de lograr su cumplimiento. Para lograr estos objetivos, y sin descuidar los acontecimientos provocados por Covid-19, procedemos a enunciar y delimitar cómo se llevará a cabo: la preservación del derecho a la salud desde un plano internacional; el conjunto de políticas europeas que se establecen en defensa del Derecho a la salud; y los fundamentos constitucionales que ocupan a este derecho.

A) Preservación del Derecho a la salud desde un plano internacional

Centrándonos en el plano internacional, la Declaración Universal de los Derechos Humanos de 1948 señaló, en su artículo 25, el derecho de toda persona a disfrutar de “un nivel de vida adecuado que le asegure, así como a su familia, la salud y el bienestar, y en especial la alimentación, el vestido, la vivienda, la asistencia sanitaria y los servicios sociales necesarios[ 6 ]”. Por su parte, en el artículo 12 del Pacto Internacional de Derechos Económicos, Sociales y Culturales de 1996, se describe así: “Los Estados partes en el presente Pacto reconocen el derecho de toda persona al disfrute del más alto nivel posible de salud física y mental”. Siguiendo la Constitución de la Organización Mundial de la Salud, de establece explícitamente que, “La salud es un estado de completo bienestar físico, mental y social, y no solamente la ausencia de afecciones o enfermedades. El goce del grado máximo de salud que se pueda lograr es uno de los derechos fundamentales de todo ser humano sin distinción de raza, religión, ideología política o condición económica o social”. En estos aspectos, la salud constituye un derecho humano fundamental que sigue sin ser reconocido en muchos países. Sin embargo, constituye un enclave que deberá ser respetado por todo los Estados desde una escala global.

Para poder determinar su objeto, el derecho a la salud ha sido reconocido como un elemento que es mucho más que la ausencia de enfermedad. Existen múltiples factores que determinaran el estado y la calidad de vida de las personas tales como: el nivel de pobreza y exclusión social, el desempleo, la educación, la posibilidad de acceder a los alimentos, el agua potable, poder disponer de instalaciones sanitarias, poseer una vivienda digna, derecho a la información, ayudas de protección social, potenciales discriminaciones por razón de raza, edad y, como no, de género, la inversión que hagan los países sobre sus sistemas sanitarios, el cambio climático, entre otros aspectos. Es por ello, que en 2015 se puso en marcha[ 7 ], desde las Naciones Unidas, un total de 17 metas con las que pretenden instar a los Estados al cumplimiento de algunos de los derechos, que en calidad de seres humanos, pertenecen a todos y cada uno de los individuos del mundo. A este texto se le conoce como Agenda 2030 o también es denominado como Objetivos de Desarrollo Sostenible[ 8 ]. Por lo que a este estudio se refiere, nos interesa señalar el contenido de la meta 3 que guarda relación con el derecho a “la salud y el bienestar”. Este hecho evidencia la necesidad de que los Estados dispongan de un sistema sanitario de calidad y que su prestación sea accesible para todos los ciudadanos en igualdad de condiciones.

B) Políticas europeas en defensa del Derecho a la salud

Desde la perspectiva europea el aspecto que concierne a la salud ha experimentado una transformación sin parangón como consecuencia de la crisis sanitaria. Tal y como anunciaba el Parlamento Europeo, “La salud pública, y más en concreto la gestión de los sistemas sanitarios, es una competencia fundamentalmente nacional. Pero la Unión Europea juega un papel importante para mejorar la salud pública, en la prevención y control de enfermedades, así como para armonizar las estrategias sanitarias de los Estados miembros[ 9 ]”. Las dos estrategias, con las que se pretendía lograr que los ciudadanos europeos vieran garantizados sus derechos, pasaron a ser: por un lado, la necesidad de colaboración entre los Estados miembros teniendo como fin lograr un sistema sanitario adecuado para el conjunto de los ciudadanos y, por otro lado, la observancia de un fenómeno que requiere de una respuesta colectiva que tenga cabida a largo plazo.

Respecto al primer elemento, las instituciones europeas optaron con la construcción de un marco estratégico que permitiera la convergencia de esfuerzos de todos los Estados a nivel internacional. Para lograrlo, se apuesta por una alianza global con el nombre de ACT-Accelerator que se llevará a cabo entre: la Organización Mundial de la Salud, Europa, otros gobiernos y organizaciones benéficas. Esta iniciativa no excluye ningún país y acentúa la necesidad de procurar medios para lograr la obtención de un material médico adecuado que permita combatir la pandemia. En resumidas cuentas, hacemos referencia al conjunto de pruebas, vacunas y tratamientos específicos que permitirán combatir sus efectos[ 10 ].

También, encontramos otras iniciativas como la que propone COVAX cuyo fin es lograr erradicar la Covid-19 a través del uso de un sistema de vacunación adecuado[ 11 ]. Para poder desarrollar con éxito esta labor, se realizará un reparto equitativo de los medios disponibles con independencia del nivel de desarrollo que disponga el Estado que reciba el número de dosis. No debemos olvidar que la crisis sanitaria supone un reto global que requerirá de respuestas globales para su erradicación. Este es un aspecto que no descuida Europa, y para poder llevar con éxito dicha acción se creó el denominado Team Europe[ 12 ]. Su importancia es notoria por cuanto contribuirá a la dotación presupuestaria de un total de 2.200 millones de euros a COVAX para que pueda seguir con su lucha. Al tratarse de un proyecto que se ejecuta a escala mundial, todos aquellos agentes interesados en contribuir en esta labor son bienvenidos.

Haciendo referencia al segundo aspecto, encontramos la necesidad de implementar iniciativas que miren al futuro con optimismo. Entre las medidas llevadas a cabo quisiéramos hacer referencia a eHealth. Con la misma se pretende que, en el plazo que comprende 2021-2017, los Estados miembros logren alcanzar los siguientes objetivos: hacer frente a las amenazas transfronterizas para la salud, lograr que los medicamentos estén disponibles y sean accesibles y el fortalecimiento de los sistemas de salud. Para alcanzar estas metas, no solo se requiere de un material sanitario adecuado sino que también se deberán contemplar unos cambios sociales y culturales que permitan entender un nuevo escenario sanitario en cuyo empuje tiene cabida la transformación digital y, en concreto, la inteligencia artificial. Pese a su relevancia, no debemos descuidar que las instituciones públicas deberán emplear estas nuevas plataformas no solo para favorecer la producción de material en el seno de su ámbito territorial, sino que deberá abrir su producción al mercado exterior. Esta afirmación podrá comprenderse fácilmente con el siguiente ejemplo. Si las instituciones europeas optaran en exclusiva por el autoabastecimiento de medicamentos para combatir la pandemia, corre el riesgo de que otro país genere una nueva cepa y que no disponga de recursos adecuados para poder frenarla. Es por tanto una necesidad y oportunidad que la implementación de medidas se observe desde una escala internacional, sin la cuál cualquier medida que se adopte en este sentido, se tornaría ineficaz. Para poder satisfacer este programa europeo, se contará con una suma presupuestaria que asciende a 9.4 billones de euros[ 13 ].

A pesar de los avances que se han suscitado, no debemos detenernos en un planteamiento estanco sino que se requieren de respuestas dinámicas que permitan dar soluciones a los retos futuros que en el ámbito de la salud se puedan generar. Para debatir sobre estos asuntos, el 21 de mayo de 2021, tendrá lugar la Cumbre Mundial sobre la Salud en Italia[ 14 ]. Los objetivos de la presente convocatoria son: por un lado, establecer aquellos principios que busquen dar respuestas a las futuras crisis sanitarias que, a nivel mundial, puedan desarrollarse, así como, por otro lado, señalar el procedimiento a seguir ante posibles nuevas mutaciones. En consecuencia, Europa se encuentra en un momento clave para poder implementar la inteligencia artificial en su sistema sanitario, sin descuidar el aspecto que concierne a la sostenibilidad, como estrategia que le permitirá mejorar el servicio pública tal y como se está desarrollando en el marco actual. De este modo, logrará que el sistema de bienestar y salud se vea reforzado a nivel global, donde cada iniciativa cuenta en la carrera para lograr alcanzar, con éxito, la meta 3.

C) Fundamentos constitucionales que ocupan el Derecho a la salud

El Derecho a la salud, constituye uno de los derechos fundamentales de índole constitucional que ocupan un papel de máxima referencia. El artículo 43.1 de la Constitución Española estableció que, “se reconoce el derecho a la protección de la salud”. Su importancia se observa por cuanto su protección se debe en calidad de ciudadano y no de asegurado. Ahora bien, existe otro elemento que deberá ser tenido en cuenta y que aparece reflejado en su apartado segundo, “compete a los poderes públicos organizar y tutelar la salud pública a través de medidas preventivas y de las prestaciones y servicios necesarios. La ley establecerá los derechos y deberes de todos al respecto”. El citado precepto, encuentra al mismo tiempo su acomodo en lo señalado en los artículos 148.1.21 CE y el art. 149.1.16 CE, por cuanto establece el ámbito competencial que le será de aplicación. En concreto, según el art. 148.1.21 CE las Comunidades Autónomas podrán asumir competencias en materia de sanidad. Por su parte, el art. 149.1.16 CE realiza una reserva al Estado de la competencia ‘exclusiva’ sobre sanidad exterior. Bases y coordinación general de la sanidad. Legislación sobre productos farmacéuticos”, aunque la realidad muestra que la competencia es compartida[ 15 ]. En este sentido, atribuye a los poderes públicos la competencia respecto a la organización y tutela del derecho a la salud pública haciendo uso de medidas preventivas y de las prestaciones señaladas, de igual modo, en el tenor del artículo 30.4 CE, que podrán establecerse en caso de ser necesarias[ 16 ].

Otro de los preceptos que resulta interesante destacar, en este ámbito, es el que contempla el artículo 15 CE[ 17 ] cuyo objeto principal versa sobre la preservación y garantía del derecho a la vida y la integridad física[ 18 ]. Tanto el art. 15 CE como el art. 43 CE guardan un papel protagonista por cuanto se trata de una cobertura legal que permitirá restringir o limitar otros derechos fundamentales, con las debidas garantías, en situaciones como las que presenta la Covid-19 (Sarrión Esteve, 2021). Para cualquier evitar cualquier lesión a estos derechos será necesario que los poderes públicos organicen un servicio público sanitario que sea eficaz para todos los ciudadanos. Sin embargo, la técnica por la que opta el legislador es cuanto menos curiosa. En concreto, el art. 43.1. CE emplea la palabra derecho pero con un elemento que, desde la perspectiva administrativista se denomina norma jurídica de relación. Dicho en otros términos, estamos ante una norma jurídica que delimita las esferas jurídicas de la Administración y de los ciudadanos, estableciendo su correlativa relación de derechos y obligaciones. Sin embargo, nos encontramos ante una norma de acción que ordena a los poderes públicos la organización de los servicios públicos a fin de garantizar la salud pública (Garrido Falla, 1980).

Esta idea, requiere de un análisis detallado por cuanto la Covid-19 ha puesto en cuestión la garantía constitucional del tradicional Derecho de salud. La declaración del estado de excepción ex art. 116 CE, que a su vez encuentra su desarrollo en la Ley Orgánica 4/1981, de 1 de junio, de los estados de alarma, excepción y sitio, permitieron la aprobación del Real Decreto 463/2020, de 14 de marzo, por el que se declara el estado de alarma para la gestación de la crisis sanitaria provocada por la pandemia y, que posteriormente, será objeto de sucesivas prórrogas, que contarán con la autorización del Congreso de los Diputados. Su contenido introduce una serie de limitaciones a los ciudadanos que tendrán como resultado la limitación de los derechos fundamentales, con particular incidencia en el derecho a la libre circulación de las personas (art. 19 CE), con el fin de garantizar la salud pública. Esta técnica pone de manifiesto la relevancia que cobra el Derecho a la salud en un plano general, por cuanto su garantía llegará a limitar otros derechos fundamentales señalados en la Constitución. Por ejemplo, la libertad religiosa o de culto (art. 16 CE) (Rodrigo Lara, 2021), desplazamientos respecto a la propia libertad personal (art. 17 CE), el derecho de reunión y manifestación (art. 21 CE)[ 19 ], entre otros.

En consecuencia, los poderes públicos disponen de un papel clave en la garantía de estos derechos. Los fondos europeos supondrán un deshago en la inversión que realicen los poderes públicos en España para poder llevar a cabo su prestación a la vez que lograra su progreso mediante la creación de proyectos tractores que apuesten por una doble transición en el ámbito de la salud: digital y verde. Se esbozan así, todo un conjunto de cuestiones que exigen una respuesta adaptada a cada una de las necesidades y que no pueden, en ningún momento, eludir la posición de la Administración pública frente a la de los entes privados. Su sometimiento de esta primera al artículo 103 CE circunscribe su actuación a los intereses colectivos y, con ello, dispone de una serie de obligaciones frente a los ciudadanos en el que, por sus características, el ámbito sanitario se verá afectado. Si bien la Covid-19 hace emerger nuevos conceptos y términos, a menudo son aparentes. Esto se debe a que no dejan de ser una innovación de elementos clásicos que son adaptados a las necesidades que plantea la ciudadanía en un momento determinado. Sin embargo, la inteligencia artificial ocupa un papel muy relevante que tiende a crear estrategias a largo plazo y que le permitirá consolidarse como una herramienta preservar el derecho a la salud y la vida ante situaciones de crisis sanitarias, económicas y sociales, que puedan desencadenarse en un futuro.

2. Los cuatro vértices que ocupan el análisis subjetivo

La necesidad de establecer un sistema de garantías adecuado, respecto al sistema de salud, nos lleva a que tengamos que examinar los sujetos que permitirán llevar a cabo esta labor con éxito, así como quiénes serán los beneficiarios de las políticas públicas que se determinen. En este sentido, podemos afirmar que el ámbito subjetivo del sistema sanitario se puede visualizar a través de un cuadrado, cuyos cuatro vértices quedan compuestos por: la Administración pública y el regulador, los entes privados, los ciudadanos y ¿las máquinas?. Dada su relevancia, a continuación, determinaremos el papel que ocupan cada uno de ellos respeto al sector de la salud y la posición que adquirirán en el proceso de innovación del sector hacia plataformas digitales tales como la inteligencia artificial.

A) La Administración pública y el regulador

Las Administraciones públicas y los organismos reguladores realizan una clara apuesta por la que se conoce como la transición digital. Una transformación que ocupa a una gran variedad de elementos que convergen con el formato digital y que vendrá a modernizar la forma en la que entendíamos nuestra vida profesional y personal. Hasta la llegada de la Covid-19, los poderes públicos habían ralentizado la adopción de marcos normativos que tuvieran como centro de atención las nuevas tecnologías. Si bien es cierto que existían algunas leyes que empezaban a dar sus frutos, exponiendo la importancia de las mismas, lo hacían de forma discreta. A modo de ejemplo, podemos citar en el caso de España: la Ley 11/2007, de 22 de junio, de acceso electrónico de los ciudadanos a los Servicios públicos; Ley 18/2011, de 5 de julio, reguladora del uso de las tecnologías de la información y de la comunicación en la Administración de Justicia; Ley 39/2015, de 1 de octubre, del Procedimiento Administrativo Común de las Administraciones Públicas; y la Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público.

Sin embargo, en el otro revés de la moneda, encontramos leyes que hacen referencia a servicios clásicos que siguen desactualizados pese a la realidad que les afecta. Este es el caso de textos normativos tales como, a título de ejemplo: la Ley 7/2010, de 31 de marzo, General de la Comunicación Audiovisual o, en su caso, Ley 9/2014, de 9 de mayo, General de Telecomunicaciones, entre otras. Todo ello, máxime cuando desde Europa se insta a su actualización y modernización acorde con lo establecido en las Directivas: Directiva (UE) 2018/1808, del Parlamento Europeo y del Consejo, de 14 de noviembre de 2018, por la que se modifica la Directiva 2010/13/UE sobre la coordinación de determinadas disposiciones legales, reglamentarias y administrativas de los Estados miembros relativas a la prestación de servicios de comunicación audiovisual (Directiva de servicios de comunicación audiovisual), habida cuenta de la evolución de las realidades del mercado y Directiva (UE) 2018/1972 del Parlamento Europeo y del Consejo, de 11 de diciembre de 2018, por la que se establece el Código Europeo de las Comunicaciones Electrónicas, respectivamente.

Desde que comenzara la pandemia, se ha establecido un cambio de concepción que tiende a la necesidad de habilitar espacios y servicios públicos más adaptados a las necesidades que plantea la digitalización. A esta afirmación le sigue la decidida apuesta europea por la transformación hacia formatos digitales que va acompañada por lo que se conocen como los fondos europeos para la recuperación económico de los Estados miembros y que tienen por objeto dos pilares: la transformación digital y el Pacto Verde[ 20 ]. En concreto, estamos haciendo referencia a los que se conocen como los fondos: Next Generation EU[ 21 ] y el Marco Financiero Plurianual[ 22 ]. Como consecuencia de los mismos, se han comenzaron a crear, desde España, algunos informes que dan a conocer la intención del Gobierno de liderar este mercado. Muestra de ello, lo encontramos en los siguientes textos: la Agenda España Digital 2025[ 23 ]; Plan de recuperación, transformación y Resiliencia[ 24 ]; Plan de Digitalización de las Administraciones Públicas 2021-2025: Estrategia en materia de Administración Digital y Servicios Públicos Digitales[ 25 ], etc.. Pero además existirá un texto normativo que vendrá a revolucionar la transición de la administración pública hacia formatos electrónicos: Real Decreto 203/2021, de 30 de marzo, por el que se aprueba el Reglamento de actuación y funcionamiento del sector público por medios electrónicos. Si bien es cierto que el texto al que aludimos descuida aspectos relevantes tales como la inteligencia artificial y la automatización de los procesos, sirve de base para afirmar que el regulador comienza a realizar una apuesta decidida por esta transformación digital, de la estructura y servicios que prestan las Administraciones públicas, buscando en la norma un apoyo para poder lograrlo con eficacia.

Estos son algunos de los ejemplos que muestran los vaivenes que han experimentado los textos normativos y los diferentes sectores en los últimos tiempos, pero no son más que casos que evidencian la necesidad de llevar a cabo la transformación digital de los diferentes sectores. Ciñéndonos al sector de la salud, en esta senda encontramos el ejemplo de la telemedicina. En el caso propuesto, lo que hace unos años era inimaginable, de repente se hizo posible como consecuencia de una necesidad pública que había acelerado la pandemia. En este sentido, el personal médico, el regulador y los pacientes, que experimentaron la facilidad de habilitar un canal de telemedicina, provocaron un cambio de mentalidad sobre su oportunidad en el sector sanitario. Esta acción se realizó con el fin de ayudar a los ciudadanos que presentaban síntomas de esta pandemia sin poner en riesgo la salud del resto de ciudadanos o del propio personal sanitario. A pesar de que la Covid-19 pueda llegar a desaparecer las nuevas reglamentaciones permanecerán actuando sobre campos hasta ahora no imaginados. La potenciación de estas tecnologías permitirán dar respuesta a nuevas cepas que podrán aparecer en la sociedad, atender de forma más cercana a enfermos que tengan dolencias infecciosas, o expresar cercanía a personas adultas que se encuentran solas en sus hogares.

En definitiva, comienza a esbozarse la existencia de un nuevo tipo de sociedad ‘sin contacto’ y la voluntad de los reguladores de reflejarla en los textos normativas no tiene límites. Ante cuestiones tan delicadas cabe plantearse, hasta que punto los servicios son comparables. En esencia, si casos como la telemedicina o el reparto de drones pudiera ser incorporados a ámbitos de regulación ordinarios y cubiertos, como pudieran ser los que pueden abonarse con un servicio de pago por medios móviles. Un ejemplo para acelerar las consultas a través de servicios o dispositivos digitales pudiera ser que el regulador bancario europeo establezca una política, como la llevada a cabo durante el periodo de confinamiento, en la que señaló la necesidad de aumentar la cantidad en la que podía realizarse un pago a través de dispositivos móviles y, a su vez, reducir los requisitos de autentificación[ 26 ]. En estos aspectos, deberemos observar con cuidado elementos tangenciales a su implementación, como son los riesgos que propone la ciberseguridad y que será una máxima a tener en cuenta en el proceso de transformación digital de sectores tales como el de la salud.

B) Los entes privados

Ante la realidad que planteó el distanciamiento físico provocado por una época de confinamiento de la ciudadanía motivado por la crisis sanitaria, y la posibilidad de que un escenario similar pudiera remitir, tanto las Administraciones públicas como los entes privados se encuentran acelerando el proceso de transformación de sus infraestructuras hacia la automatización. Se tiene la convicción, tras los resultados observados tras la pandemia, que la sociedad se encuentra más preparada para poder contratar nuevos servicios a través de medios digitales. Descuidar esta realidad, podría poner en riesgo a los entes privados y a su economía, ya que la ciudadanía es, cada vez más, exigente respecto a los bienes y servicios que consumen.

La preocupación por el desempeño tecnológico desaparecerá de forma paulatina y la sociedad hará hincapié en la oportunidad de seguir trabajando desde sus casas, reduciendo al mínimo el contacto con el resto de compañero de trabajo y, por ende, disminuyendo su actividad social presencial o física. Esta evolución, que apuesta hacia nuevos formatos digitales y las tecnologías de la automatización, no descuidará el factor humano y lo potenciarán a través de fórmulas virtuales. Entre los colectivos que se verán más afectados encontramos: los restaurantes, comercio electrónicos y la industria del entretenimiento. En su revés se verán favorecidas empresas tales como: Apple, Saudi Aramco, Amazon, Microsoft, Alphabet, Facebook, Alibaba y Tencent. Así, lo ha constatado un estudio de 2020 de Statista que afirma que nos encontramos ante la ‘era de los gigantes tecnológicos’ y ha sido puesto en comparación con empresas que lideraban el mercado en 2005. En concreto, General Electric, Exxon Mobil, Microdoft, Citigroup, BP, Walmart, Royal Dutch Shell y Johnson & Johnson (Mena Roa, 2020).

Tras este análisis sobre los sectores que se han visto más castigados y favorecidos por la transformación digital ante la pandemia, debemos señalar el crecimiento de proyectos que plantean, desde esta evolución, mejorar algunos aspectos sanitarios. Este es el caso de proyectos tractores tales como: eHealth Hub[ 27 ] –apoyando a las empresas de salud digital forma gratuita-; MOAI Labs[ 28 ] –Laboratorio de inteligencia colectiva y tecnología sociosanitaria para combatir el aislamiento y la soledad de las personas mayores-; eCare[ 29 ] –proyecto europeo que ofrece soluciones digitales disruptivas para garantizar la prevención de la fragilidad de personas adultas-; inDemand[ 30 ] –Innovación atendiendo a la demanda y la creación entre profesionales sanitarios y empresas de salud digital y con el correspondiente apoyo económico-; we4AHA[ 31 ] –apoyo a la adopción de mecanismos de innovación digital con el objeto de lograr un envejecimiento activo y saludable en la sociedad-; Heath Status Monitor[ 32 ] –permite la monitorización de las Tecnologías de la Información y de la Comunicación para mejorar el estado de salud y optimizar la atención de la hipertensión- Cherries[ 33 ] –creación de ecosistemas abiertos, inclusivos y autosostenibles de participación a favor de una salud responsable- Proempower[ 34 ] –para solucionar problemas relacionados con la diabetes- (como proyectos específicos que ayudarán a la transformación digital del sector sanitario).

Como hemos tenido ocasión de observar, el distanciamiento social está teniendo una fuerte cabida en las apuestas que realizan tanto las Administraciones públicas como los entes privados en aras de formular propuestas de mejora de sus infraestructuras. Sin embargo, no debemos olvidar que, a diferencia de lo que sucede en el sector público, los servicios privados deberán considerar el distanciamiento social en consonancia con el distanciamiento económico. La tendencia en este aspecto es la introspección y la necesidad de que las compañías globales, entre las que se encuentran las citadas, acorten sus muy eficientes pero débiles cadenas de suministro. Esta acción favorecerá la automatización y permitirá que los robots puedan llevar a cabo una producción local con la correspondiente reducción de costes que surgen de este proceso.

Aunque se plantee como un elemento de suma novedad, los procesos de automatización comenzaron hace años acelerando el cambio y la transición. Si bien es cierto que la pandemia potenció su implementación en los centros de trabajo, también logrará convertirse en un aspecto habitual de nuestra sociedad, tanto a nivel personal como profesional. La Inteligencia artificial se convierte en estos términos, en una necesidad ante la falta de una alternativa humana que pudiera suplir su actividad. Además de las virtudes tecnológicas que permitía este sistema, suponía un desahogo a la situación provocada por la pandemia, por cuanto permitía reducir cualquier tipo de riesgos que pudieran afectar a los empleados humanos del sistema de salud. Este hecho evidenció la oportunidad y la necesidad de que tanto los servicios públicos como privados de salud optaran por una transformación acelerada de sus estructuras hacia nuevos formatos digitales en los que la inteligencia artificial se postulaba entre las opciones más destacadas. Uno de los datos que cabe tener en cuenta en este sentido, es la evolución que han experimentado las empresas de salud en el transcurso de 2020-2021. Si bien es cierto que, hasta la fecha, las compañías de telecomunicaciones ocupaban el primer puesto de los rankings que abordaban las empresas más innovadoras e influyentes, un estudio de 2021 certifica, entre las empresas líderes en innovación a través del tiempo, la compañía de biotecnología y salud Pfizer. A continuación mostramos una imagen, que señala la evolución que ha experimentado este liderazgo desde 2005 hasta 2021.

Resulta oportuno, por lo que pretende el presente estudio enunciar, la incorporación a este ranking de una empresa de salud por su relevancia e innovación en el ámbito de la investigación y su lucha por erradicar, entre otras enfermedades, la Covid-19. Los sistemas de vacunación que propone esta empresa privada farmacéutica, pone de manifiesto su fortaleza en la labor por combatir la pandemia. Aunque los gigantes estadounidenses siguen liderando los primeros puestos, varias empresas del sector farmacéutico comienzan a ocupar puestos protagonistas en este ámbito. De ahí la importancia de ofrecer técnicas que apuesten por, entre otros mecanismos, la inteligencia artificial en el sector de la salud.

C) Los ciudadanos

Con la llegada de la Covid-19, los ciudadanos que mostraban su descontento hacia la evolución con base en plataformas y servicios digitales en los diferentes sectores económicos se vieron en la necesidad de transformar sus hábitos de forma vertiginosa adaptándolos a las mismas. Las opciones en las que se materializaron fueron varias: visualización de servicios lineales y no lineales desde el salón de sus casas, en lugar de acudir al cine; cambiar los planes con amigos en una cafetería a tomar un tentempié desde el otro lado del ordenador; búsqueda de estrategias de deporte en línea para poder desarrollar una actividad de esta índole en casa, etc. Es probable, que algunos de los clásicos hábitos regresen, como consecuencia de esa condición de convivir en sociedad de la humanidad. Sin embargo, algunas de las nuevas costumbres permanecerán de forma natural.

La apuesta por una sociedad más avanzada debe estar preparada para los nuevos retos sociales que se vayan sucediendo. La aprobación de un decreto que establecía la necesidad de llevar acabo un confinamiento de toda la ciudadanía por razones sanitarias ha llevado a que nos planteemos los comportamientos sociales hasta entonces instaurados. Entre otros, permite que vayan ganando terreno los formatos digitales, llevados a la práctica, para poder trabajar, comunicarse, hacer pedidos o buscar consejos. En estos aspectos, será necesario analizar las virtudes que el nuevo formato propone y los riesgos a los que se enfrentan los ciudadanos en su utilización. Ponderar lo virtual frente a lo presencial será una labor constante que estará sometida a una opinión pública múltiple por cuanto será analizado desde diferentes perspectivas y colectivos.

En el caso de que las consideraciones sanitarias se volvieran una prioridad, puede hacernos cambiar los gustos o los objetivos futuros. A modo de ejemplo, preferir realizar una competición con una bicicleta estática desde casa y una pantalla que nos conecte con un compañero que esté realizando la misma actividad, que realizar una labor similar en la calle, para lo cual deberá considerarse las condiciones atmosféricas, entre otros factores. Adicionalmente, debemos poner en cuestión el coste de oportunidad que ocupa a cada una de las actividades y la posibilidades existentes de que se generen lesiones. El mismo razonamiento puede extrapolarse a otras actividades tales como, viajar para asistir a una conferencia o reunión, acudir a pasar un fin de semana familiar, presentarse en una administración para llevar a cabo una gestión administrativa, o asistir a una consulta médica. Todos estos elementos, junto con otros, son ponderados por los ciudadanos y significan una clara muestra de que la sociedad esta cambiando, aunque de un modo más lento de lo que lo hace la tecnología.

D) Las máquinas

La incorporación de algoritmos al servicio sanitario ofrece un sistema inteligente que ejecutará el procesamiento y el consiguiente análisis de grandes cantidades de datos con un doble fin último, que las máquinas den respuestas a diagnósticos presentes y sean capaces de llevar a cabo análisis predictivos de enfermedades futuras. Su evolución se desarrolla con total autonomía, lo que provoca que sean infinitas las respuestas que pueden aportar al campo de la medicina. El aprendizaje que obtienen se basa de modelos preexistentes y reales que hacen que la plataforma pueda crear unos valores generales (Barrio Andrés, 2020). La información obtenida le permitirá tejer una especie de tela de araña de datos que simularan a redes artificiales de neuronas entre los modelos ya existentes y las relaciones que desarrollan entre sí (Rivas, 2020). Los resultados obtenidos ayudarán al personal médico a disponer de una base de información muy valiosa con la que será más sencillo solucionar los retos médicos que vayan surgiendo. Pese a las virtudes que presenta esta muestra, debemos señalar que no se trata de un modelo totalmente exacto. La cuestión que se plantea en estos términos versa sobre a quién corresponde la entrega de los datos que determinará el estado de salud del paciente. Por un lado, debemos señalar que existirá una cantidad de datos genéricos que habrán sido incorporados en las plataformas por personal médico dado una experiencia concreta. Por otro lado, existen estudios científicos que habrán sido alcanzados en un laboratorio que también nutrirán esta base de datos. En el caso de que se exponga un análisis predictivo que no sea ajustado a la realidad que presenta el paciente, cabra analizar a quién corresponde la responsabilidad sobre dicha mala praxis: si al personal médico, si al científico, o a la máquina.

A diferencia de modelos clásicos, la inteligencia artificial nos hace replantearnos si realmente la máquina puede ser o no un sujeto de responsabilidad administrativa ante un resultado que sea perjudicial al paciente. En este sentido, encontramos otro planteamiento que reforzará dicha argumentación. Como sabemos, las máquinas, al igual que los seres humanos, no son perfectas. Éstas pueden caer en el error en la predicción de un diagnóstico, como pudiera ser la detección de un cáncer de mama. Ante un error de calculo predictivo de esta tecnología disruptiva debemos formularnos las siguientes cuestiones: ¿quién asume la responsabilidad por un diagnóstico fallido el algoritmo o quién lo entrega?; ¿cuál es la fiabilidad mínima que debe disponer un algoritmo en el sector sanitario para garantizar que sea tan preciso como si el diagnostico lo realizara un radiólogo?. Estas cuestiones suponen un reto que el legislador deberá contemplar con sumo cuidado, puesto que de la misma pende la garantía de derechos constitucionales tan importantes como la salud y la vida y descuidarlos podría desencadenar en consecuencias devastadoras para la salud pública.

3. Cambio de prioridades tecnológicas que afectan al interés público sanitario

En los últimos tiempos hemos tenido la oportunidad de escuchar que el sistema de inteligencia artificial ha venido para quedarse. La llegada de la crisis sanitaria ha supuesto un punto de inflexión en la implementación de estrategias basadas en sistemas de inteligencia artificial. La expansión y progresión del mundo digital dispondrá de un alcance decisivo y, en algunos casos, permanente de las posibilidades que esta tecnología ofrece. Las opiniones existentes sobre las virtudes que podrá generar este nuevo escenario se observan desde un doble alcance. Por un lado, los ciudadanos habituados a este tipo de tecnologías digitales detectan en esta evolución una oportunidad para el progreso del ámbito sanitario al cual afecta. Por otro lado, existen quienes interpretan que las opciones que se abren, en este escenario, son poco prometedores incluso, en algunos supuestos, pudieran llegar a ser catastróficas. A pesar de esta dualidad de pensamientos, ambos convergen en una necesidad común, la necesidad de obtener un sistema sanitario de calidad y la garantía del bienestar social. En estos términos, la inteligencia artificial ha supuesto un adelanto significativo que evidencia un nuevo contexto tecnológico significativo y duradero, que tendrá una especial implicación no solo en el sector sanitario sino también en otros de importante relevancia económica y social, tales como: la educación, el trabajo, el entretenimiento, las compras y el ocio.

La posibilidad de aplicar un sistema de inteligencia artificial en el sector público sanitario no es solo parte del presente sino también es un reto futuro que, pese a su relevancia en el mundo de la revolución tecnológica y del Derecho, ha cobrado mayor protagonismo con la llegada del Covid-19. Desde la Comisión Europea ya se vaticinó la oportunidad del mismo a través de la Comunicación de la Comisión Europea sobre Inteligencia artificial para Europa[ 35 ]. En concreto señaló que, “Las propuestas de la Comisión dentro del próximo marco financiero plurianual 2021-2027 abrirán la puerta a las inversiones en: (…) creación de un centro de apoyo a la puesta en común de datos que estará estrechamente vinculado a la plataforma de IA a la carta y cuyo cometido será facilitar el desarrollo de aplicaciones para las empresas y el sector público”. Así, la incorporación de un sistema de inteligencia artificial se convierte también en un desafío al cual aspira el sector público sanitario. No obstante, su implementación no se encuentra exenta de ciertos riesgos que cuestionaran la procedencia de su uso. Entre las desventajas que surgen de este sistema podemos citar las siguientes: la automatización de los trabajos, el sesgo con el que actúan los algoritmos, la privacidad y la seguridad. Frente a ello, existen determinadas iniciativas que permiten contrarestar las debilidades que surgen de estas plataformas: la regulación o estrategia gubernamental, la conocida como Artificial Intelligence for Good Global Summit, Datakind y AI4All (Andrés Segovia, 2020).

También existen determinados métodos que, a través de la inteligencia artificial, permitirán reducir la tasa de infectados por la pandemia y lograr así mejorar la salud. El rastreo de contactos, el seguimiento de contactos[ 36 ] y la vigilancia, nos proporciona una importante lección en la gestión de la crisis sanitaria que puede ser de aplicación por los diferentes países. Estos aspectos, resultan claves como estrategia. Si bien no acaba con la amenaza que supone la pandemia permitirán minorar la tasa de reproducción del coronavirus. El coste de su producción, desde el plano económico y social, es perniciosamente elevado. Sin embargo, los resultados son cuanto menos positivos de forma complementaria a los sistemas de vacunación previstos. En este sentido, la tecnología nos ofrece un formidable atajo en este proceso, permitiendo a los funcionarios de sanidad identificar a las personas infectadas de forma ágil y eficaz y de este modo, detener el brote con carácter previo a que comience su propagación. Si bien, no se encuentran exentos de controversias. El rastreo digital constituye uno de los aspectos que mayor preocupación ocupa en el ámbito de salud pública por cuanto a la protección de la privacidad se refiere. Esto se debe a que si todos los ciudadanos del mundo se descargaran una aplicación de estas características, con el fin de detectar potenciales contagios desarrollados en relación a la Covid-19, esta aplicación dispondría de una capacidad de datos importantísima que pondría en riesgo la seguridad de los ciudadanos. Es por ello que, aspectos tales como: las intrusiones cibernéticas, la desconfianza en el operador del sistema y los plazos de conservación de datos suscitan problemas de privacidad adicionales. No obstante, existen diferentes opciones que deberán ser valoradas para lograr que estos derechos no se vean afectados. La disponibilidad de códigos de fuente abiertos y verificables, y de las garantías relativas a la supervisión de los datos[ 37 ] y técnicas de conservación ayudan a prevenir esta situación. Es por ello necesaria la adopción de una normativa flexible común que permita mitigar cualquier temor, creado en la pandemia, que obligue a los ciudadanos a escoger entre la defensa de su derecho a la privacidad o el derecho a la salud.

Por otro lado, debemos señalar el riesgo de distopía. Nos referimos en este aspecto a la creencia de que las tecnologías de la información y de la comunicación nos ofrezcan una experiencia digital destinada a controlar y anticipar nuestro comportamiento en la sociedad en el futuro. El equilibrio que deberemos adoptar a fin de poner en balance la salud pública y la pérdida de privacidad será objeto de continuos debates (Troncoso Reigada, 2010)[ 38 ]. Este proceso mental no es primigenio. Esta decisión ha sido llevada en múltiples ocasiones por las empresas, en múltiples ocasiones, con el fin de atraer a los ciudadanos y empleados hacia sus propios intereses. No debemos olvidar en estos términos, cual es el fin que guarda relación con el servicio público sanitario que no es otro que el interés público. Por ello, resulta crucial buscar técnicas que nos ayuden a garantizar la salud pública sin atacar a la privacidad de los individuos. De lo contrario, se corre el riesgo de depender de las empresas y los poderes de vigilancia cuyos objetivos podrían poner en peligro el interés público (Schwab y Mallaret, 2020).

La unanimidad de criterios no constituye el mejor campo de cultivo para avanzar en el conocimiento. De ahí que exista la posibilidad de formular argumentos a favor y en contra de esta evolución. Esto hará que sea observada desde un doble enfoque: como una oportunidad, una necesidad o un retroceso. Sin embargo, existe un elemento que será clave en este debate y que determinará la opción a seguir. La Covid-19 sitúa la inteligencia artificial en un punto de mira, antes no imaginado, por cuanto servirá para desarrollar nuevos modelos que nos ayuden a prestar con eficacia la demanda de unos servicios sanitarios de calidad ante una crisis sanitaria sin precedente. De este modo, ha sido puesto de manifiesto por el Plan de Digitalización de las Administraciones Públicas (2021-2027) del Gobierno de España por cuanto señala en su meta 10, titulada Transformación digital del ámbito sanitario, lo siguiente, “El objetivo es reforzar los sistemas del Sistema Nacional de Salud mediante sistemas interoperables para la gestión de la información de las distintas Comunidades Autónomas que permitan mejorar el servicio, aplicar inteligencia artificial al análisis de datos y afrontar emergencias sanitarias”. Para poder llevar a cabo esta labor, se potenciarán tres aspectos que son de suma importancia en esta evolución y que lo conforman: la mejora de la interoperabilidad, el desarrollo de nuevos servicios y la mejora de su gestión.

Por lo que respecta a la mejora de la interoperabilidad, constituye uno de los aspectos prioritarios que permitirá facilitar la colaboración entre las diferentes partes de carácter organizativo, semántico y técnico. En concreto, debemos recordar que una de las características principales del sistema de salud es la necesidad de cooperación existente entre las Comunidades Autónomas e INGESA, que se encargan de la prestación de servicios tales como, MUFACE, ISFAS y MUGEJU, como entidades gestoras, respectivamente, de los consecuentes Regímenes Especiales de la Seguridad Social de: las Fuerzas Armadas, personal al servicio de la Justicia, funcionarios civiles del Estado y el Ministerio de Sanidad, que ocupa un cargo de responsabilidad en toda esta coordinación. Para poder ejecutarlo, se implantarán iniciativas tales como: el registro de las vacunaciones llevadas a cabo, la evolución que adquiera la transformación de la receta hacia formatos electrónicos o incluso la estandarización y la gestión de los servicios que facilita el sistema.

En cuanto al aspecto que concierne al desarrollo de nuevos servicios, debemos señalar la importancia que adquiere la actuación sobre el desarrollo de nuevas técnicas digitales y la habilitación de todos los derechos en este ámbito que tendrán lugar tras las sucesivas reformas incorporadas por la Ley 39/2015, de 1 de octubre, de Procedimiento Administrativo Común de las Administraciones Públicas. Entre las medidas que se adoptarán, baste citar la evolución de la cartera de servicios del Ministerio de Sanidad y la habilitación de emergentes canales de digitalización que tendrán lugar a través del desarrollo de las diferentes aplicaciones que se habiliten para el caso propuesto.

Por último, en relación a cómo mejorar la gestión de los servicios sanitarios a través de plataformas digitales deberemos considerar la importancia que adquieren los nuevos servicios digitales y que se ponen a disposición de la ciudadanía y las entidades privadas. Su objetivo es lograr favorecer la agilidad y la reducción de plazos que darán lugar a un servicio sanitario más eficaz en su respuesta con los pacientes. En esta senda, se determinarán diferentes iniciativas con el fin de lograr la correcta gestión digital integral de los servicios y procedimientos establecidos desde el Ministerio de Asuntos Económicos y Transformación Digital y el Ministerio de Sanidad.

Al llegar a este punto, tras la determinación de los objetivos a seguir, debemos apreciar el tradicional poema homérico, en el que señala que lo importante es el viaje (Malaret I García, 2004). La confrontación de visiones sobre la oportunidad y la necesidad por la que apuesta esta revolución tecnológica del servicio sanitario a través de herramientas tales como la inteligencia artificial, supondrá la construcción que determinará cómo avanzar en el camino hacia lograr un servicio de calidad y de bienestar en el que todos los ciudadanos vean garantizados sus derechos. Desde esta perspectiva, el derecho ha asentado bases sólidas con las que se nutre y pretende hacer frente a los retos emergentes que surgen con motivo de la transformación digital en curso. También, las consecuencias que las mismas suponen.

La crisis sanitaria pone así sobre la mesa algunas de las virtudes que ocupan al sistema público de salud, así como los desafíos y dificultades a los que se enfrenta. Es por ello necesaria la creación de una Estrategia Nacional de Inteligencia Artificial que permita impulsar su desarrollo y regulación en el tejido productivo, económico y la sociedad del dato, con el fin de poder mejorar el sistema sanitario y acercarlo a la meta 3 “Salud y Bienestar” señalada en los Objetivos de Desarrollo Sostenible. También se precisa de una reforma institucional y el fortalecimiento de aquellas capacidades que son propias del sistema nacional de ciencia, tecnología e innovación. Esta acción permitirá la mejora en la innovación y la investigación en los sistemas de salud y vacunación, proponiéndolas como parte de su área prioritaria. Por último, se necesita la renovación y ampliación de las capacidades propias del Sistema Nacional de Salud, de modo que permita rediseñar el sistema clásico acorde a los nuevos desafíos futuros y anticiparnos a los mismos. La apuesta por mecanismos de prevención será esencial con el fin de procurar que pandemias, del alcance de la Covid-19, no puedan volver a desarrollarse. Para ello, se requerirá de: el impulso del talento profesional, la mejora de la cogobernanza, cohesión y eficiencia; equipamientos más avanzados, la modernización tecnológica y la transformación digital; la inversión en productos farmacéuticos y el material quirúrgico adaptado a las necesidades que se vayan sucediendo[ 39 ]; la accesibilidad de los pacientes a través de herramientas digitales; no solo deberá prevalecer el formato presencial, con el fin de evitar contagios o consecuencias negativas para la salud pública; apostar por una educación digital de calidad que permita conocer las diferentes técnicas disponibles; y, finalmente, el impulso decidido de los poderes públicos por lograr un sector sanitario acompasado con las necesidades que se vayan formulando[ 40 ].

V. Conclusiones

Primera.- La inteligencia artificial ha de considerarse uno de los pilares que logrará el desarrollo de nuestro sistema de salud tras las devastadoras consecuencias provocadas por la crisis sanitaria. A lo largo del presente estudio hemos tenido la ocasión de analizar algunos supuestos que ofrece la inteligencia artificial en el ámbito sanitario y que dan a conocer su versatilidad. Asimismo, la rapidez con la que los organismos públicos y los gobiernos pueden hacer de su uso una herramienta que favorezca al interés público. Tras la aparición de la Covid-19, en el escenario global, surgen algunas propuestas que ayudan a mitigar los efectos adversos suscitados. Por todo ello, podemos afirmar que el sistema de inteligencia artificial en el sector público sanitario ante la crisis sanitaria favorece: la detección de las tendencias que surgen de los datos con el fin de poder predecir la expansión de la pandemia, ayuda a aprender de forma eficaz y automática sobre la búsqueda de mecanismos que permitan acercar la administración a un individuo contagiado, detectar posibles patrones de imágenes que reconozcan el estado de los pacientes y la realización de simulaciones médicas que nos permitan adivinar las consecuencias que la pandemia puede adquirir sobre el conjunto de los ciudadanos en un futuro próximo.

Segunda.- El Ministerio de Asuntos Económicos y el Ministerio de Sanidad del Gobierno de España cuentan con un importante papel para poder realizar la hoja de ruta en la que se llevará a cabo un desarrollo estratégico para lograr el éxito de su implementación. En concreto, la Secretaria de Estado de Digitalización e Inteligencia artificial deberá contemplar los mecanismos necesarios con el fin de aunar esfuerzos que permitan determinar la estructura que adoptará la implementación de estrategias de inteligencia artificial en el sector público sanitario desde una actuación más eficaz por parte del personal sanitario tanto en: la detección, el diagnóstico y el sistema de actuación, respecto a modelos clásicos. Esta nueva estrategia requerirá, de forma correlativa, la necesaria previsión legal que permita dotar de seguridad y confianza a las partes que forman parte del proceso en el manejo de dichos dispositivos.

Tercera.- La oportunidad que ofrece la transformación tecnológica del sector de la salud se observa desde una escala global. Desde un plano internacional la Declaración Universal de Derechos Humanos, el Pacto Internacional de Derechos Económicos, Sociales y Culturales, la Constitución de la Organización Mundial de la Salud y los Objetivos de Desarrollo sostenible –Agenda 2030-, constituyen un punto de inflexión desde el cual se ha establecido la necesidad de garantizar un sistema sanitario de calidad. Del mismo modo, desde la Unión Europea se han creado una serie de políticas públicas que descansan en dos pilares: la transformación digital y el Pacto Verde que afectará a los diferentes sectores económicos. La apuesta decidida por evolucionar hacia nuevos formatos tales como la inteligencia artificial, llevará consigo una dotación presupuestaria que facilitará su ejecución y que se materializará a través de los fondos europeos denominados: la Next Generation EU y el Marco Financiero Plurianual. En este sentido, Europa ha definido espacios comunes en torno a los datos. La importancia que le da a este aspecto, desde la perspectiva de la Administración pública, responde al objetivo de generar conocimiento y que el mismo se ponga en valor al servicio de los ciudadanos de forma más ágil y eficiente. Descendiendo al plano estatal, el Gobierno de España realiza una apuesta decidida por la transición digital y verde, como consecuencia de esta inversión que le proporciona Europa, y pretende dotar a los diferentes sectores, entre los que se encuentra el sanitario, de las infraestructuras necesarias para mejorar su prestación ante los resultados provocados por la pandemia. En concreto, existen hasta tres iniciativas fundamentales que apuestan por esta evolución a nivel estatal y que tendrán una justificación a escala europea: la Agenda España digital 2025; Plan de recuperación, transformación y resiliencia; y Plan para la digitalización de las Administraciones Públicas 2021-2027. Estos tres objetivos se conectan con la política europea que apuesta por la transición digital y que ha quedado reflejada a través de: el Libro Blanco de Inteligencia artificial, la Estrategia Europea de Datos, que guarda una especial conexión con el desarrollo e incorporación de la inteligencia artificial en el seno de un organismo público, y, desde un ámbito más genérico, la importancia de señalar el Futuro Digital para Europa.

Cuarta.- El reto de los servicios proactivos y personalizados. Resulta clave evidenciar que el hecho de que atender a los ciudadanos no significa que haga falta entender sus necesidades. Sin embargo, la inteligencia artificial nos posibilita no solo atender al interés general sino también observar cuáles son las necesidades particulares que presenta cada ciudadano. En estos términos será determinante los diferentes aspectos que envuelvan a cada individuo. Por ejemplo, en función del nivel socioeconómico de una persona y de los servicios que le corresponda a la misma se le concederá una ayuda a la dependencia de bienestar social. Sin embargo, en la realidad se observa, desde una escala internacional, europea y nacional, la existencia de un cierto proteccionismo en la comunicación con el ciudadano. Es decir, con carácter general, la comunicación con el sujeto está condicionada a que sea él mismo quien se ponga en contacto con la administración. También, corresponde al particular determinar el medio a través del cual desea recibir esta interacción de modo que se adapte a sus necesidades. Esta realidad no sucede en el sistema de salud privado. Existen compañías que se valen de los datos que vertimos a diario en internet y que se traducen en publicidad. Pongamos por caso, el empleo de redes sociales para dar a conocer una promoción de una oferta de cirugía estética de un centro privado. La Administración pública tiene que valorar la proactividad de sus servicios en función de los criterios que conocemos de los ciudadanos respetando el derecho a la protección de datos. En consecuencia, nos encontramos ante una barrera que cabe solventar.

Quinta.- Liderar la prestación de servicios efectivos. La inteligencia artificial tiene mucho que aportar desde la perspectiva que ofrece la automatización y la eficiencia en los procesos internos del servicio público de salud. Europa y España luchan por convertirse en líderes mundiales de la innovación en la economía de los datos y sus aplicaciones, tal como se establece en la Estrategia Europea de Datos. Sin embargo, nos encontramos con el reto que supone el desarrollo normativo. En concreto, sobre qué puede hacer y cómo vamos a medir el hecho de que unos algoritmos o procesos robotizados tengan un efecto en el ámbito público sanitario. La clave esta en determinar cuáles son los aspectos que nos llevarán, como administración, a entender que el esfuerzo humano y económico de los recursos de los cuáles disponen las administraciones, se deberá invertir en el uso de la tecnología. Este aspecto se deberá justificar desde el prisma que propone la inteligencia artificial en la eficiencia de la administración no como servicio que recibe el ciudadano sino como el que percibe el mismo. Resulta interesante advertir que el uso de la inteligencia artificial dispone de una aplicabilidad directa en el ámbito sanitario. Existen herramientas tecnológicas que permitirán un mejor control de la pandemia. El siguiente paso será el desarrollo de técnicas de inteligencia artificial para realizar modelos y escenarios de simulación que ayuden al personal sanitario a comprender mejor las causas que motivan la pandemia y cuáles pueden ser los potenciales riesgos que causan su propagación. En definitiva, emplear una tecnología clásica, como es la inteligencia artificial, adaptándola desde la innovación a las nuevas necesidades médicas que plantean los pacientes.

Sexta.- La importancia de la determinación del ámbito subjetivo. La cuestión que se plantea en estos términos versa sobre a quién se entregan los algoritmos que disponen de una relevante información sanitaria para poder combatir o reducir los efectos de una enfermedad. Cualquier fallo o simple error que se ejecute en alguno de los datos puede ser crucial para la salud del paciente. Si quien cae en equívoco es un algoritmo, en la detección de un cáncer de mama o en su no detección, ¿quién asume la responsabilidad, el algoritmo o quien lo entrega?, ¿cuál es la fiabilidad mínima que debe disponer un algoritmo en el sector sanitario para garantizar que es tan preciso como si el diagnostico lo hiciera un radiólogo? Estos términos hay que regularlos. Adicionalmente, la identificación del ciudadano se convierte en uno de los objetivos a alcanzar de forma unívoca. Intentar conocer, segmentar y darle conocimiento de sus datos para que, en el uso de las diferentes herramientas de inteligencia artificial, la respuesta sea más flexible, eficiente y resiliente. De este modo, alcanzará la prestación de unos servicios personalizados del paciente acorde con sus propias necesidades.

Séptima.- La modificación de estructuras laborales entendidas en el sentido clásico. Uno de los mayores retos que propone la inteligencia artificial pasa por entender qué sucede con los puestos de trabajo del personal sanitario. La incorporación de modelos disruptivos siempre plantea estos cuestionamientos dada la eficacia que les caracteriza. El desafío pasa por responder cómo se realiza una transición, desde la capacitación, ofertas públicas de empleo, cambios culturales, planes formativos y el nuevo rol del empleado público sanitario, en determinados momentos de la incorporación de la inteligencia artificial. Para poder llevar a cabo con éxito esta evaluación se requerirá de una necesaria alfabetización en el uso de herramientas de inteligencia artificial para la ciudadanía. La implementación de un sistema de inteligencia artificial adaptado a las necesidades que presente el sector público resultará ineficaz si los ciudadanos y el personal sanitario no conocen las técnicas necesarias para poder llevar a cabo su ejecución. Por ello, resulta necesario que los diferentes poderes públicos establezcan métodos basados en estrategias educativas que permitan, a sendos colectivos, el uso ágil y adecuado de estas tecnologías con el fin de poder disfrutar de las virtudes que su implementación presenta. Con este fin, los ciudadanos verán garantizada la tutela de sus derechos y se evitarán potenciales riesgos en su manejo.

Bibliografía

Agrawal, A., Gans, J., Goldfarb, A. (2018), Prediction machines. The Simple Economics of Artificial Intelligence, Hardvard Business Review Press, Boston.

Alfonseca, M. (2014), ¿Basta la prueba de Turing para definir la ‘inteligencia artifciial’?, ScientiaetFides, 2, (2), 129-134.

Andrés Segovia, B. (2020), “Inteligencia artificial en el sector público”, Tribuna del Instituto de Derecho Iberoamericano. Véase en la web: https://idibe.org/tribuna/inteligencia-artificial-sector-publico-ante-covid-19/. Fecha de última consulta: 02.05.2021.

Andrés Segovia, B. (2020), La convergencia de las telecomunicaciones, medios de comunicación y Tecnologías de la Información, Aranzadi, Navarra.

Barrio Andrés, M. (2020), Manual de Derecho Digital, pp. 58-64, Tirant Lo Blanch, Valencia.

Booth, Jeff (2020), The Price of tomorrow, pp. 128-136, Stanley Press, Canadian.

De La Cruz Ferrer, J. (2020), Regulación de la sanidad. Motivos, modelos y concesiones, Editorial Dykinson, Madrid, ya se anuncia y se esboza la realidad y principal problema del sector sanitario en España.

De La Sierra Morón, S. (2020), “Inteligencia artificial y justicia administrativa: una aproximación desde la teoría del control de la Administración pública”, Revista General de Derecho Administrativo, 53.

Garrido Falla, F. (1980), “Artículo 43”. En Garrido Falla, F., Comentario a la Constitución, pp. 500-503, Civitas, Madrid.

Hinton, G.E. (1992), “Redes neuronales que aprenden de la experiencia”, Investigación y ciencia, 194, 104-112.

Malaret I García, E. (2004), “Conclusiones”. En V Congreso Luso-Hispano de profesores de Derecho Administrativo titulado, La contratación pública en el horizonte de la integración europea, pp. 183-192, Instituto Nacional de Administración Pública, Madrid.

McCarthy, J. (2007), What is AI, Personal website (formal.stanford.edu/jmc/ index.html) last updated November 12.

McCarthy, J.; Minsky, M.; Rochester, N.; and Shannon, C. (1955), “A proposal for the Dartmouth Summer Research Project to Artificial Intelligence”, August 31. Disponible en https://ojs.aaai.org//index.php/aimagazine/article/view/1904. Fecha de última consulta: 30.04.2021.

Mena Roa, M. (2020), “La era de los gigantes tecnológicos”, Statista. Datos extraídos de la página web: https://es.statista.com/grafico/22728/empresas-con-mayor-capitalizacion-bursatil-del-mundo-en-2005-y-2020/. Fecha de última consulta: 02.05.2021.

Mena Roa, M. (2021), “Las empresas líderes en innovación a través del tiempo”, Statista. Véase en la página web: https://es.statista.com/grafico/24654/ranking-de-las-diez-empresas-mas-innovadoras-del-mundo-desde-2005/. Fecha de última consulta: 02.05.2021.

Rivas, P. (2020), Aprender a desaprender. Transformando la educación superior, p. 70, LID Editorial, Madrid.

Rodrigo Lara, M.B. (2021), “La libertad religiosa en España durante la Covid-19”. En Martínez-Torrón, J. y Rodrigo Lara, M.B., COVID-19 y libertad religiosa, pp. 119-144, Iustel, Madrid.

Russell, S. (2019), Human Compatible. Artificial Intelligence and the problem of control, Penguin Publishing Group, London.

Sarrión Esteve, J. (2021), “La protección de la salud, la vida y la integridad física en tiempos de pandemia en la doctrina constitucional. A propósito de la ATC 40/2020, de 20 de abril”, Actualidad Jurídica Iberoamericana, 14, 1026-1039.

Schwab, K. (2016), La cuarta revolución industrial, Penguin Random House Grupo Editorial, Barcelona.

Schwab, K. y Mallaret, T. (2020), Covid-19: El gran reinicio, pp. 169-170, Fórum Publishing, Ginebra.

Swade, D. (1993), “La computadora mecánica de Charles Babbage”, Investigación y ciencia, 199, 66-71.

Troncoso Reigada, A. (2010), La protección de datos personales. En busca del equilibrio, p. 1099, Tirant lo Blanch, Valencia.

Turing, A. M. (1959), “Computing Machinery and intelligence”, Mind a Quarterly Review of Psychology and Philosophy, Vol. LIX, 236, october, 433-460.