Entre la confianza ciudadana y el impulso tecnológico. Retos jurídicos de la Inteligencia Artificial a la luz de la propuesta de Reglamento de la UE

AMONG CITIZEN TRUST AND TECHNOLOGICAL IMPULSE. LEGAL CHALLENGES OF ARTIFICIAL INTELLIGENCE IN LIGHT OF THE EU REGULATION PROPOSAL

Mª Verónica Vargas Celix

Universidad de Navarra

mvargasceli@alumni.unav.es 0000-0002-5004-543X

1. Precedentes de Inteligencia Artificial y la Unión Europea

Las instituciones de la UE, en especial la Comisión, apuestan porque esta década hasta 2030 sea protagonizada por un avance sin precedentes en lo que respecta a la digitalización de la sociedad, la economía, los servicios y todos los ámbitos de interacción humana, haciendo hincapié además en el sector sanitario y medioambiental.

No es coincidencia que la inauguración de este período vaya acompañada de una creciente producción legislativa con vistas a regular la tecnología, los datos y todo lo que estos dos fenómenos juntos son capaces de crear.

La narrativa que ha ido manteniendo la Unión y que sostiene ahora, hace referencia a la importancia vital que tiene el desarrollo íntegro de Europa en la realidad digital, entendiéndola como parte inseparable de la realidad material. Resulta necesaria la transformación de diversos puntos que enseguida se expondrán, para asegurar que la UE no solo se mantiene a flote durante los cambios de la sociedad, sino que además tiene el suficiente potencial para liderar este ambicioso proyecto evolutivo.

Los cuatro puntos cardinales que la UE ha señalado para su proyecto engloban en primer lugar las capacidades de las personas, de las dedicadas a la tecnología de la información, mejor conocida por sus siglas TIC; así como las capacidades digitales básicas que se pretende que sean de un 80% de la población para 2030.

En segundo lugar, se encuentra el objetivo de que las infraestructuras digitales sean seguras y sostenibles. Apostando, de un lado, por una mayor conectividad a la vez que los puntos de concentración de las comunicaciones gocen de seguridad robusta y por otro lado, que la cantidad de datos de los que se compone esta comunicación puedan ser almacenadas en menores espacios físicos. Se pretende que estos avances se puedan hacer de la mano de ordenadores con aceleración cuántica, es decir, con mayor capacidad de procesamiento de datos.

El tercer punto lo protagoniza la digitalización de los servicios públicos y sanitarios, los cuales se quiere puedan ser cien por ciento digitales en cuanto su acceso y gestión, con la posesión, por un ochenta por ciento de la población, de una identidad digital con la cual operar.

Por último, el cuarto punto se refiere al devenir de las empresas y su transformación como principal motor de la Unión. Comprende la asimilación de las invenciones tecnológicas como la Inteligencia Artificial (en adelante IA) y los macrodatos o Big Data por el setenta y cinco por ciento de las empresas que operen en el territorio de la UE.

Asimismo, se luchará por el aumento de empresas emergentes en expansión, las llamadas Start Ups, con un especial énfasis en lograr duplicar el número de empresas “unicornios”, aquellas cuyo valor supera los mil millones de dólares.

Además, para las pequeñas y medianas empresas se plantea el alcance de un nivel básico de intensidad digital, con la esperanza de que se cumpla para un noventa por ciento de estas.

Como puede observarse, son varios y muy diversos los focos de esfuerzo a los que se ha comprometido la Unión Europea al inicio de la década digital. Por lo que respecta a este trabajo, nos centraremos especialmente en la transformación tecnológica de las empresas. Resulta sorprendente que, en lo concerniente a las experiencias que permite obtener la tecnología, sea la capacidad de expandir la economía uno de los aspectos que más importancia cobra en el marco de las políticas de la UE.

En este sentido se puede afirmar que todos los agentes involucrados se muestran interesados en un crecimiento cooperativo y, más aún, intrínsecamente necesario de la economía y la inteligencia artificial. Tanto los emprendedores y empresarios que desean una mayor proyección económica, como los ciudadanos que se benefician de esta y la potencian. De igual modo ocurre con las instituciones nacionales y europeas, que a la vez que permiten la entrada de la tecnología con sus posibles riesgos, desean apostar por la prosperidad.

Llegados a este punto es cuando pueden aparecer zonas de fricción entre el progreso científico y económico, y la prudencia normativa. La UE enfrenta el reto de ser lo suficientemente audaz para propiciar un clima de desenvolvimiento de las empresas alrededor de la inteligencia artificial, a la vez que lo suficientemente cauta para que los riesgos y posibles daños colaterales de esta tecnología no mermen los intereses de los ciudadanos.

En lo que se refiere a la Inteligencia Artificial en concreto, estos puntos de tensión, y más aún, su solución, suponen la adopción de una tendencia específica por parte de las instituciones europeas. Es por esta razón que procederemos a su análisis.

A. Regulación de La Inteligencia Artificial

El concepto de IA es difícil de precisar, pues son muchas y muy diversas las posturas respecto de él, lo mismo ocurre con las fuentes que la intentan regular.

Con el ánimo de sentar las bases del discurso de este trabajo, se quiere aclarar que cuando se habla de inteligencia artificial se entiende que es aquella capacidad de los sistemas computacionales de llevar a cabo procesos racionales como los humanos y llegar a resultados de manera automatizada (Russell & Norvig, 2004).

Cada vez son más frecuentes las situaciones en las cuales el empleo de programas automatizados tiene un papel determinante en el proceso de toma de decisiones y por tanto en el resultado de estas. En el ámbito laboral, bancario, empresarial, así como en la interacción con la Administración del Estado, se emplea con frecuencia un tipo de tratamiento de datos personales y no personales que elude la acción humana, o por lo menos la disminuye considerablemente gracias al desarrollo de la tecnología basada en Inteligencia Artificial.

Como toda herramienta, la IA admite buenos y malos usos. Por ejemplo, gracias a esta invención, es posible llevar a cado una personalización y adecuación de los servicios más exacta mediante el conocimiento de ingentes cantidades de datos procesados de manera rápida y eficaz. La inteligencia artificial puede facilitar la consecución de resultados positivos desde el punto de vista social y medioambiental, así como proporcionar ventajas competitivas esenciales a las empresas y la economía europea (Propuesta Reglamento Del Parlamento Europeo y del Consejo, de 21 de abril de 2021, sobre Inteligencia Artificial).

A su vez, la bienvenida desenfrenada de una herramienta tan poderosa, puede expandir los riesgos o consecuencias negativas para personas concretas o la sociedad en su conjunto, como se explica enseguida.

B. Posibles desviaciones de la IA

La IA, como toda herramienta, puede se utilizada para perseguir fines ilícitos. Los algoritmos y modelos computacionales con lo que opera la IA son medios puestos a disposición de quienes los ponen a trabajar y obtienen los resultados, por lo tanto, en muchas ocasiones son ellos quienes deciden a qué fines se ordenan. A continuación, se hará una breve mención de diversos usos conflictivos de la tecnología en los cuales la ética y los avances de la inteligencia artificial colisionan.

En primer lugar, nos encontramos con usos maliciosos de la tecnología, que afecta a la ciberseguridad y sirve para llevar a cabo ataques. Ocurre con productos de doble uso, aquellos que puedan destinarse a usos tanto civiles como militares, o usos nucleares. Es conocido que las aplicaciones de la IA pueden servir para fines militares como por ejemplo el uso de robots o drones para realizar investigaciones en terreno, sin embargo, lo peligroso de esta cuestión es el apoderamiento por parte de una persona no autorizada del control de esta tecnología o, que el sistema de IA funcione autónomamente en contra de las directrices que se le han proporcionado, perpetrando ataques cuyos efectos llegan a ser devastadores.

A este respecto, el Parlamento Europeo propuso directrices sobre el uso de la IA en los sectores militar y civil. En el campo militar, “la inteligencia artificial nunca debe reemplazar o exonerar a los seres humanos de su responsabilidad” (Noticias Parlamento Europeo, 2021), afirmó el eurodiputado francés encargado de la propuesta, Gilles Lebreton. Además, se subrayó la necesidad de prohibir las armas letales autónomas habilitadas por inteligencia artificial para evitar catástrofes por error y sin control humano.

Siguiendo esta línea argumental, pueden existir otros usos maliciosos de la IA como por ejemplo accidentes de coches autónomos, hackeos, errores importantes de medición, filtraciones de información, entre otros.

Otro de los temas que merece alusión es el perfilado. Es uno de los principales riesgos de la IA por el manejo o, mejor dicho, explotación que en ocasiones se da de los datos (Hernández Peña, 2020). Se enmarca en la protección de los datos personales, en las situaciones de tratamiento automatizado y consiste en utilizar datos para evaluar determinados aspectos personales de un individuo. En particular, para analizar o predecir aspectos relativos a cualquier característica de su vida, desde el rendimiento laboral hasta cuestiones de salud. Es decir, se crea un perfil digital de una persona para que, con el conocimiento global que se tiene de esta, ofrecerle soluciones, productos, información que se prevé tomará.

Está claro que esto supone una inmersión en la vida privada de las personas y que, aún habiendo prestado consentimiento, significa un uso delicado de los datos que merece un control y cuidados exhaustivo.

La creación de perfiles que realizan las empresas privadas y el Estado, cada vez más exactos y completos por la avalancha de datos que poseen, tiene una gran repercusión en la vida política y en la democracia. Aunque puedan parecer realidades paralelas, cada vez existe más y mayor influencia entre la IA y la opinión pública. Esto se debe a que los nuevos espacios de debate público no son las plazas o los bares únicamente, sino los blogs, foros y en especial las redes sociales. Lo que aparentemente se percibe como un espacio descentralizado o apolítico acaba siendo el centro neurálgico de la determinación ideológica para la mayoría de las personas.

La comunicación interpersonal y las noticias convergen en los mismos espacios y lejos de favorecer a la formación de los consumidores, facilita su desinformación por un exceso de inputs de difícil gestión. “Esta transformación no se explica solo por la crisis de los sistemas mediáticos tradicionales, sino también por el nuevo orden algorítmico que controla en gran medida la predeterminación selectiva de la información”. En otras palabras, el perfilado colabora a que la información sea preseleccionada para cada persona y de esta manera los individuos solo reciben aquello que las plataformas quieren mostrarles, ya sean inputs que van en su misma línea de pensamiento, para afianzarla, o totalmente lo contrario para propiciar su cambio de mentalidad. Resulta inevitable dudar sobre el sostenimiento de la democracia cuando todo este fenómeno ocurre en el seno de espacios tecnológicos cuyos propietarios son empresas privadas con fines propios (Innerarity & Colomina, 2020).

Las redes sociales se han convertido en un mundo paralelo en el que las personas interactúan casi más que en el mundo real. Esta vida digital se caracteriza por demandar del usuario una dedicación cada vez mayor. Algunos exejecutivos de las empresas de Sillicon Valley, como pueden ser Instagram, Facebook o Pinterest, han admitido que sus aplicaciones fueron creadas para ser adictivas y atrapar la atención de las personas el mayor tiempo posible. Como aseguró Tim Kendall, el exdirector de monetización de Facebook ante la subcomisión de Protección del Consumidor y Comercio del Congreso, que estudia el incremento de grupos extremistas en las redes sociales, “no creamos simplemente algo útil y divertido. Tomamos nota de las prácticas de la industria del tabaco y trabajamos para ofrecer un producto adictivo desde el principio” (Business Insider, 2021).

Esta tendencia generalizada ha convertido la atención humana en un bien codiciado por las empresas las cuales luchan por ser ellas quienes la ganan y la ocupan. La razón última de este deseo es el de monetizar los datos que uno ofrece a través de su interacción en las redes sociales. A mayor tiempo, más conocimiento del usuario, mejor perfilado y como resultado se obtienen predicciones más acertadas que se convertirán en decisiones, acciones, o consumo.

Más aún, casos como el escándalo de Cambridge Analytica en 2018 y las elucubraciones acerca de la influencia de las redes sociales en los resultados de las elecciones de Donald Trump y del referéndum sobre el Brexit en 2016, hasta el ascenso al poder de Bolsonaro en Brasil en 2018 han alimentado la idea de que estas herramientas pueden tener una gran incidencia en la opinión pública modulándola gracias a las personalización algorítmica que es capaz de -en cierto sentido– controlar a un usuario. En otras palabras, para matizar esta última idea y no caer en la exageración. Si los espacios digitales son los únicos en los cuales los individuos forman su criterio político, parece sencillo que exista la manipulación por parte de aquellos que tienen su poder. Esta estrategia consistiría en mostrar, gracias a los algoritmos, aquella información que sea pertinente, en la cantidad y frecuencia necesaria para convencer y evitar todo aquello que pudiera poner en entredicho las ideas que se quieren fomentar. Los algoritmos en este caso funcionarían según el etiquetado y entrenamiento que los dirigentes elijan.

En definitiva, son muchos los espacios en los que convergen los intereses particulares y los de los agentes económicos a través y gracias a la IA. De aquí surge la duda acerca de qué debería decidir la UE, si apostar por la seguridad ciudadana o propiciar un progreso desenfrenado de la economía gracias a la tecnología.

C. Regulación específica de la UE

La UE está decidida a buscar un enfoque equilibrado. Como expresó La vicepresidenta ejecutiva para una Europa Adaptada a la Era Digital, Margrethe Vestager, redunda en interés de la Unión preservar su liderazgo tecnológico y garantizar que los europeos puedan aprovechar las tecnologías que se desarrollen y funcionen de acuerdo con los valores, los derechos fundamentales y los principios de la UE. (Comisión Europea, 2021)

Esta institución se ha caracterizado en los últimos años por llevar a cabo un impulso de modulación legislativa de la Inteligencia Artificial en el que ha invertido numerosos esfuerzos. De esta manera se encuentran fuentes de estandarización y propuestas de fuentes derivadas, como, por ejemplo, una propuesta de Reglamento.

Sin embargo, dado que no existe hoy en día ni a nivel nacional ni internacional una ley o reglamento vigente que específicamente recoja y desarrolle esta materia, las respuestas a las pugnas legales que se presentan deben buscarse en leyes especializadas de materias que guardan cierta semejanza, como por ejemplo la ley de protección de datos personales (Reglamento (UE) 2016/679 Del Parlamento Europeo y Del Consejo. De 27 De abril De 2016 sobre protección de datos personales).

A modo de recapitulación, hasta el momento se ha visto, en primer lugar, una materia -como es la IA– difícil de precisar y cuya aparición en la realidad humana y digital es cada vez mayor y de mayor calado; por otro lado, una legislación abundante pero no vinculante y por último unas expectativas sociales y económicas unidas a su correcto desarrollo.

La regulación de la IA no resulta tarea sencilla. Al tratarse de una herramienta cuyo poder puede llegar a exceder las capacidades de control de esta, se corre siempre el riesgo de que sus potenciales beneficios para la sociedad vengan acompañados de potenciales vulneraciones a los derechos fundamentales.

Esta tensión existente no debe, sin embargo, conducir a un abandono total de los esfuerzos por encontrar un modo de regulación que permita conciliar el desarrollo de la IA y de la tecnología con el respeto de los derechos individuales y de los valores constitucionales y supraestatales.

Por lo contrario, todas las fuentes que se han ido creando aportan innumerables experiencias y conocimientos necesarios para la conformación del que tal vez, en un futuro próximo, pueda ser el Reglamento sobre IA en la Unión Europea.

A modo de síntesis se nombrarán las normas que existen actualmente:

1. Directiva 95/46/CE del Parlamento Europeo y del Consejo de 24 de octubre de 1995, relativa a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos.
2. Directiva 2002/58 del Consejo y el Parlamento Europeos, relativa al tratamiento de los datos personales y a la protección de la intimidad en el sector de las comunicaciones electrónicas.
3. Reglamento 2016/679 relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos, que recibe el nombre generalizado de Reglamento General de Protección de Datos.
4. La Comunicación de la Comisión “Inteligencia Artificial para Europa”, COM (2018) 237 final, de 25 de abril de 2018, como reflejo de la inquietud de la Comisión por incluir la IA en el progreso comunitario.
5. Directrices sobre decisiones individuales automatizadas y elaboración de perfiles a los efectos del Reglamento 2016/679 (RGPD), que hace énfasis en la protección de los datos personales en las situaciones de tratamiento automatizado.
6. Libro Blanco sobre la inteligencia artificial. Un enfoque europeo orientado a la excelencia y la confianza, de 19 de febrero de 2020 de la Comisión Europea.
7. Informe sobre la inteligencia artificial en los sectores educativo, cultural y audiovisual de la Comisión de Cultura y Educación de 2021.
8. Propuesta Reglamento Del Parlamento Europeo y del Consejo por el que se establecen Normas Armonizadas en materia de Inteligencia Artificial (Ley De Inteligencia Artificial) y se modifican determinados Actos Legislativos de la Unión.

En todas y cada una de estas producciones normativas, a pesar de carecer algunas de poder vinculante, se percibe el convencimiento por parte de la UE de que la IA requiere grandes esfuerzos para su correcta definición y gestión. Las situaciones discriminatorias o de indefensión de derechos humanos como los que se han plasmado anteriormente surgen por el uso, o abuso, de la IA. Estas prácticas contrarias a derecho generan rechazo, miedo e incertidumbre en la población y requieren de acciones concretas por parte de las instituciones supranacionales para que hagan las veces de árbitros en esta disputa.

A este respecto, la posición de la UE se mantiene alerta ya que la dimensión ética de la inteligencia artificial, en palabras de Andrus Ansi, vicepresidente responsable del Mercado Único Digital, “no es un lujo ni un añadido” queriendo decir que son necesarias y presupuesto de una sociedad que se beneficie de la tecnología gracias a la existencia de confianza a todos los niveles. Por tanto, el binomio del impulso tecnológico y la confianza ciudadana, a pesar de estar compuesto por elementos aparentemente antitéticos, exige un crecimiento cooperativo e integral.

En esta misma línea, el objetivo de las Directrices éticas para una IA fiable (Comisión Europea, 11 de agosto de 2019), una de las fuentes del nuevo marco ético-jurídico europeo, es por lo tanto “liderar una inteligencia artificial centrada en el ser humano en la que la gente pueda confiar (Comisión Europea, 8 de abril de 2019).

Precisamente en estas directrices, se destacan siete requisitos esenciales para considerar que el desarrollo de la IA es fiable y centrada en el ser humano, los cuales expondremos para luego compararlos con la propuesta de Reglamento de IA que está pendiente de aprobarse y que conjugará las pugnas del binomio que se acaba de mencionar.

En primer lugar, la intervención y supervisión humanas (1), para favorecer las sociedades equitativas y no disminuir la autonomía humana aumentando la artificial. Luego la (2) robustez y seguridad; la fiabilidad de la IA exige que los algoritmos ostenten estas características para ser suficientemente fiables. De esta manera no solo se asegura un funcionamiento adecuado de la tecnología sino también la resolución de errores a lo largo de todas las fases de tratamiento del sistema.

La privacidad y buena gestión de los datos (3) es presupuesto de un funcionamiento acorde de la IA. En estas directrices lo que se recuerda es que los usuarios deben poseer el control sobre su propia información y que la obtención consentida de estos nunca puede llevar a ocasionar un perjuicio personal o de sus derechos.

Por otra parte, se debe garantizar la (4) transparencia y trazabilidad de los sistemas de IA. De esta manera el control de los demás puntos será más sencillo y la protección aún mayor.

Más adelante se encuentra el compromiso con la (5) diversidad, no discriminación y la equidad, valores que deben tener en cuenta todos los sistemas para que, en lugar de construirse barreras digitales, la IA garantice la accesibilidad.

De manera similar se plantea el (6) bienestar social y medioambiental para que la tecnología se ponga al servicio del cambio social positivo.

Y finalmente, la (7) rendición de cuentas, exhorta la implantación de mecanismos de garantías de responsabilidad para los resultados de los sistemas de IA que no vayan de acuerdo con estos principios.

Habiendo visto el panorama legal que se vislumbra en cuanto a la IA en el marco de la Unión Europea, a continuación, se expondrá qué es la propuesta de regulación de la UE en materia de IA, qué la caracteriza y en última instancia, valoraremos si es una herramienta lo suficientemente completa y correcta para hacer frente al reto de propiciar la confianza de los ciudadanos europeos a la vez que el impulso tecnológico y económico en la esfera global.

2. La Propuesta Reglamento relativo a Normas Armonizadas en materia de Inteligencia Artificial

Mientras la Comisión realizaba una Comunicación sobre el fomento de un enfoque europeo de la inteligencia artificial (Comisión Europea, 21 de abril de 2021) y se impulsaba un plan coordinado para los años venideros de la década digital de la Unión, se aprobó la que algún día será la ley específica de la Inteligencia Artificial a nivel comunitario.

Con fecha de 21 de abril de 2021 se aprobó la “Propuesta Reglamento Del Parlamento Europeo y del Consejo por el que se establecen Normas Armonizadas en materia de Inteligencia Artificial (Ley De Inteligencia Artificial) y se modifican determinados Actos Legislativos de la Unión” (Propuesta Reglamento Del Parlamento Europeo y del Consejo, de 21 de abril de 2021, sobre Inteligencia Artificial).) (En adelante “la propuesta”).

Este esperado documento es producto de todas las fuentes que se han mencionado anteriormente. Es resultado de una gran cantidad de discusiones, estudios y planificación por parte de la Comisión, del Parlamento y del Consejo Europeos. Por esta razón se observan las diversas iniciativas legislativas complementadas y condensadas en un único texto con miras a aportar claridad jurídica y a impulsar el desarrollo de un ecosistema de confianza en la IA en Europa.

El Reglamento tiene por objeto, y así lo establece en su art. 1, la codificación de normas armonizadas para la introducción en el mercado, la puesta en servicio y la utilización de sistemas de inteligencia artificial (“sistemas de IA”) en la Unión;

La base jurídica de la propuesta es el art. 114 TFUE, el cual recoge la adopción de medidas para garantizar el establecimiento y el funcionamiento del mercado interior[1]. Esto se extrapola al mercado único digital.

En concordancia con esto y por lo tanto con el principio de innovación de la UE, la promoción de la IA está estrechamente vinculada a la Ley de Gobernanza de Datos (Propuesta de Reglamento Del Parlamento Europeo y Del Consejo, de 25 de noviembre de 2020, relativo a la gobernanza europea de datos), la Directiva relativa a los datos abiertos (Directiva 2019/1024 del Parlamento Europeo y del Consejo, de 20 de junio de 2019, relativa a los datos abiertos y la reutilización de la información del sector público) y otras iniciativas emprendidas en el marco de la Estrategia de Datos de la UE.

En cuanto a la base dogmática que anima toda la propuesta, es la idea de que la IA debe ser un instrumento para las personas y una “fuerza positiva en la sociedad cuyo fin último debe ser incrementar el bienestar humano”. Por eso presenta un enfoque normativo “horizontal, equilibrado y proporcionado” para advertir los riesgos y subsanar los problemas derivados de la IA a la vez que permita el desarrollo tecnológico.

Siguiendo con los riesgos, se realiza una clasificación clara, detalladamente definida y de mínimos para intentar no obstaculizar el comercio imponiendo restricciones innecesarias. Por tanto, este documento distingue entre los usos de la tecnología según puedan acarrear un tipo de riesgo inaceptables, alto y bajo o mínimo. Esta clasificación versa además sobre la finalidad prevista conforme a la legislación vigente sobre seguridad de los productos (Directiva 2001/95/CE del Parlamento Europeo y del Consejo, de 3 de diciembre de 2001, relativa a la seguridad general de los productos).

Por su parte, la propuesta prohíbe algunas prácticas particularmente perjudiciales de la Inteligencia Artificial porque van en contra de los valores de la Unión y establece algunas restricciones y salvaguardias específicas[2]. Son las de riesgo inaceptable, en cualquier caso.

En cambio, para aquellos sistemas en los cuales el riesgo es alto, lo que se prevé es que estén permitidos siempre y cuando cumplan con determinados requisitos obligatorios y sean sometidos a control ex ante. Surgió de esta manera tras una rigurosa evaluación de impacto por la que se decidió que la propuesta debía seguir un modelo de regulación proporcionada del riesgo a parte de incluir un código de conducta para aquellos casos que no fueran de alto riego.

De esta decisión, como ya se ha dicho antes, surgen las exigencias de un marco regulatorio únicamente aplicable para los riesgos clasificados como altos. “Los requisitos se referirán a los datos, la documentación y la trazabilidad; la comunicación de información y la transparencia; la vigilancia humana, y la solidez y la precisión, y serían de obligado cumplimiento” (Propuesta Reglamento Del Parlamento Europeo y del Consejo, de 21 de abril de 2021, sobre Inteligencia Artificial).

La propuesta de Reglamento anuncia que las normas serían aplicables, en caso de aprobación final, mediante un sistema de gobernanza organizado a nivel nacional aprovechando las estructuras ya existentes, a la vez que a través de un mecanismo de cooperación a nivel de la UE que establecerá un Comité Europeo de Inteligencia Artificial.

Concretamente, en el plano nacional, los Estados miembros tendrán que designar a una o más autoridades nacionales competentes y, entre ellas, seleccionar a una autoridad nacional de supervisión que se encargará de monitorear la aplicación y ejecución del Reglamento.

Por su parte, para el cumplimiento de sus obligaciones, los proveedores de IA deben realizar un seguimiento y presentación de información en relación con la fiscalización posterior a la comercialización y la comunicación e investigación de incidentes y defectos de funcionamiento relacionados con la IA.

En cuanto a los datos, en el considerando 44 se despliega una explicación acerca de la necesidad de la calidad de estos para que los sistemas de IA funcionen adecuadamente, especialmente en técnicas que implican el tratamiento de modelos algorítmicos. El fin de esta exigencia es la garantía del buen funcionamiento del sistema de alto riesgo y su seguridad.

Lo contrario acarrearía situaciones discriminatorias prohibidas claramente por el Derecho de la UE. Como plasma textualmente la propuesta, “es preciso instaurar prácticas adecuadas de gestión y gobernanza de datos para lograr que los conjuntos de datos de entrenamiento, validación y prueba sean de buena calidad”. Siempre y cuando sean lo suficientemente representativos en cuanto a la muestra de la población con la que trabajan, tengan en cuenta todas las colectividades, eliminen los posibles sesgos incrustados en su formulación y sean completos según la finalidad del sistema, el funcionamiento de la IA será adecuado. Citando textualmente de la propuesta, “Los proveedores deben ser capaces de tratar también categorías especiales de datos personales, como cuestión de interés público esencial, para garantizar que el sesgo de los sistemas de IA de alto riesgo se vigile, detecte y corrija” para proteger los derechos de las personas involucradas.

Otras exigencias que se encuentran son el deber de información y de transparencia. El primero demandará como requisito esencial, disponer de la información sobre el modo en que se han desarrollado los sistemas de IA y sobre su funcionamiento durante todo su ciclo de vida.[3] Es decir, que no haya fases de funcionamiento de la IA que no se puedan desconocer.

En segundo lugar, el deber de transparencia exige cierto grado de exposición respecto de la tecnología, en concreto la de alto riesgo, con la finalidad de subsanar la opacidad que muchas veces crea una barrera irremediable entre proveedores y usuarios en esta materia. Los usuarios deben ser capaces de comprender e interpretar la información proveniente del sistema y actuar según este conocimiento. Se hace especial énfasis en cuanto a la exigencia de este principio en los casos en los cuales existan posibles riesgos para los derechos fundamentales o de discriminación.

Finalmente, por lo que respecta al control posterior a la aplicación del Reglamento, los Estados miembros deben tomar todas las medidas necesarias para asegurarse de que se apliquen las disposiciones, incluso estableciendo sanciones efectivas, proporcionadas y disuasorias para las infracciones que se cometan[4].

Asimismo, el Supervisor Europeo de Protección de Datos debe estar facultado para imponer multas administrativas a las instituciones, las agencias y los organismos de la Unión comprendidos en el ámbito de aplicación del presente Reglamento.

Por último, si valoramos los siete puntos éticos que se explicaron anteriormente, lo que apreciaremos será un cumplimiento por completo de todos y cada uno de estos en la propuesta. Empezando por la intervención y supervisión humanas para los usos tecnológicos de alto riesgo. Siguiendo con la robustez y seguridad en la codificación de los algoritmos, la importancia que tiene la transparencia y la privacidad en el articulado, así como su cuidado por la eliminación de sesgos que induzcan a tomar decisiones discriminatorias. Finalmente, el compromiso con el medio ambiente y la rendición de cuentas son dos puntos fundamentales en para la sostenibilidad de la propuesta.

III. Conclusión

Si bien la UE ha llevado a cabo numerosas iniciativas en aras a procurar el desarrollo de los países que la integran, en ciertas ocasiones su impulso normativo se puede poner en tela de juicio, más si se compara con la necesidad imperiosa de tomar partido en materias que requieren una innovación continua y no trabas a las ideas y progreso científicos.

Con este trabajo lo que se pretendía valorar es si la propuesta de reglamento concerniente a la IA es una herramienta idónea en las manos de las instituciones europeas. En especial, si encarna el objetivo de que la IA sea un instrumento para las personas y una fuerza positiva en la sociedad cuyo fin último debe ser incrementar el bienestar humano, en palabras de la propuesta.

Se puede concluir que esta propuesta es favorecedora tanto para el avance de la IA, como ordenado a su fin de servicio a la sociedad. Aporta una estructura legal y teórica ante un panorama regulatorio difuso e inexacto, por tanto, sí incrementa el bienestar ciudadano en este sentido.

Sin embargo, también es pertinente resaltar que las medidas de rendición de cuentas pueden considerarse permisivas, hecho que no favorece el clima de confianza en la IA.

Al mismo tiempo, el hecho de no contar aún con la aprobación de dicha propuesta, resta credibilidad a sus ideas y contenido. Puede parecer que su tardanza no tiene mayor incidencia cuando es evidente que las zonas de fricción entre los intereses económicos, la tecnología y la preservación de los derechos es una cuestión que requiere atención inmediata.

A pesar de estas desventajas, el balance final sobre la propuesta de Reglamento sobre una Ley de Inteligencia Artificial es positiva y, sin duda, en cuanto sea aprobada, propiciará cambios positivos en la sociedad. Incrementará el bienestar personal al respetarse los derechos fundamentales de los individuos, la prosperidad económica debido a la competitividad de la UE en la esfera global y por lo tanto, derivado de ambas consecuencias, aumentará la confianza de la ciudadanía que delega en las instituciones comunitarias la toma de decisiones tan elementales para su devenir.

Bibliografía

Comisión Europea, Dirección General de Redes de Comunicación, Contenido y Tecnologías, (2019). Directrices éticas para una IA fiable, Oficina de Publicaciones. https://data.europa.eu/doi/10.2759/14078

Comisión Europea, Prensa. Comunicado oficial. Inteligencia artificial: La Comisión continúa su trabajo sobre directrices éticas. 8 de abril de 2019. Bruselas. Recuperado el 5 de diciembre de 2021 de: https://ec.europa.eu/commission/presscorner/detail/es/IP_19_1893.

Comisión Europea, Prensa. Comunicado oficial. Un nuevo enfoque para permitir que las normas de la UE desempeñen un papel de liderazgo en la promoción de valores y de un mercado único resiliente, ecológico y digital. 2 de febrero de 2022. Recuperado el 8 de junio de 2022 de: https://ec.europa.eu/commission/presscorner/detail/es/ip_22_661.

Comisión Europea, Comunicación De La Comisión Al Parlamento Europeo, Al Consejo, Al Comité Económico Y Social Europeo Y Al Comité De Las Regiones, (21 de abril de 2021) Fomentar un enfoque europeo de la inteligencia artificial. Recuperado de: https://s3platform.jrc.ec.europa.eu/documents/portlet_file_entry/20125/Communication+on+Fostering+a+European+approach+to+Artificial+Intelligence+21.04.2021.pdf/d50e763c-9976-c21e-834d-70dcbef6bbc8

Comisión Europea, Comunicación De La Comisión Al Parlamento Europeo, Al Consejo, Al Comité Económico y Social Europeo y Al Comité De Las Regiones. 19 De Febrero De 2020. Una Estrategia Europea de Datos. COM/2020/66 final. Recuperada de: https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=CELEX%3A52020DC0066

Directiva 2019/1024 del Parlamento Europeo y del Consejo, de 20 de junio de 2019, relativa a los datos abiertos y la reutilización de la información del sector público. Diario Oficial de la Unión Europea L 172/56. 26 de junio de 2019. Págs 1-28.

Propuesta de Reglamento Del Parlamento Europeo y Del Consejo relativo a la gobernanza europea de datos (Ley de Gobernanza de Datos). 25 de noviembre de 2020. COM/2020/767 final, 2020/0340 (COD). Recuperado de: https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:52020PC0767&from=ES

ENGUIX OLIVER, S., (2017), “Impacto político e informativo de las redes sociales: esferas de actuación y comparación con los medios”. Anàlisi. Quaderns de Comunicació i Cultura, 56, 71-85.

GELPI TEXEIRA, R., (2018), “Política 2.0: las redes sociales (Facebook y Twitter) como instrumento de comunicación política”. Tesis Doctoral. Universidad Complutense De Madrid.

HERNÁNDEZ PEÑA, J.C., (2020) “Decisiones Algoritmicas De Perfilado: Regimen y Garantias Juridicas”., Revista española de Derecho Administrativo. 203 Enero - Marzo 2020 Págs. 281 – 322.

Business Insider, (25 sep. 2020) “Un exejecutivo de Facebook asegura que lo crearon para ser “tan adictivo como el tabaco” y ahora teme que por ello EEUU pueda estar “al borde de una guerra civil””. Recuperado el 8 de diciembre de 2021 en: https://www.businessinsider.es/facebook-diseno-ser-adictivo-como-tabaco-exejecutivo-724243.

Innerarity, D. y Colomina, (2020) C. “La verdad en las democracias algorítmicas”. Revista CIDOB d’Afers Internacionals, n.o 124, págs. 11-23.

Parlamento Europeo, Noticias Parlamento Europeo, sección Sociedad. (04-05-2022 ) “Regulación de la inteligencia artificial en la UE” Recuperado el 23 de noviembre de 2021 de: https://www.europarl.europa.eu/news/es/headlines/society/20201015STO89417/regulacion-de-lainteligencia-artificial-en-la-ue-la-propuesta-del-parlamento.

Propuesta Reglamento Del Parlamento Europeo y del Consejo por el que se establecen Normas Armonizadas en materia de Inteligencia Artificial (Ley De Inteligencia Artificial) y se modifican determinados Actos Legislativos de la Unión. Bruselas, de 21 de abril de 2021, COM(2021) 206 final. Recuperada de: https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0008.02/DOC_1&format=PDF

Reglamento (UE) 2016/679 Del Parlamento Europeo y Del Consejo. De 27 De Abril De 2016. relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE (Reglamento general de protección de datos). Diario Oficial de la Unión Europea L 119/. Recuperada de: https://www.boe.es/doue/2016/119/L00001-00088.pdf

RUSSELL, S. J.; NORVIG, P., (2004), Inteligencia Artificial. Un enfoque moderno., 2a edición., Pearson Educación S.A., Madrid.

---