Entre algoritmos: género humano y género artificial

Between algorithms: human gender and artificial one

Antonio Márquez Prieto

Catedrático de Derecho del Trabajo y de la Seguridad Social

Universidad de Málaga

amp@uma.es 0000-0002-2654-1433

SUMARIO

I. INTRODUCCIÓN

II. MEDIDAS NORMATIVAS DE PROTECCIÓN CONTRA ACTUACIONES ALGORÍTMICAS

A. El artificio de la interacción

B. Medidas institucionales limitadas

1. Prácticas prohibidas

2. Inteligencia artificial considerada de alto riesgo

3. Medidas normativas insuficientes

III. LO HUMANO Y LO ARTIFICIAL

A. Hacia una “superinteligencia”

B. El desafío de “ser humano” y seguir “siendo”

IV. CONCLUSIÓN

Bibliografía

I. INTRODUCCIÓN  ^ 

“Género humano” es el título de un volumen de Isla Correyero[1] que incluye a su vez dos poemarios de la autora. Del primero de ellos, “Diario de una enfermera” podríamos destacar el abordaje de la crisis, la enfermedad, la ancianidad, la fragilidad del ser humano cuando se va acercando al final de su vida, en tanto que “Occidente” retrata a un mundo enfermo que adolece de falsedad, una barca que zozobra en la que aún sigue a flote una sociedad despreocupada. Es a este género humano al que en estas líneas se alude, en un tiempo en que no queremos acusar prematuramente de amenazante el desarrollo industrial de la inteligencia artificial. Pero, en la medida en que esa artificialidad no es como las anteriores, sino que es tejida con hebras de la razón, exige necesariamente un cuestionamiento humano, que en gran parte ya se viene planteando, y que nos interpela a todos y a cada uno. Intentando por ello aportar también mi visión personal, creo que es obligado considerar los escenarios posibles, las relaciones posibles, entre la racionalidad artificial –a la cual no podemos considerar sólo un autómata o artificio mecánico, sino algo propiamente pensado para “pensar”– y la racionalidad humana. ¿Asistimos al surgimiento de otro género o especie? Y, en caso afirmativo, ¿qué tipo de repercusiones –positivas o negativas– puede ello tener para el género humano? En el marco de las relaciones laborales el asunto viene ya teniendo un importante tratamiento doctrinal, como respuesta al uso de algoritmos en la adopción de decisiones empresariales, en la organización de la propia empresa o en la configuración de plataformas cibernéticas para la prestación de servicios[2]. Pero salta a la vista que esas posibles implicaciones en las relaciones laborales conducen directamente a las relaciones interpersonales de todo tipo, al tratarse éste de un fenómeno universal –en el que ciertamente el trabajo ha empezado a experimentar cambios singulares–.

Por eso, de la misma forma que en los dos poemarios del libro de Isla Correyero, se abordan a continuación, en primer lugar, las medidas legales que atienden al ser humano (lo que responde a la manera jurídica normal de actuar) y, en segundo lugar, la necesidad de abrir un debate serio sobre las repercusiones de este fenómeno para el género humano como tal (según un abordaje que va más allá de lo normativo).

II. MEDIDAS NORMATIVAS DE PROTECCIÓN CONTRA ACTUACIONES ALGORÍTMICAS  ^ 

En este apartado se aborda el primer paso de los mencionados, correspondiente a la relación entre las posibles conductas de los sujetos y las consecuencias jurídicas previstas en las normas, según es habitual en un esquema jurídico de dos dimensiones (el aludido binomio conducta-norma), comenzando con la dimensión relativa a las conductas interactivas o recíprocas (en el marco de la digitalización) para a continuación abordar las correspondientes medidas legales. En un siguiente paso, como se ha dicho, se tratará de exponer cómo este enfoque bidimensional –claramente insuficiente, especialmente en el caso de la inteligencia artificial– puede ser complementado por una tercera dimensión.

A. El artificio de la interacción  ^ 

Resulta interesante recurrir a modelos de comportamiento interactivo propios de la teoría de juegos, si, en vez de comentar casos reales concretos, se pretende, como en este caso, presentar de forma abstracta algunos patrones de acción recíproca entre diversos agentes –jugadores– sin que en la opción de cada uno exista influencia por parte de norma alguna, sino que la actuación o decisión de cada uno de los agentes dependa del abanico de opciones posibles de los otros sujetos intervinientes en la dinámica interactiva[3]. De entre múltiples modelos pueden ser mencionados dos concretos juegos: el dilema del prisionero y la caza del ciervo.

En cuanto al primero, el más famoso de los juegos de “suma no cero”[4] su matriz de pagos, o de recompensas asignadas a los jugadores, puede cambiar según el autor que se consulte. Y, de hecho, la puntuación que marca las recompensas se corresponde con el número de años de cárcel a que pueden ser condenados dos sospechosos (prisioneros) de haber perpetrado juntos un delito. La posible condena variará dependiendo de que decidan cooperar entre sí (silenciando los dos la comisión del delito), con lo que conseguirían una pena bastante inferior, o no cooperar (confesando) viendo aumentada su condena dependiendo de que confiesen ambos o sólo uno.

Así pues, la matriz de pagos quedaría así:

O bien, con puntuaciones alfabéticas, que permiten indicar la premisa del dilema del prisionero:

Donde b>a>d>c, premisa que debe cumplirse para que efectivamente se trate de un dilema del prisionero.

En este juego existe sólo una situación de equilibrio (equilibrio de Nash), en el lugar donde ambos jugadores manifiestan una actitud de no cooperar con el otro, a pesar de que, según puede verse, la recompensa conjunta sería superior si decidieran cooperar entre sí. Lo que sucede es que cada uno de los prisioneros trata de maximizar su beneficio, sin preocuparse por el resultado que el otro prisionero obtenga. Cada jugador, de hecho, ante la desconfianza de lo que el otro pueda hacer, está más incentivado a defraudar al otro, incluso tras haberse prometido entre sí la cooperación (éste es el dilema).

El segundo de los juegos aludidos, la caza del ciervo, debe su nombre a un relato de Rousseau[5], que describe la situación en la que se encuentran dos cazadores, que deben elegir entre cazar juntos un ciervo o atrapar, por separado, cada uno una liebre. El ciervo constituye una pieza de mucho mayor interés que la liebre, pero exige coordinación entre ambos cazadores. En comparación con el dilema del prisionero, la premisa necesaria para que se trate de un juego de caza del ciervo es: a>b≥d>c, pudiendo representarse así su matriz de pagos:

Para algunos autores[6] el juego de la caza del ciervo explica el fenómeno relacionado con la cooperación social –o la ausencia de ella– de forma más completa que el dilema del prisionero[7] (aunque la prolongación en el tiempo de la relación entre los agentes puede hacer que la cooperación resulte explicable desde el dilema del prisionero, analizado de forma evolutiva). Sin embargo, interesa aquí resaltar una gran diferencia entre ambos juegos: el hecho de que el escenario de partida es en la caza del ciervo definible como neutro, mientras que en el dilema del prisionero es claramente de adversidad o conflicto; la decisión se toma por cada uno de los jugadores sin comunicación con el otro. Por ello constituye un escenario compatible con la existencia de un algoritmo en base al cual sea tomada la decisión por parte de uno de los dos agentes. En primer lugar, por la incomunicación (que puede también referirse a la ocultación de las razones, la expresión por sorpresa de la decisión) y en segundo lugar porque la decisión adoptada puede responder –o generar– un clima de verdadero conflicto. Ese algoritmo utilizado para decidir la opción de uno de los agentes puede tener una orientación predeterminada u otra. Así, puede citarse algún algoritmo que pretenda conducir el juego dentro de unos parámetros de cooperación y sostenibilidad de las relaciones interpersonales, como es, señaladamente “Tit for Tat”, diseñado para jugar al dilema del prisionero, que ocupa sólo 3 líneas en lenguaje Basic, y que consiste en: 1) cooperar la primera vez y 2) a partir de ahí hacer lo mismo que haga el adversario (más tarde se añadió una cierta capacidad de perdón)[8]. Frente a esa estrategia, que puede corresponder en general a una buena fe realista, puede citarse el algoritmo “MINIMAX”, que resulta muy combativo, ya que su estrategia consiste en elegir la opción más conveniente para uno mismo y peor para el adversario, sabiendo que el oponente elegirá también lo mejor para él y peor para uno mismo[9]. Pero, más allá de los algoritmos, es impactante el caso de redes neuronales como AlphaZero, presentada en 2017 por la empresa DeepMind, que, sin habérsele facilitado formación sobre tácticas, sino aprendiendo ella sola desde cero, logró vencer a los ganadores mundiales en ajedrez, shogi y go[10]. Ante estos supuestos surge la pregunta sobre la necesaria reacción de los ordenamientos jurídicos, debiendo anticiparse que existe una gran dificultad al respecto por el poder de atracción y de convicción que juega a favor de la tecnología. Parece que se la acepta como una realidad imparable. La exagerada fascinación por el progreso de la misma se ve, sin embargo, frenada, cuando se descubre que en muchas ocasiones esta tecnología es utilizada a favor de determinados intereses –o causando importantes perjuicios y vulneraciones de derechos– por parte de instituciones públicas y grandes empresas a nivel nacional e internacional[11].

B. Medidas institucionales limitadas  ^ 

Aparte de medidas legislativas que, a nivel nacional, aborden aspectos jurídico-laborales relacionados directamente con el fenómeno de la digitalización[12], existe en la Unión Europea una propuesta de Reglamento a modo de Ley de Inteligencia Artificial, lo cual se enmarca en toda una serie de iniciativas comunitarias relativas al desarrollo de la inteligencia artificial[13] que, en años más recientes, ha dado lugar a la definición de una Estrategia Europea para la Inteligencia Artificial[14], el establecimiento de un Plan Coordinado sobre la Inteligencia Artificial[15] y la elaboración de un Libro Blanco[16], además de otras medidas[17]. El mencionado Reglamento comunitario sobre Inteligencia Artificial, que de momento es sólo una propuesta[18], clasifica las actuaciones posibles de la inteligencia artificial en función de los riesgos conectados con las mismas y, concretamente, establece tres niveles: 1) riesgo inaceptable, 2) alto riesgo y 3) riesgo bajo o mínimo. Independientemente de que la propuesta de Reglamento requeriría un comentario detallado –que no es posible llevar a cabo en estas páginas– es necesario señalar que entre el primer y el segundo nivel –en los que nos centramos aquí– la diferencia está en que las prácticas que conlleven un riesgo inaceptable quedan prohibidas, mientras que los sistemas de inteligencia artificial de alto riesgo están permitidos, si bien condicionados al cumplimiento de determinados requisitos. Analicemos, aunque sea de forma sucinta, la regulación contenida en la propuesta acerca, primeramente, de las prácticas prohibidas y, a continuación, la permisión de la llamada inteligencia artificial de alto riesgo; a lo que, en tercer lugar, se podrá añadir alguna consideración algo más general relativa al carácter limitado de estas medidas normativas.

1. Prácticas prohibidas  ^ 

Comenzando por las conductas que según la propuesta de Reglamento quedarían prohibidas, se citan textualmente a continuación las cuatro prácticas descritas en el artículo 5, algunas de cuyas formulaciones, según ha valorado el Comité Económico y Social Europeo (CESE) “no están claras, con lo que determinadas prohibiciones pueden ser difíciles de interpretar y fáciles de eludir”[19]. Según la redacción del apartado 1 del mencionado artículo 5 de la propuesta de Reglamento “Estarán prohibidas las siguientes prácticas de inteligencia artificial:

a) La introducción en el mercado, la puesta en servicio o la utilización de un sistema de IA que se sirva de técnicas subliminales que trasciendan la conciencia de una persona para alterar de manera sustancial su comportamiento de un modo que provoque o sea probable que provoque perjuicios físicos o psicológicos a esa persona o a otra”. Se trata de una indicación que, aunque se haya querido centrar en las técnicas subliminales, en realidad podría –y debería– referirse a la potencialidad de la inteligencia artificial para manipular –sea con dichas técnicas subliminales u otras por extensión–, pudiendo contemplarse los perjuicios también de manera más extensa, tanto en sentido objetivo como subjetivo. De hecho, el Dictamen mencionado del CESE (ap. 4.3) propone una modificación de la redacción de la parte que figura arriba en cursiva, quedando así: “un sistema de IA desplegado, destinado o utilizado para distorsionar sustancialmente el comportamiento de una persona de forma que pueda menoscabar los derechos fundamentales de esa persona, otra persona o de un grupo de personas, incluidas su salud y seguridad físicas o psicológicas, o la democracia y el Estado de Derecho”[20]

“b) La introducción en el mercado, la puesta en servicio o la utilización de un sistema de IA que aproveche alguna de las vulnerabilidades de un grupo específico de personas debido a su edad o discapacidad física o mental para alterar de manera sustancial el comportamiento de una persona que pertenezca a dicho grupo de un modo que provoque o sea probable que provoque perjuicios físicos o psicológicos a esa persona o a otra”. Se trata de una redacción un tanto ambigua que podría trasladar a los tribunales –como en otros casos– la labor de concretar más las conductas prohibidas (qué se deba entender por “vulnerabilidades de un grupo específico” o por alteración sustancial del comportamiento, qué “perjuicios físicos o psicológicos” son significativos)[21].

“c) La introducción en el mercado, la puesta en servicio o la utilización de sistemas de IA por parte de las autoridades públicas o en su representación con el fin de evaluar o clasificar la fiabilidad de personas físicas durante un período determinado de tiempo atendiendo a su conducta social o a características personales o de su personalidad conocidas o predichas, de forma que la clasificación social resultante provoque una o varias de las situaciones siguientes: i) un trato perjudicial o desfavorable hacia determinadas personas físicas o colectivos enteros en contextos sociales que no guarden relación con los contextos donde se generaron o recabaron los datos originalmente; ii) un trato perjudicial o desfavorable hacia determinadas personas físicas o colectivos enteros que es injustificado o desproporcionado con respecto a su comportamiento social o la gravedad de este”. La mención de la “clasificación social” y la “fiabilidad” de los ciudadanos señala, como en los otros apartados del artículo 5 de la propuesta de Reglamento, riesgos muy preocupantes; de ahí la necesidad de concretar más la redacción, que también en este caso adolece de cierta ambigüedad. El Dictamen del CESE (ap. 4.5) recomienda que esta prohibición se aplique no sólo a autoridades públicas, sino también a las semipúblicas y a organizaciones privadas, a fin de contemplar otros entornos, como el laboral, donde pueda llevarse a cabo una clasificación en base a la fiabilidad de las personas.

“d) El uso de sistemas de identificación biométrica remota «en tiempo real» en espacios de acceso público con fines de aplicación de la ley, salvo y en la medida en que dicho uso sea estrictamente necesario para alcanzar uno o varios de los objetivos siguientes: i) la búsqueda selectiva de posibles víctimas concretas de un delito, incluidos menores desaparecidos; ii) la prevención de una amenaza específica, importante e inminente para la vida o la seguridad física de las personas físicas o de un atentado terrorista; iii) la detección, la localización, la identificación o el enjuiciamiento de la persona que ha cometido o se sospecha que ha cometido alguno de los delitos mencionados en el artículo 2, apartado 2, de la Decisión Marco 2002/584/JAI del Consejo[22], para el que la normativa en vigor en el Estado miembro implicado imponga una pena o una medida de seguridad privativas de libertad cuya duración máxima sea al menos de tres años, según determine el Derecho de dicho Estado miembro”. En realidad, la posibilidad de uso legal de sistemas de identificación biométrica es más amplia de lo que parece permitir el mencionado precepto, puesto que no queda restringida a los supuestos mencionados como excepcionales[23]. Así, por ejemplo, al prohibirse la identificación biométrica “en tiempo real” se entiende permitido el reconocimiento “posterior” y “próximo”; también queda permitido el reconocimiento que no tenga por finalidad identificar a una persona, lo que incluye la posibilidad de evaluar su comportamiento en base a las distintas características biométricas (que incluyen, p.e., micro-expresiones, temperatura, etc.); e incluso resulta también posible que podamos ser continuamente evaluados emocionalmente por parte de agentes públicos o privados, en lugares de trabajo o en otros ámbitos. Repárese en la clara petición de modificación contenida en el Dictamen del CESE (ap. 4.8): “Coincidiendo en líneas generales con la petición del Supervisor Europeo de Protección de Datos y el Comité Europeo de Protección de Datos, presentada el 21 de junio de 2021, de prohibir el uso de la IA para el reconocimiento automatizado de rasgos humanos en espacios de acceso público, así como algunos otros usos de la IA que pueden dar lugar a una discriminación injusta, el CESE pide:

• la prohibición del uso de la IA para el reconocimiento biométrico automatizado, en los espacios de acceso público y privado (como los rostros, la forma de andar, la voz y otras señales biométricas), excepto con fines de autenticación en circunstancias específicas (por ejemplo, para facilitar el acceso a espacios sensibles desde el punto de vista de la seguridad);
• la prohibición del uso de la IA para el reconocimiento automatizado, en los espacios de acceso público y privado, de señales de comportamiento humano;
• la prohibición de los sistemas de IA que utilicen la biometría para clasificar a las personas en grupos en función de su etnia, género, orientación política o sexual o cualquier otro motivo de discriminación prohibido en el artículo 21 de la Carta de los Derechos Fundamentales de la Unión Europea;
• la prohibición de utilizar la IA para inferir las emociones, la conducta, la intención o los rasgos de una persona física, excepto en casos muy específicos, como determinados fines relacionados con la salud, en los que sea importante reconocer las emociones del paciente”.

2. Inteligencia artificial considerada de alto riesgo  ^ 

El artículo 6 de la propuesta de Reglamento determina los sistemas de inteligencia artificial de alto riesgo en base dos posibles criterios. El primero, contenido en su apartado 1, consiste en el cumplimiento cumulativo de dos condiciones: a) que el sistema de inteligencia artificial esté “destinado a ser utilizado como componente de seguridad de uno de los productos contemplados en la legislación de armonización de la Unión que se indica en el anexo II, o [sea] en sí mismo uno de dichos productos”; y b) que el producto del que el sistema de inteligencia artificial sea componente de seguridad, o el propio sistema de IA como producto, deba someterse –conforme a la legislación de armonización de la UE indicada en el anexo II– “a una evaluación de la conformidad realizada por un organismo independiente para su introducción en el mercado o puesta en servicio”. Conforme al segundo criterio, mencionado en el apartado 2, “también se considerarán de alto riesgo los sistemas de IA que figuran en el anexo III”. Y, en relación a los sistemas determinados de acuerdo con ambos criterios, el artículo 8.1 dispone taxativamente que “cumplirán los requisitos que se definen en el presente capítulo”, lo cual, según una desconcertante deducción implícita, significa que el cumplimiento de los requisitos exigidos permite operar libremente a los sistemas considerados de alto riesgo[24]. Ante ello adquiere todo el sentido la pregunta que formula el Dictamen del CESE acerca de si los requisitos impuestos reducen de forma efectiva los riesgos de los sistemas mencionados, siendo negativa su respuesta: “los riesgos de menoscabo de la salud, la seguridad y los derechos fundamentales no se reducen siempre necesariamente a través del cumplimiento de los cinco requisitos establecidos para la IA de alto riesgo, en particular con respecto de los derechos fundamentales menos mencionados que podrían verse afectados por la IA, como el derecho a la dignidad humana, la presunción de inocencia, el derecho a unas condiciones de trabajo justas y equitativas, la libertad de asociación y de reunión y el derecho de huelga, entre otros” (ap. 4.14)[25]. Pero además el CESE denuncia que la propuesta de Reglamento no ha incorporado cinco de los siete requisitos recogidos en las Directrices Éticas para una IA Fiable[26], recomendando que sean incorporados al texto normativo y ser tenidos en cuenta. Y, lo que es más grave, advierte (ap. 4.13) que el enfoque «basado en listas» para la IA de alto riesgo escogido en el anexo III puede llevar a la legitimación, normalización e integración de un gran número de prácticas de IA que todavía reciben muchas críticas y cuyos beneficios sociales son cuestionables o inexistentes”. En efecto, los sistemas de inteligencia artificial que son mencionados como de alto riesgo en el Anexo III de la propuesta de Reglamento (al que remite el art. 6.2) se refieren a los siguientes ámbitos:

1. Identificación biométrica y categorización de personas físicas («en tiempo real» o «en diferido»), es decir, que, con la condición de que sean cumplidos los requisitos, quedan permitidos cuando su uso se realice en términos más amplios que excedan de lo que prohíbe el artículo 5 (en espacios de acceso público, «en tiempo real» y con fines de aplicación de la ley).
2. Gestión y funcionamiento de infraestructuras esenciales (componentes de seguridad en la gestión y funcionamiento del tráfico rodado y el suministro de agua, gas, calefacción y electricidad); al igual que en el caso anterior –y en todos los posteriores–, queda clara la permisión de estos sistemas con la condición de que se cumplan los requisitos establecidos en el capítulo II de la propuesta de Reglamento.
3. Educación y formación profesional (se alude al uso de sistemas de IA que pueden llegar a ser muy invasivos tanto para determinar el acceso a la educación como para proceder a la evaluación de estudiantes)[27].
4. Empleo, gestión de los trabajadores y acceso al autoempleo (sistemas destinados a la toma de decisiones relativas a la contratación, selección, evaluación de candidatos, despidos, etc.). Ante la posibilidad de conculcación de derechos fundamentales “el CESE pide que se garantice la plena participación e información de los trabajadores y los interlocutores sociales en el proceso de toma de decisiones sobre el uso de la IA en el lugar de trabajo, así como sobre su desarrollo, adquisición y despliegue” (ap. 4.17 del Dictamen del CESE).
5. Acceso y disfrute de servicios públicos y privados esenciales y sus beneficios (sistemas de IA utilizables para evaluar el posible acceso a prestaciones y servicios de asistencia pública, mantenimiento o modificación de los mismos, evaluación de la solvencia de las personas e incluso decisión de prioridades para el envío de servicios de emergencia como bomberos y asistencia médica).
6. Asuntos relacionados con la aplicación de la ley (sistemas de IA para evaluar el riesgo que plantee una persona física que pretenda entrar en el territorio de un Estado miembro, la autenticidad de los documentos de viaje o el examen de solicitudes de asilo, visado y permisos de residencia).
7. Gestión de la migración, el asilo y el control fronterizo (entre los sistemas mencionados están polígrafos y herramientas similares, o bien instrumentos para detectar el estado emocional de las personas)[28].
8. Administración de justicia y procesos democráticos (a pesar de que se alude sólo a sistemas de IA para “ayudar” a los jueces en la investigación e interpretación de los hechos y de la ley, resulta algo bastante delicado; incluso se menciona esa “ayuda” para la aplicación de la ley a hechos concretos; piénsese también en los peligros de uso electoral de sistemas de IA)[29].

3. Medidas normativas insuficientes  ^ 

La propuesta de Reglamento sobre inteligencia artificial regulación es claramente limitada y desenfocada. Es así en primer lugar, por lo inapropiado que resulta el enfoque de los riesgos. Por un lado parecer ser el único enfoque al que atiende el Reglamento, lo que lo convierte en un planteamiento parcial de entrada; la consideración de los riesgos es fragmentada, abordando cada sistema de IA de manera particularizada, ignorando que el fenómeno de la inteligencia artificial en su conjunto ofrece posibilidades crecientes de control dentro de una cada vez más extendida red de interacciones automatizadas, lejos de la búsqueda reflexiva del sentido correspondiente a cada una[30]. Ciertamente se prohíben algunas posibles prácticas consideradas inaceptables –en los términos e incertidumbres expuestos–, pero, aparte de ello se establecen requisitos que –tal como se ha dicho– no están pensados para proteger de forma realmente suficiente al ser humano ante peligros considerados casi como externalidades, como efectos colaterales. Consideración fragmentada de riesgos y protección insuficiente contra los mismos que no puede redundar sino en una división y debilitamiento de la protección de la sociedad, de los derechos fundamentales.

Existe, en segundo lugar, más que un enfoque de los riesgos, una apuesta entusiasta por los beneficios de la inteligencia artificial, tal como afirma la Exposición de Motivos de la propuesta de Reglamento en sus primeras líneas, en las que se destacan, además de grandes oportunidades de mejora para la sociedad y de liderazgo de la Unión Europea a nivel tecnológico, los posibles beneficios económicos[31]. El planteamiento es claramente de mercado, como se dice claramente en el apartado 3.3 de la Exposición de Motivos: “La Comisión examinó diversas opciones para alcanzar el objetivo general de la propuesta, que es garantizar el buen funcionamiento del mercado único mediante la creación de las condiciones necesarias para el desarrollo y la utilización de una IA fiable en la Unión”. Por lo que se entiende que los requisitos cuyo cumplimiento resulta exigido para la utilización de sistemas de alto riesgo sean contemplados ante todo como un coste económico a satisfacer, especificando además que no será muy alto[32] y que su aplicación se llevará a cabo con cierta flexibilidad[33].

Y, en tercer lugar, se han de considerar medidas normativas insuficientes porque la propuesta de Reglamento de inteligencia artificial no constituye una regulación de la misma como tal. En lugar de ello, como ya se ha dicho, se someten a prohibición algunas prácticas consideradas como “riesgo inadmisible” y se someten a cumplimiento de requisitos –para poder ser permitidos– los sistemas de IA considerados de “alto riesgo”. Es decir, en vez de una regulación de la IA, se pretende una regulación para la IA, puesto que las normas propuestas se presentan como marco legitimador de la llamada “IA fiable”[34]. Es verdad que la Directrices Éticas para una IA Fiable habían mencionado que “es preciso encontrar un equilibrio entre lo que se puede hacer con la IA y lo que se debería hacer con ella, además de prestar la debida atención a lo que no se debería hacer con esta tecnología”[35]. Pues bien, partiendo de que la propuesta de Reglamento atendiera dicha indicación e incluso asumiera directamente la regulación de la transformación digital como fenómeno –cosa que no se hace– habría que decir también que dicho planteamiento es erróneo: las expresiones “lo que se puede hacer” y “lo que se debería hacer”, ¿de qué sujetos se predican? Ya que está claro el predicado, pero, hablando de la transformación digital, ¿podemos mantener –y seguir manteniendo durante mucho tiempo– que los sujetos seremos únicamente humanos? Porque, en la medida en que surjan subjetividades artificiales, ¿se podrá realmente limitar su actuación en términos de “lo que se debería hacer”, o sólo será realistamente posible poner un límite a tiempo acerca de “lo que se puede hacer” para no progresar a partir de ahí? Ésta es una pregunta cuya respuesta puede ser muy probablemente adivinada: no es fácil un consenso para poner límites a la inteligencia artificial mientras no haya una conciencia real de hasta dónde puede aquélla llegar si no existen límites. Y, si se suman los beneficios sociales que la inteligencia artificial parece ofrecer, pero, sobre todo, los altísimos intereses en juego a favor de algunos, se entiende que la regulación del fenómeno de transformación digital no sea una prioridad, sino que dicha transformación sea presentada como un objetivo a lograr con rapidez, proponiéndolo como la solución frente a los errores y efectos perniciosos del ser humano en el medio ambiente[36]; una “IA fiable” entendida ya no sólo como realidad en la que el ser humano puede confiar, sino como algo que es más fiable que el ser humano, capaz, por ejemplo, de evitar accidentes de tráfico, por ofrecer un mejor tiempo de reacción que los humanos y un mejor respeto de las normas de seguridad vial[37]. Un objetivo tecnológico indiscutido ante el cual los seres humanos quedan condicionados a adaptarse continuamente y estar disponibles a adquirir las cualificaciones adecuadas que ello exige[38]. Dentro de esta transformación digital, cuya regulación tal vez no se quiere acometer por entender que supondría un freno a algo considerado altamente benéfico, se ha expresado la propuesta de reconocer la categoría jurídica de personalidad electrónica[39]. Este solo ejemplo, en caso de estar sometido a regulación, contribuiría a tener un marco normativo más adecuado. O bien, en caso de no regularse –en el sentido de limitar o prohibir–, operarían de facto dichos actores de forma libre, sometidos sólo a las posibilidades de la tecnología; con un importante dato añadido: que, a medida que avanza la transformación digital, habrá también que recurrir a agentes de la propia IA para encargarse del control de ella misma. Es decir, que la digitalización no sólo puede incrementar las posibilidades de control para seres humanos por parte de otros humanos, sino que los propios sistemas cibernéticos necesitarán ser controlados –independientemente de su tamaño–, para lo cual serán necesarios controladores igualmente artificiales, surgiendo una vez más la pregunta: quis custodiet ipsos custodes?[40]. Por lo que, ante el silencio de la propuesta de Reglamento al respecto, tiene toda la razón el Comité Económico y Social cuando “recomienda encarecidamente que la Ley de Inteligencia Artificial contemple que determinadas decisiones sigan correspondiendo a las personas, especialmente en ámbitos donde estas decisiones tengan un elemento moral e implicaciones jurídicas o repercusión social, como en los ámbitos judicial y policial, los servicios sociales, la sanidad, la vivienda, los servicios financieros, las relaciones laborales y la enseñanza”[41].

Interesa aludir al final de este apartado a la cuestión sobre el objeto de la transformación digital, es decir, qué es lo que se está transformando, o bien, en qué terreno se está produciendo esa transformación digital. Claramente el terreno social – que corresponde al tejido humano interactivo– es el que se siente interpelado, terreno en el que lo digital adquiere cada vez más importancia, ante lo cual se entienden necesarias tanto la reflexión como la protección jurídicas. Ante la ausencia de regulación del fenómeno de la transformación digital se necesitaría una adecuada protección, no sólo del ser humano considerado individualmente, sino, de forma muy especial, del propio terreno humano. El hábitat interactivo humano necesitaría ser protegido como un medio ambiente natural ante la proliferación de especies artificiales, puesto que no asistimos al desarrollo de un tejido interactivo humano, sino al de un sistema de conexiones, seguido de conexiones de sistemas, susceptibles de funcionar unos como componentes de otros, cada vez a mayor escala, donde puede perder escala el ser humano, como elemento “organizado” insertable en una red organizativa; puesto que no puede actuar sin más como “componente”, sino que, conforme a su dignidad de persona y a su naturaleza social, necesita actuar conforme a interacciones que respondan a vínculos con sentido. No se trata sólo del efecto hueco que produce el trato cada vez más frecuente con sujetos artificiales, ni de no tener quizá la seguridad de si el interlocutor es humano o máquina[42]; sino que el hábito de operar mediante intercambios y conexiones automatizadas pueden ir erosionando la interacción natural humana, reduciéndola a un modo culturalmente empobrecido y limitado a lo tecnológico, encerrando lo humano en el nivel “micro” por el protagonismo creciente en el ámbito social (“macro”) de la pseudo-cultura de procesos digitalizados. Es por tanto el modo humano de interactuar lo que debe ser protegido, como ecosistema que responda a la dignidad humana, al sentido de humanidad[43].

III. LO HUMANO Y LO ARTIFICIAL  ^ 

Llegados ya al momento de dar el segundo paso aludido en la Introducción, es decir, ir más allá de lo estrictamente normativo, se debe señalar que el abordaje insuficiente por parte de la institucionalidad normativa podría resultar un problema tal vez similar al de la inteligencia artificial: en el caso de que, aun intentando producir una superinteligencia, se detectaran en ésta limitaciones de importancia. Se quiere apuntar a la idea de un abordaje en ambos casos reductivo; es decir, de reducción de lo humano.

A. Hacia una “superinteligencia”  ^ 

En el contexto de la llamada “cuarta revolución industrial”, relacionada con la combinación de la ingente captación y utilización de datos, del uso para ello de algoritmos y de la inteligencia artificial, en definitiva, como resultado cada vez más actualizado del intento decidido de calcular, programar, automatizar y controlar, es interesante un estudio publicado recientemente que pone en evidencia el carácter nihilista de este proyecto, según ya se había anticipado[44]. Sus autores afirman que “lo primero que debemos tener en cuenta para intentar comprender el significado de la inteligencia artificial (IA) es la propia noción de “Inteligencia”. Definir la inteligencia humana ya es difícil y complejo, sin embargo, cuando se habla de IA se da por sentado lo que se entiende por inteligente. La Inteligencia asociada a las máquinas sólo es un tipo de inteligencia definida por su capacidad de cálculo y procesamiento de información. Es inteligente porque puede trabajar con una cantidad de información que excede las capacidades humanas. Esta inteligencia es valorada por su velocidad y eficiencia. En consecuencia, detrás de los discursos y promesas de la IA lo que se prioriza es una idea de inteligencia limitada pero afín a los intereses de quienes la promueven y de aquella racionalidad basada en la cuantificación, cálculo y eficiencia”[45]. Ciertamente esa eficiencia parece verse muy acentuada por el uso masivo de datos y por la incorporación de algoritmos. “La aplicación de algoritmos e IA a todos los aspectos de la vida buscan hacer un mundo más controlable y eficiente, además de disminuir la arbitrariedad humana. Sin embargo, esta automatización o algoritmización de la realidad lo que impone es un nuevo tipo de arbitrariedad: la algorítmica. Que a diferencia de la humana se vuelve incontestable y aparentemente incontrovertible”[46]. Resultando, pues, que, mientras los sistemas inteligentes pueden ser considerados como la panacea para mejorar drásticamente enormes problemas sociales, pueden en realidad ser considerados inteligentes “de una forma limitada y reducida: sólo sirven para resolver los problemas para los que han sido programados, sus procesos son finitos y sus resultados discretos. Las promesas de una IA o de una superinteligencia que solucionarán los males de la humanidad hacen parte de un discurso ideológico”[47].

Debemos, pues, tener en cuenta que, en la misma medida en que la inteligencia artificial supone una reducción de la inteligencia humana –además de establecer interacciones que no responden al modo natural de la interacción humana–, también el abordaje jurídico puede ser reduccionista: limitado a la sola regulación de conductas por parte de la norma (sólo dos elementos o dimensiones: interacción de conductas y regulación normativa). Se hace necesario contar con la socialidad humana (como tercera dimensión) para una consideración jurídica completa, especialmente en el caso de la inteligencia artificial. Porque los contenidos de justicia de donde extraer inspiración para la regulación de conductas tienen que ser buscados en la comprensión de lo que es humano. De la misma forma que es necesaria la verdadera comprensión de la inteligencia humana (ya que la inteligencia artificial trata de emularla), para regular de forma sistemática el posible efecto de la inteligencia artificial, a fin de no vernos reducidos los seres humanos a un género cada vez más artificioso o artificializado, es necesario indagar en la dignidad de lo humano.

B. El desafío de “ser humano” y seguir “siendo”  ^ 

Como ya se ha dicho, el modo interactivo que difunde, como dinámica suya, la inteligencia artificial, puede erosionar el modo natural humano de relaciones, pero, sobre todo, conociendo la concomitancia entre el modelo tecnológico y el nihilismo, tenemos ahí una pista[48] para identificar el paradigma de género humano que debe ser protegido: el de la dignidad o valor humanos, para nutrir un vacío nihilista de justicia. Un vacío que, entre otras cosas, consiste en una “inteligencia” que, aunque tiende a colonizar el espacio de la inteligencia humana, carece en realidad de verdadero pensamiento o reflexión[49]. Pero son más las carencias, como plantea María Zambrano, quien diferencia entre lo que llama “etapa humana” y la del “superhombre”[50], pudiéndose destacar en la primera dos importantes elementos: la conciencia (conciencia y pensamiento, como lugar de residencia del ser humano[51]) y la libertad; mientras que en la segunda sobresale la voluntad de desbordar los límites humanos de la conciencia (anclada en el bien y en el mal) y una vivencia extrema libertad, desarraigada no sólo de lo sagrado sino también de la alteridad. Zambrano escribe que Nietzsche, en su propuesta de superhombre, no acogió la idea de libertad del idealismo que trascendía lo humano –por tanto, sin lucha, sin tragedia–, sino que “vivió y apuró la libertad, lejos de la impasibilidad, sólo humanamente. Hubiera sido normal que hubiese aceptado la libertad trágica de un Kierkegaard o de un Unamuno. Pero la tragedia de la libertad, o la libertad vivida trágicamente, requiere un alguien a quien ofrecérsela. Toda tragedia es un sacrificio; su protagonista necesita un alguien a quien ofrecerle su agonía. Y en esta soledad radical, frente a la cual la soledad de la conciencia cartesiana se borra, Nietzsche apuró la tragedia de la libertad humana. No tuvo a quien dedicar su sacrificio. Y comenzó la destrucción”[52]. Y, ante todo ello, surgen las cuestiones sobre la forma de encontrar nociones de lo humano que vayan más allá de la conciencia y la libertad, que se correspondieron claramente con la Modernidad (como modo de ser humano) y que pueden verse amenazadas, entre otros posibles embates, por el proyecto de una inteligencia artificial reductiva de lo humano, pudiendo ayudar, como posible esbozo de respuesta, estas dos consideraciones finales:

La primera viene ofrecida por María Zambrano, quien, a continuación de su tratamiento sobre el superhombre, plantea la etapa de “la nada”, del no ser, de la total soledad incluso (en referencia entre otros a Sartre, una vez rota la relación con lo sagrado). La oportunidad a la que se refiere la filósofa es una forma de ser compartida, en alteridad: “Y la cuestión que se presenta es si el hombre puede, en verdad, estar entera, absolutamente, solo. A su lado va «el otro», el otro sombra de sí mismo, como Unamuno alumbrara en esa su tragedia –una de las raras tragedias logradas– El otro. ¿Quién es «el otro»? El hermano invisible, o perdido, aquel que me haría ser de veras si compartiera su existir conmigo; si nos integráramos en un ser único, a quien ya no le podría ser dirigida la pregunta terrible: «¿Qué has hecho de tu hermano?»”[53].

La segunda consideración, más claramente en el ámbito jurídico, es también una llamada, desde la socialidad humana, a una conducta de reciprocidad en correspondencia coherente con el valor, la dignidad, el ser de lo humano, que palpita en la cultura jurídica –no sólo de los juristas, sino del pueblo– independientemente de sus atributos –conciencia, libertad, autonomía…–, a modo de fundamento o referencia de humanidad –aunque no exista una explicación más completa–. Esa consideración nos la ofrece, por ejemplo, la Sentencia de 14 de octubre de 2004 del Tribunal de Justicia de la Unión Europea (caso Omega)[54], que considera conforme al Derecho Comunitario la prohibición por parte de las autoridades alemanas de un juego de entretenimiento que incluye simulaciones de acciones homicidas entre jugadores. Lo destacable de este pronunciamiento es que son los valores principios de la cultura jurídica[55] los que sustentan una reacción contra actuaciones –aun siendo simuladas o virtuales– que fomentan una actitud contraria al respeto que merece la dignidad humana: “El órgano jurisdiccional remitente expone que la dignidad humana es un principio constitucional que puede verse vulnerado mediante el trato degradante a un adversario, que no concurre en el presente caso, o creando o fomentando en el jugador una actitud que niegue el derecho fundamental de toda persona a la consideración y al respeto, como sucede en el presente caso, mediante la representación de actos ficticios de violencia con fines lúdicos. Un valor constitucional superior como es la dignidad humana no puede quedar excluido en el marco de un juego de entretenimiento”.

IV. CONCLUSIÓN  ^ 

Con el fenómeno de la inteligencia artificial tal vez no estemos asistiendo al surgimiento de un nuevo género o especie artificial, al margen del género humano, aunque sí existen motivos que requieren la protección jurídica de éste (contra la vulneración de derechos que conlleven las prácticas de IA o la erosión o empobrecimiento del modo humano de interacción).

La propuesta de Reglamento de Inteligencia Artificial de la UE resulta claramente insuficiente: se consideran de forma muy fragmentada los riesgos posibles y no se adoptan en general medidas verdaderamente eficaces para frenarlos. No existe, además, un intento de regular de forma completa y directa la inteligencia artificial como tal, pues dicha regulación parece más bien responder a la elaboración de un marco jurídico que legitime el uso de la IA en el mercado y refuerce el liderazgo europeo a nivel tecnológico y económico.

Pero, además, el abordaje jurídico basado sólo en la regulación de conductas (en base a sólo dos dimensiones: comportamiento interactivo e institucionalidad normativa), que resulta incompleto en términos generales, es especialmente limitado en el caso de la IA, que hace más necesario ir más allá de lo normativo. Precisamente porque tanto la limitación de dicho enfoque como el efecto posible de la IA pueden redundar en el mismo problema: la reducción del sentido humano, especialmente a nivel interactivo y colectivo. Es preciso recurrir a la socialidad humana (como tercera dimensión) para profundizar en los contenidos de justicia que, inspirados en la dignidad de lo humano, puedan orientar la regulación de las conductas. Al final de este trabajo se alude a algunas nociones clásicas del ser humano, como la conciencia y la libertad que, ciertamente, pueden estar sometidas a crisis culturales, tecnológicas o de otra índole que conduzcan a una verdadera pérdida o anulación. A pesar de lo cual el género humano parece tener oportunidad de resurgir redescubriendo desde la nada eslabones perdidos de alteridad y reciprocidad y dando sentido a la cultura social de reacción a favor de la dignidad humana.

Bibliografía  ^ 

Aragüez Valenzuela, L.: Relación laboral «digitalizada»: colaboración y control en un contexto tecnológico, Aranzadi, Cizur Menor, 2019.

Axelrod, R.: “The evolution of cooperation”, The Journal of Politics, vol. 48, núm. 1, febrero-1986, pp. 234-236.

Baird, D.G.; Gertner, R.H. and Picker, R.C.: Game Theory and the Law, Cambridge-USA y Londres, 1994.

Beal, D.: The Nature of Minimax Search, Institute of Knowledge and Agent Technology, Universidad de Maastricht. Disponible en https://project.dke.maastrichtuniversity.nl/games/files/phd/Beal_thesis.pdf.

Comisión Europea: Libro Blanco sobre la Inteligencia Artificial. Un enfoque europeo orientado a la excelencia y la confianza, Bruselas, 19.2.2020 COM(2020) 65 final, que puede consultarse en: https://ec.europa.eu/info/sites/default/files/commission-white-paper-artificial-intelligence-feb2020_es.pdf.

Correyero Rodríguez, E.: Género Humano, Inspirar-Expirar Ediciones, 2014.

Cortázar, R.: “Non-Redundant Groups, the Assurance Game and the Origins of Collective Action”, Public Choice, vol. 92, 1997, pp. 41-53.

Cotino Hueso, L.: “Ética en el diseño para el desarrollo de una inteligencia artificial, robótica y big data confiables y su utilidad desde el Derecho”, Revista Catalana de Dret Públic, núm. 58, 2019, pp. 29-48.

Grupo de Expertos de Alto Nivel sobre Inteligencia Artificial, Directrices Éticas para una IA fiable, Comisión Europea, Dirección General de Redes de Comunicación, Contenido y Tecnologías, Oficina de Publicaciones, 2019, https://data.europa.eu/doi/10.2759/08746.

Häberle, P.: La libertad fundamental en el Estado Constitucional, Universidad Católica de Perú, Lima, 1997 (cap. 2), también editado en Comares, Granada, 2003.

Janssen, M.: “On the principle of coordination”, Economics and Philosophy, vol. 17(2), 2001, pp. 221-234.

Martínez Coll, J. C.: Bioeconomía, Málaga, 1986.

Monereo Pérez, J. L.: La dignidad del trabajador: dignidad de la persona en el sistema de relaciones laborales, Laborum, Murcia, 2019.

Rivas Vallejo, M. P.: Aplicación de la inteligencia artificial al trabajo, Aranzadi, Cizur Menor, 2020.

Rousseau, J. J.: Discurso sobre el origen y los fundamentos de la desigualdad entre los hombres, Madrid, 1775 (traducción de 1982 de Ángel Pumarega).

Skyrms, B.: La caza del ciervo y la evolución de la estructura social, Barcelona, 2007.

Valle Jiménez, D. y García Ramírez, D.: “Algoritmos, big data e inteligencia artificial: ¿un nihilismo anunciado?”, Cuadernos Salmantinos de Filosofía, núm. 48, 2021, pp. 75-103.

Zambrano Alarcón, M.: El hombre y lo divino, Alianza Editorial, Madrid, 2020.

---