La calidad en los contenidos o servicios digitales prestados por Inteligencia Artificial desde el derecho de consumo: un breve ensayo

HE QUALITY OF DIGITAL CONTENT OR DIGITAL SERVICES PROVIDED BY ARTIFICIAL INTELLIGENCE FROM THE PERSPECTIVE OF CONSUMER LAW: A BRIEF ESSAY

Mónica García Goldar

Universidade de Santiago de Compostela

monica.garcia@usc.es 0000-0002-3235-292X

I. Introducción

Es por todos sabido que la tecnología está revolucionando nuestras vidas. Y mayores serán los cambios que experimentemos en años venideros, a medida que vayamos produciendo un mayor número de datos y que estos puedan ser tratados por sistemas de Inteligencia Artificial, cada día más sofisticados. Así pues, el poder transformador de la IA es altísimo y una de las mayores expectativas que genera es que a no muy plazo largo nos haga vivir más y en mejores condiciones, si es correctamente aplicada al ámbito del cuidado de la salud (Martínez García et al, 2019).

Estos cambios no se producirán únicamente en asuntos tan delicados como lo es la vida humana; uno de los sectores que previsiblemente se verán afectados es el de la justicia (Barona Vilar, 2019). En este sentido, nuestro presagio es que resulta improbable que la figura de los jueces llegue a desaparecer del todo (no al menos a corto-medio plazo), pero sí lo es que el sistema de toma de decisiones judiciales pueda basarse, en el futuro, en algoritmos diseñados ad hoc para esa tarea. De ser así, las únicas dos funciones de los jueces pasarían a ser: la confirmatoria, en caso de que la decisión del algoritmo sea adecuada, o supervisora, en caso de que la decisión del algoritmo se crea errada.

Pero como dijo Roosevelt, todo gran poder conlleva una gran responsabilidad. Y este es un “principio” que debe resultar aplicable también a la Inteligencia Artificial. Uno de los mayores retos que plantea esta tecnología reside precisamente en cómo se toman las decisiones, por ejemplo, en casos tan sensibles como el de los coches autónomos (Von Ungern-Sternberg, 2018). El prestigioso sociólogo Harari, autor de la obra 21 lecciones para el siglo XXI (2018), hace referencia a este dilema ético en los siguientes términos: supongamos que dos chicos saltan delante de un automóvil autónomo al perseguir una pelota. Basándose en cálculos instantáneos, el algoritmo que conduce el coche concluye que la única manera de evitar atropellar a los chicos es virar bruscamente al carril opuesto, y arriesgarse a colisionar con un camión que viene en sentido contrario. El algoritmo calcula que en tal caso existe un 70% de probabilidades de que el propietario del coche muera en el impacto, ¿que debería hacer el algoritmo? La respuesta a esta cuestión no es baladí; se trata, ni más ni menos, de elegir a qué persona se le provocará un daño, probablemente muy grave.

En atención a lo expuesto, resulta innegable que la IA en general es importante y merecedora de una normativa expresa; consciente de esta necesidad, la Unión Europea está poniendo los cimientos necesarios para crear una legislación específica sobre Inteligencia Artificial y responsabilidad civil. Así, en octubre de 2020, el Parlamento Europeo publicó una Resolución con recomendaciones a la Comisión Europea sobre cómo legislar esta materia. Más recientemente, el 21 de abril de 2021, se presentó la Propuesta de Reglamento relativa a unas reglas armonizadas sobre Inteligencia Artificial (Artificial Intelligence Act). En esta primera versión se establecen cuatro niveles de riesgo de los sistemas de Inteligencia Artificial: en primer lugar, el riesgo inaceptable, conformado, entre otros, por los sistemas que constituyen una clara amenaza para la seguridad, los medios de vida y los derechos de las personas, especialmente las más vulnerables, o que miden el crédito o la fiabilidad social de las personas o empresas, contrarios a los valores de la Unión. En segundo lugar, el riesgo alto, conformado por sistemas de Inteligencia Artificial en infraestructuras críticas, como el transporte, si ponen en riesgo la salud del ciudadano, y que estarían sujetos a estrictas obligaciones (como el empleo de los análisis de riesgos, la supervisión humana o la posibilidad de trazabilizar los resultados) antes de que puedan ser comercializados. En tercer lugar, el riesgo limitado, en el que entrarían por ejemplos los chatbots. Y, en último lugar, el riesgo mínimo, en el que se incluirían casi todos los sistemas de Inteligencia Artificial utilizados en la actualidad.

Si bien este asunto es de vital importancia y urge que se regule de manera uniforme para todos los Estados miembros, tampoco es irrelevante la existencia de otras normativas europeas (sobre todo, de consumo) que podrían afectar a productos, contenidos o servicios generados por Inteligencia Artificial. Piénsese en las siete funciones principales que puede ofrecer la IA: reconocimiento, conversación e interacción, análisis predictivo y toma de decisiones, sistemas orientados al logro de objetivos (goal-driven), sistemas autónomos, patrones y anomalías, y la hiper-personalización. El uso que los empresarios hagan de estas funcionalidades puede ser interno, cuando solo afecte a sus prácticas comerciales: un ejemplo lo encontramos en los precios personalizados, práctica de la que el empresario debe informar al consumidor desde la modificación llevada a cabo por la Directiva 2019/2161 (conocida como Directiva ómnibus). Pero además, la Inteligencia Artificial también puede constituir el objeto del contrato, tanto respecto de bienes físicos (smart products) como de contenidos o servicios digitales generados por IA. Es este último supuesto en el que pretendemos ahondar.

El objetivo principal de este trabajo es examinar, con perspectiva crítica, si la Directiva (UE) 2019/770, relativa a determinados aspectos de los contratos de suministro de contenidos y servicios digitales (en adelante, DCSD) se adecúa a las especificidades de los contenidos o servicios digitales generados por Inteligencia Artificial. La elección del tema surge, precisamente, tras el análisis comparado entre los criterios de conformidad establecidos para los productos fisicos (Directiva 2019/771) y los criterios de conformidad que afectan a los contenidos o servicios digitales (DCSD) y en el que se constatan no muchas diferencias, pero sí alguna importante, como la relativa a la calidad.

La metodología con la que hemos realizado este trabajo es la propia de la rama de las ciencias jurídicas, basada en el análisis de los textos legales y de la doctrina especializada en la materia. Téngase en cuenta, no obstante, que algunas de las cuestiones que abordaremos no han sido (o no nos consta que hayan sido) previamente discutidas por la doctrina. Ello obliga a que el enfoque sea marcadamente personal y que la naturaleza de este trabajo sea más bien la de un ensayo.

En cuanto a la estructura, el trabajo se desarrolla en tres partes diferenciadas. La primera es un sumario acerca de las normas europeas de consumo y los conceptos que resultan esenciales para abordar esta materia. La segunda es una suerte de ensayo acerca de las distintas formas en que se puede valorar la calidad y cuáles son las opciones de las que dispone el consumidor en caso de que dicha calidad no sea la esperada. Por último, expondremos nuestra tesis acerca de la interpretación de la calidad como un criterio objetivo y válido de conformidad respecto de los contenidos o servicios digitales generados por IA.

II. Normas y conceptos esenciales

1. La Directiva 2011/83/UE y el derecho de desistimiento

La Directiva 2011/83/UE, de 25 de octubre, sobre los derechos de los consumidores (en adelante CDR, por sus siglas en inglés), es una norma de armonización máxima, que no permite, salvo disposición en contrario, que los Estados miembros mantengan o introduzcan, en su legislación nacional, disposiciones más o menos estrictas (art. 4). En dicha Directiva se regula el llamado “derecho de desistimiento” que se prevé para los contratos a distancia y los contratos celebrados fuera del establecimiento debido, precisamente, a que en este tipo de transacciones “el consumidor no puede ver los bienes antes de celebrar el contrato” (contratos a distancia) o “puede haber un elemento sorpresa o presión psicológica” (contratos fuera de establecimiento; Cdo. 37). Los aspectos concretos, incluidas las obligaciones del comerciante y del consumidor en caso de desistimiento, se regulan en los arts. 9-16 CDR. A grandes rasgos, debe tenerse en cuenta que: el plazo para el derecho de desistimiento es de 14 días (art. 9.2.º CDR) y que el consumidor no necesita motivar su desistimiento (art. 9.1.º CDR).

2. La Directiva (UE) 2019/770 y la conformidad

La DCSD surge de varios estudios preparatorios y en ella se puede observar una clara influencia por parte de la Propuesta de Reglamento relativo a una normativa común de compraventa europea (CESL, 2011), que nunca llegó a ver la luz. Es una normativa que se ha proyectado con el objetivo de ser tecnológicamente neutra y con carácter estable frente a futuras innovaciones (Cdo. 10) y cuyas características más destacables son las siguientes:

1. Tiene naturaleza de lex generalis y, por lo tanto, no debe imponerse frente a otras regulaciones especiales (MAŃKO, 2016). Este carácter de norma general se hace todavía más evidente respecto del Reglamento General de Protección de Datos (Cdos. 37 a 40).
2. Complementa a su hermana, la Directiva (UE) 2019/771. Así, mientras la DCSD se aplica a determinados aspectos de los contratos de suministro de contenidos o servicios digitales, la segunda se aplica a determinados aspectos de los contratos de compraventa de bienes. Para el supuesto de los llamados bienes con elementos digitales, la regla general (con excepciones) es que se resultarán aplicables las normas previstas en la Directiva (UE) 2019/771.
3. Es una norma de armonización plena, por lo que los Estados miembros no podrán adoptar disposiciones que se aparten de las establecidas, “salvo que se disponga de otro modo” en la DCSD (art. 4).
4. Se aplica a los contratos a cambio de un precio o de datos personales. Según el art. 3 DCSD, la Directiva se aplicará a los contratos por los que el consumidor “paga o se compromete a pagar un precio” y también cuando “el empresario suministre o se comprometa a suministrar contenidos o servicios digitales al consumidor y este facilite o se comprometa a facilitar datos personales al empresario, salvo cuando los datos personales facilitados por el consumidor sean tratados exclusivamente por el empresario con el fin de suministrar los contenidos o servicios digitales con arreglo a la presente Directiva o para permitir que el empresario cumpla los requisitos legales a los que está sujeto, y el empresario no trate esos datos para ningún otro fin”.
5. Distingue entre contenidos o servicios digitales. La versión final de la DCSD sigue el criterio marcado en la CDR y distingue entre contenidos y servicios digitales, a diferencia de lo que se establecía en la primigenia versión de 2015, que integraba los servicios dentro de los contenidos digitales; así se extraía no solo del articulado sino también del propio título de la Propuesta de “Directiva relativa a determinados aspectos de los contratos de suministro de contenidos digitales”. Esta cuestión –objeto de numerosas críticas (Rochfeld, 2016)– se modificó finalmente, por lo que ahora sí se separan ambos conceptos, y para advertir sus principales diferencias, se ha de acudir a las definiciones que ofrece la propia Directiva en su art. 2. De una parte, los contenidos digitales se definen como “los datos producidos y suministrados en formato digital”, tales como programas informáticos, aplicaciones, archivos de vídeo, archivos de audio, archivos de música, juegos digitales, libros electrónicos u otras publicaciones electrónicas (Cdo. 19); es decir, los contenidos digitales son los obtenidos a través de plataformas de descarga (Apple Store, Google Play, Amazon) o de streaming (Apple Music, Amazon Prime Music, Youtube, Vimeo o Spotify; García Pérez, 2020). Una cuestión importante sobre los contenidos digitales es que se regularán por la DCSD tanto si se suministran digitalmente como en formato físico (Cdo. 20). En cuanto a los servicios digitales, la DCSD distingue entre dos tipos: de una parte, el servicio que permite al consumidor crear, tratar, almacenar o consultar datos en formato digital, como por ejemplo, los servicios cloud computing ofrecidos por Amazon Web Services, Dropbox, One Drive, Microfost Azure, Google Cloud, Google Drive, iCloud, etc. (García Pérez, 2020); y de otra, el servicio que permite compartir datos en formato digital cargados o creados por el consumidor u otros usuarios de ese servicio, o interactuar de cualquier otra forma con dichos datos, es decir, redes sociales como Facebook, Twitter, Whatsapp, Instagram, Line, Viber, etc. (García Pérez, 2020). Según indica el Cdo. 26 (y, correlativamente, el art. 3.2), la Directiva también se aplicará a los contratos para el desarrollo de contenidos digitales personalizados en función de las exigencias específicas del consumidor, incluido cualquier programa (software) personalizado, o para el suministro de archivos electrónicos requeridos en el contexto de la impresión 3D de bienes, si corresponden a la definición de contenidos o servicios digitales.
6. Se detalla mejor el concepto de conformidad, distinguiendo entre criterios objetivos y subjetivos, como veremos. Este concepto es de gran utilidad en el Derecho de consumo; como dice Twigg-Flesner (2020), si no existiese ningún criterio legal de conformidad, los consumidores y empresarios deberían negociar la calidad y otros aspectos de los bienes o contenidos y servicios digitales cada vez que se concluyese un contrato nuevo. Incluso si la negociación entre las partes fuese factible, la probable falta de conocimiento del consumidor acerca de los bienes o servicios y contenidos digitales y el hecho de que la calidad de la mayoría de los productos solo puede conocerse tras su uso, haría definitivamente complicada la existencia de una negociación individual. En el contexto de la mayoría de las transacciones ordinarias de consumidores, la oportunidad de negociar los detalles de la compraventa es prácticamente inexistente; por ello, el propósito de los criterios legales de conformidad es precisamente estipular unos requisitos mínimos sobre calidad y aptitud para el uso, sin necesidad de negociaciones individuales.

III. La calidad en los contenidos y servicios digitales generados por Inteligencia Artificial

1. Calidad objetiva vs. calidad subjetiva

La calidad de los contenidos o servicios digitales en general se puede evaluar de dos formas muy distintas: de una parte, se puede evaluar desde una perspectiva objetiva si, por ejemplo, el consumidor no puede visionar correctamente una película en Netflix o no puede escuchar nítidamente la canción que ha descargado de alguna plataforma. Parece claro que en estos casos el consumidor podrá acudir sin problema a los remedios previstos por falta de conformidad en la DCSD. De hecho, el Cdo. 5 hace explícita referencia a esta vertiente objetiva cuando afirma que “muchos consumidores experimentan problemas relacionados con la calidad o el acceso a los contenidos o servicios digitales. Por ejemplo, cuando reciben contenidos o servicios digitales erróneos o defectuosos, o no pueden acceder a los contenidos o servicios digitales en cuestión”.

De otra parte, también se podría evaluar la calidad del contenido o servicio digital desde una perspectiva subjetiva, en el sentido de que al consumidor no le satisfaga personalmente. Este es el tipo de valoración que aquí nos interesa y a la que parece hacer referencia la Consumer Rights Act 2015 de Reino Unido en su S. 9, cuando establece la obligación de que los bienes presenten una calidad satisfactoria (“satisfactory quality”), que será aquella que una persona razonable pueda esperar en atención a la descripción de los bienes, el precio y cualquier otra circunstancia relevante.

Pues bien, creemos que dentro de esta vertiente subjetiva se pueden observar, a su vez, dos situaciones diferentes: la primera es aquella en la que el contenido o servicio digital es fruto de creación por parte de alguna o varias personas (un libro, una canción, un software, etc.); la segunda es aquella en la que el contenido o servicio digital es generado por Inteligencia Artificial. En el primero de los casos referidos el consumidor debería soportar el mismo riesgo (en términos de satisfacción) que cuando compra un producto físico (v.gr. un libro en papel o un CD de música); distinta debería ser la respuesta, en nuestra opinión, si el contenido o servicio digital generado por Inteligencia Artificial no satisface las legítimas expectativas, pues en ese caso, el consumidor no debería resignarse a aceptarlo: al fin y al cabo, la Inteligencia Artificial es una tecnología en pleno desarrollo y de la que no cabe esperar siempre un resultado satisfactorio. Intentaremos ilustrar esta tesis con dos ejemplos reales.

El primero es Woebot, una aplicación informática que se anuncia como un robot parlante (chatbot) y que promete reducir los síntomas de depresión en dos semanas, tras haber sido desarrollado por la Universidad de Stanford y probado en estudiantes. Si uno descarga la aplicación podrá observar que se trata de una versión gratuita de prueba, con una duración de dos semanas (el tiempo de mejora que prometen). Una vez transcurridas las dos semanas, el servicio pasa a ser de pago.

El segundo ejemplo es el ofrecido por la plataforma Articoolo, que promete crear contenidos únicos a través de Inteligencia Artificial. Al parecer, lo único que tiene que hacer el consumidor es escribir unas pocas palabras; después, el programa analizará y entenderá el contexto del tema, creando casi al momento un texto relacionado con la materia propuesta. Así, en menos de un minuto, el consumidor tendrá, siempre según los proveedores del servicio, un único y coherente comienzo para su artículo. En este caso, la plataforma tampoco es gratuita, y los productos que ofrece son dos: de una parte, un paquete de artículos (10, 50 ó 100), o una suscripción mensual de artículos (de 30, 100 ó 250 artículos al mes).

Pues bien, cabría plantearse qué puede hacer el consumidor si (a) una vez finalizado el periodo de prueba y pagado el servicio de Woebot, llega a la conclusión de que se trata de un servicio menos eficiente de lo prometido o (b) una vez pagado el pedido mínimo de textos en Articoolo, percibe que la calidad de lo recibido es claramente inferior a lo esperado, por las propias limitaciones de la tecnología empleada. Ante esta tesitura, dos son los remedios previstos por el Derecho de consumo que se pueden traer a colación: el derecho de desistimiento y los remedios por falta de conformidad. Nos detendremos brevemente en ambos.

2. El derecho de desistimiento

Sobre el derecho de desistimiento, no está de más reincidir en el hecho de que este solo será posible respecto de los contratos celebrados a distancia o fuera del establecimiento comercial, situaciones que, dicho sea de paso, serán las más habituales para el caso de los contenidos o servicios digitales generados por Inteligencia Artificial.

Pues bien, según el Cdo. 19 CDR, en los contratos relativos al suministro de contenidos digitales no prestados en un soporte material, “el consumidor debe tener derecho de desistimiento a menos que haya dado su consentimiento para que comience la ejecución del contrato durante el plazo de desistimiento y haya tenido conocimiento de que, consecuentemente, perderá el derecho de desistimiento” (cfr. también el art. 16.m CDR).

El supuesto de los servicios digitales no está expresamente regulado en la CDR, pero debe entenderse incluido dentro del concepto general de “servicios”, cuyo plazo de desistimiento expira “a los 14 días de la celebración del contrato”. En ese caso, “el consumidor debe poder disfrutar del derecho de desistimiento aun cuando haya solicitado la prestación de los servicios antes de que finalice el período de desistimiento. Por otro lado, si el consumidor ejerce su derecho de desistimiento, el comerciante debe tener garantías de que se le va a pagar convenientemente el servicio que ha prestado. El cálculo del importe proporcionado debe basarse en el precio acordado en el contrato, a menos que el consumidor demuestre que el precio total es ya de por sí desproporcionado, en cuyo caso el importe a pagar se calculará sobre la base del valor de mercado del servicio prestado” (Cdo. 50 CDR). No obstante, tal derecho de desistimiento no será posible cuando el servicio “haya sido completamente ejecutado” (art. 16.a CDR).

Como se puede observar, existe una gran diferencia respecto del derecho de desistimiento en función de si se trata de un contenido digital o un servicio digital; diferencia que no es baladí, toda vez que no siempre será fácil determinar si el objeto del contrato es un contenido o un servicio digital. Y para muestra, un botón: la reciente STJUE de 8 de octubre de 2020, EU y PE Digital GmbH (C-641/19). Los hechos que dieron lugar a esta sentencia fueron los siguientes: el 4 de noviembre de 2018, el consumidor “EU” celebró con PE Digital (empresa alemana dedicada a la búsqueda de pareja a través de Internet) un contrato de suscripción Premium por doce meses, que incluía una “garantía de contacto” con otros usuarios así como un test de personalidad con una selección de sugerencias de pareja en el mismo estado federado. Este test de personalidad no se incluía en la suscripción básica, aunque los usuarios podían adquirirla como prestación parcial a cambio del pago de una determinada cantidad. Después de celebrado el contrato, PE Digital informó a EU acerca de su derecho de desistimiento y el consumidor confirmó a la empresa que la prestación debería comenzar antes de que finalizase el plazo de desistimiento. El 8 de noviembre de 2018, EU desiste del contrato y PE Digital le factura casi 400 euros en concepto de compensación donde se incluye el precio separado del test de personalidad. EU presenta demanda ante el Tribunal de lo Civil y Penal de Hamburgo y este eleva cuatro preguntas prejudiciales, entre las que incluye la cuestión relativa al test de personalidad: si se trata de un contenido digital, ya no habría derecho a desistimiento. El TJUE resolvió que el art. 14.3 de la Directiva 2011/83 debe interpretarse en el sentido de que, para determinar el importe proporcional que el consumidor debe abonar cuando haya solicitado expresamente que la ejecución del contrato comience antes de que termine el plazo de desistimiento, y desista, procede tomar en consideración el precio acordado y calcular el importe adeudado pro rata temporis. Solo cuando se haya previsto en el contrato que una o varias prestaciones que se lleven a cabo íntegramente por separado (que en este caso no ocurría), habrá que tener en cuenta el precio establecido para esa prestación. Además, el art. 16.m) de la Directiva 2011/83, en relación con el art. 2.11 del mismo cuerpo normativo, debe interpretarse en el sentido de que la elaboración de un informe de personalidad realizado por un sitio de Internet no constituye suministro de “contenido digital” en el sentido de la disposición.

La resolución del TJUE sobre esta cuestión es en cierta forma decepcionante, ya que se limita a afirmar que un test de esta naturaleza no constituye un contenido digital. A sensu contrario, si no es un contenido digital, habrá que entender que se trata de un servicio digital; solución que es considerablemente discutible. Además, y aún en ese caso, el desistimiento seguiría sin ser posible, de acuerdo con el art. 16.a) CDR; por ello creemos que hubiese sido mejor que el TJUE se limitase a decir que el test en cuestión se incluía dentro de una única prestación de un servicio digital, que no cabía individualizar la prestación relativa al test y que, por lo tanto, había todavía derecho a desistimiento respecto de ese servicio digital global. En cualquier caso, parece que el TJUE, consciente de la reforma que ha supuesto la Directiva 2019/2161 (aún en proceso de transposición), ha querido establecer una doctrina de interpretación favorable al consumidor, en el sentido de que, ante la duda, el objeto del contrato se considere servicio y no contenido digital. Esto es, como decimos, lo que ha venido a indicar la referida Directiva en su Cdo. 30: “(...) puede resultar difícil distinguir entre determinados tipos de contenido digital y servicios digitales, puesto que ambos pueden implicar el suministro continuo del comerciante a lo largo de la vigencia del contrato. (...) Cuando exista una duda sobre si el contrato es un contrato de prestación de servicios o un contrato de suministro de contenido digital que no se preste en un soporte material, deben aplicarse las normas sobre el derecho de desistimiento para los servicios”.

En definitiva, que cuando el objeto del contrato prestado por Inteligencia Artificial constituya un servicio digital, el consumidor sí tendrá derecho de desistimiento en el plazo de 14 días, con las peculiaridades referidas (pago del precio proporcional que corresponda). No obstante, si el objeto del contrato prestado por Inteligencia Artificial constituye un contenido digital, el consumidor no tendrá derecho de desistimiento si ha dado su consentimiento para que comience la ejecución del contrato durante dicho plazo de desistimiento.

III. La falta de conformidad

Antes de examinar los criterios exactos de conformidad, cabría mencionar que los contenidos y servicios digitales generados por Inteligencia Artificial están regulados por la DCSD, aunque ello no se establezca expresamente. Esta es la interpretación que cabe hacer del Cdo. 27, cuando aclara que la DCSD no se aplicará a aquellos casos en que el objeto principal del contrato sea la prestación de servicios profesionales, como los de traducción, arquitectura, asesoramiento jurídico u otros servicios de asesoramiento profesional que el empresario suele realizar personalmente, independientemente de que este haya utilizado medios digitales para obtener el producto del servicio o para entregarlo o transmitirlo al consumidor; a sensu contrario, la DCSD sí se aplicará a los servicios no prestados por una persona como ocurre, por ejemplo, si se prestan a través de Inteligencia Artificial (Sein & Spindler, 2019).

Pues bien, uno de los desarrollos más evidentes en materia de conformidad es que la DCSD distingue entre criterios objetivos y criterios subjetivos de conformidad. Aunque en la propuesta original de 2015 se le daba prioridad a los requisitos subjetivos, la versión final los contempla de forma cumulativa. Téngase en cuenta, además, que el hecho de que los criterios subjetivos aparezcan mencionados (art. 7) con anterioridad a los criterios objetivos (art. 8) no debe generar la falsa impresión de que aquellos priman sobre los criterios objetivos (Twigg-Flesner, 2020).

En cuanto a los criterios subjetivos de conformidad, el art. 7 establece que los contenidos o servicios digitales deben (a) ser acordes a la descripción, la cantidad y la calidad, y poseer la funcionalidad, compatibilidad, interoperabilidad y demás características, según disponga el contrato; (b) ser aptos para los fines específicos para los que el consumidor los necesite y que este haya puesto en conocimiento del empresario como muy tarde en el momento de la celebración del contrato, y respecto de los cuales el empresario haya expresado su aceptación; (c) ser suministrados junto con todos los accesorios, instrucciones, también en materia de instalación, y asistencia al consumidor según disponga el contrato, y (d) ser actualizados según disponga el contrato. De todos los requisitos mencionados, el que más nos interesa es el primero, cuando afirma que los contenidos o servicios digitales deben ser acordes a la calidad dispuesta en el contrato. Esta referencia a la calidad es nueva (Twigg-Flesner, 2020) y, según el Cdo. 42, un elemento contractual a tener en cuenta sobre este criterio sería, por ejemplo, el de “la resolución de las imágenes”.

En cuanto a los criterios objetivos de conformidad, el art. 8 determina que los contenidos o servicios digitales deben: (a) ser aptos para los fines a los que normalmente se destinen contenidos o servicios digitales del mismo tipo, teniendo en cuenta, cuando sea de aplicación, toda norma vigente de la Unión o nacional, toda norma técnica existente o, a falta de dicha norma técnica, todo código de conducta específico de la industria del sector; (b) presentar la cantidad y poseer las cualidades y características de funcionamiento, en particular respecto de la funcionalidad, compatibilidad, accesibilidad, continuidad y seguridad, que presentan normalmente los contenidos o servicios digitales del mismo tipo y que el consumidor pueda razonablemente esperar, dada la naturaleza de los contenidos o servicios digitales y teniendo en cuenta cualquier declaración pública realizada por el empresario, o en su nombre, o por otras personas en fases previas de la cadena de transacciones, especialmente en la publicidad o el etiquetado[ 1 ]; (c) ser suministrados, en su caso, junto con cualesquiera accesorios e instrucciones que el consumidor pueda razonablemente esperar recibir, y (d) ser conformes con la versión de prueba o vista previa de los contenidos o servicios digitales, puestos a disposición por el empresario antes de la celebración del contrato.

Como podemos observar, en el art. 8 no se menciona expresamente la calidad como uno de los criterios objetivos de conformidad, a diferencia de lo que ocurre en el art. 7.b) de la Directiva (UE) 2019/771 cuando, al establecer los criterios objetivos de conformidad de los bienes físicos, sí se hace alusión a la calidad. Esta mención lleva a Twigg-Flesner (2020) a considerar que el nivel requerido de calidad no es determinado exclusivamente por el contrato, ya que esa calidad requerida también es un aspecto a tener en cuenta respecto de la conformidad objetiva. En opinión del autor referido, la calidad negociada solo será relevante cuando exceda de la demandada por el criterio de conformidad objetivo; si la pactada fuese menor, la misma sería desplazada por la calidad exigida por la conformidad objetiva. No obstante, algo que obvia Twigg-Flesner es que el referido art. 7.b) de la Directiva (UE) 2019/771 introduce dicho criterio precedido por la locución “cuando sea de aplicación”. Es decir, que “cuando sea de aplicación, [los bienes] poseerán la calidad y corresponderán a la descripción de la muestra o modelo que el vendedor hubiese facilitado al consumidor antes de la celebración del contrato”; a sensu contrario, si no hubiese una muestra o modelo que sirva de referencia, la calidad como criterio objetivo de conformidad no entrará en funcionamiento respecto de los bienes o productos físicos. En cualquier caso, es indudablemente positivo que se incluya una referencia a la calidad en los criterios objetivos de conformidad, aunque solo opere, creemos, en un análisis comparativo respecto de la muestra proporcionada al consumidor.

Cabría preguntarse, entonces, por qué no se introdujo en la DCSD una cláusula similar para los contenidos o servicios digitales, y más concretamentee, si la omisión fue deliberada y si, en última instancia, tiene algún sentido. Respecto de la primera pregunta, todo parece indicar que sí, es decir, que la omisión fue deliberada, ya que la primera versión de la Propuesta solo proveía un estándar de calidad meramente subjetivo o contractual. Respecto de la segunda pregunta, debe tenerse en cuenta que es poco probable que los consumidores puedan negociar criterios específicos de conformidad subjetiva en los contratos de prestación de servicios digitales suministrados por Inteligencia Artificial, ya que la mayoría de las veces estos contratos se formalizarán en un entorno digital y sin posibilidad de negociación (Twigg-Flesner, 2020). Por ello, entendemos que no, que la omisión no tiene sentido y que puede llevar a resultados manifiestamente injustos; no obstante, pensamos que puede atisbarse una mención implícita a la calidad en el art. 8.d) DCSD cuando exige, como criterio objetivo de conformidad, que los contenidos y servicios digitales sean “conformes con la versión de prueba o vista previa” puesta a disposición por el empresario antes de la celebración del contrato.

IV. Nuestra tesis

En nuestra opinión, el criterio de calidad establecido en el art. 7 DCSD debe interpretarse de forma conjunta con el art. 8 (cuando exige que los servicios digitales presenten las cualidades indicadas en la publicidad o etiquetado) así como con la información precontractual que deberá ser ofrecida por el empresario, incluyendo las características principales de los servicios digitales (art. 5 CDR). Es decir, que los contenidos y servicios digitales deben presentar la calidad objetiva que el consumidor pueda razonablemente esperar en atención a la publicidad, la información precontractual ofrecida por el empresario y, por supuesto, a la versión de prueba (art. 8.d CDR). A mayores, los contenidos y servicios digitales también deberán presentar la calidad subjetiva que el consumidor pueda razonablemente esperar en atención a la publicidad y a la información precontractual ofrecida por el empresario.

¿En qué se traduce todo esto? Pues en que los consumidores de contenidos y servicios digitales suministrados por Inteligencia Artificial, tales como Woebot o Articoolo, tendrán acceso a los remedios de conformidad establecidos en la DCSD (a saber: puesta en conformidad en un primer momento, o reducción del precio y/o resolución en una segunda fase) si los contenidos o servicios digitales no son de la calidad que el consumidor pueda razonablemente esperar, en atención a la publicidad y a la información precontractual proporcionada por el empresario.

La puesta en conformidad de un servicio digital no conforme puede antojarse especialmente complejo en aplicaciones como Woebot. Si el consumidor no está conforme con la calidad del tratamiento “psicológico” ofrecido por la aplicación, que promete mejorar los síntomas de la depresión en dos semanas, ¿cómo podrá exigir su puesta en conformidad? Una cosa es exigir que la aplicación funcione (calidad objetiva), y otra exigir que el servicio digital suministrado por Inteligencia Artificial sea de la calidad que esperamos (calidad subjetiva). En estos casos parece que lo más sensato será permitir, por parte del proveedor del servicio, que el consumidor acceda directamente a la segunda fase de remedios, optando por una reducción del precio o por la resolución (fin de la suscripción).

En el caso de plataformas como Articoolo, la puesta en conformidad parece, a priori, más sencilla de exigir. Si consideramos que uno de los artículos que se nos ha suministrado no es conforme en términos de calidad (subjetiva), lo razonable será entender que se puede exigir a la plataforma que suministre un segundo artículo. En ese caso, el empresario debería suministrarlo en un período razonable de tiempo, lo que no parece que deba resultar excesivamente oneroso, toda vez que el artículo es generado por Inteligencia Artificial. Lo que sí parece más problemático es, sin embargo, que en este caso el remedio vendría a suponer una especie de resolución del servicio (no se modifica el artículo, sino que se suministra uno nuevo), por lo tanto, entendemos que habrán de aplicarse las disposiciones establecidas en el art. 17 DCSD: el consumidor deberá abstenerse de utilizar el servicio digital suministrado (el artículo no conforme) y de ponerlos a disposición de terceros.

IV. Conclusiones

La Inteligencia Artificial es una tecnología que ha venido para cambiar nuestras vidas definitivamente. Su indudable importancia justifica los pasos legislativos que se están tomando por parte de las instituciones europeas para regularla. No obstante, existen otras normativas europeas que también afectan a los contenidos o servicios generados por Inteligencia Artificial y que no compaginan bien con las especificidades de los mismos. Nos referimos a la omisión de la calidad como un criterio objetivo de conformidad y que viene a cuestionar el pretendido carácter de neutralidad y future-proof de la DCSD. Ello obliga a una interpretación amplia de los criterios objetivos de conformidad respecto de los contenidos y servicios digitales generados por Inteligencia Artificial, ya que se trata de una tecnología en desarrollo y que puede que no siempre conduzca (al menos por ahora) a resultados satisfactorios.

Bibliografía

Barona Vilar, S. (2019). Inteligencia Artificial o la algoritmización de la vida y de la justicia: ¿solución o problema? Revista Boliviana de Derecho, 28, 18-49.

García Pérez, R. M. (2020). Interacción entre protección del consumidor y protección de datos personales en la directiva (UE) 2019/770: licitud del tratamiento y conformidad de contenidos y servicios digitales. En E. Arroyo Amayuelas y S. Cámara Lapuente (coords.): El derecho privado en el nuevo paradigma digital (pp. 175-208). Marcial Pons.

Harari, Y. N. (2018). 21 lecciones para el siglo XXI.

Mańko, R. (2016). A legal analysis of the Commission’s proposal for a new directive. European Parliamentary Research Service, European Union, Brussels.

Martínez García, D. N. et al. (2019). Avances de la Inteligencia Artificial en salud. Dominicio de las Ciencias, 5(3), 603-613.

Rochfeld, J. (2016). La réglementation des contrats de fourniture de contenus numeriques: l’appréciation des aspects numeriques. En E. Arroyo Amayuelas y A. Serrano de Nicolas (Dirs.), La europeización del Derecho privado: cuestiones actuales (pp. 29-43). Marcial Pons.

Twigg-Flesner, C. (2020). Conformity of goods and digital content-digital services. En E. Arroyo Amayuelas y S. Cámara Lapuente (coords.): El derecho privado en el nuevo paradigma digital (pp. 49-78). Marcial Pons.

Von Ungern-Sternberg, A. (2018). Autonomous driving: regulatory challenges raised by artificial decision-making and tragic choices. En W. Barfield & U. Pagallo (Eds.), Research Handbook on the Law of Artificial Intelligence (pp. 251-278). Elgar.