La construcción de un algoritmo «ético»
DOI:
https://doi.org/10.12795/IESTSCIENTIA.2024.i02.06Palabras clave:
Ética en Inteligencia Artificial (IA), Transparencia, Explicabilidad, Regulación Europea, Toma de Decisiones , Automatizadas, Derechos HumanosResumen
El artículo aborda la ética en la inteligencia artificial (IA), destacando el riesgo de sesgos discriminatorios en los algoritmos que afectan decisiones cruciales, como la aprobación de hipotecas o la asignación de atención médica. A partir de 2016, se incrementó la participación de gobiernos y organizaciones en el debate sobre la creación de IA ética y justa. Ejemplos de sesgos algorítmicos ilustran problemas de racismo y exclusión, donde algoritmos, incluso sin información explícita de raza o género, perpetúan inequidades sociales. Además, se analiza la necesidad de transparencia y “explicabilidad en los sistemas de IA para asegurar decisiones comprensibles y auditables. Propone un marco legal europeo que garantice la equidad y minimice los sesgos, sugiriendo certificaciones y una estricta regulación en sistemas de alto riesgo, señalando que la ética debe ser integrada en el diseño y aplicación de estas tecnologías para evitar abusos y discriminaciones.
Descargas
Citas
Amato Mangiameli, A. (2019). Algoritmi e big data. Falla carta sulla robotica. Rivista di Filosofia del Diritto, 1, pp.107-124.
Barocas, S., Hood, S., & Ziewitz, M. (2013). Governing algorithms: A provocation piece. SSRN. http://dx.doi.org/10.2139/ssrn.2245322.
Belloso Martín, N. (2022). La problemática de los sesgos algorítmicos (con especial referencia a los de género): ¿Hacia un derecho a la protección contra los sesgos? En F. H. Llano Alonso (Dir.), J. Garrido Martín, & R. D. Valdivia Jiménez (Coords.), Inteligencia Artificial y Filosofía del Derecho (pp. 47-50). Laborum Ediciones.
Boix Palop, A. (2020). Los algoritmos son reglamentos: La necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la administración para la adopción de decisiones. Revista de Derecho Público: Teoría y Método, 1, pp.223-270.
Bostrom, N., & Yudkowsky, E. (2011). The ethics of artificial intelligence. En W. Ramsey & K. Frankish (Eds.), The Cambridge Handbook of Artificial Intelligence (pp. 1-2). Cambridge University Press.
Buolamwini, J. A. (2017). Gender shades: Intersectional phenotypic and demographic evaluation of face datasets and gender classifiers. Massachusetts Institute of Technology.
Cerrillo I Martínez, A. (2019). El impacto de la inteligencia artificial en el derecho administrativo: ¿Nuevos conceptos para nuevas realidades técnicas? Revista General de Derecho Administrativo, 50.
Cormen, T. H., Leiserson, C. E., Rivest, R. L., & Stein, C. (2009). Introduction to algorithms (3ª ed.). The MIT Press.
Daston, L., & Galison, P. (1992). The image of objectivity. Representations, (40), 81–128. https://doi.org/10.2307/2928741.
Degli-Esposti, S. (2023). ¿Qué sabemos de? La ética de la inteligencia artificial. Los libros de las Cataratas, pp. 33-34.
Epsilon Tecnología. (s.f.). Algoritmos en redes sociales: ¿Qué importancia tienen? Recuperado de https://epsilontec.com/algoritmos-en-redes-sociales-que-importancia-tienen/.
Fernández, A. (2019). Inteligencia artificial en los servicios financieros. Boletín Económico. Artículos Analíticos del Banco de España, 2, p. 5.
Floridi, L. (1999). Information ethics: On the philosophical foundation of computer ethics. Ethics and Information Technology, 1(1), 33–52. DOI:10.1023/A:1010018611096.
Floridi, L. (2017). La quarta rivoluzione: Come l’infosfera sta cambiando il mondo. Raffaello Cortina.
Floridi, L. (2019). Etica dell’intelligenza artificiale: Sviluppi, opportunità, sfide. Raffaello Cortina Editore.
García-Marzá, D. (2023). Ética digital discursiva: De la explicabilidad a la participación. Daimon. Revista Internacional de Filosofía, 90, 99–114.
Gutiérrez David, M. E. (2021). Administraciones inteligentes y acceso al código fuente y los algoritmos públicos: Conjurando riesgos de cajas negras decisionales. Derecom: Revista Internacional de Derecho de la Comunicación y las Nuevas Tecnologías, 30, p. 50.
Hao, K. (2019, febrero 8). Cómo se produce el sesgo algorítmico y por qué es tan difícil de entenderlo. MIT Technology Review.
Hill, R. K. (2016). What an algorithm is. Philosophy & Technology, 29, 35–59.
Iliadis, A., & Russo, F. (2016). Critical data studies: An introduction. Big Data & Society, 2(1), 1–12. DOI:10.1177/2053951716674238.
Kearns, M., & Roth, A. (2020). The ethical algorithm: The science of socially aware Kearns, M., & Roth, A. (2020). The ethical algorithm: The science of socially aware algorithm design (Trad. GEA Textos, S.L.). Wolters Kluwer España.
Kraemer, F., Van Overveld, K., & Peterson, M. (2020). Is there an ethics of algorithms? Ethics and Information Technology, 13(3), 251–260. DOI:10.1007/s10676-010-9233-7.
Llano Alonso, F. (2024). Homo ex machina: Ética de la inteligencia artificial y derecho digital ante el horizonte de la singularidad tecnológica. Tirant lo Blanch.
Barrio Andrés, M. (2020). Retos y desafíos del Estado algorítmico de Derecho. Real Instituto Elcano. Análisis del Real Instituto Elcano, 82. https://www.realinstitutoelcano.org/analisis/retos-y-desafios-del-estado-algoritmico-de-derecho/.
Mager, A. (2012). Algorithmic ideology: How capitalist society shapes search engines. Information, Communication & Society, 15(5), 769–787. DOI:10.2139/ssrn.1926244
Martin, K. (2019). Ethical implications and accountability of algorithms. Journal of Business Ethics, 163(4), 835–850. DOI: 10.1007/s10551-018-3921-3.
Mullane, N. (2019, febrero). La eliminación de los sesgos en los algoritmos. La Revista de la Normalización Española, 11.
Noguerol Díaz, Y. (2020). Reseña de la obra «La regulación de los algoritmos» de Alejandro José Huergo Lora (Dir.), Gustavo Manuel Díaz González (Coord.), Aranzadi Thomson Reuters. Revista Administración & Ciudadanía, 15(2), pp. 265-266.
Obermeyer, Z., Powers, B., Vogeli, C., & Mullainathan, S. (2019). Dissecting racial bias in an algorithm used to manage the health of populations. Science, 366(6464), pp. 447-453. DOI: 10.1126/science. aax2342.
Ochigame, R. (2019, diciembre 20). The invention of ethical AI. The Intercept. https://theintercept.com/2019/12/20/mit-ethical-ai-artificial-intelligence/ .
Ortiz De Zárate Alcarazo, L. (2022). Explicabilidad (de la inteligencia artificial). Eunomía. Revista en Cultura de la Legalidad, 22, p. 338.
Pătraș, L., & Todolí, A. (2022). Ser influencer hoy: Posibilidades y obstáculos de una nueva fuente de empleo. Papers de la Càtedra d’Economia Colaborativa i Transformació Digital, 4, p. 54.
Pethig, F., & Kroenung, J. (2023). Biased humans, (un)biased algorithms? Journal of Business Ethics, 183(4), 637–652. DOI:10.1007/s10551-022-05071-8.
Pinto Fontanillo, J. A. (2020). El derecho ante los retos de la inteligencia artificial. Edisofer.
Savulescu, J. (2012). ¿Decisiones peligrosas? Una bioética desafiante (Trad. Blanca Rodríguez López & Enrique Bonete Perales). Tecnos.
Savulescu, J., & Maslen, H. (2015). Moral enhancement and artificial intelligence: Moral AI? En J. Romportl, E. Zackova, & J. Kelemen (Eds.), Beyond Artificial Intelligence: The disappearing human-machine divide (pp. 79–95). Springer. https://doi.org/10.1007/978-3-319-09668-1_6
Stanovsky, G., Smith, N. A., & Zettlemoyer, L. (2019, Julio). Evaluating gender bias in machine translation. Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics (pp. 1679–1684). Association for Computational Linguistics.
Turilli, M., & Floridi, L. (2009). The ethics of information transparency. Ethics and Information Technology, 11(2), 105–112. DOI:10.1007/s10676-009-9187-9 .
Vantin, S. (2021). Inteligencia artificial y derecho antidiscriminatorio. En F. H. Llano Alonso (Dir.), J. Garrido Martín, & R. D. Valdivia Jiménez (Coords.), Inteligencia artificial y derecho: El jurista ante los retos de la era digital (pp. 374-376). Laborum Ediciones.
Vantin, S. (2021). Recensione di Lettieri, N. (2020). Antigone e gli algoritmi. Appunti per un approccio giusfilosofico. Mucchi. Ars Interpretandi, 1, pp. 195-197.
Referencias Normativas
Grupo de Altos Expertos de la Comisión Europea. (2018). Ethics guidelines for trustworthy AI. Comisión Europea. https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai
Parlamento Europeo. (2022). Artificial intelligence and human rights: Opportunities, risks, and ethical considerations (EPRS_STU (2022)729541). Servicio de Investigación Parlamentaria Europeo. https://www.europarl.europa.eu/stoa/en/document/EPRS_STU(2022)729541
Parlamento Europeo. (2024). Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo de 13 de junio de 2024 por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) n.º 300/2008, (UE) n.º 167/2013, (UE) n.º 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828. Diario Oficial de la Unión Europea, L XXX/XX.
Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO). (2021). Recomendación sobre la Ética de la Inteligencia Artificial. https://unesdoc.unesco.org/ark:/48223/pf0000377897.
Descargas
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2024 Alessandra Esther Castagnedi Ramirez
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-CompartirIgual 4.0.
Aquellos autores/as que tengan publicaciones con esta revista, aceptan los términos siguientes:- Los autores/as conservarán sus derechos de autor y garantizarán a la revista el derecho de primera publicación de su obra, el cuál estará simultáneamente sujeto a la Licencia de reconocimiento de Creative Commons que permite a terceros compartir la obra siempre que se indique su autor y su primera publicación esta revista.
- Los autores/as podrán adoptar otros acuerdos de licencia no exclusiva de distribución de la versión de la obra publicada (p. ej.: depositarla en un archivo telemático institucional o publicarla en un volumen monográfico) siempre que se indique la publicación inicial en esta revista.
- Se permite y recomienda a los autores/as difundir su obra a través de Internet (p. ej.: en archivos telemáticos institucionales o en su página web) antes y durante el proceso de envío, lo cual puede producir intercambios interesantes y aumentar las citas de la obra publicada. (Véase El efecto del acceso abierto).
- Resumen 8
- PDF 1
