The Construction of an ‘Ethical’ Algorithm
DOI:
https://doi.org/10.12795/IESTSCIENTIA.2024.i02.06Keywords:
Ethics in Artificial Intelligence (AI), Algorithmic Bias, Transparency, European Regulation, Automated Decision-Making, Human RightsAbstract
The article addresses ethics in artificial intelligence (AI), highlighting the risk of discriminatory bias in algorithms that affect crucial decisions, such as mortgage approval or health care allocation. Since 2016, governments and organisations have become increasingly involved in the debate on creating ethical and fair AI. Examples of algorithmic biases illustrate problems of racism and exclusion, where algorithms, even without explicit race or gender information, perpetuate social inequities. Furthermore, it analyses the need for transparency and explainability in AI systems to ensure understandable and auditable decisions. It proposes a European legal framework that guarantees fairness and minimises bias, suggesting certifications and strict regulation in high-risk systems, noting that ethics must be integrated into the design and application of these technologies to avoid abuse and discrimination.
Downloads
References
Amato Mangiameli, A. (2019). Algoritmi e big data. Falla carta sulla robotica. Rivista di Filosofia del Diritto, 1, pp.107-124.
Barocas, S., Hood, S., & Ziewitz, M. (2013). Governing algorithms: A provocation piece. SSRN. http://dx.doi.org/10.2139/ssrn.2245322.
Belloso Martín, N. (2022). La problemática de los sesgos algorítmicos (con especial referencia a los de género): ¿Hacia un derecho a la protección contra los sesgos? En F. H. Llano Alonso (Dir.), J. Garrido Martín, & R. D. Valdivia Jiménez (Coords.), Inteligencia Artificial y Filosofía del Derecho (pp. 47-50). Laborum Ediciones.
Boix Palop, A. (2020). Los algoritmos son reglamentos: La necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la administración para la adopción de decisiones. Revista de Derecho Público: Teoría y Método, 1, pp.223-270.
Bostrom, N., & Yudkowsky, E. (2011). The ethics of artificial intelligence. En W. Ramsey & K. Frankish (Eds.), The Cambridge Handbook of Artificial Intelligence (pp. 1-2). Cambridge University Press.
Buolamwini, J. A. (2017). Gender shades: Intersectional phenotypic and demographic evaluation of face datasets and gender classifiers. Massachusetts Institute of Technology.
Cerrillo I Martínez, A. (2019). El impacto de la inteligencia artificial en el derecho administrativo: ¿Nuevos conceptos para nuevas realidades técnicas? Revista General de Derecho Administrativo, 50.
Cormen, T. H., Leiserson, C. E., Rivest, R. L., & Stein, C. (2009). Introduction to algorithms (3ª ed.). The MIT Press.
Daston, L., & Galison, P. (1992). The image of objectivity. Representations, (40), 81–128. https://doi.org/10.2307/2928741.
Degli-Esposti, S. (2023). ¿Qué sabemos de? La ética de la inteligencia artificial. Los libros de las Cataratas, pp. 33-34.
Epsilon Tecnología. (s.f.). Algoritmos en redes sociales: ¿Qué importancia tienen? Recuperado de https://epsilontec.com/algoritmos-en-redes-sociales-que-importancia-tienen/.
Fernández, A. (2019). Inteligencia artificial en los servicios financieros. Boletín Económico. Artículos Analíticos del Banco de España, 2, p. 5.
Floridi, L. (1999). Information ethics: On the philosophical foundation of computer ethics. Ethics and Information Technology, 1(1), 33–52. DOI:10.1023/A:1010018611096.
Floridi, L. (2017). La quarta rivoluzione: Come l’infosfera sta cambiando il mondo. Raffaello Cortina.
Floridi, L. (2019). Etica dell’intelligenza artificiale: Sviluppi, opportunità, sfide. Raffaello Cortina Editore.
García-Marzá, D. (2023). Ética digital discursiva: De la explicabilidad a la participación. Daimon. Revista Internacional de Filosofía, 90, 99–114.
Gutiérrez David, M. E. (2021). Administraciones inteligentes y acceso al código fuente y los algoritmos públicos: Conjurando riesgos de cajas negras decisionales. Derecom: Revista Internacional de Derecho de la Comunicación y las Nuevas Tecnologías, 30, p. 50.
Hao, K. (2019, febrero 8). Cómo se produce el sesgo algorítmico y por qué es tan difícil de entenderlo. MIT Technology Review.
Hill, R. K. (2016). What an algorithm is. Philosophy & Technology, 29, 35–59.
Iliadis, A., & Russo, F. (2016). Critical data studies: An introduction. Big Data & Society, 2(1), 1–12. DOI:10.1177/2053951716674238.
Kearns, M., & Roth, A. (2020). The ethical algorithm: The science of socially aware Kearns, M., & Roth, A. (2020). The ethical algorithm: The science of socially aware algorithm design (Trad. GEA Textos, S.L.). Wolters Kluwer España.
Kraemer, F., Van Overveld, K., & Peterson, M. (2020). Is there an ethics of algorithms? Ethics and Information Technology, 13(3), 251–260. DOI:10.1007/s10676-010-9233-7.
Llano Alonso, F. (2024). Homo ex machina: Ética de la inteligencia artificial y derecho digital ante el horizonte de la singularidad tecnológica. Tirant lo Blanch.
Barrio Andrés, M. (2020). Retos y desafíos del Estado algorítmico de Derecho. Real Instituto Elcano. Análisis del Real Instituto Elcano, 82. https://www.realinstitutoelcano.org/analisis/retos-y-desafios-del-estado-algoritmico-de-derecho/.
Mager, A. (2012). Algorithmic ideology: How capitalist society shapes search engines. Information, Communication & Society, 15(5), 769–787. DOI:10.2139/ssrn.1926244
Martin, K. (2019). Ethical implications and accountability of algorithms. Journal of Business Ethics, 163(4), 835–850. DOI: 10.1007/s10551-018-3921-3.
Mullane, N. (2019, febrero). La eliminación de los sesgos en los algoritmos. La Revista de la Normalización Española, 11.
Noguerol Díaz, Y. (2020). Reseña de la obra «La regulación de los algoritmos» de Alejandro José Huergo Lora (Dir.), Gustavo Manuel Díaz González (Coord.), Aranzadi Thomson Reuters. Revista Administración & Ciudadanía, 15(2), pp. 265-266.
Obermeyer, Z., Powers, B., Vogeli, C., & Mullainathan, S. (2019). Dissecting racial bias in an algorithm used to manage the health of populations. Science, 366(6464), pp. 447-453. DOI: 10.1126/science. aax2342.
Ochigame, R. (2019, diciembre 20). The invention of ethical AI. The Intercept. https://theintercept.com/2019/12/20/mit-ethical-ai-artificial-intelligence/ .
Ortiz De Zárate Alcarazo, L. (2022). Explicabilidad (de la inteligencia artificial). Eunomía. Revista en Cultura de la Legalidad, 22, p. 338.
Pătraș, L., & Todolí, A. (2022). Ser influencer hoy: Posibilidades y obstáculos de una nueva fuente de empleo. Papers de la Càtedra d’Economia Colaborativa i Transformació Digital, 4, p. 54.
Pethig, F., & Kroenung, J. (2023). Biased humans, (un)biased algorithms? Journal of Business Ethics, 183(4), 637–652. DOI:10.1007/s10551-022-05071-8.
Pinto Fontanillo, J. A. (2020). El derecho ante los retos de la inteligencia artificial. Edisofer.
Savulescu, J. (2012). ¿Decisiones peligrosas? Una bioética desafiante (Trad. Blanca Rodríguez López & Enrique Bonete Perales). Tecnos.
Savulescu, J., & Maslen, H. (2015). Moral enhancement and artificial intelligence: Moral AI? En J. Romportl, E. Zackova, & J. Kelemen (Eds.), Beyond Artificial Intelligence: The disappearing human-machine divide (pp. 79–95). Springer. https://doi.org/10.1007/978-3-319-09668-1_6
Stanovsky, G., Smith, N. A., & Zettlemoyer, L. (2019, Julio). Evaluating gender bias in machine translation. Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics (pp. 1679–1684). Association for Computational Linguistics.
Turilli, M., & Floridi, L. (2009). The ethics of information transparency. Ethics and Information Technology, 11(2), 105–112. DOI:10.1007/s10676-009-9187-9 .
Vantin, S. (2021). Inteligencia artificial y derecho antidiscriminatorio. En F. H. Llano Alonso (Dir.), J. Garrido Martín, & R. D. Valdivia Jiménez (Coords.), Inteligencia artificial y derecho: El jurista ante los retos de la era digital (pp. 374-376). Laborum Ediciones.
Vantin, S. (2021). Recensione di Lettieri, N. (2020). Antigone e gli algoritmi. Appunti per un approccio giusfilosofico. Mucchi. Ars Interpretandi, 1, pp. 195-197.
Referencias Normativas
Grupo de Altos Expertos de la Comisión Europea. (2018). Ethics guidelines for trustworthy AI. Comisión Europea. https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai
Parlamento Europeo. (2022). Artificial intelligence and human rights: Opportunities, risks, and ethical considerations (EPRS_STU (2022)729541). Servicio de Investigación Parlamentaria Europeo. https://www.europarl.europa.eu/stoa/en/document/EPRS_STU(2022)729541
Parlamento Europeo. (2024). Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo de 13 de junio de 2024 por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) n.º 300/2008, (UE) n.º 167/2013, (UE) n.º 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828. Diario Oficial de la Unión Europea, L XXX/XX.
Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO). (2021). Recomendación sobre la Ética de la Inteligencia Artificial. https://unesdoc.unesco.org/ark:/48223/pf0000377897.
Downloads
Published
How to Cite
Issue
Section
License
Copyright (c) 2024 Alessandra Esther Castagnedi Ramirez
This work is licensed under a Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.
Those authors being published in this journal agree to the following terms:
- Authors retain their copyright and they will guarantee to the journal the right of first publication of their work, which will be simultaneously subject to license recognition by Creative Commons that allows others to share such work provided it is stated the author’s name and his first publishing in IUS ET SCIENTIA.
- Authors may take other non-exclusive distribution license agreements version of the published work (e.g. deposit in an institutional digital file or publish it in a monographic volume) provided it is stated the initial publication in this journal.
- It is allowed and encouraged that Author s disseminate their work via the Internet (e. g. institutional digital files or on their website) prior to and during the submission process, which can lead to interesting exchanges and to increase citation of the published work.
- Abstract 13
- PDF (Español (España)) 5
