Social Justice vs. Artificial Intelligence: Biases and Human Rights Violations in Mexico, Brazil, and Colombia
DOI:
https://doi.org/10.54871/cl4c10aiKeywords:
artificial intelligence, algorithmic bias, human rights, social justice, Latin AmericaAbstract
The implementation of Artificial Intelligence (AI) in the justice and public administration systems of Mexico, Brazil, and Colombia is presented as a technical solution for procedural efficiency. However, under the logic of digital capitalism, this process entails risks for social justice in regions marked by structural inequalities. From a situated human rights perspective, this study analyzes how class- and race-based algorithmic biases infiltrate automated decision-making systems. It concludes that algorithmic authority, lacking transparency and strict human oversight, acts as a barrier to effective judicial protection and human rights.
Downloads
References
Agencia de los Derechos Fundamentales de la Unión Europea (FRA) (2020). Getting the future right: artificial intelligence and fundamental rights. Viena. https://fra.europa.eu/en/publication/2020/getting-future-right-artificial-intelligence-and-fundamental-rights
BBVA OpenMind (2025). Innovación y tecnología para combatir los sesgos de la inteligencia artificial. BBVA. https://www.bbva.com/es/innovacion/innovacion-y-tecnologia-para-combatir-los-sesgos-de-la-inteligencia-artificial/
Sánchez Caparrós, Mariana y Ross, Zarina (2024). Violencia de género digital en la era de la inteligencia artificial. Ushuaia: Poder Judicial de Tierra del Fuego. https://www.justierradelfuego.gov.ar/wp-content/uploads/2024/04/Violencia-de-genero-digital-en-la-era-de-la-inteligencia-artificial.pdf
Castets-Renard, Céline (2021). Human rights and algorithmic impact assessment for predictive policing. En Constitutional challenges in the algorithmic society (pp. 123-145). Cambridge: Cambridge University Press. https://doi.org/10.1017/9781108914891.007
Centro de Estudios de Justicia de las Américas (CEJA). (2025). IA en los poderes judiciales: reflexiones y lineamientos para las Américas. Santiago. https://cejamericas.org/wp-content/uploads/2025/12/Inteligencia-Artificial-en-los-Poderes-Judiciales-de-las-Americas_.pdf
Ciccolella, Pablo (2024). Capitalismo digital, modo de desarrollo informacional y territorio en América Latina. Geo UERJ, (46), 1-25. https://www.e-publicacoes.uerj.br/geouerj/article/download/87488/51901/329040
Comisión Europea para la Eficiencia de la Justicia (CEPEJ). (2018). Carta ética europea sobre el uso de la IA en los sistemas judiciales. Estrasburgo: Consejo de Europa. https://rm.coe.int/ethical-charter-en-for-publication-4-december-2018/16808f699c
Consiglio di Stato (2019). Sentenza n. 8472 del 13 dicembre 2019. Roma. https://images.go.wolterskluwer.com/WebWoltersKluwer7Baee89464-6ad9-479d-ac0b-ce43a7f696127Dconsiglio-di-stato-sentenza-8472-2019.pdf
Corte Constitucional de Colombia (2020). PretorIA: un ejemplo de incorporación de tecnologías de punta en el sector justicia. Bogotá. https://www.corteconstitucional.gov.co/relatoria/autos/2020/a1280-20.htm
Corte Interamericana de Derechos Humanos (2024). Estándares interamericanos de DDHH y uso estatal de la IA. San José. https://www.eff.org/files/2024/10/30/estandares_interamericanos_de_ddhh_y_uso_estatal_de_la_ia_final.pdf
De Lara-García, José.(2022). IA y justicia: experiencias en América Latina. DIVULGARE, 9(17), 45-67. https://dialnet.unirioja.es/descarga/articulo/10097225.pdf
Gluj, Anabella. (2024). La concepción ampliada del capitalismo de Nancy Fraser: reflexiones sobre su conceptualización y periodización. Rey Desnudo. Revista de Libros, 13(25), 194-218. https://dialnet.unirioja.es/descarga/articulo/10194615.pdf
Goethe-Institut (2024). Sesgo y error: los prejuicios de la IA. Goethe Institut. Ciudad de México. https://www.goethe.de/ins/mx/es/kul/wir/22842955.html
Gordo López, Ángel, y Rubio Martín, Ma. José (2024). Incertidumbres algorítmicas en torno a las violencias de género. El caso del sistema VioGén y otros sistemas de predicción del riesgo. Revista Española De Sociología, 33(2), a225.
Greimas, Algirdas Julien. (1966). Sémantique structurale: recherche de méthode. Paris: Larousse.
Gutiérrez, Juan D. (2024). Critical appraisal of large language models in judicial decision-making. En Regine, Paul Emma Carmel y Jennifer Cobbe (eds.), Handbook on public policy and AI. Cheltenham: Edward Elgar Publishing. En prensa. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4667572
Habermas, Jürgen (1984). The theory of communicative action: reason and the rationalization of society (Vol. 1, T. McCarthy, trad.). Boston: Beacon Press.
Illich, Iván (1974). La convivencialidad. Barcelona: Barral Editores.
Ledesma, José O. (2022). Algoritmos y género: IA al servicio de la violencia simbólica. Revista Llapanchikpaq: Justicia, 4(5), 209-236. https://doi.org/10.51197/lj.v4i5.659
Miranda Bonilla, Haideer (2021). Algoritmos y derechos humanos. Revista de la Facultad de Derecho de México, 71(280), 123-145.
Neptune Rivera, Vivian I. (2015). La desigualdad digital y el acceso a la justicia. New Haven: Yale Law School. https://law.yale.edu/sites/default/files/documents/pdf/SELA15_Neptune_CV_Sp.pdf
Ferrante, Enzo (2021). Inteligencia artificial y sesgos algorítmicos. ¿Por qué deberían importarnos? Nueva Sociedad. https://nuso.org/articulo/inteligencia-artificial-y-sesgos-algoritmicos/
OCDE. (2025). IA en la administración y acceso a la justicia: gobernar con la inteligencia artificial. París: OCDE. https://www.oecd.org/es/publications/gobernar-con-la-inteligencia-artificial_dc00e56a-es/full-report/ai-in-justice-administration-and-access-to-justice_f0cbe651.html
Quipildor Rocha, Pilar (2025). Los riesgos del sesgo algorítmico en la IA y su impacto en el derecho del consumidor. Sistema Argentino de Información Jurídica. Buenos Aires. https://www.saij.gob.ar/ Id SAIJ: DACF250037
Pérez-Ugena Coromina, María (2024). Sesgo de género (en IA). Eunomía: Revista en Cultura de la Legalidad, 311-330.
Soto, Antonio (2024). Desenmascarando los sesgos algorítmicos: ética y transparencia en la IA. LinkedIn. Sunnyvale. https://es.linkedin.com/pulse/desenmascarando-los-sesgos-algor%C3%ADtmicos-%C3%A9tica-y-en-la-antonio-soto-o29wf
Supremo Tribunal Federal de Brasil (STF) (2024). Impactos da inteligência artificial no constitucionalismo contemporâneo. Brasília. https://www.stf.jus.br/arquivo/cms/codi/anexo/Impactos_da_IA_no_Constitucional_Contemporaneo_2024_2703251.pdf
UNESCO (2023). Kit de herramientas sobre la IA y el Estado de derecho para el poder judicial. París: UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000387331_spa
Vásquez Pérez, María Nely (2024). Ética y género en la IA: identificar sesgos de género en IA mediante pensamiento complejo. Revista Iberoamericana De Complejidad Y Ciencias Económicas, 2(2), 49-62. https://doi.org/10.48168/ricce.v2n2p49
Downloads
Published
How to Cite
Issue
Section
License
Copyright (c) 2026 Yolanda del Sol Ortega Cruz, Francisco Rosendo Olivares, Jesús Tomás Portillo Juárez
This work is licensed under a Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.
