Justicia social frente a la IA: sesgos y vulneraciones de derechos humanos en México, Brasil y Colombia
DOI:
https://doi.org/10.54871/cl4c10aiPalabras clave:
inteligencia artificial, sesgos algorítmicos, derechos humanos, justicia social, América LatinaResumen
La implementación de la Inteligencia Artificial (IA) en los sistemas de justicia y administración pública de México, Brasil y Colombia se presenta como solución técnica hacia la eficiencia procesal. Empero, bajo la lógica del capitalismo digital, este proceso conlleva riesgos para la justicia social en regiones con desigualdades estructurales. Desde una perspectiva situada de derechos humanos se analiza cómo los sesgos algorítmicos de clase y raza se infiltran en los sistemas de decisión automatizada. Se concluye que la autoridad algorítmica, al carecer de transparencia y supervisión humana estricta, actúa como una barrera para la tutela judicial efectiva con derechos humanos.
Descargas
Citas
Agencia de los Derechos Fundamentales de la Unión Europea (FRA) (2020). Getting the future right: artificial intelligence and fundamental rights. Viena. https://fra.europa.eu/en/publication/2020/getting-future-right-artificial-intelligence-and-fundamental-rights
BBVA OpenMind (2025). Innovación y tecnología para combatir los sesgos de la inteligencia artificial. BBVA. https://www.bbva.com/es/innovacion/innovacion-y-tecnologia-para-combatir-los-sesgos-de-la-inteligencia-artificial/
Sánchez Caparrós, Mariana y Ross, Zarina (2024). Violencia de género digital en la era de la inteligencia artificial. Ushuaia: Poder Judicial de Tierra del Fuego. https://www.justierradelfuego.gov.ar/wp-content/uploads/2024/04/Violencia-de-genero-digital-en-la-era-de-la-inteligencia-artificial.pdf
Castets-Renard, Céline (2021). Human rights and algorithmic impact assessment for predictive policing. En Constitutional challenges in the algorithmic society (pp. 123-145). Cambridge: Cambridge University Press. https://doi.org/10.1017/9781108914891.007
Centro de Estudios de Justicia de las Américas (CEJA). (2025). IA en los poderes judiciales: reflexiones y lineamientos para las Américas. Santiago. https://cejamericas.org/wp-content/uploads/2025/12/Inteligencia-Artificial-en-los-Poderes-Judiciales-de-las-Americas_.pdf
Ciccolella, Pablo (2024). Capitalismo digital, modo de desarrollo informacional y territorio en América Latina. Geo UERJ, (46), 1-25. https://www.e-publicacoes.uerj.br/geouerj/article/download/87488/51901/329040
Comisión Europea para la Eficiencia de la Justicia (CEPEJ). (2018). Carta ética europea sobre el uso de la IA en los sistemas judiciales. Estrasburgo: Consejo de Europa. https://rm.coe.int/ethical-charter-en-for-publication-4-december-2018/16808f699c
Consiglio di Stato (2019). Sentenza n. 8472 del 13 dicembre 2019. Roma. https://images.go.wolterskluwer.com/WebWoltersKluwer7Baee89464-6ad9-479d-ac0b-ce43a7f696127Dconsiglio-di-stato-sentenza-8472-2019.pdf
Corte Constitucional de Colombia (2020). PretorIA: un ejemplo de incorporación de tecnologías de punta en el sector justicia. Bogotá. https://www.corteconstitucional.gov.co/relatoria/autos/2020/a1280-20.htm
Corte Interamericana de Derechos Humanos (2024). Estándares interamericanos de DDHH y uso estatal de la IA. San José. https://www.eff.org/files/2024/10/30/estandares_interamericanos_de_ddhh_y_uso_estatal_de_la_ia_final.pdf
De Lara-García, José.(2022). IA y justicia: experiencias en América Latina. DIVULGARE, 9(17), 45-67. https://dialnet.unirioja.es/descarga/articulo/10097225.pdf
Gluj, Anabella. (2024). La concepción ampliada del capitalismo de Nancy Fraser: reflexiones sobre su conceptualización y periodización. Rey Desnudo. Revista de Libros, 13(25), 194-218. https://dialnet.unirioja.es/descarga/articulo/10194615.pdf
Goethe-Institut (2024). Sesgo y error: los prejuicios de la IA. Goethe Institut. Ciudad de México. https://www.goethe.de/ins/mx/es/kul/wir/22842955.html
Gordo López, Ángel, y Rubio Martín, Ma. José (2024). Incertidumbres algorítmicas en torno a las violencias de género. El caso del sistema VioGén y otros sistemas de predicción del riesgo. Revista Española De Sociología, 33(2), a225.
Greimas, Algirdas Julien. (1966). Sémantique structurale: recherche de méthode. Paris: Larousse.
Gutiérrez, Juan D. (2024). Critical appraisal of large language models in judicial decision-making. En Regine, Paul Emma Carmel y Jennifer Cobbe (eds.), Handbook on public policy and AI. Cheltenham: Edward Elgar Publishing. En prensa. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4667572
Habermas, Jürgen (1984). The theory of communicative action: reason and the rationalization of society (Vol. 1, T. McCarthy, trad.). Boston: Beacon Press.
Illich, Iván (1974). La convivencialidad. Barcelona: Barral Editores.
Ledesma, José O. (2022). Algoritmos y género: IA al servicio de la violencia simbólica. Revista Llapanchikpaq: Justicia, 4(5), 209-236. https://doi.org/10.51197/lj.v4i5.659
Miranda Bonilla, Haideer (2021). Algoritmos y derechos humanos. Revista de la Facultad de Derecho de México, 71(280), 123-145.
Neptune Rivera, Vivian I. (2015). La desigualdad digital y el acceso a la justicia. New Haven: Yale Law School. https://law.yale.edu/sites/default/files/documents/pdf/SELA15_Neptune_CV_Sp.pdf
Ferrante, Enzo (2021). Inteligencia artificial y sesgos algorítmicos. ¿Por qué deberían importarnos? Nueva Sociedad. https://nuso.org/articulo/inteligencia-artificial-y-sesgos-algoritmicos/
OCDE. (2025). IA en la administración y acceso a la justicia: gobernar con la inteligencia artificial. París: OCDE. https://www.oecd.org/es/publications/gobernar-con-la-inteligencia-artificial_dc00e56a-es/full-report/ai-in-justice-administration-and-access-to-justice_f0cbe651.html
Quipildor Rocha, Pilar (2025). Los riesgos del sesgo algorítmico en la IA y su impacto en el derecho del consumidor. Sistema Argentino de Información Jurídica. Buenos Aires. https://www.saij.gob.ar/ Id SAIJ: DACF250037
Pérez-Ugena Coromina, María (2024). Sesgo de género (en IA). Eunomía: Revista en Cultura de la Legalidad, 311-330.
Soto, Antonio (2024). Desenmascarando los sesgos algorítmicos: ética y transparencia en la IA. LinkedIn. Sunnyvale. https://es.linkedin.com/pulse/desenmascarando-los-sesgos-algor%C3%ADtmicos-%C3%A9tica-y-en-la-antonio-soto-o29wf
Supremo Tribunal Federal de Brasil (STF) (2024). Impactos da inteligência artificial no constitucionalismo contemporâneo. Brasília. https://www.stf.jus.br/arquivo/cms/codi/anexo/Impactos_da_IA_no_Constitucional_Contemporaneo_2024_2703251.pdf
UNESCO (2023). Kit de herramientas sobre la IA y el Estado de derecho para el poder judicial. París: UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000387331_spa
Vásquez Pérez, María Nely (2024). Ética y género en la IA: identificar sesgos de género en IA mediante pensamiento complejo. Revista Iberoamericana De Complejidad Y Ciencias Económicas, 2(2), 49-62. https://doi.org/10.48168/ricce.v2n2p49
Descargas
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2026 Yolanda del Sol Ortega Cruz, Francisco Rosendo Olivares, Jesús Tomás Portillo Juárez
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-CompartirIgual 4.0.
