Justiça social versus IA: preconceitos e violações de direitos humanos no México, Brasil e Colômbia
DOI:
https://doi.org/10.54871/cl4c10aiPalavras-chave:
inteligência artificial, vieses algorítmicos, direitos humanos, justiça social, América LatinaResumo
A implementação da Inteligência Artificial (IA) nos sistemas de justiça e administração pública do México, Brasil e Colômbia apresenta-se como solução técnica para a eficiência processual. Contudo, sob a lógica do capitalismo digital, esse processo traz riscos à justiça social em regiões com desigualdades estruturais. A partir de uma perspectiva situada de direitos humanos, analisa-se como vieses algorítmicos de classe e raça se infiltram nos sistemas de decisão automatizada. Conclui-se que a autoridade algorítmica, sem transparência e supervisão humana rigorosa, atua como barreira à tutela judicial efetiva e aos direitos humanos.
Downloads
Referências
Agencia de los Derechos Fundamentales de la Unión Europea (FRA) (2020). Getting the future right: artificial intelligence and fundamental rights. Viena. https://fra.europa.eu/en/publication/2020/getting-future-right-artificial-intelligence-and-fundamental-rights
BBVA OpenMind (2025). Innovación y tecnología para combatir los sesgos de la inteligencia artificial. BBVA. https://www.bbva.com/es/innovacion/innovacion-y-tecnologia-para-combatir-los-sesgos-de-la-inteligencia-artificial/
Sánchez Caparrós, Mariana y Ross, Zarina (2024). Violencia de género digital en la era de la inteligencia artificial. Ushuaia: Poder Judicial de Tierra del Fuego. https://www.justierradelfuego.gov.ar/wp-content/uploads/2024/04/Violencia-de-genero-digital-en-la-era-de-la-inteligencia-artificial.pdf
Castets-Renard, Céline (2021). Human rights and algorithmic impact assessment for predictive policing. En Constitutional challenges in the algorithmic society (pp. 123-145). Cambridge: Cambridge University Press. https://doi.org/10.1017/9781108914891.007
Centro de Estudios de Justicia de las Américas (CEJA). (2025). IA en los poderes judiciales: reflexiones y lineamientos para las Américas. Santiago. https://cejamericas.org/wp-content/uploads/2025/12/Inteligencia-Artificial-en-los-Poderes-Judiciales-de-las-Americas_.pdf
Ciccolella, Pablo (2024). Capitalismo digital, modo de desarrollo informacional y territorio en América Latina. Geo UERJ, (46), 1-25. https://www.e-publicacoes.uerj.br/geouerj/article/download/87488/51901/329040
Comisión Europea para la Eficiencia de la Justicia (CEPEJ). (2018). Carta ética europea sobre el uso de la IA en los sistemas judiciales. Estrasburgo: Consejo de Europa. https://rm.coe.int/ethical-charter-en-for-publication-4-december-2018/16808f699c
Consiglio di Stato (2019). Sentenza n. 8472 del 13 dicembre 2019. Roma. https://images.go.wolterskluwer.com/WebWoltersKluwer7Baee89464-6ad9-479d-ac0b-ce43a7f696127Dconsiglio-di-stato-sentenza-8472-2019.pdf
Corte Constitucional de Colombia (2020). PretorIA: un ejemplo de incorporación de tecnologías de punta en el sector justicia. Bogotá. https://www.corteconstitucional.gov.co/relatoria/autos/2020/a1280-20.htm
Corte Interamericana de Derechos Humanos (2024). Estándares interamericanos de DDHH y uso estatal de la IA. San José. https://www.eff.org/files/2024/10/30/estandares_interamericanos_de_ddhh_y_uso_estatal_de_la_ia_final.pdf
De Lara-García, José.(2022). IA y justicia: experiencias en América Latina. DIVULGARE, 9(17), 45-67. https://dialnet.unirioja.es/descarga/articulo/10097225.pdf
Gluj, Anabella. (2024). La concepción ampliada del capitalismo de Nancy Fraser: reflexiones sobre su conceptualización y periodización. Rey Desnudo. Revista de Libros, 13(25), 194-218. https://dialnet.unirioja.es/descarga/articulo/10194615.pdf
Goethe-Institut (2024). Sesgo y error: los prejuicios de la IA. Goethe Institut. Ciudad de México. https://www.goethe.de/ins/mx/es/kul/wir/22842955.html
Gordo López, Ángel, y Rubio Martín, Ma. José (2024). Incertidumbres algorítmicas en torno a las violencias de género. El caso del sistema VioGén y otros sistemas de predicción del riesgo. Revista Española De Sociología, 33(2), a225.
Greimas, Algirdas Julien. (1966). Sémantique structurale: recherche de méthode. Paris: Larousse.
Gutiérrez, Juan D. (2024). Critical appraisal of large language models in judicial decision-making. En Regine, Paul Emma Carmel y Jennifer Cobbe (eds.), Handbook on public policy and AI. Cheltenham: Edward Elgar Publishing. En prensa. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4667572
Habermas, Jürgen (1984). The theory of communicative action: reason and the rationalization of society (Vol. 1, T. McCarthy, trad.). Boston: Beacon Press.
Illich, Iván (1974). La convivencialidad. Barcelona: Barral Editores.
Ledesma, José O. (2022). Algoritmos y género: IA al servicio de la violencia simbólica. Revista Llapanchikpaq: Justicia, 4(5), 209-236. https://doi.org/10.51197/lj.v4i5.659
Miranda Bonilla, Haideer (2021). Algoritmos y derechos humanos. Revista de la Facultad de Derecho de México, 71(280), 123-145.
Neptune Rivera, Vivian I. (2015). La desigualdad digital y el acceso a la justicia. New Haven: Yale Law School. https://law.yale.edu/sites/default/files/documents/pdf/SELA15_Neptune_CV_Sp.pdf
Ferrante, Enzo (2021). Inteligencia artificial y sesgos algorítmicos. ¿Por qué deberían importarnos? Nueva Sociedad. https://nuso.org/articulo/inteligencia-artificial-y-sesgos-algoritmicos/
OCDE. (2025). IA en la administración y acceso a la justicia: gobernar con la inteligencia artificial. París: OCDE. https://www.oecd.org/es/publications/gobernar-con-la-inteligencia-artificial_dc00e56a-es/full-report/ai-in-justice-administration-and-access-to-justice_f0cbe651.html
Quipildor Rocha, Pilar (2025). Los riesgos del sesgo algorítmico en la IA y su impacto en el derecho del consumidor. Sistema Argentino de Información Jurídica. Buenos Aires. https://www.saij.gob.ar/ Id SAIJ: DACF250037
Pérez-Ugena Coromina, María (2024). Sesgo de género (en IA). Eunomía: Revista en Cultura de la Legalidad, 311-330.
Soto, Antonio (2024). Desenmascarando los sesgos algorítmicos: ética y transparencia en la IA. LinkedIn. Sunnyvale. https://es.linkedin.com/pulse/desenmascarando-los-sesgos-algor%C3%ADtmicos-%C3%A9tica-y-en-la-antonio-soto-o29wf
Supremo Tribunal Federal de Brasil (STF) (2024). Impactos da inteligência artificial no constitucionalismo contemporâneo. Brasília. https://www.stf.jus.br/arquivo/cms/codi/anexo/Impactos_da_IA_no_Constitucional_Contemporaneo_2024_2703251.pdf
UNESCO (2023). Kit de herramientas sobre la IA y el Estado de derecho para el poder judicial. París: UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000387331_spa
Vásquez Pérez, María Nely (2024). Ética y género en la IA: identificar sesgos de género en IA mediante pensamiento complejo. Revista Iberoamericana De Complejidad Y Ciencias Económicas, 2(2), 49-62. https://doi.org/10.48168/ricce.v2n2p49
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2026 Yolanda del Sol Ortega Cruz, Francisco Rosendo Olivares, Jesús Tomás Portillo Juárez
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.
