Inteligencia artificial y equidad social en el Mercosur: el caso del Cadastro Único brasileño y la propuesta de un marco regulatorio regional

• Federico Pablo Piana

  Universidad del Salvador, Buenos Aires, Argentina

  https://orcid.org/0000-0003-3176-4049

El artículo analiza el papel de la inteligencia artificial (IA) en la gestión de registros y programas sociales en los países del Mercosur, explorando su potencial para mejorar la eficiencia estatal y, al mismo tiempo, los riesgos de exclusión que puede producir. A partir del estudio de caso del Cadastro Único de Brasil, se examina cómo los algoritmos de aprendizaje automático permiten optimizar recursos, detectar inconsistencias y anticipar vulnerabilidades sociales. No obstante, también se advierte que, sin marcos éticos y regulatorios adecuados, la IA puede reproducir sesgos estructurales y erosionar la equidad. El texto propone lineamientos para un marco regulatorio regional que incorpore auditorías algorítmicas, transparencia, explicabilidad, gobernanza de datos y supervisión humana. Se argumenta que la IA no es neutral: refleja valores, decisiones y jerarquías. Solo mediante una gobernanza democrática regional podrá convertirse en una herramienta de inclusión y justicia social, en lugar de consolidar desigualdades bajo la apariencia de eficiencia técnica.

1. Federico Pablo Piana, Universidad del Salvador, Buenos Aires, Argentina

   Licenciado en Ciencia Política por la Universidad del Salvador (USAL). Licenciado en Comunicación Social por la Universidad Nacional de La Plata (UNLP). Doctorando en Relaciones Internacionales en la USAL. Docente de Derecho Político en la Facultad de Ciencias Jurídicas de la USAL. 

Banco Interamericano de Desarrollo. (2024). IA desde los cimientos: Desafíos y oportunidades en el contexto de América Latina y el Caribe [Informe]. https://publications.iadb.org/es/ia-desde-los-cimientos-desafios-y-oportunidades-en-el-contexto-de-america-latina-y-el-caribe

Barbosa, T. S. (2022). O direito à explicação nas decisões automatizadas: Uma análise à luz do devido processo informacional [El derecho a la explicación en las decisiones automatizadas: Un análisis a la luz del debido proceso informacional] [Tesis de maestría, Pontifícia Universidade Católica do Rio Grande do Sul]. https://tede2.pucrs.br/tede2/handle/tede/10294

Benjamin, R. (2019). Race after technology: Abolitionist tools for the new Jim Code. Polity Press.

Brasil. (2024). Cadastro Único para Programas Sociais [Sitio web]. Ministério da Cidadania. https://www.gov.br/cidadania

Citron, D. K. (2008). Technological due process. Washington University Law Review, 85(6), 1249–1313.

Comisión Económica para América Latina y el Caribe (CEPAL) & Centro Nacional de Inteligencia Artificial (CENIA). (2025). Índice Latinoamericano de Inteligencia Artificial (ILIA) 2025 [Informe]. Naciones Unidas. https://www.cepal.org/es/publicaciones/82514-indice-latinoamericano-inteligencia-artificial-ilia-2025

Comisión Económica para América Latina y el Caribe (CEPAL) & Organización del Tratado de Cooperación Amazónica (OTCA). (2024). Brechas de desigualdad sociodemográfica en la Región Amazónica: Apoyo a la elaboración e implementación de la Agenda Estratégica de Cooperación Amazónica [Informe]. Naciones Unidas. https://www.cepal.org/es/publicaciones/80465-brechas-desigualdad-sociodemografica-la-region-amazonica-apoyo-la-elaboracion

Comisión Económica para América Latina y el Caribe (CEPAL). (2024). Governança em rede: Gestores se reúnem em Brasília para impulsionar modernização da gestão do Cadastro Ambiental Rural [Gobernanza en red: Gestores se reúnen en Brasilia para impulsar la modernización de la gestión del Catastro Ambiental Rural] [Nota informativa]. https://www.cepal.org/pt-br/notas/governanca-rede-gestores-se-reunem-brasilia-impulsionar-modernizacao-gestao-cadastro-ambiental

Comisión Europea. (2021). Propuesta de reglamento sobre normas armonizadas en materia de inteligencia artificial (Ley de IA) [Documento normativo]. https://digital-strategy.ec.europa.eu/es/library/proposal-regulation-laying-down-harmonised-rules-artificial-intelligence

Controladoria-Geral da União (CGU). (2022). Relatório de avaliação: Ministério do Desenvolvimento e Assistência Social, Família e Combate à Fome (MDS) - Secretaria de Avaliação, Gestão da Informação e Cadastro Único - Exercício 2022 (Relatório nº 1094283) [Informe de auditoría]. Governo Federal do Brasil. https://www.unifal-mg.edu.br/sisu/wp-content/uploads/sites/72/2023/06/Relato%CC%81rio_Avaliac%CC%A7a%CC%83o_CadU%CC%81nico_1094283.pdf

Crawford, K. (2021). Atlas of AI: Power, politics, and the planetary costs of artificial intelligence. Yale University Press.

Eubanks, V. (2018). Automating inequality: How high-tech tools profile, police, and punish the poor. St. Martin’s Press.

Faria, G. (2022). Tecnologias da informação e comunicação nas políticas sociais: Opacidade e ilusão democrata [Tecnologías de la información y comunicación en las políticas sociales: Opacidad e ilusión democrática]. Revista Katálysis, 25(1), 137–146. https://doi.org/10.1590/1982-0259.2022.e82314

Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, C., Madelin, R., Pagallo, U., Rossi, F., Schafer, B., Valcke, P., & Vayena, E. (2018). AI4People—An ethical framework for a good AI society. Minds and Machines, 28(4), 689–707. https://doi.org/10.1007/s11023-018-9482-5

Foro Económico Mundial. (2023). The Presidio Recommendations on Responsible Generative AI [Recomendaciones de Presidio sobre IA generativa responsable] [Informe]. https://www.weforum.org/publications/the-presidio-recommendations-on-responsible-generative-ai/

Instituto Brasileiro de Geografia e Estatística (IBGE). (2023). População quilombola é de 1,3 milhão, indica recorte inédito do Censo [La población quilombola es de 1,3 millones, indica recorte inédito del censo] [Nota de prensa]. Governo do Brasil. https://www.gov.br/pt-br/noticias/assistencia-social/2023/07/populacao-quilombola-e-de-1-3-milhao-indica-recorte-inedito-do-censo

Jobin, A., Ienca, M., & Vayena, E. (2019). The global landscape of AI ethics guidelines. Nature Machine Intelligence, 1(9), 389–399. https://doi.org/10.1038/s42256-019-0088-2

Lei Geral de Proteção de Dados Pessoais (LGPD), Lei nº 13.709, de 14 de agosto de 2018 (Brasil). http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm

Marer, O., Bermudez-Plaza, N. C., Bagolle, A., & Tejerina, L. (2024). Construyendo sistemas de protección social adaptativos en América Latina y el Caribe: Informe del Diálogo Regional de Política 2024. Banco Interamericano de Desarrollo. https://publications.iadb.org/es/construyendo-sistemas-de-proteccion-social-adaptativos-en-america-latina-y-el-caribe

Ministério da Cidadania. (2023). CadÚnico em Movimento: Resultados e novidades [CadÚnico en movimiento: Resultados y novedades] [Presentación de diapositivas]. https://ead.mds.gov.br/webview.php/srv/www/htdocs/badiunetdata/files/1/1314n0oe5hfifkzli4yv_packge/cadastro_em_movimento/arquivos/lives/slides/ppt_live_20230929.pdf

Organización de los Estados Americanos. (2023). Principios para una gobernanza ética y segura de la inteligencia artificial en las Américas [Informe]. https://www.oas.org/ext/DesktopModules/MVC/OASDnnModules/Views/Item/Download.aspx?type=1&id=1080&lang=2

Organización para la Cooperación y el Desarrollo Económicos & Banco de Desarrollo de América Latina. (2022). Uso estratégico y responsable de la inteligencia artificial en el sector público de América Latina y el Caribe (Estudios de la OCDE sobre Gobernanza Pública). OECD Publishing. https://doi.org/10.1787/5b189cb4-es

Pádua, S. R., & Lorenzetto, B. M. (2024). O direito fundamental à explicabilidade da inteligência artificial utilizada em decisões estatais [El derecho fundamental a la explicabilidad de la inteligencia artificial utilizada en decisiones estatales]. Revista da AGU, 23, 348–370. https://revistaagu.agu.gov.br

Sen, A. (2009). The idea of justice. Harvard University Press.

UNESCO. (2021). Recomendación sobre la ética de la inteligencia artificial [Documento normativo]. https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa

Yeung, K. (2018). “Hypernudge”: Big data as a mode of regulation by design. Information, Communication & Society, 20(1), 118–136. https://doi.org/10.1080/1369118X.2016.1186713

• PDF

Derechos de autor 2025 Federico Pablo Piana

Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.