Discriminação Codificada: O impacto do racismo algorítmico na sociedade
Coded Discrimination: The Impact of Algorithmic Racism on Society
Ana Carolina Paes de Mello*
Resumo:
A disseminação acelerada de tecnologias baseadas em inteligência artificial tem transformado diversos setores da sociedade, desde a economia e a administração pública até aspectos fundamentais da vida cotidiana dos cidadãos, podendo causar danos irreversíveis às populações historicamente mais vulneráveis quando dotadas de vieses. O objetivo principal deste texto é analisar o impacto dos vieses algorítmicos na sociedade sob a perspectiva racial como forma de compreender como tecnologias emergentes podem perpetuar ou agravar desigualdades históricas. Além disso, abordaremos a identificação de casos concretos de racismo algorítmico, o apontamento de cenários que permitam a perpetuação deste modelo e o papel da sociedade para mitigar os danos causados por vieses raciais em algoritmos.
Palavras Chave: Inteligência Artificial; Viés algorítmico; Racismo; Tecnologia.
Abstract:
The rapid spread of technologies based on artificial intelligence has transformed several sectors of society, from the economy and public administration to fundamental aspects of citizens' daily lives and may cause irreversible damage to historically more vulnerable populations when endowed with biases. The main objective of this text is to analyze the impact of algorithmic biases on society from a racial perspective as a way of understanding how emerging technologies can perpetuate or aggravate historical inequalities. In addition, we will address the identification of specific cases of algorithmic racism, the identification of scenarios that allow the perpetuation of this model, and the role of society in mitigating the damage caused by racial biases in algorithms.
Keywords: Artificial Intelligence; Algorithmic bias. Racism; Technology.
Para citar essa obra:
MELLO; Discriminação Codificada: O impacto do racismo algorítmico na sociedade. In: RUA [online]. Volume 31, número 1 - e-ISSN 2179-9911 - Junho/2025. Consultada no Portal Labeurb –
Revista do Laboratório de Estudos Urbanos do Núcleo de Desenvolvimento da Criatividade.
http://www.labeurb.unicamp.br/rua/
DOI: 10.20396/rua.v31i1.8680812
--------------------------------------------------------------------
*Mestranda no PPG-DCC (Programa de Pós-Graduação em Divulgação Científica e Cultural (Labjor/IEL), orientanda do Prof. Dr. Rafael de Almeida Evangelista. Advogada e Pesquisadora em Inteligência Artificial. Membro da Comissão de Privacidade Proteção de Dados e Inteligência Artificial e da Comissão de Tecnologia e Inovação da OAB/SP. ORCID: https://orcid.org/0009-0000-7894-4421. E-mail: anacarolina.mello@outlook.com.
Ana Carolina Paes de Mello*
A disseminação acelerada de tecnologias baseadas em inteligência artificial tem transformado diversos setores da sociedade, desde a economia e a administração pública até aspectos fundamentais da vida cotidiana dos cidadãos, podendo causar danos irreversíveis às populações historicamente mais vulneráveis quando dotadas de vieses. O objetivo principal deste texto é analisar o impacto dos vieses algorítmicos na sociedade sob a perspectiva racial como forma de compreender como tecnologias emergentes podem perpetuar ou agravar desigualdades históricas. Além disso, abordaremos a identificação de casos concretos de racismo algorítmico, o apontamento de cenários que permitam a perpetuação deste modelo e o papel da sociedade para mitigar os danos causados por vieses raciais em algoritmos.
Palavras Chave: Inteligência Artificial; Viés algorítmico; Racismo; Tecnologia.
Abstract:
The rapid spread of technologies based on artificial intelligence has transformed several sectors of society, from the economy and public administration to fundamental aspects of citizens' daily lives and may cause irreversible damage to historically more vulnerable populations when endowed with biases. The main objective of this text is to analyze the impact of algorithmic biases on society from a racial perspective as a way of understanding how emerging technologies can perpetuate or aggravate historical inequalities. In addition, we will address the identification of specific cases of algorithmic racism, the identification of scenarios that allow the perpetuation of this model, and the role of society in mitigating the damage caused by racial biases in algorithms.
Keywords: Artificial Intelligence; Algorithmic bias. Racism; Technology.
Para citar essa obra:
MELLO; Discriminação Codificada: O impacto do racismo algorítmico na sociedade. In: RUA [online]. Volume 31, número 1 - e-ISSN 2179-9911 - Junho/2025. Consultada no Portal Labeurb –
Revista do Laboratório de Estudos Urbanos do Núcleo de Desenvolvimento da Criatividade.
http://www.labeurb.unicamp.br/rua/
DOI: 10.20396/rua.v31i1.8680812
--------------------------------------------------------------------
*Mestranda no PPG-DCC (Programa de Pós-Graduação em Divulgação Científica e Cultural (Labjor/IEL), orientanda do Prof. Dr. Rafael de Almeida Evangelista. Advogada e Pesquisadora em Inteligência Artificial. Membro da Comissão de Privacidade Proteção de Dados e Inteligência Artificial e da Comissão de Tecnologia e Inovação da OAB/SP. ORCID: https://orcid.org/0009-0000-7894-4421. E-mail: anacarolina.mello@outlook.com.
RESENHA
ARTES
ARTES