YANN DIEGGO
No mundo contemporâneo, em que a tecnologia de inteligência artificial se torna cada vez mais central para decisões em setores cruciais, como finanças, saúde e segurança, emergem sérias preocupações sobre os impactos da discriminação algorítmica. Essa forma de viés, inerente aos algoritmos que processam grandes volumes de dados, reflete desigualdades históricas presentes na sociedade e perpetua preconceitos, limitando o acesso de grupos vulneráveis a direitos fundamentais e oportunidades. O avanço tecnológico, embora promissor, exige um olhar atento do Direito para prevenir e mitigar os efeitos dessa discriminação.
Os algoritmos são desenvolvidos a partir de dados históricos que, muitas vezes, carregam traços de discriminação estrutural. Esses dados influenciam diretamente os resultados gerados pelas máquinas, podendo levar a decisões que reforçam desigualdades em áreas como emprego, crédito e acesso à justiça. Por exemplo, análises automatizadas podem descartar candidatos a empregos ou restringir crédito com base em características como raça, gênero ou local de residência, perpetuando estereótipos e preconceitos que violam a dignidade humana.
A discriminação algorítmica não é necessariamente intencional, mas deriva de bases de dados enviesadas ou incompletas e da falta de diversidade nas equipes que desenvolvem essas tecnologias. Como apontado por especialistas, mesmo algoritmos sofisticados podem refletir uma realidade distorcida devido à baixa representatividade dos dados utilizados para treinamento. Isso exige medidas proativas, como a diversificação das bases de dados e o aprimoramento das práticas de desenvolvimento tecnológico, para garantir resultados mais justos e inclusivos.
Os riscos associados a esses algoritmos são amplos e preocupantes. Em aplicações de reconhecimento facial, por exemplo, estudos mostram que rostos de mulheres negras são frequentemente menos identificáveis do que os de homens brancos, evidenciando a disparidade nos dados utilizados. Esses problemas não se limitam a questões de identificação, mas impactam diretamente a vida de pessoas ao reforçar exclusões e desigualdades.
No Brasil, o marco regulatório ainda enfrenta desafios significativos para lidar com esses impactos. Apesar de avanços como a Lei Geral de Proteção de Dados (LGPD) e a inclusão da proteção de dados pessoais como direito fundamental pela Emenda Constitucional nº 115/2022, ainda há um longo caminho a percorrer para garantir a transparência, a responsabilidade e a ética no uso de algoritmos. A legislação existente reconhece o direito de contestar decisões automatizadas, mas essa proteção reativa não elimina a necessidade de ações preventivas mais robustas.
A jurisdição constitucional desempenha um papel central nesse cenário. Cortes como o Supremo Tribunal Federal (STF) têm a responsabilidade de interpretar e aplicar princípios constitucionais, como igualdade e não discriminação, para proteger cidadãos dos danos causados por decisões algorítmicas injustas. Além disso, é essencial que o tribunal promova a transparência nos processos de desenvolvimento tecnológico e a supervisão ética desses sistemas.
A discriminação algorítmica representa um desafio que transcende fronteiras, exigindo esforços coordenados entre governos, empresas, academia e sociedade civil. O desenvolvimento de políticas públicas eficazes depende de diálogos entre esses setores, com foco na promoção de um ambiente tecnológico mais equitativo e inclusivo. É fundamental que os algoritmos sejam tratados não apenas como ferramentas, mas como reflexos de valores sociais que precisam ser constantemente revisados e aprimorados.
Em última análise, o combate à discriminação algorítmica não é apenas uma questão de ajustar dados ou códigos de programação, mas de enfrentar as desigualdades enraizadas em nossa sociedade. A tecnologia, quando mal utilizada, pode perpetuar preconceitos; mas, quando desenvolvida com responsabilidade e empatia, tem o potencial de ser uma força transformadora para a justiça social. O papel do Direito, nesse contexto, é assegurar que os avanços tecnológicos sejam aliados na construção de uma sociedade mais justa e igualitária.
Yann Dieggo – advogado, procurador municipal e professor universitário.
