Instâncias textuais do racismo algorítmico

Resumo

Neste artigo, examino algoritmos de inteligência artificial (IA) como textos estruturantes que processam informações, moldam narrativas e reproduzem estereótipos raciais, sustentando dinâmicas de exclusão. Apresento um modelo teórico com três instâncias textuais interligadas: Texto-Prompt, que expressa a intenção do usuário; Texto-Resposta, que materializa o resultado produzido; e Texto-Algoritmo, camada invisível que define as regras internas do sistema. Analiso um caso em que uma imagem gerada por IA retratou uma mulher negra armada em uma favela, embora o pedido original indicasse uma figura positiva. Para explorar esse viés, desenvolvi uma simulação em Python que evidencia a associação automática entre termos racializados e violência, revelando a reprodução sistemática de estereótipos. Também examino comentários em redes sociais que naturalizam essas distorções, transferindo a responsabilidade ao usuário e ocultando o papel central do algoritmo na construção das representações. Sustento que tais sistemas funcionam como agentes discursivos que reforçam desigualdades e hierarquias históricas. Defendo a reescrita algorítmica como gesto ético e político, apoiada em estratégias como diversificação de bases de dados, filtros de viés, transparência e regulamentação. Concluo reafirmando a tese que orienta este trabalho: o algoritmo é um texto e, como tal, pode e deve ser reescrito para romper lógicas de exclusão.