Segregação racial e vieses algorítmicos: máquinas racistas no âmbito do controle penal

Abstract

A pesquisa tem por objetivo verificar se o emprego de Sistemas de Inteligência Artificial poderia abrandar a altíssima carga de seletividade do Controle Penal, notadamente aquelas fundadas no racismo e na discriminação. Para tanto, num primeiro momento, o texto trata da seletividade do poder punitivo como característica estrutural. Na sequência, da atenção aos dados que são utilizados na construção de modelos de IA. Depois disso, elenca possíveis soluções para reduzir a incidência de algoritmos enviesados e mitigar a reprodução do racismo a partir do emprego da máquina. Por fim, propõe-se identificar algumas externalidades negativas oriundas da não observância de determinados padrões éticos em modelos de IA. Justifica-se a pesquisa em face da necessidade de se conhecer os perversos reflexos que algoritmos enviesados podem produzir nos segmentos de Controle Penal, catalisando preconceitos e segregando setores sociais eleitos pela cor da pele. Quanto ao método de pesquisa, revela-se o indutivo, subsidiado pela pesquisa bibliográfica e números oficiais extraídos de bases oficiais.