Justiça nas previsões de modelos de Aprendizado de Máquina: um estudo de caso com dados de reincidência criminal

Abstract

O uso de técnicas de Ciência de Dados e Inteligência Artificial permeia diversas áreas críticas hoje em dia. Isso inclui a lei e justiça, onde alguns modelos de decisão baseados em dados dão suporte para determinar o risco de reincidência de condenados. Este artigo analisa os dados de reincidência criminal do conjunto de dados COMPAS com técnicas de Aprendizado de Máquina. Esse conjunto de dados contém dados de criminosos nos EUA e seu risco de reincidência. Especificamente, focamos na justiça das decisões dos modelos gerados a partir desses dados em relação ao atributo de etnia dos indivíduos. Como o viés racial foi encontrado dentro do conjunto de dados como uma consequência da assimetria deste atributo em relação à variável alvo, também experimentamos um balanceamento simples do conjunto de dados em relação ao atributo etnia.