O dilema ético da decisão algorítmica

A utilização da inteligência artificial como suporte à tomada de decisão é realidade no cenário atual. Discussões sobre processamento de dados - sejam estas por meio de aprendizagem supervisionada, sejam por aprendizagem não supervisionada (deep learning) - ganham relevância no âmbito do direito. Ao mesmo tempo que ganham relevância, porém, surgem os desafios sobre as resultantes que se apresentam em razão do processamento de dados (output), na medida em que estes podem estar enviesados em função do conjunto de dados (dataset) provenientes do mundo físico, das concepções e das relações humanas. Por conta destes desafios, o presente artigo tem por finalidade pontuar tais aspectos no contexto contemporâneo e propor medidas que possam ser adotadas como possíveis soluções. A análise acerca da existência de um antídoto como contraposição ao enviesamento faz-se necessária, no intuito de qualificar o uso contínuo e irrefreável dessas tecnologias. Tratar as dificuldades do tema no âmbito constitucional e à luz da legislação brasileira, por sua vez, justifica a importância do assunto e permiti uma proposição para tais desafios que se apresentam em razão do uso da inteligência artificial. Diante disso, o presente artigo se utiliza da pesquisa bibliográfica sobre o assunto e de interpretação sistêmica entre a Constituição Federal e as legislações que abordam aspectos legais sobre a Administração Pública.