Another brick in the wall: Threats to our autonomy as sense-makers when dealing with machine learning systems

Abstract

A autonomia, tal como proposta pela abordagem enativa para a cognição, é a capacidade que os organismos vivos têm de seguir as normas constituídas pela sua própria atividade. Esse conceito está ligado a outros dois conceitos do enativismo, de sense-making e de participatory sense-making – o primeiro referindo-se à capacidade do cognoscente de produzir um mundo de sentido através da sua ligação com o ambiente, e de ser afetado pelo meio de forma contínua, e o último constituindo uma extensão desta ideia, que se aplica a processos interativos em que pelo menos dois agentes se encontram envolvidos. Neste ensaio, defendo que, ao lidar com sistemas de machine learning, que não podem ser considerados autônomos, o agente ou cognoscente não pode sustentar a sua autonomia da mesma forma que seria possível sustentá-la num encontro com outro agente. A argumentação desenrola-se em três pilares: o encontro desequilibrado em que a autonomia do cognoscente é ameaçada; a redução do leque de experiências que um agente autônomo poderia ter e o desconhecimento do cognoscente quanto às normase às ameaças potenciais dos sistemas com os quais está a lidar. Ainda que o ensaio seja centrado nesses riscos, as oportunidades oferecidas por sistemas algorítmicos como os de aprendizagem de máquina são também reconhecidas. Para aproveitá-las, aponta-se que é necessário buscar um equilíbrio capaz deenglobar a intersubjetividade, inerentemente humana, permeada pela afetividade.