Neutros e objetivos? Uma análise do uso de algoritmos em processos de tomadas de decisão a partir das epistemologias feministas

Abstract

O objetivo deste trabalho é analisar as controvérsias em torno da neutralidade e da objetividade dos algoritmos utilizados em processos de tomadas de decisão. Apoiamo-nos nos Estudos Sociais da Ciência e Tecnologia, bem como nos insights provenientes das epistemologias feministas, a fim de problematizar a presença de valores e interesses em inovações sociotécnicas relacionadas às tecnologias de informação e comunicação. Demonstramos, assim, que, em contextos de disparidades estruturais e de subrepresentação de minorias em áreas de tecnologia e inovação, análises e decisões automatizadas através de sistemas de inteligência artificial tendem a reproduzir desigualdades em termos de gênero, raça e classe. Do ponto de vista metodológico, valemo-nos das técnicas de análise de conteúdo a fim de investigarmos relatórios, legislações e matérias jornalísticas pertinentes ao tema. Nossos argumentos apontam para a necessidade de levar em consideração a situacionalidade dos sujeitos envolvidos com a programação de sistemas automatizados de tomadas de decisão, o que tensionaria critérios tradicionais de neutralidade e objetividade, tal como defendido pela noção de “objetividade forte”, definida por Sandra Harding. Dessa forma seria possível levar em consideração os valores e interesses que perpassam as práticas de inovação, de modo a reconhecer, e talvez mitigar, os vieses políticos e socioculturais, bem como os efeitos discriminatórios, que caracterizam as decisões com base em algoritmos.