Gadgetshowto
O século 21 testemunhou a IA (Inteligência Artificial) realizando tarefas como derrotar humanos no xadrez ou ensinar línguas estrangeiras rapidamente.
Uma tarefa mais avançada para o computador seria prever a probabilidade de um infrator cometer outro crime. Esse é o trabalho de um sistema de IA chamado COMPAS (Perfil de Gerenciamento de Criminoso Correcional para Sanções Alternativas). Mas acontece que essa ferramenta não é melhor do que um cara comum e pode ser racista também. Bem, isso é exatamente o que uma equipe de pesquisa descobriu depois de estudar extensivamente o sistema de IA, que é amplamente usado por instituições judiciais.
De acordo com um artigo de pesquisa publicado pela Science Advances, o COMPAS foi colocado contra um grupo de participantes humanos para testar sua eficiência e verificar como se sai em relação às previsões lógicas feitas por uma pessoa normal. A máquina e os participantes humanos receberam 1000 descrições de teste contendo idade, crimes anteriores, sexo, etc. de infratores cuja probabilidade de crimes repetidos era para ser prevista.
Com consideravelmente menos informações do que o COMPAS (apenas 7 recursos em comparação com o 137 do COMPAS), uma pequena multidão de não especialistas é tão precisa quanto o COMPAS na previsão de reincidência.
O COMPAS registrou uma precisão geral de 65,4% na previsão de reincidência (a tendência de um criminoso condenado de reincidir), que é menor do que a precisão da previsão coletiva de participantes humanos de 67%.
Agora, pare um pouco e reflita em sua mente que o sistema de IA, que não se sai melhor do que uma pessoa comum, foi usado pelos tribunais para prever reincidência.
O software comercial amplamente usado para prever reincidência não é mais preciso ou justo do que as previsões de pessoas com pouco ou nenhum conhecimento em justiça criminal que responderam a uma pesquisa online.
O que é ainda pior é o fato de que o sistema foi considerado tão suscetível ao preconceito racial quanto seus homólogos humanos quando foram solicitados a prever a probabilidade de reincidência a partir de descrições que também continham informações raciais dos infratores. Você não deve se surpreender, pois a IA é conhecida por assumir os padrões que seus professores humanos a programarão para aprender.
Embora ambos os lados fiquem drasticamente aquém de atingir uma pontuação de precisão aceitável, o ponto de usar uma ferramenta de IA que não é melhor do que um ser humano médio levanta muitas questões.
