Miniresenha: Algoritmos de Destruição em Massa

Acabo de concluir a leitura de “Algoritmos de Destruição em Massa”, de Cathy O’Neil, livro que promete revelar o “lado sombrio do big data”. Gostei da leitura. Especialmente, porque (quem me conhece, sabe) adoro matemática e esta discussão sobre a algoritmização da vida aproxima estes universos pelos quais sou apaixonada: o da tecnologia e da comunicação e o dos números e estatísticas. A autora aborda o que chama de ADMs (Armas de Destruição Matemática), como modelos matemáticos nocivos, opacos, de mecanismos invisíveis e com ciclos viciados de feedback (retroalimentação), que têm como objetivo ordenar, atingir ou “otimizar” milhões de pessoas.Ela fala do uso destes modelos em diversos campos da vida: educação, consumo, esporte, economia (na obtenção de crédito), saúde (na avaliação de contratação de seguros, por exemplo), segurança pública (com os mecanismos – racistas e classistas – de predição criminal) e na vida cívica (por exemplo, em campanhas e eleições).Ela parte da premissa de que modelos são, por sua própria natureza, simplificações; e nenhum modelo consegue incluir toda complexidade do mundo real ou as nuances da comunicação humana. Apesar de sua reputação de imparcialidade, estes modelos refletem objetivos e ideologias. Os três elementos de uma ADM são opacidade, escala e dano; e a autora defende que podem existir modelos transparentes, personalizados e controlados pelos usuários.No entanto, com a forma como estamos (como sociedade) conduzindo a ampliação do uso destes mecanismos (sustentados apenas pelas lógicas do mercado, da eficiência e da geração de resultados e de lucro), “o resultado é criminalizar a pobreza, acreditando o tempo todo que nossas ferramentas não são apenas científicas, mas justas”. Uma leitura didática a partir dos exemplos que ela apresenta. Apesar de exemplos bem norte-americanos, muito do que ela mostra pode ser considerado para compreender a nossa realidade.