Reprodução da coluna “Menu Político”, caderno “People”, edição de 27/11/2016 do O POVO.

O ser humano, um joguete do destino – e dos algoritmos

Se você é cristão, deve acreditar no “livre arbítrio”, um dom – supostamente concedido por Deus – que dá aos homens a capacidade de decidir por conta própria, escolher seu próprio caminho. Portanto, nem mesmo o todo-poderoso teria influência nas escolhas que cada um faz, das menos às mais importantes.

Um ateu empedernido não se sente devedor de nenhuma graça, porém, é orgulhoso de seu próprio intelecto; vaidoso de sua capacidade de análise e de decidir por sua própria conta, sem a necessidade de responder sobre seu percurso a nenhuma deidade. Ou seja, um livre-arbítrio pagão.

Sigmund Freud, fundador da psicanálise, já havia bagunçado com essas certezas afirmando que as decisões conscientes, muitas vezes, são influenciadas pelo inconsciente, sem que a vítima tenha a mínima ideia do que esteja acontecendo.

O neurologista português António Damásio, em seu livro “O erro de Descartes”, derruba mais um tijolo dessa construção ao anunciar, ao contrário do que imaginava o filósofo francês – para este o pensar era uma atividade externa à matéria -, que existe uma relação íntima entre corpo e mente. E que “a emoção é um componente integral da maquinaria da razão”.

Recentemente, o biólogo brasileiro Fernando Reinach escreveu artigo para o jornal O Estado de S. Paulo, com o significativo título de “Insignificantes”. Depois de encaixar a humanidade no conceito do cabeçalho de seu texto, ele entra no ponto: “Controlamos nosso destino? Talvez, um pouco, mas muito menos do que gostamos de imaginar”.

Reinach lista uma série de circunstâncias que limitam o “livre arbítrio”: lugar de nascimento, genes, cor da pele, ambiente, sexo, “que determinam em grande parte o que somos”. Além disso, lembra a limitação do cérebro que “não consegue lidar facilmente com mais de duas variáveis de cada vez”, com reações pré-programadas, como luta e fuga, “somos guiados por instintos fortíssimos, como a fome, a agressividade, a proteção da prole e a sexualidade”. Para ele, cada um desses fatores influencia e limita as escolhas.

Ainda tem mais.

A matemática Cathy O’Neil, que foi professora da Universidade de Columbia (Estados Unidos) e trabalhou como analista de dados de Wall Street, afirma que “modelos ocultos (de algoritmos) comandam nossas vidas desde que começamos a escola primária até o fim de nossa existência”. E, pior, para ela, as fórmulas aparentemente “inofensivas” contribuem para a desigualdade e a discriminação no mundo.

Ela defende tese no livro “Weapons of Math Destruction” (Armas de Destruição Matemática, na tradução livre). Conforme entrevista ao portal da BBC, O’ Neil diz que, cada vez mais, as decisões que afetam a vida das pessoas são comandadas por algoritmos. “Não importa se se trata da educação, de pegar um empréstimo em banco ou pagar um seguro de saúde. São os algoritmos que vão tomar a decisão”.

O’Neil fala sobre o perigo de a vida ser dirigida por algoritmos “opacos, desregulados e irrefutáveis”, que tomam decisões cruciais. Ela dá como exemplo um jovem pobre dos Estados Unidos que pede um empréstimo para pagar seus estudos. O sistema tenderá a rejeitá-lo, pois a análise mecânica poderá considerar “muito arriscado” emprestar dinheiro a ele por causa da cor da pele ou pela região onde vive. Se não conseguir o empréstimo, esse estudante ficará fora do sistema educativo, que poderia tirá-lo da pobreza, aumentando a discriminação.

Depois de um psicólogo, um neurologista, um biólogo e uma matemática afirmarem que não temos controle da própria vida, só resta constatar que o ser humano é apenas um joguete do destino – e dos algoritmos.

NOTAS

Tudo dominado
Simplificadamente, algoritmo é um “passo a passo” para a resolução de determinada tarefa. Mas o inocente conceito esconde a dimensão de como isso interfere na vida das pessoas. Todas as tecnologias dispõem de algoritmo, tomando decisões, desde o que se vê na “linha do tempo” do Facebook (e o que vai ser censurado); na busca do Google; indicação de livros ou filmes, “você pode gostar de…”.

Bolha
Quando se pesquisa no Google, por exemplo, “o que ver em Barcelona”, no e-mail logo aparece publicidade de agência de viagens. Algoritmos agindo, que também “percebem” os seus interesse e oferecem sempre mais do mesmo, criando uma perigosa bolha eucêntrica.

Créditos
Estadão: Insignificantes;  Portal BBC: Como fórmulas matemáticas fomentam desigualdade e discriminação.

Tagged in: