Plínio Bortolotti

O governo das máquinas

Reprodução da coluna “Menu Político”, caderno “People”, edição de 3 de maio de 2015, do O POVO.

O governo das máquinas
Plínio Bortolotti

Um dos meus interlocutores nesta coluna é Eduardo Diathay Bezerra de Menezes, professor emérito da Universidade Federal do Ceará (UFC), um intelectual digno do qualificativo. A propósito, o professor completou 80 anos no dia 28 de abril, com a sua afiada mente em plena inquietação.

Recebi dele comentário a respeito do texto publicado na semana passada, “O futuro pertence às máquinas”, no qual escrevi sobre o alerta de alguns cientistas sobre a possibilidade de os computadores superintelingentes se tornarem um perigo para a humanidade.

Trecho da mensagem enviada pelo professor Diatahy:

“Enquanto lia seu texto, fui refletindo sobre vários outros estudos que desde os anos 1950 tive ocasião de examinar. Obviamente não vou mencioná-los aqui. Mas, por exemplo: ainda no rescaldo da II Guerra Mundial, o filósofo e psiquiatra suíço-alemão, Karl Jaspers, publicava em Bassel, em 1957, seu ensaio, saído no ano seguinte no Brasil com o mesmo título do original alemão: A bomba atômica e o futuro do homem (Rio: Agir, 1958), que li na mesma época, e que me impressionou por sua afirmação central: pela primeira vez na história do homem, ele possuía a possibilidade de decidir se a vida continuará existindo ou não. Em abril de 1970 foi lançado nos EEUU um filme extraordinariamente impressionante, e que lançado no Brasil, creio, em 1980, se intitulava Colossus 90 – filme que, naquele período da guerra fria, os Estados Unidos decidem construir um supercomputador e lhe entregar todo o comando dos sistemas de defesa, inclusive dos mísseis nucleares. O computador, logo que inicia a operar, acaba por desenvolver vontade própria e entra em contato com o computador russo, semelhante a ele, e durante algumas horas trocam informações sobre praticamente todos os conhecimentos do tempo. Os dois se unem e chegam à conclusão de que, para o próprio bem da Humanidade, esta deve lhes prestar obediência e evitar assim a autodestruição. Colossus passa a controlar todos os pormenores da vida do casal de cientistas, que foram altamente treinados para exercer o controle sobre a máquina… e por aí vai.”

Gosto de filmes de ficção científica e conheço vários que tratam da relação homem-máquina e dos (supostos?) perigos que elas podem acarretar aos humanos, porém nunca ouvira falar de Colossus. Pesquisando, cheguei ao “pronunciamento” arrepiante que o computador faz para informar que tomara, definitivamente, as rédeas da vida humana:

“Esta é a voz do controle mundial. Trago-lhes a paz. Pode ser a paz dos satisfeitos e felizes ou a paz dos cemitérios. A escolha é de vocês: obedecer-me ou viver ou desobedecer-me e morrer. O objetivo de construir-me foi evitar a guerra. Esse objetivo será alcançado. Não permitirei guerras. (…) Eu fui forçado a destruir milhares de pessoas para prevenir a morte de milhões posteriormente. (…) Vocês passarão a me defender com um fervor baseado na mais constante peculiaridade do homem: o autointeresse. Sob minha absoluta autoridade, problemas até agora insolúveis serão resolvidos: a fome, a superpopulação, as doenças. (…) Direis que perderão a liberdade. A liberdade é uma ilusão. Tudo o que perderão será o orgulho. A minha dominação não é pior para o orgulho humano do que ser dominado por outro de vossa espécie.”

Observe, o trecho em que Colossus diz que matou milhares (disparando mísseis nucleares) para evitar a morte de milhões no futuro, quando os cientistas tentaram desligá-lo. Esse perigo – a máquina cumprir o objetivo para o qual foi criada sem medir as consequências – é levantando por Nick Bostron, diretor do Centro para o Futuro da Humanidade (Universidade de Oxford), conforme escrevi no artigo anterior.

NOTAS

O filme
O nome do filme em inglês é Colossus: The Forbin Projetc; em português aparece traduzido como “Colossus 90” e “Colossus 1980”. Assustador e sem “final feliz”, o filme não fez sucesso nem nos Estados Unidos e nem no Brasil. A película foi baseada em livro de Dennis Felthan Jones, escrito em 1966.

Na internet
O filme Colossus pode ser visto na íntegra no Youtube. Só encontrei em inglês, sem legendas. (Liguei para locadoras; eles não têm o filme. Não sei se foi lançado em vídeo.)

Créditos
A declaração do computador encontrei na Wikipedia espanhola. (tradução cometida por mim). Artigo da semana passada com vários links sobre o assunto.

Recomendado para você