Homo deus - história breve do amanhã

 

Esqueçam a ideologia, as mais recentes ameaças à democracia liberal vêm da tecnologia e da biociência.

John Naughton

Tradução espontânea do artigo

Forget ideology, liberal democracy’s newest threats come from technology and bioscience

As conferências Reith da BBC em 1967 foram proferidas por Edmund Leach, um antropólogo social de Cambridge. “Os homens tornaram-se como deuses”, começou por dizer Leach. “Não será tempo de compreendemos a nossa divindade? A ciência permite-nos um domínio total sobre o nosso meio ambiente e sobre o nosso destino, mas em vez de alegria sentimos, profundamente, medo”.

Isto foi há quase meio século e, no entanto, as afirmações de Leach poderiam facilmente fazer-se hoje em dia. Ele falava antes de a Internet ser constituída e muito antes de o genoma humano ter sido descodificado e, mesmo assim, a sua alegação de os homens ficarem “como deuses” parece relativamente modesta quando comparada com os recursos que a biologia molecular e computação posteriormente permitiram. A nossa cultura baseada na ciência é a mais prevalente da história e a investigação, pesquisa, desenvolvimento e crescimento prosseguem incessantemente. Embora, nos últimos tempos, pareça também ter sido perturbada por uma angústia existencial à medida que começam a ser (levemente) vislumbradas as implicações devidas ao engenho humano.

O título que Leach escolheu para a sua conferência Reith – A Runaway World assenta bem no espírito dos nossos dias. De qualquer forma, estamos também cada vez mais impacientes com um mundo que parece funcionar fora de controlo, muito (mas não exclusivamente) por tudo o que as tecnologias da informação e as ciências da vida têm tornado possível. Porém, procuramos consolo ao pensar que “sempre foi assim”: as pessoas também se alarmaram com o vapor no tempo de George Eliot e emocionaram-se com a eletricidade, o telégrafo e o telefone quando apareceram. A parte boa é que nós superamos essas tempestades tecnológicas e igualmente iremos superar estas também. A humanidade ultrapassará tudo isso.

Contudo, nos últimos cerca de cinco anos, mesmo essas cautelas e otimismo pragmático começaram a esvanecer-se. Existem várias razões para esta perda de confiança. Uma é o absoluto ritmo vertiginoso da mudança tecnológica. Outra razão é que as novas forças presentes na nossa sociedade – nomeadamente as tecnologias da informação e as ciências da vida – foram potencialmente mais longe, nas suas implicações, do que o vapor de água ou a eletricidade alguma vez foram. E, em terceiro lugar, começámos a ver surpreendentes avanços nestes domínios que nos obrigam a recalibrar as nossas expectativas.

Um exemplo clássico é da inteligência artificial, definida como a tentativa de capacitar máquinas que façam coisas que exigem inteligência quando realizadas por um humano. Há tanto tempo quanto a maioria de nós se pode lembrar, a inteligência artificial nesse sentido esteve sempre vinte anos adiantada em relação à data prevista. Talvez ainda esteja. Mas nos últimos anos vimos como a combinação da capacidade de aprendizagem das máquinas, do poder dos algoritmos, da grande potência do processamento e dos chamados “grandes” de dados pode pôr as máquinas a fazer coisas impressionantes – tradução de idiomas em tempo real, por exemplo, ou condução de automóveis com segurança através de ambientes urbanos complexos – o que parecia implausível mesmo há uma década.

E isto, por seu lado, levou ao reaparecimento de uma animada especulação sobre a possibilidade – e os riscos existenciais – da “explosão da inteligência” que seria causada pela invenção de uma máquina capaz de autoaperfeiçoamento repetitivo. Esta possibilidade foi levantada pela primeira vez em 1965 pelo criptógrafo britânico IJ Good, que famosamente escreveu: “A primeira máquina ultrainteligente é a última invenção que o homem precisa fazer, conquanto a máquina seja suficientemente dócil para nos dizer como a manter sob controlo”. Cinquenta anos mais tarde, encontramos pensadores contemporâneos como Nick Bostrom e Murray Shanahan retomando convictamente a ideia.

Há um sentimento, portanto, de que nos aproximamos de um outro “fim da história” neste momento - mas com uma diferença. No seu famoso artigo de 1989, o cientista político Francis Fukuyama defendeu que o desmoronamento do império soviético significava o fim da grande batalha ideológica entre o Oriente e o Ocidente e da “universalização da democracia liberal ocidental como forma final de governo humano”. Naquela altura, esta foi uma alegação ousada, embora não implausível. O que Fukuyama não poderia ter conhecido é que um novo desafio para a democracia liberal viria a concretizar-se e que as suas principais raízes não residem na ideologia mas na biociência e nas tecnologias da informação.

Esse é, em suma, o argumento central do novo livro de Yuval Noah Harari, Homo Deus: A Brief History of Tomorrow. De certa forma, é uma extensão lógica do seu anterior livro, Sapiens: A Brief History of Humankind, que cobria todo o arco da história humana, desde a evolução do Homo sapiens até às revoluções políticas e tecnológicas do século XXI e que merecidamente se tornou um campeão de vendas mundial.

Muitas das obras sobre as implicações da nova tecnologia focam-se demasiado na tecnologia e muito pouco no papel da sociedade na sua construção. Isso acontece em parte porque aqueles que estão interessados nestas coisas são deterministas (como os engenheiros que as criam): acreditam que a tecnologia dirige a história. E, no fundo, Hariri é também um determinista. “No início do século XXI”, escreveu ele numa passagem marcante, “o comboio do progresso está de novo saindo da estação – e será provavelmente o último comboio a deixar a estação chamada Homo sapiens. Quem perder este comboio não mais vai ter uma segunda oportunidade. Para conseguir um lugar, necessita compreender a tecnologia do século XXI e, em particular, os poderes da biotecnologia e dos algoritmos de computador”.

E continua: “Estes poderes são muito mais fortes do que o vapor e o telégrafo e não serão, de um modo geral, utilizados para a produção de alimentos, têxteis, veículos e armas. Os principais produtos do século XXI vão ser corpos, cérebros e mentes e o fosso entre aqueles que sabem como projetar organismos e cérebros e os que não sabem será maior do que o fosso entre a Inglaterra de Dickens e o Sudão de Madhi. Com efeito, será maior que o fosso entre o Sapiens e o Neandertal. No século XXI, aqueles que viajam no comboio do progresso vão obter as capacidades divinas de criação e destruição, enquanto aqueles que foram deixados para trás irão enfrentar a extinção”.

Isto assemelha-se ao determinismo dos esteroides. O que o livra do ridículo é o facto de Hariri definir a história científica e tecnológica no contexto de uma análise historicamente informada sobre como evoluiu a democracia liberal. E ele tem uma interpretação sobre como as características definidoras da ordem liberal democrática podem na verdade ser implantadas pelos espantosos conhecimentos e utensílios que temos produzido no último meio século. Embora possamos, no final, estar em desacordo com as suas conclusões, podemos pelo menos ver como chegou a elas.

De certo modo, é uma história sobre a evolução e a natureza da modernidade. Durante a maior parte da história humana, argumenta Hariri, os seres humanos acreditavam numa ordem cósmica. O seu mundo era governado por deuses omnipotentes que exerciam o seu poder de modo caprichoso e incompreensível. O melhor que se podia fazer é tentar aplacar esses terríveis poderes e obedecer (e pagar impostos) a sacerdotes que se consideravam intermediários ungidos entre os meros seres humanos e os deuses. Pode ter sido uma vida dura mas pelo menos sabia-se onde se estava e, nesse sentido, acreditavam numa ordem transcendente que dava sentido à vida humana.

Mas depois veio a ciência. Hariri defende que a história da modernidade é melhor vista como uma luta entre ciência e religião. Em teoria, ambas procuram a verdade – porém diferentes tipos de verdade. A religião estava primordialmente interessada na ordem, enquanto a ciência, como ele diz, interessou-se principalmente pelo poder – o poder que vem de compreender como e por que as coisas acontecem e nos permite curar doenças, combater as guerras e produzir alimentos, entre outras coisas.

No final de contas, pelo menos em algumas partes do mundo, a ciência triunfou: crer numa ordem transcendental foi relegado para segundo plano – ou mesmo para o caixote do lixo da história. Conforme a ciência evoluiu, conseguimos efetivamente começar a adquirir competências que em tempos pré-modernistas se pensava apenas serem próprios dos deuses (como diria Edmund Leach). Mas se Deus estava morto, como disse Nietzsche numa frase famosa, onde iriam os seres humanos encontrar sentido? “O mundo moderno”, escreve Hariri, “prometeu-nos poder sem precedentes – e a promessa foi mantida. E que dizer sobre o preço? Em troca de poder, o pacto moderno espera que desistamos do sentido. Como lidam os seres humanos com este arrepiante e exigente pedido?... Como sobrevive a moral, a beleza e mesmo a compaixão num mundo de deuses do céu ou do inferno?” A resposta, argumenta, era um novo tipo de religião: o humanismo – um sistema de crenças que “santifica a vida, a felicidade e o poder do Homo sapiens”. Então o pacto que definiu a sociedade moderna foi uma aliança entre o humanismo e a ciência em que esta permite a realização dos fins especificados por aquele.

E a nossa crise existencial pendente, como Hariri a vê, vem do facto de este compromisso estar destinado a desintegrar-se neste século. Uma das implicações inevitáveis da biociência e das tecnologias da informação (argumenta) é que irão descredibilizar-se e portanto destruir as bases sobre as quais o humanismo está construído. E uma vez que a democracia liberal está construída sobre a devoção às metas humanistas (“a vida, a liberdade e a busca da felicidade” por cidadãos que são “criaturas iguais”, como os fundadores americanos estabeleceram), então os nossos novos poderes vão destruir a democracia liberal.

De que modo? Bem, a sociedade moderna está organizada à volta de uma combinação de individualismo, direitos humanos, democracia e mercado livre. E cada uma dessas bases está sendo corroída pela ciência e tecnologia do século XXI. As ciências da vida descredibilizam o individualismo tão celebrada pela tradição humanista com investigações que sugerem que “a pessoa livre é apenas uma história inventada por um conjunto de algoritmos bioquímicos”. O mesmo acontece com a ideia que temos do livre arbítrio. As pessoas podem ter a liberdade de escolher entre alternativas mas o leque de possibilidades é determinado noutros lugares. E é porque esse leque é cada vez mais determinado por algoritmos externos, como o “capitalismo da vigilância “ praticado pela Google, a Amazon e outras, que se tornam omnipresentes – para ir direto ao assunto, as empresas da internet afinal vão saber os nossos desejos antes de nós. E assim por diante.

Aqui Hariri espraia-se num tipo de território distópico que Aldous Huxley reconheceria. Ele vê três grandes direções.

1. Os seres humanos perderão a sua utilidade económica e militar e o sistema económico deixará de lhes atribuir valor.

2. O sistema ainda dará valor aos seres humanos coletivamente mas não a indivíduos isolados.

3. O sistema dará, no entanto, valor a alguns indivíduos, “mas estes serão uma nova raça de super-homens em vez da massa da população”. Por “sistema”, ele quer dizer o novo tipo de sociedade que irá evoluir ao mesmo tempo que a biociência e as tecnologias da informação progredirão no seu atual ritmo alucinante. Como dito antes, esta sociedade basear-se-á num pacto entre religião e ciência, mas, desse modo, o humanismo será substituído por aquilo a que Hariri chama de “dadismo” – a crença de que o universo é composto por fluxos de dados e o valor de qualquer entidade ou fenómeno é determinado pela sua contribuição para o processamento de dados.

Pessoalmente, a sua ideia de dadismo não me convence: a ideologia tecnocrática em que assenta a nossa obsessão atual com os “Grandes Dados” [Big Data] acabará por se desmoronar sob o peso do seu próprio absurdo. Mas em duas outras áreas, Hariri é extremamente perspicaz. A primeira é a nossa convicção de que não podemos ser substituídos por máquinas – porque nós temos consciência e elas não podem ter – poder ser algo infantil. Não porque a consciência das máquinas seja possível mas porque, para chegarmos à distopia de Hariri, a consciência não é necessária. Precisamos de máquinas que sejam superinteligentes: a inteligência é necessária; a consciência é um extra opcional que, na maioria dos casos, seria simplesmente uma chatice. E portanto não é um empecilho ao desenvolvimento da inteligência artificial.

A segunda é que tenho a certeza de que a sua leitura do potencial da biociência é certeira. Veja-se a revista The Economist que publicou recentemente uma peça intitulada “Enganar a morte: a ciência pode prolongar a sua vida útil”. Mas as novas e empolgantes possibilidades oferecidas pela tecnologia genética serão muito dispendiosas e somente acessíveis por elites. Assim, o longo século em que a medicina teve um efeito de “nivelamento por cima” nas populações humanas, trazendo bons serviços de saúde ao alcance da maioria das pessoas, chegou ao fim. Já hoje, as pessoas ricas têm vidas mais longas e saudáveis. Num par de décadas, essa diferença passar a ser abissal.

Homo Deus é um livro excelente, cheio de ideias e reinterpretações bem pensadas acerca do que pensávamos saber sobre nós mesmos e a nossa história. Em alguns casos parece (a mim) ser ingénuo sobre o potencial das tecnologias da informação. Mas o que é realmente importante é a forma como fundamenta a especulação feita sobre ciência/tecnologia no contexto da evolução da democracia liberal.

Um ponto a favor da importância da obra de Hariri é termos de recuar muito no tempo – até 1934, de facto, o ano em que foi publicado Technics and Civilization de Lewis Mumford - para encontrar um livro com um grau de ambição e alcance comparáveis. Não é mau para um jovem historiador.