A tecnologia e sua contenção: se correr o bicho pega, se ficar o bicho come
A tecnologia não é nossa inimiga, mas, por ser moralmente ambivalente, deve ser controlada. No entanto, o controle excessivo traz o que pode ser o maior dos problemas.
Um dos riscos que corremos ao assumir uma postura crítica em relação à tecnologia é acabar jogando fora o bebê com a água do banho. Por isso, é sempre importante lembrar: não, a tecnologia não é nossa inimiga.
Digo isto porque é frequente nos dias de hoje a sensação de que a humanidade caminha em direção a uma espécie de apocalipse [tecnológico]. Como estamos num momento em que a regulação — necessária desde que equilibrada — de tecnologias tem sido muito discutida, acabamos correndo o risco de exagerarmos, caindo numa postura medrosa, ressentida e excessivamente pessimista em relação aos avanços tecnológicos.
Vamos listar algumas tecnologias que supostamente poderiam acabar com o mundo:
energia nuclear;
nanotecnologia;
biotecnologia;
inteligência artificial.
Sim. A inteligência artificial é sempre mencionada como candidata a “Terminator” da humanidade, pois uma AGI (Artificial General Intelligence) poderia resolver exterminar os seres humanos da face da terra ou, na melhor das hipóteses, escravizá-los.
Não custa lembrar, no entanto, que a AGI continua sendo coisa de ficção científica e, para muitos, está ainda a décadas de distancia, enquanto para outros sequer é realmente possível.
Mas o que mostram os dados? É possível avaliar o impacto benéfico ou não que a tecnologia trouxe para a humanidade? Se olharmos para os últimos duzentos anos, é nítida uma melhora exponencial na vida das pessoas, explicada por fatores como aumento da riqueza — que não é fixa e pode, portanto, ser criada — e acesso a medicamentos. Isso só foi possível por conta do desenvolvimento tecnológico.
Mas por que, então, tanta gente está preocupada? O curioso sobre a tecnologia é que, de fato, quanto mais ela se desenvolve maior passa a ser seu poder e maior o risco de que ela acabe com o mundo do seu criador.
O desenvolvimento da bomba atômica foi o primeiro momento em que isto se tornou uma realidade e fez com que o físico Robert Oppenheimer, responsável por coordenar o Projeto Manhattan, ao ver a bomba explodindo, lembrasse do seguinte verso do Bhagavad Gita:
"Agora me tornei a morte, a destruidora de mundos."
Como diz o filósofo Mario Bunge, a tecnologia é moralmente ambivalente e por isso, ela é inseparável de considerações éticas. Também por isso ela deve ser controlada ao invés de se permitir que ela seja desenvolvida sem amarras.
Isso sempre existiu em relação a qualquer tecnologia, mas numa época em que o ser humano adquiriu a capacidade de destruir mundos, o chamado ético se torna algo ainda mais premente.
A distopia
É interessante notar que o gênero literário mais representativo da nossa época é a distopia. A utopia, gênero que surgiu com a modernidade e que nos legou várias obras com esse nome, dentre as quais a conhecida Utopia de Thomas More, há muito tempo ficou para trás.
Segundo o historiador escocês naturalizado estadunidense Niall Ferguson, Mary Shelley é a autora que inaugura o romance distópico. Em Frankenstein, de 1818, o cientista homônimo cria um homem sintético, o primeiro de muitos experimentos desse tipo na literatura a dar desastrosamente errado. “Como Prometeu, que roubou a tecnologia do fogo, Frankenstein é punido por sua presunção”. Em O último homem, de 1826, uma praga extermina todos, exceto um espécime da humanidade.
Depois disso, muitas outras distopias surgiram. Escritores como Philip K. Dick, H.G Wells, George Orwell, Margaret Atwood, Aldous Huxley e Ray Bradbury são autores de distopias conhecidas que viraram filmes e séries de TV.
A contenção
Diante da ameaça que a tecnologia nos traz, surge um natural movimento no sentido de buscar medidas para que a sociedade possa se proteger dos seus efeitos negativos que, em último grau, poderiam nos levar à aniquilação.
Niall Fergusson resume muito bem como essas propostas costumam ser apresentadas.
“Uma sugestão é que deveria haver Cassandras oficiais dentro de governos, órgãos internacionais, universidades e corporações, e um “escritório nacional de advertências” encarregado de identificar os piores cenários, medir riscos e planejar estratégias de proteção, prevenção ou mitigação. Outra proposta é desacelerar a taxa de avanço em direção à tecnologias de aumento de risco em relação à taxa de avanço de tecnologias de proteção, garantindo que pessoas envolvidas no desenvolvimento de uma nova tecnologia estejam de acordo sobre como usá-la para o bem, não para o mal, e para desenvolver a capacidade de governança intraestatal para prevenir, com confiabilidade extremamente alta, qualquer indivíduo ou pequeno grupo de realizar qualquer ação que seja altamente ilegal”.
Mas o mais assustador é que a dose pode acabar transformando o remédio em veneno. Quando se considera o que toda essa estrutura de contenção implica, percebe-se que ela pode acabar sendo uma ameaça existencial por si mesma, representada pela “criação de um Panóptico de alta tecnologia composto por policiamento preventivo com vigilância onipresente, governança global eficaz [e] algum tipo de mecanismo de vigilância e fiscalização que tornaria possível interditar as tentativas de realizar um ato destrutivo”.
Fergusson adverte que
“este é o caminho para o totalitarismo — em uma época em que já existem as tecnologias que tornariam possível um estado de vigilância global”.
O historiador arremata com uma citação do economista Bryan Caplan:
“Um cenário particularmente assustador para o futuro é que as preocupações exageradas do fim do mundo se tornem a razão para o governo mundial, abrindo caminho para uma catástrofe global imprevista: o totalitarismo. Aqueles que pedem que os países do mundo se unam contra as ameaças à humanidade devem considerar a possibilidade de que a própria unificação seja a maior ameaça”.
Nos deparamos, assim, com uma situação na qual “se correr o bicho pega, se ficar o bicho come”. Diante de uma situação como esta, parece-me que seria prudente identificar as ameaças que, de fato, mereceriam ser monitoradas pelas estruturas de vigilância descritas por Fergusson. O risco, é claro, não desaparece, mas pelo menos diminuiria.
Fazer isso passa por policiar o que realmente oferece riscos substanciais. É um exercício de seleção que penso não ser fácil, mas é necessário. Caso contrário, a sociedade caminha para o controle de todos os comportamentos e pensamentos humanos. O Totalitarismo é precisamente isto.
Assim, paradoxalmente quanto mais medidas tomamos para que as pessoas se conformem a padrões que consideramos corretos mais condições criamos para um ambiente totalitário.
Uma frase de O’Brien personagem de 1984, talvez a mais conhecida das distopias, resume muito bem o quadro que podemos atingir:
“É intolerável para nós que um pensamento errado possa existir neste mundo, mesmo que ocorra em segredo e sem poder algum”
Se você se interessa por inteligência artificial, talvez se interesse pelo meu curso que está com as inscrições abertas: Inteligência Artificial EXIN BCS Foundation, por André Gualtieri. É o primeiro curso da Technoethics, minha escola online em parceria com Nuria López. O curso trata desde os fundamentos da IA até sua aplicação nas organizações, passando pelas questões técnicas, jurídicas e éticas. Você pode acessar este link para se inscrever.