Demis Hassabis, em A Onda e o Maior Dilema do Século XXI (2024), propõe um debate sobre a expansão das novas tecnologias, especialmente a inteligência artificial e a biologia sintética, alertando para os riscos inerentes ao seu desenvolvimento descontrolado. Desde o prólogo até o capítulo 2, ele argumenta que estamos à beira da mais significativa transformação da humanidade e que, se não impusermos algum nível de contenção, essas tecnologias podem escapar ao nosso controle e causar consequências catastróficas. No entanto, sua narrativa se constrói sobre uma contradição central: ele defende a necessidade de conter um processo que ele mesmo admite ser historicamente incontrolável.
Hassabis inicia sua análise explorando a "armadilha da aversão ao pessimismo" – a tendência humana de evitar cenários negativos mesmo quando há evidências alarmantes sobre sua possibilidade. Ele relata um seminário onde especialistas apresentaram um risco real: a possibilidade de uma única pessoa, com motivação suficiente, criar uma catástrofe biotecnológica de escala global. A reação do público foi uma mistura de indiferença e negação, algo que o autor interpreta como uma falha cognitiva coletiva. No entanto, esse comportamento pode ser visto de outra maneira: talvez a apatia não seja uma recusa irracional, mas sim uma aceitação silenciosa de que não há saída. Afinal, se a história nos ensina que toda tecnologia de propósito geral se prolifera e se torna incontrolável, por que essa onda seria diferente?
Nos capítulos seguintes, o autor tenta construir uma estrutura de contenção para essa nova revolução tecnológica. Ele cita a energia nuclear como um exemplo de contenção bem-sucedida, argumentando que tratados internacionais e a dificuldade técnica para fabricar armas nucleares impediram sua proliferação desenfreada. Mas essa comparação é falha. O que impediu que as armas nucleares se disseminassem não foi apenas a regulação, mas o fato de que sua produção exige recursos e infraestrutura altamente especializados, tornando seu acesso limitado. Já a IA e a biologia sintética seguem uma lógica inversa: à medida que avançam, tornam-se mais acessíveis, baratas e descentralizadas. Se a história da tecnologia mostra que sua evolução segue padrões de proliferação exponencial, a contenção se torna mais um desejo do que uma estratégia concreta.
O problema essencial do livro até aqui não é a identificação do perigo, mas a ilusão de controle que o autor insiste em sustentar. Ele reconhece que nunca fomos capazes de conter o avanço de tecnologias fundamentais e que as ondas tecnológicas anteriores moldaram a civilização de forma irreversível. Mesmo assim, ele sugere que dessa vez será diferente, que podemos criar mecanismos para impedir o caos. Mas esse argumento parece mais uma tentativa de acalmar o pânico do que uma proposta realista.
A ironia maior é que, enquanto Hassabis critica aqueles que negam os riscos da nova onda tecnológica, ele mesmo pode estar caindo em outra armadilha: a do tecnossalvacionismo disfarçado de precaução. Acreditar que podemos controlar essa onda apenas porque queremos controlá-la é uma forma de pensamento mágico, não uma solução. A tecnologia não se curva à moralidade ou à vontade humana – ela se expande conforme os incentivos econômicos e políticos que a impulsionam.
Se a contenção nunca foi verdadeiramente possível, por que continuar insistindo nela? Talvez porque a alternativa seja inaceitável: admitir que estamos diante de um fenômeno que já escapou das nossas mãos e cuja única certeza é sua aceleração. O verdadeiro dilema não é se devemos ou não conter essa onda, mas se estamos prontos para aceitar que nunca tivemos essa capacidade.
Até aqui, A Onda e o Maior Dilema do Século XXI me parece mais um exercício de gerenciamento discursivo do medo do que uma proposta de ação viável. Continuarei a leitura para ver se, nos capítulos seguintes, o autor consegue escapar dessa contradição.
#maispertodaignorancia
Comentários
Enviar um comentário