«Eu tenho esperança de ser surpreendida pelo pensamento de outras pessoas, esperança que isso me transforme. Se, por um lado, eu busco o que me sossegue, o que me explique as coisas, eu quero sobretudo não saber o que me vai acontecer. E dentro dos livros há possibilidades maiores do que na vida.»
— SARA CARINHAS, Última Memória, 2023
No ocaso do século passado, Bill Joy, num artigo intitulado Por que razão o futuro não precisa de nós, que teve alguma ressonância, alertava para a ameaça existencial colocada pela inteligência artificial (IA): “Este é o primeiro momento na história do nosso planeta em que uma espécie, pelas suas ações voluntárias, se tornou um risco para si própria, assim como para um vasto número de outras.” 1
Seria preciso mais de uma década para que se impusesse o debate público e científico sobre a possibilidade de as máquinas com IA poderem um dia libertar-se do nosso controlo direto e constituir uma ameaça à existência da humanidade. Em 2014, um grupo de especialistas, entre os quais figuravam o cosmólogo Stephen Hawking e Stuart Russel, autor de um manual de referência no domínio da IA, publicou na imprensa uma carta aberta, na qual se admitia que um computador com capacidade sobre-humana poderia “ludibriar os mercados financeiros, ultrapassar as invenções dos investigadores humanos, manipular os líderes humanos e desenvolver armas que nem conseguimos compreender”.
A ideia de uma IA sobre-humana como um ponto de viragem que transformaria por completo todos os aspetos da vida e da civilização — defendida, entre outros, por Ray Kurzweil, no seu livro The Singularity Is Near — foi duramente contestada por outros investigadores, como Jean-Gabriel Ganascia, no belíssimo livro O Mito da Singularidade, por cá publicado pela Temas e Debates. Mais recentemente, a possibilidade de alcançarmos uma inteligência artificial geral (IAG) ou de nível humano vem ganhando adeptos de peso. Geoffrey Hinton, também conhecido como o padrinho da IA, foi o primeiro signatário da Declaração de 30 de maio deste ano do Centro para a Segurança da Inteligência Artificial, subscrita por trezentas e cinquenta pessoas com responsabilidades na investigação, desenvolvimento e exploração económica da IA: “Mitigar o risco de extinção proveniente da IA deve ser uma prioridade global ao lado de outros riscos à escala societal, tais como as pandemias e a guerra nuclear.” 2
A controvérsia sobre esta ameaça existencial é grande. A primeira condição (necessária, mas não forçosamente suficiente) é que se consiga alcançar a mencionada IAG: uma máquina que consiga comunicar, raciocinar e conceber ideias novas ao nível de um ser humano. Apesar de todo o burburinho, sistemas de linguagem natural como o ChatGPT ou o Bard não são nada que se assemelhe a isso. Como explica Martin Ford, no seu magnífico livro O Futuro da Inteligência Artificial, publicado pela Bertrand, os sistemas GPT da OpenAI são, na sua essência, motores de previsão potentes: dada uma sequência de palavras, preveem qual a palavra seguinte. Os seus resultados são inconsistentes e os erros inúmeros, pois não existe uma verdadeira compreensão.
Segundo Ford, a estimativa média para alcançarmos a IA de nível humano a que chegou com base nas previsões de 18 dos maiores especialistas nesta área é de cerca de 80 anos, oscilando entre a previsão de Ray Kurzweil, que acredita que esta será alcançada em 2029, e a do especialista em robótica, Rodney Brooks, que vaticina que a IAG não será alcançada antes do ano 2200… Este intervalo é, por si só, bastante eloquente e a magnitude dos desafios que terão de ser superados parece fazer pender a balança para os prognósticos mais conservadores: um raciocínio ao nível do senso comum, a aprendizagem não supervisionada (autónoma, sem o auxílio de dados estruturados e rotulados), a compreensão da causalidade (essencialmente, a capacidade de fazer e responder à pergunta «Porquê?») e a transferência da aprendizagem (a capacidade de aprender informações de um domínio e conseguir aplicá-las corretamente a outros) são as inovações significativas que Martin Ford considera imprescindíveis para que possamos aspirar a uma IA que pelo menos se assemelhe à inteligência de um ser humano3.
Dito isto, se e quando a IAG for alcançada, prevê-se “que a superinteligência surja rapidamente” e que se possa colocar o “problema do controlo”: a possibilidade de um sistema superinteligente procurar atingir o objetivo específico para que foi criado “recorrendo a meios que produzam consequências não intencionais ou antecipadas que possam vir a revelar-se prejudiciais ou fatais para a civilização humana.” 4
“A controvérsia sobre esta ameaça existencial é grande. A primeira condição (necessária, mas não forçosamente suficiente) é que se consiga alcançar a mencionada IAG: uma máquina que consiga comunicar, raciocinar e conceber ideias novas ao nível humano.”
Sendo os obstáculos à IAG de tão grande monta, devemos concluir que (ainda) não vale a pena perder tempo com o assunto? Àqueles que o advogam, Stuart Russell responde com uma analogia. Confiaríamos no condutor de um autocarro, com toda a humanidade dentro, que dissesse: “Sim, estou a guiar o mais depressa que posso em direção a um penhasco, mas acreditem, ficaremos sem gasolina antes de lá chegarmos!”? Defende que teremos de estar preparados antes de as capacidades dos sistemas de IA excederem as capacidades humanas nas áreas que importam e que a melhor solução para o problema do controlo é abdicar de associar uma função objetiva explícita aos sistemas de IA. Estes deveriam ser criados para maximizar a realização de preferências humanas. Dessa forma, o sistema aceitaria ser desligado se acreditasse que essa ação estava em conformidade com as preferências humanas para cuja otimização foi criado 5.
Entretanto, existem riscos mais imediatos no desenvolvimento da IA dos quais não devemos desviar a atenção. Entre vários outros: as deepfakes e a grave ameaça à segurança que estas podem constituir; as armas letais autónomas e, em geral, o espectro de uma corrida ao armamento baseado em IA; o risco de enviesamento dos algoritmos de aprendizagem automática, em especial se usados em áreas sensíveis como a justiça criminal, a educação, a contratação de pessoas ou a concessão de crédito 6. Alguns lembrar-se-ão do slogan O algoritmo roubou o meu futuro! com que os estudantes ingleses lapidaram o algoritmo usado pela Ofqual para os graduar no ano em que as medidas de contenção da pandemia COVID-19 impediram a realização de exames. Nos EUA, um outro algoritmo, o COMPAS, é amplamente usado para prever a probabilidade de um indivíduo reincidir na ofensa após a libertação e, de acordo com uma avaliação independente, atribuiu aos arguidos afro-americanos um risco de reincidência superior ao dos caucasianos. Em atos eleitorais e outros eventos de grande importância e repercussão, vimos como os algoritmos de aprendizagem automática do YouTube e do Facebook, criados com o objetivo específico de maximizar a interação do utilizador com a plataforma, perceberam que a melhor forma de o conseguir é oferecer conteúdos políticos mais polarizados ou apelar diretamente às emoções, como a indignação e o medo.
Uma coisa parece certa: os riscos e benefícios da inteligência artificial dizem respeito a todos e não é prudente demitirmo-nos de os conhecer ou de escrutinar as políticas públicas com impacto no seu desenvolvimento e aplicação. Nessa busca por mais conhecimento, os livros continuam a ser os melhores aliados para compreendermos o presente e impedirmos o medo e a ignorância de nos vendarem os olhos:
“O futuro não foi abolido, longe disso. A história segue o seu curso, ainda mais do que no passado. (…) O conto de um fim do futuro tem apenas como objetivo desviar a nossa atenção.” 7
1. Bill Joy, Why the Future Doesn’t Need Us? Wired.com, abril de 2000.
2. https://www.safe.ai/statement-on-ai-risk
3. Martin Ford, O Futuro da Inteligência Artificial, Bertrand Editora, 2022, pág. 172-183.
4. Martin Ford, ob. cit., pág. 294-297.
5. Stuart Russell, How to stop superhuman A.I. before it stops us, New York Times, 8 de outubro de 2019
6. Martin Ford, ob. cit., pág. 162-167.
7. Jean-Gabriel Ganascia, O Mito da Singularidade, Temas e Debates, 2018, pág. 168.
Artigo publicado na Revista Somos Livros (edição verão 2023).