Alexandre Castro Caldas é Professor Catedrático de Neurologia da Faculdade de Medicina da Universidade Católica Portuguesa. No último dos doze livros que escreveu — Inteligência Vital, Estupidez Artificial (Ed. Contraponto) —, compara a Inteligência Artificial (IA) a uma flor de plástico, de forma que esta poderá ser bela, mas nunca sublime.
Chamar inteligência artificial ao que as máquinas produzem é subestimar a verdadeira inteligência?
É um fetiche disparatado e perigoso. Há uma sequência de factos que levaram a isso. É como aquela história em que uma pessoa faz um desenho e passa para outra copiar, e assim sucessivamente, e, quando chega ao fim, o desenho, já não tem nada que ver com o primeiro. É mais ou menos isso. O que aconteceu foi que a inteligência foi discutida durante séculos pelos filósofos e, a certa altura, há um homem dos anos sessenta do século passado que aplica uma técnica matemática às redes neuronais, e há depois uns que fazem uma interpretação e ganham o Prémio Nobel com isso, com a interpretação da visão como um processo progressivo da rede neuronal aplicando álgebra sobre sistemas de ligação 0–1 de passagens. E, com isso, eles dizem: pronto, é facílimo, afinal, a mente é facílima. E, então, resolvem, nos anos 60: vamos inventar uma coisa… Com este modelo, que é biológico, podemos fazer a mente humana, e há um texto escrito a dizer isso… e é assustador. E, depois, o afastamento do biológico é natural, porque a biologia evoluiu e já ninguém fala das redes neuronais biológicas daquela perspetiva, é completamente diferente. Mas aquilo ficou autónomo e continuou a desenvolver-se autonomamente. Estão agora a reverter aquilo e a aplicar aquilo à biologia. Agora, querem pôr as crianças a fazer deep learning, como os computadores, o que não faz sentido. A experimentação mais recente é o que se está a fazer com os organoides, que é pegar em células estaminais, cultivá-las e criar pequenos órgãos cerebrais biológicos, e testar competências. Os pequenos órgãos cerebrais que são gerados têm uma atividade elétrica parecida com o eletroencefalograma e, então, fazem logo a analogia: isto vai ter consciência.
É ir longe demais?
Sobretudo as pessoas não têm noção de que, quando dizem que vão fazer a consciência, que vão pôr consciências nas máquinas, é preciso que se perceba o que é a consciência. Porque a consciência é nós termos um impulso básico sobre o ambiente, que levou ao desenvolvimento das espécies e que é a tal inteligência, e, a certa altura, fomos capazes de rever imagens cá dentro e eu pensar nesta cadeira ou olhar para esta cadeira [onde está sentado], ativo exatamente a mesma coisa. Portanto, o que eu faço é a leitura do meu pensamento, é como se estivesse a ter uma perceção, é a perceção do pensamento. Mas, a partir da adolescência, surgem sistemas de inibição para não deixar sair tudo. A consciência é exatamente essa, a consciência é a inibição. E a inibição tem que ver com o mundo todo: com a nossa experiência, com a moral, com o ambiente, com o nosso estado e com tudo o que temos cá dentro, tem que ver com tudo. Como se mete isso numa máquina?
É impossível replicar.
Sim, eu tenho falado com alguns dos melhores na inteligência artificial, e muitos acham que é uma questão de tempo. É como os outros, que nos anos sessenta achavam que faziam aquilo num mês. Um desses, o Marvin Minsky [fundou, com John McCarthy, o Laboratório de Inteligência Artificial do prestigiado Massachusetts Institute of Technology], tinha um estudante que ia ficar no verão na universidade e lhe pediu um programa para se entreter e ele disse: "Olha, há uma coisa que podes fazer no verão, que é um programa de computador da visão humana". O homem deve ter-se suicidado, porque ainda não está feito [risos].
"À medida que vamos progredindo, vou ficando mais convencido de que a inteligência é qualquer coisa que tem que ver com um impulso vital coordenador das competências individuais…" Este impulso pode não ser exclusivamente humano, mas a IA nunca terá este impulso…
Não tem, não. Não tem motivação, o chamado livre-arbítrio. O problema é se vier a ter livre-arbítrio, se resolve tomar decisões sozinha. Pode carregar no botão que dispara a bomba atómica, não é? Porque não tem controlo moral...
O controlo moral ainda parte dos homens que a guiam…
Sim, mas…
Teme que deixe de ser assim num futuro próximo?
Lembra-se da Odisseia no Espaço? [2001 — Odisseia no Espaço foi um filme de 1968]. O computador ia tomar conta das pessoas, já se ouve dizer isso há muito tempo… por enquanto, não tem havido iniciativa, mas é facílimo haver uma alucinação. Se o nosso pensamento tem alucinações, e nós vamos todos entendendo porque é feito na mesma linguagem do mesmo pensamento, mas aquilo já não é a nossa linguagem. Uma alucinação de uma inteligência artificial será incompreensível, teoricamente incompreensível e, por isso, pode gerar qualquer coisa incompreensível também.
"(...) porque as pessoas usam mais a linguagem para se zangarem do que o contrário."
Porque nem sequer conseguimos pôr em palavras o que poderá vir a ser, não é?
E o que mais assusta é que este sistema é muito livre, qualquer um desses hackers que para aí andam pode pegar num computador e inventar coisas. Está tudo publicado, está escrito, pode trabalhar-se. Neste momento, já poucas pessoas sabem o que está por baixo; neste momento, só se está a trabalhar na periferia dos algoritmos, não se sabe mexer em baixo, e isso é outro risco enorme. Se um dia há uma avaria em baixo, se há um erro que surge aqui, ninguém sabe resolver. Rebentam os aviões, rebentam os hotéis, rebenta tudo.
Ainda assim, o Professor é um otimista.
Sim, mas estamos perante um risco real. Então, a gente não ficou sem luz aqui há tempos por causa de uma porcaria qualquer que não se previu, apesar de ser previsível? Se for totalmente imprevisível, a gente nem percebe o que é que aconteceu, nem se consegue explicar o que aconteceu.
E que risco correm estas novas gerações tecnologicamente preparadas?
Eu acho, sobretudo, que estão a substituir coisas muito biológicas por coisas simbólicas, como o contacto físico e os afetos. Os afetos não são simbolizáveis. Já o ter aparecido linguagem é muito complicado para as relações entre as pessoas, do meu ponto de vista, estragou mais do que ajudou, porque as pessoas usam mais a linguagem para se zangarem do que o contrário. E há aspetos básicos das nossas funções que não são simbolizáveis. O crescimento daquelas cabecinhas amarelas, dos emojis… como é possível que, hoje, as pessoas não telefonam ao outro ou vão a casa do outro dar os parabéns no dia dos anos: mandam uma mensagem com um bonequinho amarelo. Onde está o real afeto? Eu sei lá se aquela pessoa estava a sentir aquilo? Como tenho empatia com aquela pessoa? Não posso ter empatia pelo bonequinho, e eu preciso de ter empatia porque as relações humanas são quentinhas, as pessoas têm de as sentir e isso faz uma falta enorme, e temo que as pessoas fiquem cada vez piores e que cada vez fique mais complicada a comunicação.
Porque a empatia nunca poderá ser replicada pela inteligência artificial, não é?
É muito difícil fazer isso, eu diria que impossível. Eu não sinto o que você sente. E como eu percebo isso? Olhando para a sua expressão. As microexpressões são fundamentais. Aquilo que eu sou capaz de fazer na rua, quando vejo um amigo do lado de lá da rua e consigo perceber rapidamente que vai triste, isto é muito difícil de replicar. Eu, para gozar com os homens da IA, digo: quando vocês puserem uma mosca a voar que não seja verdadeira, eu acho que vocês fizeram uma coisa fantástica. Mas é impossível fazer uma mosca, quanto mais o pensamento humano!
Apesar de o ChatGPT dar conselhos a quem pede, e há quem o use como ouvinte… mas é uma simulação de empatia, certo?
O grande problema do ChatGPT é que é aldrabão e é enviesado porque não pode ser universal. O ChatGPT, no fundo, é o sonho dos enciclopedistas do século XVIII, é o conhecimento global, é a Biblioteca de Alexandria, por exemplo. Mas não é. Falta-lhe cultura de muitos sítios e falta-lhe passado. Eu tenho de confessar que nesta fase da vida já me ajudou, quando vou falar de determinado assunto, ponho a lista e pergunto se me esqueci de alguma coisa e, geralmente, aquilo encaixa mais ou menos. Mas quando eu lhe peço: agora, dê-me cá as referências, vêm trocadas muitas vezes, não existem.
E podem tornar o cérebro humano preguiçoso?
Sim, sim. A tomada de decisão não é um sistema de escolha, é um pensamento que a gente tem de percorrer e, se, em vez de eu tomar uma decisão, eu tenho de escolher entre duas coisas, posso escolher perifericamente, não vou à profundidade do assunto. A menos que seja no restaurante a escolher o prato, e, mesmo assim, às vezes, a gente também vai ao fundo (risos). Porque a alimentação tem muita cultura associada, a gente lembra-se da avó, lembra-se dessas coisas, são as tais coisas que o computador nunca será capaz de fazer porque não tem avó.
Nem memórias olfativas...
As memórias olfativas são muito mais complicadas porque não são explicitáveis. Nem o gosto nem o olfato. Se eu conseguisse dizer "Vou sentir o gosto de um gelado de chocolate" não consigo, mas já tenho a memória que gosto de um gelado de chocolate, mas não sou capaz de o reproduzir, se não, não comprava um gelado de chocolate.
"Não posso ter empatia pelo bonequinho, e eu preciso de ter empatia porque as relações humanas são quentinhas, as pessoas têm de as sentir e isso faz uma falta enorme, e temo que as pessoas fiquem cada vez piores e que cada vez fique mais complicada a comunicação."
O Professor costuma dizer que a melhor forma de nos mantermos saudáveis é termos amigos.
O que é gostar das pessoas? É empatizar com elas, é achar que as nossas opiniões são parecidas, que elas pensam a vida da mesma forma, reagem da mesma forma às coisas e sintonizam-se com facilidade. E há pessoas com quem a gente não consegue fazer isso. Mas há uma resposta do Descartes para essa pergunta. Ele era consultor da rainha da Suécia, que uma vez lhe perguntou porque as pessoas têm tendência a olhar para as outras e logo, à primeira vista, perceber se gostam ou não gostam. E o Descartes respondeu que, quando era jovem, tinha tido uma namorada que era estrábica e que isso passou, mas em adulto notou que sempre que via uma pessoa estrábica tinha tendência para gostar dela. Tinha ficado a memória dessa amizade ou paixão e, por isso, a leitura dos sentidos evocava-lhe os afetos. As leituras que fazemos de cada movimento das pessoas são rapidíssimas e permitem as aproximações que as pessoas fazem umas das outras e sentem empatia.
Essas relações fazem com que o cérebro seja saudável.
Com certeza. Quanto mais as pessoas em grupo estiverem, mais nós estamos a fazer vasos comunicantes da mente, porque, quando as pessoas estão a conversar umas com as outras, sobra sempre mais um bocadinho, há sempre qualquer coisa que se junta e que se ganha.
Qual é a forma mais inteligente de lidar com a inteligência artificial?
Eu diria que era com inteligência vital, é a melhor maneira de lidar com ela. A IA é um instrumento, é um instrumento extremamente válido que está aqui e já não desaparece, e escusamos de estar a contrariá-lo, temos de viver com ele e tirar o máximo proveito porque tem inúmeras vantagens, mas temos de o saber usar. É um disparate proibir os telemóveis nas escolas, é meter a cabeça na areia. Não se proíbe, deve dizer-se às crianças “agora, vocês ponham o telemóvel ao lado, daqui a bocado vamos precisar dele”. Proibir a uma criança uma coisa na altura em que começa a fazer escolhas na vida, proíbe-se uma coisa com que vai ter de viver a vida toda? Não podes levar sapatos para a escola! [risos] Felizmente, levamos. As pessoas dizem, com ar aterrorizado, que é preciso reprimir o telemóvel, mas não é nada disso. Claro que as crianças mais pequeninas, até aos dois anos, a luz do ecrã não é boa para a retina porque tem implicação na própria rede neuronal da retina, a gente deve amadurecer a retina com a visão normal da natureza, mas, depois, as crianças devem conviver com os telemóveis, como convivem com as outras coisas, desde que não seja fechadas no quarto, sozinhas, a jogar. Até porque os jogos online não substituem a presença, as crianças precisam de fazer jogos presenciais umas com as outras, até de dar murros e pontapés, porque têm de perceber o que os outros sentem, porque, se não o que nós sentimos não é lido, ficamos sem sentimentos, que é uma coisa que me faz muita aflição.
"Quanto mais as pessoas em grupo estiverem, mais nós estamos a fazer vasos comunicantes da mente, porque, quando as pessoas estão a conversar umas om as outras, sobra sempre mais um bocadinho, há sempre qualquer coisa que se junta e que se ganha."
Sem sentimentos e com muito ruído de fundo…
Foi feito um estudo em que pegaram em jovens e perguntaram: "estás disposto a fazer aqui uma experiência de ficares uma hora numa sala, sozinho, sem coisa nenhuma, só a pensar". "Ai, nem pensar, o que vou fazer?" "Mas estás disposto a experimentar?" "OK, vou experimentar". Quando perguntam, no fim, o jovem diz: "afinal, não foi assim tão mau". De facto, uma pessoa estar sentada numa cadeira a pensar não é mau. O lego era uma coisa fantástica, eram pecinhas que montávamos de qualquer maneira, agora só se pode fazer aquilo que vem na caixa, traz instruções e tudo.
Reduz-se a criatividade e damos tudo já feito.
Se faz uma pergunta a um miúdo, ele, em vez de puxar pela cabeça, vai logo ver à internet. Para um estudo, pediram a alunos para fazerem um texto sobre um tema. Um grupo podia ir ao ChatGPT, o outro, não. Deixou-se passar algum tempo e perguntou-se mais tarde coisas sobre o texto que tinham escrito: os que tinham usado o ChatGPT não se lembravam de nada; ao contrário dos outros, a informação não ficou.
Com as crianças, o segredo é dosear?
Tenho conhecido professores que trabalham em sala de aula com os miúdos a inteligência artificial: é com isto que vocês vão viver, então, vamos viver com isto. É preciso saber coisas sobre um romance, então, vão ler o romance e vamos comparar o que ele diz. O que acontece sobretudo é que a utilização está em roda livre, os miúdos fazem o que querem… ou melhor, o que as redes querem que eles façam e, depois, fazem coisas horríveis.
Diz que pode ser mais perigosa do que uma bomba atómica, pela facilidade com que anda no nosso bolso… A acessibilidade resulta do negócio associado. E, quanto mais simples, mais friendly a utilização, mais chega a todos. E isso é dramático. Neste momento, as fontes de informação que existem é assustador… sobretudo, assusta-me a ideia de poderem pegar num retrato meu e porem-me a dizer coisas com a minha voz e tudo como se fosse eu a dizer. E isso é assustador. Tal como é assustador os avatares que estão a fazer das pessoas, para a gente ficar com os fantasmas lá em casa, dos familiares.
E os avatares das redes que interagem com os humanos sem que se saiba quem é quem.
Agora, sempre que pegamos no telefone para fazer qualquer coisa, falamos sempre com um robô. Tem de haver relação humana nestas coisas, não pode ser de outra forma. Então, na área da saúde, é assustadora a falta de relação humana. Não consegue falar para um centro de saúde, não consegue falar com o seu médico…
É por todas estas razões que falámos que é cada vez mais importante ensinar o pensamento crítico?
Com certeza. O pensamento, em geral. Pensar, ler e, sobre- tudo, escrever à mão. Escrever à mão é completamente diferente de escrever com teclado, quando escrevo à mão, crio um tempo, e o tempo que demoro a escrever ajuda a mexer cá dentro.
Onde estará a IA daqui a 10 anos, consegue fazer uma previsão?
Neste tema, o futuro é completamente imprevisível. Houve um homem da IBM que, há uns anos, disse que não valia a pena estar a fazer computadores porque era uma coisa que ninguém ia usar (risos).