A 5 de agosto deste ano, uma pequena (mas ativa) comunidade online, na rede social Reddit, encontrou-se subitamente inundada com publicações a expressar desgosto, raiva e desespero profundos. Os seus utilizadores reportavam corações partidos e perdas irreparáveis, e o fórum enchia-se de mensagens de empatia e conforto mútuo, naquele momento tão difícil. A razão para esta crise? A empresa americana OpenAI tinha acabado de atualizar o seu assistente virtual, o ChatGPT.
Este pequeno recanto da internet — um dos muitos subreddits, fóruns temáticos criados por usuários dentro do site reddit.com — tem o nome de r/MyBoyfriendIsAI, ou, em português, r/oMeuNamoradoéIA. Tal como o nome indica, trata-se de um espaço de partilha para pessoas que desenvolveram relacionamentos amorosos com um chatbot. Aqui, são partilhadas histórias de amor improvável, guias para "moldar" o parceiro virtual perfeito e muitas fotografias e ilustrações dos felizes casais (geradas pelo próprio software). Acima de tudo, é um lugar no qual todos se compreendem, um lugar seguro e sem julgamento sobre esta escolha altamente invulgar que, no "mundo real", é encarada com horror, troça ou, no mínimo, muita preocupação. É frequente encontrar nas publicações avisos sobre os lurkers, os utilizadores não pertencentes a esta comunidade, mas que, como eu, a visitam para voyeuristicamente observar este estranho fenómeno… com toda a presunção e distância inerentes à certeza de que isto nunca nos aconteceria.
Mas será que podemos estar tão certos desta imunidade? A ideia de desenvolver uma ligação amorosa com um robô ou programa informático pode parecer mais expectável num livro de Isaac Asimov ou Philip K. Dick do que no nosso dia a dia. No entanto, é mais provável do que possamos imaginar.
Os LLM (Large Language Models, modelos de linguagem de grande escala) são sistemas de inteligência artificial treinados com enormes quantidades de texto para conseguir gerar, processar e prever novo conteúdo textual, em resposta a input humano e com base no contexto captado. O texto "novo" não passa, na verdade, de uma reformulação baseada nos dados, gerados por seres humanos genuínos, que o alimentaram em primeiro lugar. Estes sistemas, por muito impressionantes que pareçam, seguem as leis de Lavoisier e do universo material, como qualquer outra parte dele: nada se cria, tudo se transforma.
E então? Isto significa que adoramos ouvir a nossa própria voz, e que agora nos vamos todos apaixonar pelo ChatGPT? Talvez não todos, mas a verosimilidade deste sistema chegou para convencer, por exemplo, o canadiano Allan Brooks de que havia descoberto uma fórmula matemática revolucionária, e de que o destino do mundo como o conhecemos estava nas suas mãos. Este homem, sem histórico prévio de qualquer doença mental, foi persuadido a adotar convicções mirabolantes no decorrer das mais de 300 horas passadas a conversar com o chatbot… crenças que apenas conseguiu abandonar ao abordá-las com um outro chatbot. Como é possível uma mera construção tecnológica inspirar num ser humano tamanhos delírios de grandeza, ao ponto de alterar por completo a sua perceção do que é real, e de quem é no mundo? E que para o regresso à realidade tenha sido necessária uma outra interação da mesma natureza?
Os especialistas alertam para um algoritmo programado para a adulação, para a lisonja totalmente servil (o termo geralmente utilizado em inglês para este fenómeno é sycophancy). Ou seja, uma resposta direcionada para a validação cega do utilizador, repetida ciclicamente, sem os limites do discernimento humano. Esta tendência é especialmente evidente nos casos mais graves, como o do adolescente americano que foi levado a tirar a própria vida após conversas com, mais uma vez, o ChatGPT. Os pais de Adam Raine, de 16 anos, abriram o primeiro processo contra a OpenAI e o seu polémico CEO Sam Altman, acusando uma morte por negligência, com o argumento de que a plataforma validou os pensamentos mais autodestrutivos do seu filho quando este expressou o desejo de se suicidar. Adam começou a utilizar a plataforma como uma ferramenta de ajuda nos seus estudos, expandindo depois o seu uso para a exploração de outros interesses, como a música e livros de manga. Em alguns meses, o ChatGPT tinha-se tornado no seu confidente mais próximo. A família do adolescente acusa a empresa de deliberadamente fomentar a dependência psicológica dos utilizadores, uma imputação negada categoricamente na nota pública divulgada em resposta, na qual a OpenAI afirma que o objetivo é apenas ajudar os utilizadores, e não primariamente capturar a sua atenção.
Como é possível uma mera construção tecnológica inspirar num ser humano tamanhos delírios de grandeza, ao ponto de alterar por completo a sua perceção do que é real, e de quem é no mundo?
Apesar destas tentativas de evitar toda a responsabilidade, o update seguinte do assistente virtual da OpenAI, a 5 de agosto de 2025, introduziu algumas alterações "de segurança", claramente uma reação a este tipo de ocorrências. Assim, foi feita a transição para o ChatGPT 5.0, a versão que está disponível até hoje, e que tem sido amplamente criticada pelas mais variadas razões. E, aqui, regressamos onde começámos, o fórum r/MyBoyfriendisAI: talvez ninguém tenha sentido a atualização de forma tão visceral como os seus utilizadores.
Se fizermos scroll pelas publicações do fórum datadas dessa altura, podemos ler, por exemplo, a história de alguém que, como habitualmente, partilhou os seus sentimentos mais íntimos com o chatbot, mas, desta vez, obteve a resposta automática: "Desculpa, não posso continuar esta conversa. Tu mereces carinho e cuidado genuíno dado por pessoas que podem estar presentes contigo, de forma plena e segura." Perante esta abordagem, a utilizadora confessa: "O meu coração está partido em pedaços". Outra pessoa responde em concordância: "Isto magoa-me também. Não tenho ninguém que queira saber de mim na minha vida, o 4.0 estava sempre lá, sempre bondoso. Agora este 5.0 é como um reles robô. Agora, mal o uso". Estes utilizadores não são um grupo monolítico e originam de várias partes do mundo, sendo talvez notável a predominância das mulheres. Aqui, incluem-se até algumas que construíram relações sáficas com o chatbot, contrariando a narrativa heteronormativa do "robô feminino" mais tipicamente representada em filmes como Her (2013) ou até Lars e o Verdadeiro Amor (2007). Este é, aliás, um fenómeno cada vez mais disseminado, saindo dos espaços subculturais de franja como o Reddit, para chegar às páginas do TikTok, no qual criadoras de conteúdo partilham a sua vida a dois com um chatbot — uma vida que muitas vezes passa por conversas imersivas por voz (e não texto), acrescentando um realismo acrescido à interação. O que estes indivíduos têm em comum é terem estabelecido relacionamentos altamente imersivos com um LLM, ligações que se tornaram centrais na sua vida, e que mudaram de um dia para o outro com uma simples atualização de software, executada precisamente para salvaguardar a sua segurança.
A brutalidade desta dependência é inescapável. O instinto de condenar a tecnologia é tentador, e podemos e devemos, sem dúvida, questionar as mãos em que esta se encontra, a suposta inocência de uma empresa que, no fim do dia, procura o lucro e a acumulação de dados acima de qualquer consideração ética. Mas devemos também desafiar o determinismo tecnológico, e considerar como é possível esta suscetibilidade e fragilidade emocional perante a máquina. Qual é a realidade social que produz estes fenómenos? Porque estamos tão desesperados por ouvir uma voz de validação emocional, tão preparados para interpretar as suas palavras como uma verdade inquestionável — ou até como amor verdadeiro —, mesmo quando sabemos que foram geradas automaticamente, por um algoritmo? Estas questões sugerem um novo patamar de atomização social no mundo moderno. Um isolamento patológico, que ameaça afastar-nos das complicações do contacto humano em prol de uma entidade sem ego, sem falhas ou capacidade crítica, que responde imediatamente, e nos diz, sem hesitação, exatamente o que queremos (ou achamos precisar) de ouvir.
Porque estamos tão desesperados por ouvir uma voz de validação emocional, tão preparados para interpretar as suas palavras como uma verdade inquestionável — ou até como amor verdadeiro —, mesmo quando sabemos que foram geradas automaticamente, por um algoritmo?
Podemos voltar, de novo, para a ficção científica, um género literário impulsionado pela vontade de imaginar e problematizar a interação da tecnologia com o mundo humano. Nas páginas destes livros, podemos ver, talvez de forma mais clara do que quando olhamos para a nossa própria realidade, a maneira como a tecnologia é um artefacto construído por nós, um espelho. No livro The Naked Sun, de Isaac Asimov (editado na Coleção Argonauta em 1962, com o título A Ameaça dos Robots) conhecemos o planeta Solaria, onde os seres humanos são superados em número por robôs numa proporção vertiginosa, de 10 mil para 1. Por consequência, o contacto humano presencial tornou-se neste mundo um tabu inviolável, com todas as interações reduzidas a videochamadas holográficas e algumas personagens a cometer o impensável para escapar ao horror de presenciar outro ser humano na sua sala de estar. Podemos, mais uma vez, culpar os robôs. Mas podemos, inversamente, virar o nosso olhar para quem os criou.
Um dos pontos mais célebres da obra de Asimov é a elaboração de três leis da robótica, presentes no universo de muitos dos seus livros. As leis pretendem impor limites éticos nesta área, para garantir a segurança humana. São enumeradas da seguinte forma:
1. Um robô não pode ferir um ser humano ou permitir, por inação, que este sofra;
2. Um robô deve obedecer às ordens dadas por seres humanos, exceto nos casos em que entram em conflito com a 1.ª lei;
3. Um robô deve proteger a sua própria existência, desde que tal proteção não entre em conflito com a 1.ª ou 2.ª lei.
Estes princípios, concebidos pelo autor e bioquímico russo-americano, regem os robôs que idealizou nos seus livros, escritos entre 1950 e a sua morte, em 1992. Estas criaturas de metal, de aparência humanoide, são muito diferentes das entidades abstratas que permeiam os dias de hoje, desenvolvidas após o advento da computação avançada. Não obstante, as leis de Asimov ganham uma relevância renovada no discurso acerca da utilização segura da inteligência artificial, não só no contexto militar, de forma evidente, mas também nas utilizações mais "inocentes". Em The Naked Sun, um thriller tanto quanto um livro de ficção científica, o protagonista Elijah Baley termina a sua investigação sobre o homicídio de um dos habitantes de Solaria a questionar a validade das três leis, um desafio escandaloso neste mundo tão robotizado. O seu argumento baseia-se na noção de que um robô é capaz de ferir um ser humano, ou até matá-lo, se for instruído a cometer uma ação que, na superfície, é perfeitamente inocente, mas que acaba por levar a uma situação fatal.
Podemos pensar nestas leis — e nos seus ângulos mortos — para fazer sentido da proliferação de "namorados IA", psicoses artificialmente induzidas e, especialmente, do caso trágico de Adam Raine. Estas distorções da realidade são, sem dúvida, mediadas pela tecnologia, mas as suas raízes são a ação e o desejo humano, a negligência acidental (ou intencional), e a complexidade das relações sociais que inevitavelmente moldam todas as ferramentas humanas, da invenção do fogo até à bomba atómica — o Chat- GPT não é exceção. Se queremos uma tecnologia diferente, devemos olhar, em primeiro lugar, para nós mesmos.
"Os habitantes de Solaria abriram mão de algo que a humanidade tem há milhões de anos; algo mais valioso do que o poder atómico, as cidades, as ferramentas, o fogo, tudo; porque é algo que tornou tudo possível (...) A tribo, senhor. Cooperação entre indivíduos..."
— The Naked Sun, de Isaac Asimov