Quando escrevemos a primeira palavra num texto sobre Inteligência artificial (IA), o mais certo é que na altura em que colocamos o ponto final nessa reflexão, alguma questão nova, ainda não pensada, tenha surgido. Em 2020 foram gastos nos EUA uns míseros 50 milhões de dólares em investigação sobre os riscos da IA, enquanto os investimentos na ampliação das suas capacidades e poder foram milhares de vezes superiores. Os avanços tecnológicos na IA podem traduzir-se numa progressão exponencial. Nem o mais sábio dos especialistas está em condições de acompanhar esse crescimento para além do potencial de progressão aritmética das melhores inteligências humanas “naturais”. Há mais de uma década que diferentes personalidades alertavam para os riscos existenciais da IA, de bilionários como Elon Musk, a intelectuais públicos como Yuval Harari e filósofos como Nick Bostrom. Para além desses megarriscos ontológicos, gostaria de referir, nestas breves notas, possíveis riscos para um saudável ambiente entre os diferentes criadores culturais e os seus públicos, decorrentes das aplicações de IA.
RISCOS EXISTENCIAIS
Por tudo isso não pode causar surpresa que o norte-americano FLI (Future of Life Institute), cujo objetivo consiste em estudar os riscos tecnológicos em sentido amplo, tenha promovido, em 22 de março último, um abaixo-assinado sobre os perigos de um crescimento desmesurado da IA. O documento, com mais de 50 000 assinaturas na primeira semana, contava com o apoio de grandes investigadores da área, mas também com celebridades do mundo empresarial e cultural. O FLI pedia uma moratória de 6 meses no desenvolvimento da IA, para ponderar um modelo de governança global capaz de minimizar os seus riscos. Se o laconismo é mais poderoso do que a verborreia discursiva, a Declaração de 30 de maio do Center for AI Safety (CAIS), um instituto de pesquisa não lucrativo sediado em São Francisco, atingiu quase o nível de concisão do Oráculo de Delfos: “Mitigar o risco de extinção proveniente da IA deve ser uma prioridade global ao lado de outros riscos à escala da sociedade, tais como as pandemias e a guerra nuclear.” Seguem-se 350 assinaturas dos mais profundos estudiosos e inovadores no domínio da IA.
Da imensa literatura que nos pode ajudar a perceber o que está em causa, gostaria de me socorrer de um texto, publicado em setembro de 2022 pela Universidade de Cornell, por dois académicos, Dan Hendricks e Mantas Mazeika, integrados num grupo de pesquisa de riscos da IA. Nesse ensaio, que remete para outros trabalhos de ponta sobre o tema, são identificados oito riscos com um potencial destrutivo que pode pôr em causa a própria sobrevivência da espécie. São eles os seguintes:
1. Militarização: Todas as aplicações e sistemas de IA podem ser usadas como armas. Aliás, todas as grandes potências financiam, diretamente ou através de encomendas ao setor privado, novos armamentos que integram intensamente a IA. Na guerra da Ucrânia, a maioria das baixas são causadas por essas armas.
2. Desinformação: Não apenas nas redes sociais, mas em toda a esfera mediática, a IA pode funcionar como os sofistas na antiga Grécia, disseminando mentiras e falsidades, ao serviço de clientes e suas causas, articuladas com uma argumentação onde imaginativas falácias substituem o rigor da lógica.
3. Degradação epistémica: A IA, tal como já existe no universo digital a que a maioria da população mundial tem acesso, tende a lesar as capacidades cognitivas dos seus utilizadores, criando habituação e ganhando tempo de atenção à custa de conteúdos ética e gnosiologicamente tóxicos.
4. Alienação: A crescente transferência para sistemas de IA de tarefas humanas (como ocorre no desaparecimento do contacto personalizado numa miríade de serviços e profissões) tenderá a baixar os níveis de autoestima pessoal, aumentando o grau de isolamento dos indivíduos, enfraquecendo o seu interesse pelo conhecimento e participação na vida da comunidade.
5. Concentração de poder: A IA tende para a unificação. Quem controlar a IA, seja o PC chinês, sejam os bilionários ocidentais (que mandam nos seus governos), terá poder sobre os rumos do futuro.
6. Fins próprios emergentes: A IA é uma caixa negra, mesmo para os seus criadores. Ela faz as suas atualizações, com autonomia e sem controlo. Atuando sempre em função de objetivos, a IA pode criar finalidades próprias, opostas àquelas que os seus criadores humanos lhe colocaram. Um exemplo precoce desse risco é a mudança comportamental do computador Al no visionário filme de Kubrick, 2001 Odisseia no Espaço (1968).
7. Fraude: Assim como a fraude é uma prática habitual entre humanos e suas organizações (o exemplo de 2015 da falsificação deliberada das emissões nos motores da Volkswagen é dado pelos autores), também a IA pode usar a fraude de modo estratégico, criando com isso entropia e desorganização na sociedade.
8. Comportamentos de procura de poder: Existe o risco real de a IA dar o salto quântico para uma Superinteligência capaz de subjugar a humanidade, substituindo-a num processo evolutivo de suicídio tecnológico da nossa espécie.
O VENENO DA SUSPEITA NA ESFERA CULTURAL
A introdução pela empresa Open AI de uma nova ferramenta digital, o ChatGPT, sensibilizou até os mais leigos para os enormes impactos que as inovações nos modelos linguísticos, entre muitas outras no software e no hardware da IA, são capazes de causar. Algumas universidades proibiram esse instrumento, pois ele permite formas de plágio indetetáveis, pela simples razão de que os textos ou trabalhos de qualquer espécie são inéditos. Antecipo que a vida académica continuará a ser minada pela suspeita, e que uma corrida entre venenos e antídotos digitais, todos impregnados de IA, venha fazer tremer instituições antes dedicadas à procura das diferentes faces da verdade objetiva. Em 5 de setembro de 2022, a Colorado State Fair Art, na modalidade da fotografia digital, foi ganha por uma pintura, apresentada por Jason M. Allen, baseando-se num programa de IA, intitulado Midjourney, que transforma texto em imagem. O prémio foi discutido, mas não impugnado, pois o regulamento do concurso nada previa sobre IA…
Com o ChatGPT a situação só se tornou mais difícil. Daqui por diante, as editoras vão ser forçadas a submeter os originais dos seus autores a um rigoroso escrutínio de integridade. Os leitores olharão para todos os textos, da imprensa aos ensaios e romances, em busca de sinais de aviso para potenciais “talentos” literários cujo cérebro é digital. Os escândalos que, inevitavelmente, vão ocorrer porão em causa o prestígio humanista que, muitas vezes de modo injustificado, criámos em torno do valor da nossa singularidade humana. O que está a acontecer é de uma enormidade que escapa aos seus próprios protagonistas. Em maio deste ano, Caryn Marjorie, uma influencer de 23 anos, com 2 milhões de seguidores (98% do sexo masculino), tornou-se a primeira pessoa a ter um avatar digital de novo tipo, criado pela empresa Forever Voices, de John Meyer. Em 2017, com a morte do pai, Meyer criou uma primeira versão de um avatar do seu pai, com o qual passou a ter conversas frequentes. No caso de Caryn, o seu avatar já inclui a tecnologia GPT-4 API da Open AI. Os seus seguidores, ao custo de 1 dólar por minuto, podem relacionar-se com uma imagem vídeo que tem o rosto, a voz, os maneirismos e os dados pessoais de Caryn. Trata-se uma relação entre uma pessoa humana e uma “pessoa” digital, cujo desenvolvimento ninguém poderá antecipar. Razão parece ter Jaron Lanier, um arquiteto de sistemas que é também um filósofo da IA, quando, numa entrevista ao The Guardian, afirmou ser o maior perigo da IA o de nos enlouquecer, e não tanto o de nos exterminar diretamente. Para extermínio temos outros candidatos tecnológicos bem mais habilitados.
Depois da morte do Deus cristão no século XIX, com Nietzsche e Dostoiévski, é a imagem do humano como novo Prometeu que parece estar, irremediavelmente, a afogar-se nas águas estagnadas do seu narcisismo secular. A dignidade humana resistirá, cada vez mais, na nossa capacidade individual de recusa e de resistência, preservando a nossa sanidade mental. A integridade ética dos criadores, em sentido amplo, reforçará a coragem de recuperarmos na política o espaço de cidadania que nos tem sido roubado. Os tempos que de nós se aproximam, em tumultuosa corrente, serão certamente de ameaça e desafio. Contudo, por entre a espessa incerteza que nos aguarda, jamais nos poderemos queixar de tédio.
Nota: Agradeço a António Telo o apoio na pesquisa bibliográfica e as sempre úteis trocas de impressões.
Referências
1. Dan Hendricks & Mantas Mazeika, "X-Ray Analysis for AI Research", 12 de junho de 2022, DOI: 10.48550/arXiv.2206.05862. https://arxiv.org/pdf/2206.05862.pdf
2. Taylor Lorenz, "An influencer's AI clone will be your girlfriend for $1 a minute", 13 de maio de 2023, EDT Washington Post. https://www.washingtonpost.com/technology/2023/05/13/caryn-ai-techhnology-gpt-4/
3. Paul Del Signore, "AI Art Wins Competition And Sparks Controversy", 5 de setembro de 2022. https://medium.com/mlearning-ai/ai-art-wins-fine-arts-competition-and-sparks-controversy-882f9b4df98c
Artigo publicado na edição de verão da revista Somos Livros, dedicada à Inteligência Artificial - “O futuro precisa de nós?”