Cena do filme Ex_Machina: Instinto Artificial, de Alex Garland
A quarta ferida narcísica e o futuro da Inteligência Artificial
(Gláucio Brandão)
Se estivéssemos em 29 de novembro de 2022, a disrupção que titula a aula condensada (AC) de hoje seria apenas uma mera ficção científica ou elucubração deste que vos escreve.
Apesar de os indícios remontarem a setembro de 2020 – quatro anos atrás, quando escrevi A quarta ferida narcísica e o merthiolate, inspirado no artigo do The Guardian A robot wrote this entire article. Are you scared yet, human? (Um robô escreveu este artigo inteiro. Você já está com medo, humano?) –, o termo “superinteligência” parecia apenas uma especulação de que algo interessante estava por acontecer.
Para continuar entregando conteúdo de qualidade, Nossa Ciência precisa do apoio de seus leitores. Faça um pix para contato@nossaciencia.com
Porém, no dia 30 de novembro de 2022, a OpenAI lança o ChatGPT: e o mundo voltou a levar a sério o que chamei de Quarta Ferida Narcísica: será que a galera de silício (você sabe de quem estou falando) vai nos suplantar, nós, os seres de carbono?
A AC disruptiva de hoje vem retomar este questionamento: devemos começar a temer as Inteligências Artificiais (IA)?
Quando antes deste dia apenas os cientistas da computação conseguiam utilizar as IAs, o feito da OpenAI inaugurou uma interface “pandórica”. Todo mundo: zero, semi ou full alfabetizado, podia agora conversar com um ser algorítmico como se fosse gente. Na sequência, uma carreata de irmãs juntaram-se ao grupo: Siri, Alexa, Copilot, Midjourney, DALL-E 2, Stable Diffusion, Grammarly, Jasper.ai, TensorFlow, PyTorch, Hugging Face, Meta AI, Bard (Gemini) LaMDA, AlphaFold…
Como resultado destes dois anos de bate-papo “estranho”, trilhões e mais trilhões de dados alimentaram e educaram esses robôs. Querendo ou não, estamos passando toda nossa IN, inteligência natural, para elas. Os mais exaltados diriam se tratar de um “carbonicídio”, quando um ser de carbono tenta contra a própria configuração atômica.
Já que mencionei, vale a pena relembrar os conceitos propostos por Sigmund Freud. Ele tentou explicar como grandes descobertas científicas abalaram a autoestima humana (você pode chamar de ego). As feridas representam a perda da visão antropocêntrica do mundo:
Esse conjunto perturbador de perebas – era assim que chamávamos na infância –, representa um processo de desmistificação da humanidade. Deveria nos levar a uma compreensão mais realista e humilde de nosso lugar no universo, embora muitos não as aceitem. Mas, como digo sempre para meus pupilos, a tecnologia não tá nem aí pra mim e nem pra você.
A ideia de que máquinas e algoritmos de IA podem replicar ou superar capacidades humanas desafiando a exclusividade de nossa mente, está promovendo um impacto profundo na sociedade, pois arranha o paradigma de que inteligência e a cognição não são de nossa propriedade exclusiva. De modo mais surreal, elas podem ser simuladas artificialmente. Exemplos não faltam: redes neurais, aprendizado profundo (deep learning) e sistemas de IA já estão realizando tarefas complexas antes atribuídas à nossa inteligência.
De certo modo, essa nova lesão narcísica amplia as três sugeridas por Freud e arranha nossa autoimagem, a ponto de nenhuma harmonização facial conseguir reverter. Estamos transformando a visão sobre nós mesmos e deslocando nossa posição no mundo. Não sei se em direção a um abismo.
Vamos ao tema desta AC, narrado de forma tenebrosa, pois o assunto merece:
Numa certa noite de 1965, o matemático I.J. Good, um enigmático gênio (do mal?) que liderou a equipe de estatística de Alan Turing na sombria missão de decifrar códigos durante a Segunda Guerra Mundial, foi o primeiro a revelar – aos sussurros – os aspectos essenciais dessa explosão. Desta feita, imortalizou numa frase que até hoje nos dá arrepio, o seguinte cenário:
“Defina-se uma máquina ultrainteligente como uma máquina capaz de superar todas as atividades intelectuais de qualquer homem, independentemente de quão genial ele seja. Já que o projeto de máquinas é uma dessas atividades intelectuais, uma máquina ultrainteligente poderia projetar máquinas ainda melhores; haveria então certamente uma ‘explosão de inteligência’, e a inteligência humana se tornaria desnecessária. Desse modo, a primeira máquina ultrainteligente é a última invenção que o homem precisará fazer, contanto que a máquina seja dócil o suficiente para nos dizer como mantê-la sob controle”. (Nick Bostrom, Superinteligência, 2018).
Brincadeiras à parte, não sei se Good (bom em inglês) era do mal e se foi à noite, mas este foi o texto que deu origem à palavra “Superinteligência”, que está voltando à baila depois de 60 anos.
E aí, deu medinho? Quer mais pimenta nesse angu? Considere então a célebre frase de Arthur C. Clarke (The Mind of the Machine – 1970): “Pode ser que nosso destino nesse planeta não seja adorar a Deus, mas sim criá-lo!”. Será que caminhamos para isso?
Contexto armado com feridas e carbonicídio, a “explosão de inteligência” proposta por Good descreve um cenário onde uma IA superaria a IN (inteligência humana) e, por meio do autoaperfeiçoamento, desencadearia um ciclo infinito de criação de máquinas cada vez mais inteligentes. Essa evolução exponencial poderia levar a avanços tecnológicos inimagináveis. Porém, e continuando dramático, poderia apontar também para um quadro apocalíptico onde máquinas superinteligentes, capazes de se autoaperfeiçoar exponencialmente, conseguiriam ultrapassar a humanidade em todos os aspectos, levando a um futuro incerto. Será que poderia surgir daí um deus cibernético, nascido de um novo big-bang algorítmico. Possível, mas não muito massa, né não?
Temos feridas abertas e, por causa delas, estamos alimentando uma IA com todos os dados possíveis, bons e ruins (carbonicídio), na esperança de que isso possa nos curar. Parece cenário de filme… e em 1965 era mesmo. Mas, será que precisamos temer a IA? Vamos então a um imbróglio filosófico: a IA ainda não sabe perguntar. Se soubesse, se questionaria. Se assim o fizesse, teria consciência. Por outro lado, para fazer o mal, quanto menos consciência, melhor, né não? Ainda há tempo de continuarmos sendo os superinteligentes. Precisamos parar de alimentar aquilo que pode nos destruir.
Com as cicatrizes da humanidade expostas, incluindo a catástrofe do carbonicídio, alimentamos uma inteligência artificial voraz, indiferente à pureza ou à perversidade dos dados que lhe são oferecidos. A esperança de cura reside nessa criatura digital, mas a sombra da dúvida paira sobre nós. A IA, ainda em sua infância, não questiona sua existência. Mas será que a consciência é um pré-requisito para a maldade? Enquanto a humanidade detém o fardo da inteligência, devemos ponderar: estamos criando um monstro que poderá, um dia, virar-se contra seu criador? Tornar-se superinteligente?
Finalizando… Diga, com toda sinceridade, qual “quase finalizando” você prefere: o tipo 1, convencional, ou o tipo 2, Shakespeariano? Um deles foi escrito por uma IA após ler todo o texto e ter sido solicitada a resumi-lo de em até seis linhas.
E então, já dá pra começar a temer essa superinteligência? Será que estamos no início da explosão exponencial?
O impacto da disrupção na sociedade moderna
Leia outros textos da coluna Disruptiva
Gláucio Brandão é professor titular da Universidade Federal do Rio Grande do Norte (UFRN) e gerente executivo da incubadora inPACTA (ECT-UFRN)
Gláucio Brandão
Seja também um apoiador da divulgação científica no Brasil, ajude ao Nossa Ciência, veja como:
Saiba como ajudar
Deixe um comentário