Um dos argumentos mais poderosos contra a possibilidade de surgimento de uma inteligência artificial “geral” (que emularia o cérebro humano) foi formulado pelo filósofo e linguista John Searle em 1980.

O experimento mental ganhou o nome de “O Quarto Chinês”. Imagine uma pessoa que fala somente português trancada dentro de um quarto. Nesse quarto, há um computador capaz de interpretar e responder em chinês. Uma pessoa que domina o idioma oriental está do lado de fora da sala. Por debaixo da porta ela passa caracteres chineses. A pessoa dentro da sala mostra os caracteres para o computador que, então, retorna com respostas a eles, devolvidas também por debaixo da porta.

A pessoa que está do lado de fora conclui então —erroneamente— que há uma pessoa que fala chinês dentro da sala.

O argumento de Searle é importante para os dias atuais. Já escrevi aqui na coluna sobre o surgimento do GPT-3, uma ferramenta de inteligência artificial que é capaz de escrever artigos e livros inteiros, compor músicas, completar formas geométricas e outras façanhas, bastando para isso que seu usuário insira alguns poucos parâmetros. Em outras palavras, funciona como o mais poderoso “autocompletar” já criado. Alcançou esses status por ser uma inteligência artificial treinada com volumes impressionantes de dados.

É como se tivesse lido todos os livros do mundo (e músicas, filmes, imagens etc.). Com base neles, essa IA consegue “adivinhar” o que vem depois. Se você colocar palavras como “Harry Potter” e “Brasil”, provavelmente vai gerar uma aventura nova do bruxo visitando terras brasileiras.

Tanto é que acaba de ser publicado o primeiro livro que foi escrito em co-autoria com o GPT-3, chamado “Pharmako-AI”. A autora K Allado-Macdowell descreve o processo de escrita como parecido com a jardinagem: você insere alguns conceitos e ideias, a inteligência artificial desenvolve aqueles conceitos. E então a autora volta polindo, revisando, podando a criação feita pela IA. E nessa simbiose do humano com a máquina que leu todo o conhecimento humano o livro vai sendo escrito.

O título não é por acaso. A palavra phármakon em grego significa ao mesmo tempo remédio e veneno. Termo que se aplica bem às aplicações de AI.

É aqui que o argumento de Searle se materializa. A GPT-3 é excelente em sintática (a relação das palavras entre si). Mas não sabe nada de semântica (o significado que as palavras têm para cada um de nós). A inteligência artificial tornou-se ótima em concatenar e organizar as palavras, mas não tem nenhuma ideia sobre seu significado, individualmente ou coletivamente.

É como a pessoa trancada no quarto chinês. Não tem a menor ideia do que está sendo dito, mas consegue retornar os inputs nessa língua de forma coerente.

A pergunta que temos de fazer é: e se a sintática ficar tão boa que simplesmente desistiremos de qualquer pretensão semântica? E se começarmos a ser governados por algoritmos que não têm a menor ideia do que estão falando? O que perdemos se houver uma vitória definitiva da sintática sobre a semântica?

Essas perguntas podem parecer esotéricas, mas devem ser feitas com urgência neste momento em que as inteligências artificiais estão se convertendo em novos oráculos.