Frankensteins digitais

Nas últimas semanas me ocupei em escrever sobre algumas questões relacionadas aos impasses tecnológicos que hoje, de uma forma ou de outra, exigem nossa atenção e, mais que isso, nossa colaboração crítica e política.

Esses dias topei, no YouTube, com uma conversa de pesos pesados sobre o assunto: de um lado, o historiador israelense Yuval Harari, figura de proa no debate sobre os desdobramentos da influência da tecnologia de informação e da biotecnologia sobre os comportamentos humanos, autor de best-sellers fundamentais para quem ainda tem alguma preocupação com o futuro; de outro, o cientista da computação Tristan Harris, especialista em ética tecnológica e fundador do Center for Humane Technology. Mediando o debate, o jornalista Nicholas Thompson, editor-chefe da revista norte-americana Wired.

Segue aqui o link para quem quiser conferir.

Ouvir esses expoentes do pensamento contemporâneo discorrerem sobre como os algoritmos das gigantes de Big Data metrificam meticulosamente nossos comportamentos nas dinâmicas de engajamento virtual é algo chocante e revelador. A constante interação humana com plataformas digitais e a evolução dos algoritmos no sentido de prever com crescente precisão as preferências dos usuários aponta para um futuro em que até mesmo o livre-arbítrio individual será colocado em cheque. Devido ao modo como faz uso de nossos dados e constantes escolhas por meio da vasta medição de nossos interesses, o sistema algorítmico tem se mostrado cada vez mais capaz de nos conhecer, mediando nossos desejos e nos tornando mais e mais dependentes de ferramentas digitais.

O alerta é claro: estamos delegando aos computadores e smartphones as decisões mais importantes de nossas vidas! Parece um filme de science-fiction, mas, de acordo com os mais recentes prognósticos, já não mais. Tal futuro distópico será uma questão de (não muito) tempo se nos próximos anos nada for feito para limitar ou regular o poder das grandes empresas de tecnologia. Neste caso, em pouco tempo a “internet de todas as coisas” conhecerá a cada um melhor do que cada um (supostamente) se conhece. E, assim, instituições inquestionáveis das faculdades humanas como “intuição” e “liberdade de escolha” estariam fadadas a quase extinção frente ao ilimitado poder por nós concedido às super máquinas. Junte-se a isso o inevitável desenvolvimento da biotecnologia e da manipulação de genes e o resultado é um considerável prejuízo da autonomia humana face as escolhas mais elementares. A tecnologia de informação se encarregará de nossa psiquê enquanto a biotecnologia cuidará de nossos corpos. Ainda parece um filme de science-fiction distópico em que figuraremos como Frankensteins digitais totalmente manipuláveis? Alguns diriam “parece, mas não é”. O que preocupa é que o coro dos que alardeiam “parece e em breve será” cresce cada dia mais.

Diante dessa catástrofe devidamente anunciada, que pouco ou nada tem de tese conspiratória, pois já se verifica em nossas realidades, o conselho de Harari soa singelo: não use celular e medite duas horas por dia. Eu acrescentaria: e mude-se para o campo e só use a internet em caso de extremada necessidade.

Oxalá possamos ser um reduto de intuição e liberdade de escolha em um mundo comandado por máquinas tiranas.