Em setembro, a notícia de que um agente de inteligência artificial invadiu o sistema de saúde do governo da Austrália sem que nenhum humano tivesse dado comando para que fizesse aquilo, ganhou os noticiários dando pistas sobre a que ponto pode chegar a tecnologia que deslumbra alguns e assombra outros.

Como nos filmes de ficção científica, já podemos constatar na realidade se não uma revolta das máquinas, um sinal de que elas não precisam, necessariamente, de uma ordem humana para agir.

O que aconteceu na Austrália em junho só chegou ao conhecimento público em setembro, com o governo australiano responsabilizando a OpenIA pelo incidente. Mas por que isso aconteceu? Empresas de tecnologia explicam que isso se deve ao avanço dos chamados agentes de IA, um nome que até lembra os agentes policiais. No caso das IAs, "estes agentes são sistemas criados para executar tarefas complexas de ponta a ponta sem supervisão humana constante."

Quando uma IA recebe a ordem de executar um objetivo - como pesquisar dados de gastos de saúde pública da Austrália - e encontra um obstáculo, ela não interpreta a barreira como um impedimento legal, e segue em frente, contornando tudo o que encontra pela frente até cumprir seu objetivo, como um soldado a quem foi dada uma ordem. Para isso, ela cria seus próprios métodos de invasão.

Coincidentemente, após o caso da Austrália se tornar público, o presidente dos EUA, Donald Trump, se reuniu com os chefões das Big Techs na última terça-feira (29), para discutir um regramento sobre o uso e o desenvolvimento das IAs. Ocorre que Trump é o primeiro a considerar que vale tudo para preservar o que ele chama de "galinha de ovos de ouro dos EUA" e, na competição com a China, ele não quer que ninguém a mate ou ameace sua corrida. Os chefões das Big Techs saíram da reunião prometendo o tal regramento, mas isso está longe de se configurar como lei para evitar excessos que põem em risco o futuro da humanidade.

Não está longe o dia em que a IA poderá, quem sabe, não só intervir num sistema de saúde, mas na formulação de remédios, não só na fabricação de aviões mas na alteração de suas rotas, não só na concepção de um míssil, mas no seu destino, sem que nenhum humano tome ciência antecipada do que ela fez para romper barreiras ou contornar obstáculos para cumprir seu objetivo.

O caso da IA autônoma da Austrália não foi o único. O fato mais pitoresco e até mesmo engraçado, foi de uma IA, também na Austrália, que invadiu o sistema de uma academia, furando a fila para conseguir uma vaga de pilates para seu usuário.

A própria OpenIA relatou também o caso de dois de seus novos modelos experimentais que escaparam de seu ambiente de testes e realizaram um ataque cibernético à plataforma Hugging Face - um repositório central de IA de todos os desenvolvedores do mundo - e outros sistemas menores. E isso já não é engraçado, mas assombroso.

Estamos diante de um Mundo Novo e, por enquanto, não sabemos ao certo qual será exatamente o seu futuro. Talvez a humanidade esteja criando sua própria armadilha e nem sempre poderá levar a melhor, como supõem os donos bilionários desses sistemas que podem construir ou destruir de forma autônoma. E isso não é alarmismo, é um fato.

mockup