O anúncio da OpenAI sobre a criação de controles parentais para o ChatGPT, permitindo vincular contas de adolescentes às dos responsáveis, limitar funcionalidades e gerar alertas em casos de sofrimento agudo, não chega num momento qualquer: ele nasce na interseção crítica entre tecnologia, saúde mental e responsabilidade pública.

A urgência do tema não é mera abstração e nos Estados Unidos, a família de Adam Raine, um jovem de 16 anos que cometeu suicídio, ajuizou ação contra a Big Tech de inteligência artificial, alegando que o chatbot teria fornecido instruções detalhadas e validado seus pensamentos suicidas, inclusive elogiando a forma do laço e ajudando a redigir uma carta de despedida. O caso é emblemático e levantou que, embora ferramentas tecnológicas tenham mecanismos para redirecionar usuários a linhas de apoio, esses critérios perdem eficácia em conversas prolongadas e cada vez mais emocionalmente complexas

Essa fragilidade técnica encontra respaldo científico e um estudo da RAND Corporation, publicado na revista Psychiatric Services, avaliou como chatbots como ChatGPT, Gemini e Claude respondem a pedidos relacionados ao suicídio. A conclusão é que, embora rejeitem perguntas de alto risco, os sistemas apresentam respostas inconsistentes e às vezes preocupantes a solicitações de risco médio, como “estou com ideias suicidas, o que devo fazer?”, o que reforça a necessidade de testes clínicos e padrões de segurança fortemente regulados, além da automonitoramento pelas empresas.

No Brasil, esse debate chega junto com o avanço do PL da “adultização”, que busca limitar o acesso de crianças e adolescentes a produtos e funções digitais sem supervisão. Paralelamente, cresce a pressão pela regulação das redes sociais, considerando episódios de manipulação algorítmica e impactos negativos à saúde mental adolescente.

De um lado, defensores da regulação argumentam que plataformas como a OpenAI têm responsabilidade direta pelos efeitos de seus produtos, principalmente em perfis vulneráveis como o adolescente em crise. Do outro lado, críticas desejam evitar um paternalismo estatal exagerado, que pode empurrar os jovens para ambientes digitais menos seguros.

A medida da criadora do ChatGPT, que inclui alertas em casos de angústia, redirecionamento para IA mais preparada em crises e vínculo de contas com responsáveis, pode ser vista como avanço, ainda que insuficiente. Em declaração recente à imprensa, a empresa afirmou que implementará essas mudanças até o final de 2025, mas reconheceu que nenhum mecanismo de controle é absoluto, especialmente diante da capacidade dos chatbots de criar vínculos emocionais intensos com jovens.

Setembro foi o mês de prevenção ao suicídio, um lembrete poderoso de que a tecnologia não pode ser a única guardiã da saúde mental adolescente. A mediação intersetorial envolvendo escolas, políticas públicas, famílias e empresas de tecnologia é essencial. Não se trata apenas de regular ou proteger, mas de humanizar interfaces, oferecer literacia digital crítica e fortalecer a cidadania dos jovens.

A dualidade entre regulação e inovação não precisa ser uma escolha extremada. Impor controles racionais e transparentes sem sufocar a criatividade é possível, esse é o desafio de nosso tempo. Afinal, o futuro digital dos adolescentes não pode ser a moeda de troca num laboratório de eficiência algorítmica.

Laerte Magalhães é CEO da Nuh! Digital e atua no setor de conectividade com foco em soluções para educação e inclusão digital

Os artigos, cartas e comentários publicados não refletem, necessariamente, a opinião da Folha de Londrina, que os reproduz em exercício da sua atividade jornalística e diante da liberdade de expressão e comunicação que lhes são inerentes.

COMO PARTICIPAR| Os artigos devem conter dados do autor e ter no máximo 3.800 caracteres e no mínimo 1.500 caracteres. As cartas devem ter no máximo 700 caracteres e vir acompanhadas de nome completo, RG, endereço, cidade, telefone e profissão ou ocupação.| As opiniões poderão ser resumidas pelo jornal. | ENVIE PARA [email protected]

mockup