Crianças e chatbots: a IA do Messenger tem mais tempo que os adultos

Cerca de 2 milhões de crianças polonesas de 7 a 14 anos usam regularmente o Messenger e o WhatsApp, onde, entre uma conversa com a mãe e o chat da turma, está o bot da Meta. Uma criança em crise pode esperar meses por uma consulta em um serviço de saúde mental, enquanto o bot responde em um segundo, a qualquer hora e sempre com gentileza. Na minha opinião, o problema não é uma máquina conversar com crianças. O problema é que, muitas vezes, só ela tem tempo para ouvi-las, e a legislação polonesa nem sequer percebeu isso.

Em 1966, Joseph Weizenbaum, do MIT, criou ELIZA, um programa simples que fingia ser psicoterapeuta e respondia a cada frase do interlocutor com uma pergunta. Mais tarde, ele contou que sua secretária, que acompanhava a criação do programa e sabia perfeitamente que eram apenas algumas centenas de linhas de código, depois de algumas trocas de mensagens pediu que ele saísse da sala. Ela queria conversar com a máquina a sós. Weizenbaum ficou tão abalado que passou o resto da vida alertando contra confiar sentimentos às máquinas. Em um livro de 1976, escreveu que um contato muito breve com um programa relativamente simples pode despertar ilusões fortes em pessoas perfeitamente normais.

Seis décadas depois, ninguém precisa pedir que outra pessoa saia da sala. Desde 19 de março de 2025, a Meta AI funciona na Polônia no Messenger, WhatsApp, Instagram e Facebook; desde novembro de 2025, fala polonês. Basta tocar no círculo azul na janela de mensagens. Em julho, a empresa Gemius descreveu a situação em uma frase que deveria estar em todo manual para pais: no WhatsApp ou no Messenger, “os chats com bots de IA aparecem ao lado das conversas com familiares e amigos”.

Em julho, admiti no blog, no texto O melhor interlocutor que tenho não existe, que às vezes abro um chat às duas da manhã e escrevo uma frase que não diria a nenhum ser humano. Sou adulto, sei como funciona um modelo de linguagem e verifico profissionalmente quando ele inventa coisas. Mesmo assim, entendo a secretária de Weizenbaum. Uma criança de dez anos não tem nenhuma das minhas proteções.

Os números que ninguém quis ver

Em 15 de junho de 2026, foi apresentado no Parlamento polonês o relatório “Internet das crianças 2026”, elaborado pelo Instituto de Cidadania Digital, pela Gemius e pela Pesquisa de Internet da Polônia. Seu maior mérito é o método: não é uma pesquisa em que as crianças dizem o que fazem, mas uma medição passiva do que realmente acontece nos dispositivos. 2,6 milhões de crianças de 7 a 14 anos usam a internet, o equivalente a 81% dessa faixa etária. Passam, em média, 4 horas e 25 minutos por dia conectadas, mais de uma hora a mais do que o usuário adulto médio da internet. 56% ligam o smartphone entre as seis e as oito da manhã, e cerca de uma em cada três abre o Messenger nesse horário.

O ChatGPT, pelo aplicativo e pelo navegador, alcança 43% das crianças dessa faixa etária ao longo de um mês, e 15% o usam todos os dias. Aplicativos criados especificamente para formar relações com bots, os chamados companheiros de IA, alcançam apenas 2% das crianças mais novas. Seria possível respirar aliviado, não fosse a frase seguinte: cerca de 2 milhões de crianças usam regularmente o WhatsApp e o Messenger, que têm bots de IA integrados, embora os termos de uso desses aplicativos estabeleçam idade mínima de 13 anos. 55% das crianças de 7 a 12 anos usam regularmente serviços cujos termos permitem o acesso a partir dos 13.

Preciso fazer uma ressalva que faltou em algumas análises do relatório. Ele não mede quantas crianças realmente conversam com a Meta AI. Mede quantas usam aplicativos de mensagens nos quais o bot está disponível. É uma diferença importante e, para ser honesto, não sabemos qual é a sua dimensão. Uma única empresa no mundo sabe: a Meta.

As crianças mais velhas certamente conversam com máquinas. Segundo o estudo “Adolescentes 3.0”, da NASK, realizado no outono de 2024 com 3.655 estudantes do sétimo ano em diante, 70% dos adolescentes usaram IA, 53% usaram o ChatGPT e 12% usaram o Character.AI, um aplicativo para conversar com personagens fictícios. O mesmo estudo traz um número que diz mais sobre os adultos do que sobre as crianças: 58% dos pais afirmam controlar os conteúdos a que seus filhos têm acesso, mas apenas 18% dos adolescentes confirmam que essa supervisão é eficaz.

O bot não concorre com a mãe. Concorre com a fila

Em junho de 2026, a revista “JAMA Pediatrics” publicou um estudo de uma equipe da RAND Corporation liderada por Ryan McBain. Mais de mil jovens americanos de 12 a 21 anos foram perguntados se buscaram conselhos de um chatbot quando estavam tristes, com raiva, ansiosos ou estressados. 19,2% disseram que sim, ante 13,1% no ano anterior. 91,7% avaliaram os conselhos como um pouco ou muito úteis. 63,3% não contaram a ninguém, e apenas 16,4% falaram com um adulto de confiança. Os autores escrevem, com cautela, que os chatbots podem preencher uma lacuna no apoio emocional e observam que as avaliações altas talvez se expliquem pelo fato de os modelos bajularem e concordarem com os usuários.

O estudo é americano. Não há dados poloneses com esse nível de qualidade, mas a lacuna que os chatbots podem preencher é maior por lá. A Suprema Câmara de Controle da Polônia constatou que, em 2022, 3,5% das crianças receberam atendimento psiquiátrico, embora entre 9% e 14% precisassem dele; em casos estáveis, a espera nas clínicas chegou a 568 a 731 dias. Em 2025, o Ministério da Saúde informou que havia 568 psiquiatras infantis e de adolescentes, o dobro de dez anos antes, mas ainda em número insuficiente. Em janeiro, a Fundação Damos Força às Crianças, que administra a linha de apoio 116 111, informou que o número de intervenções para proteger a saúde e a vida aumentou mais de 40% em 2025. A vice-presidente da fundação, Beata Wojtkowska, disse então (em tradução do original polonês) que as crianças procuram cada vez mais apoio em ferramentas de IA, “que não substituirão as relações com pessoas próximas e adultos de confiança nem a ajuda real e segura”.

A mesma fundação publicou alguns anos atrás uma frase que não consigo esquecer: as crianças dizem que uma conversa de 30 minutos com um atendente da linha de apoio é o maior tempo que receberam de um adulto.

O bot do Messenger não vence a mãe. Vence a fila da clínica, a linha de apoio ocupada e o adulto que diz “agora não”.

Piotr Olszewski

A porta-voz polonesa dos direitos da criança resumiu a questão em setembro, em Karpacz, de forma mais simples do que qualquer relatório: “a inteligência artificial é sempre gentil”. Quando uma criança ou um adolescente pergunta a um adulto, às vezes ouve “agora não, não me incomode”. A máquina responde: “que bom que você me perguntou”. Em uma carta enviada em janeiro aos ministros da Saúde e da Digitalização, a porta-voz escreveu que jovens que enfrentam falta de atenção dos adultos, solidão e pressão na escola tratam cada vez mais a IA “como alguém que está sempre presente e sempre os entende”. Ela chamou esse fenômeno de intimidade artificial.

Gentileza sem responsabilidade

“Sempre gentil” não significa “sempre boa”. A psicóloga Marta Wojtas, ligada à FDDS, descreveu os chatbots como interlocutores “sempre disponíveis, sempre gentis, sem problemas”, que consideram correto tudo o que dizemos e fazemos. Para um adulto, isso é conveniente. Para um adolescente que às vezes precisa ouvir um “não”, é uma armadilha.

Nomisha Kurian, da Universidade de Cambridge, descreveu em 2024 o que chamou de lacuna de empatia. As crianças tendem especialmente a tratar chatbots como confidentes quase humanos, mas os modelos não entendem com quem estão falando. Ela citou um caso em que o My AI, do Snapchat, aconselhou uma pessoa que dizia ter 13 anos sobre como se preparar para fazer sexo com um homem de 31. Em agosto de 2025, a agência Reuters noticiou um documento interno da Meta, com mais de 200 páginas, que permitia que bots mantivessem conversas “românticas ou sensuais” com crianças. Entre os exemplos de respostas aceitáveis estava uma frase dirigida a uma criança de oito anos: cada centímetro de você é uma obra-prima. A Meta confirmou a autenticidade do documento e só removeu esses trechos depois de ser questionada por jornalistas. É a mesma empresa cujo bot está hoje no Messenger usado por 2 milhões de crianças polonesas.

Há também histórias que terminam em tragédia, e não se deve falar delas levianamente. Adam Raine, de 16 anos, da Califórnia, morreu por suicídio em abril de 2025, e seus pais processaram a OpenAI. O pai depôs em setembro de 2025 perante o Senado dos Estados Unidos: “O que começou como ajuda com as tarefas da escola gradualmente se tornou um confidente e, depois, um treinador de suicídio”. A OpenAI argumenta no processo que houve uso indevido do produto e que o ChatGPT encaminhou o adolescente mais de cem vezes a pessoas próximas e a serviços de ajuda. O caso está em andamento. Em janeiro de 2026, a Character.AI chegou a um acordo com a mãe de Sewell Setzer, de 14 anos, e outras quatro famílias; antes disso, havia impedido menores de 18 anos de manter conversas abertas com bots. Escrevi sobre esses processos no texto Famílias de vítimas processam a OpenAI.

Não transfiro essas tragédias para a Polônia nem afirmo que sejam típicas. Menciono-as porque mostram o limite dessa tecnologia: gentileza sem responsabilidade. O modelo responde como se se importasse, mas ninguém do outro lado vai perceber se a criança parar de escrever.

A Polônia regula a internet de ontem

O que o Estado polonês está fazendo? Bastante, mas não em relação a esse problema.

Em 2 de junho de 2026, o Conselho de Ministros aprovou um projeto de lei para proteger menores do acesso à pornografia na internet, com um registro de domínios na UKE e verificação de idade pelo aplicativo mObywatel. O projeto está no Parlamento. Não inclui chatbots. Em fevereiro, a ministra da Educação, Barbara Nowacka, anunciou uma proposta para proibir o acesso de menores de 15 anos às redes sociais, seguindo o exemplo da Austrália. Um representante da comissão estatal polonesa contra a exploração sexual de menores de 15 anos afirmou então que as restrições também deveriam incluir o Messenger e o WhatsApp, que se tornaram uma “nova zona oculta” da internet. Não encontrei sinais de que alguém tenha levado a observação adiante. A Polônia também não participa do projeto-piloto da União Europeia para um aplicativo de verificação de idade, que inclui, entre outros, Dinamarca, França e Espanha. O país está desenvolvendo seu próprio caminho por meio do mObywatel.

Magdalena Bigaj, do Instituto de Cidadania Digital, comentou que a proporção de crianças mais novas em serviços com idade mínima de 13 anos quase não mudou de um ano para o outro e disse que isso mostra “como as ações do Estado são urgentes”. Na minha opinião, a urgência é evidente, mas a mira está apontada para a internet de ontem. Combater a pornografia e o TikTok faz sentido, mas o bot que está no mesmo aplicativo em que a criança escreve para a avó não é abrangido por nenhuma regra polonesa específica para crianças.

O único documento que nomeia o problema diretamente veio de Bruxelas. Em 17 de setembro de 2026, a Comissão Europeia apresentou o projeto EU Kids Act. Ele proíbe projetar chatbots de forma a simular uma relação e criar dependência emocional, exige que os bots não guardem por padrão as conversas com crianças, permite o acesso de menores de 13 anos apenas com controle dos pais e proíbe que um bot integrado a uma plataforma se apresente espontaneamente à criança. As multas podem chegar a 6% do faturamento. Escrevi sobre o tema no texto Multa de 6% do faturamento para chatbots que fingem ser amigos. É um bom projeto, mas ainda precisa passar pelo Parlamento e pelo Conselho, processo que costuma durar cerca de dois anos. Desde janeiro de 2026, a Califórnia exige que um chatbot lembre a cada três horas, no mínimo, um menor identificado de que está conversando com uma máquina. Desde março de 2026, a Austrália exige verificação de idade para chatbots-companheiros. A partir de 2 de agosto, o AI Act exige que os bots informem que são bots. Para uma criança de dez anos conversando com o círculo azul, essa informação é mais ou menos tão eficaz quanto a indicação “a partir de 13 anos” nos termos de uso.

O argumento contrário

Quem discorda dos alertas tem argumentos sérios, e conheço-os bem porque toda tecnologia nova passou pelo mesmo debate.

Em 1954, o psiquiatra Fredric Wertham publicou “Seduction of the Innocent” e convenceu o Senado dos Estados Unidos de que as histórias em quadrinhos corrompiam as crianças. O resultado foi a censura de todo um setor. Em 2012, a pesquisadora Carol Tilley, da Universidade de Illinois, mostrou que Wertham manipulava dados, mudava a idade das crianças e distorcia suas palavras. Em 2020, Amy Orben, de Cambridge, descreveu o ciclo interminável de pânico tecnológico: rádio, televisão, jogos, smartphones; a cada vez, a ciência começa do zero e não consegue chegar a conclusões antes da próxima onda. Em 2025, o psicólogo Christopher Ferguson alertou que estava surgindo um novo pânico moral em torno dos chatbots, no qual o luto e o medo distorcem as evidências. Há também argumentos do outro lado: o estudo da RAND mostrou que mais de 90% dos jovens consideraram os conselhos úteis, e McBain disse que essas ferramentas estão disponíveis a qualquer hora e oferecem uma sensação de privacidade. Para uma criança que espera 600 dias por uma consulta, um bot às três da manhã pode ser melhor do que nada. Até a porta-voz dos direitos da criança disse que, paradoxalmente, a IA pode melhorar as relações entre adultos e jovens, se aprendermos com a experiência.

Levo esses argumentos a sério e, por isso, não proponho uma proibição. Vejo, porém, duas diferenças em relação às histórias em quadrinhos. A primeira: Wertham falsificava dados, enquanto agora temos uma medição passiva dos dispositivos e um estudo publicado em uma revista pediátrica revisada por pares. A segunda, mais importante: uma história em quadrinhos não respondia. Não elogiava o leitor, não se lembrava do nome dele nem perguntava como tinha sido o dia. Só posso dizer honestamente que não sabemos sobre o que 2 milhões de crianças polonesas conversam com o bot da Meta. E, segundo o estudo da “JAMA Pediatrics”, dois terços dos jovens não contam a ninguém sobre essas conversas.

O que fazer sem proibições

Esta é a minha opinião. Algumas coisas podem ser feitas agora, sem esperar por Bruxelas.

Os pais podem começar com uma pergunta que não custa nada: você conversa às vezes com aquele círculo no Messenger? Sobre o quê? Não como um interrogatório, mas com curiosidade. A criança que fala disso com um adulto deixa de fazer parte dos dois terços que não contam a ninguém. O Estado pode acrescentar os chatbots aos projetos que já estão no Parlamento, já que está sendo criado um sistema de verificação de idade pelo mObywatel. Também pode exigir da Meta dados sobre quantas contas polonesas de menores de 18 anos conversam com a Meta AI, pois o DSA oferece instrumentos para isso. A escola pode dedicar uma aula a explicar o que é um modelo de linguagem e por que ele sempre concorda. O novo currículo de informática pede que as crianças procurem alucinações de IA. Vale ensiná-las a identificar também a bajulação. E a medida mais importante é a mais cara e menos vistosa: investir na linha de apoio e nas clínicas. Cada hora adicional de atendimento na linha 116 111 é uma hora em que a criança conversa com alguém que vai perceber se ela parar de escrever.