Glossário de IA / Deepfake

🛡️ Segurança e qualidade

Deepfake é uma imagem, vídeo ou gravação de voz criada ou alterada por IA para representar de forma convincente alguém dizendo ou fazendo algo que, na realidade, não disse ou fez.

Se o conteúdo suspeito envolve você, não é preciso primeiro provar qual programa foi usado para criá-lo. Salve o endereço da publicação e os dados da conta, denuncie a falsidade ideológica ou a violação na plataforma e, em caso de ameaças, chantagem ou fraude, entre em contato com a polícia. Se houver dinheiro envolvido, avise também o banco imediatamente. A responsabilidade pelo abuso é de quem o praticou, não da pessoa cuja imagem foi usada.

Exemplo: uma voz conhecida pede uma transferência via Pix

Imagine uma ligação para um dos pais: uma voz parecida com a da filha adulta diz que perdeu o celular, precisa de dinheiro com urgência e não pode conversar. Este é um cenário hipotético de golpe, não a descrição de um experimento realizado por nós. Uma voz falsificada pode tornar a história mais convincente, mas a história também pode funcionar sem IA.

Não envie códigos nem faça transferências só por reconhecer a voz. Desligue e ligue para o número da sua filha que você já conhece ou entre em contato com outra pessoa próxima. O número exibido na tela também pode ter sido falsificado. Confirme o pedido por um canal independente, não pelo número ou link informado por quem ligou. A pressão por rapidez e a proibição de falar com outras pessoas são motivos para encerrar a conversa, mesmo quando o áudio parece natural.

Como identificar um deepfake sem adivinhar pela aparência

Comece pela fonte e pelo contexto. Quem publicou o conteúdo primeiro? Existe uma gravação completa, e não apenas um trecho de alguns segundos? A pessoa ou instituição confirma a declaração em seu canal oficial? O selo de verificação do perfil, por si só, não confirma a autenticidade de todos os vídeos.

Confira a data e pesquise um trecho característico da declaração. Você também pode fazer uma busca reversa por imagem de um quadro isolado de um conteúdo público e não íntimo. Um vídeo antigo com uma legenda nova é uma manipulação de contexto, mesmo que não contenha um deepfake. Por outro lado, não encontrar resultados na busca não significa que a gravação seja verdadeira.

Movimentos dos lábios pouco naturais, traços que mudam, joias que desaparecem ou transições estranhas no áudio podem ser indícios. Não são um teste conclusivo: a compressão e a edição comum também criam artefatos, e uma substituição bem-feita pode não apresentar nenhum. Não considere um vídeo autêntico só porque as mãos, os dentes e as piscadas parecem corretos.

Use um detector automático como mais uma pista. O resultado depende do conteúdo e pode estar errado nos dois sentidos. Não envie uma gravação privada ou uma foto íntima para um site qualquer que prometa detectar IA. Em casos contestados, pode ser necessário ter o arquivo original, apurar sua origem e solicitar a análise de um especialista.

O que fazer se alguém usou seu rosto ou sua voz

1. Guarde as informações sobre o ocorrido: URL exata, nome e identificador da conta, data, mensagens com ameaças e números de protocolo. Em publicações comuns, capturas de tela que mostrem o endereço podem ajudar. Não encaminhe o conteúdo prejudicial a amigos como forma de alerta; geralmente, enviar a descrição e o link à instituição adequada ajuda a limitar a disseminação.

2. Denuncie a publicação e a conta específicas. Escolha a categoria adequada à situação: falsidade ideológica, fraude, perseguição ou compartilhamento de imagem íntima sem consentimento. Explique o que você não fez ou disse. Guarde a confirmação da denúncia; se houver opção de recurso, use-a caso a denúncia seja recusada.

3. Em caso de fraude, entre em contato com o banco pelo número oficial ou pelo aplicativo e denuncie o caso à polícia. Em caso de chantagem, não envie mais fotos nem dinheiro. Peça ajuda a alguém de confiança. O número 112 serve para situações de perigo imediato, não para denunciar publicações comuns na internet.

4. Avise as pessoas com quem o responsável pelo golpe pode entrar em contato: “Alguém está se passando por mim. Confirmem pedidos de dinheiro pelo número que vocês já conhecem”. Se sua conta também foi invadida, recupere o acesso, troque a senha e encerre as sessões desconhecidas. Um deepfake, por si só, não prova que houve invasão, então trate esses dois problemas separadamente.

Isso não substitui o contato com o banco nem a denúncia à polícia. Confirme sempre quem está ligando por um meio independente.

Onde denunciar um deepfake íntimo

StopNCII.org também abrange conteúdos íntimos sintéticos que retratam a pessoa que faz a denúncia. O serviço é destinado a pessoas que atendam aos critérios de idade mínima, inclusive em relação à imagem no conteúdo. Ele cria uma impressão digital do arquivo no dispositivo; a imagem em si não é enviada. O serviço funciona nas plataformas participantes, não remove conteúdo de toda a internet e não garante a remoção de todas as versões alteradas.

Se o conteúdo retrata alguém com menos de 18 anos, procure a ajuda de um adulto de confiança e da polícia e consulte o Take It Down. Não baixe nem encaminhe conteúdo íntimo de uma pessoa menor de idade para fazer a denúncia. O Take It Down recomenda expressamente usar apenas arquivos que já estejam no dispositivo. Denunciar o endereço da publicação não exige que você compartilhe a imagem.

O erro mais comum: procurar um único sinal de falsificação

Não existe uma regra simples como “olhos estranhos significam deepfake” ou “vídeo fluido significa que é verdade”. A origem do conteúdo, a confirmação independente e as consequências de agir são mais importantes. Se a gravação pede que você faça uma transferência, revele dados ou compartilhe uma notícia urgente sem pensar, interrompa a ação primeiro. Você não precisa ter certeza de que foi usada IA para agir com cautela.