Glossário de IA / LLM

🧠 Fundamentos

LLM, ou modelo de linguagem grande, é um modelo de IA treinado com uma grande quantidade de dados linguísticos, capaz de processar textos e gerar uma continuação com base no contexto recebido.

Um exemplo do dia a dia: o administrador de um condomínio em São Paulo quer resumir um longo comunicado sobre a reforma do elevador para enviar uma mensagem clara aos moradores. Ele fornece o texto pronto ao modelo, pede que mantenha as datas e o número de telefone e, em seguida, compara o resumo com o original. O LLM ajuda a reformular a informação; não deve inventar a data da reforma nem garantir que a empresa responsável chegará no horário.

Como um LLM funciona na prática

O texto é dividido em tokens, unidades que podem corresponder a partes de palavras, palavras inteiras ou caracteres. Com base no contexto, o modelo calcula os possíveis próximos tokens. Os LLMs modernos costumam usar a arquitetura transformer, que permite levar em conta as relações entre diferentes trechos da entrada. Não funciona como escolher uma resposta pronta em um catálogo.

O treinamento define os parâmetros do modelo. Digitar um comando depois geralmente aciona o uso desses parâmetros, e não um novo treinamento. Se o modelo se referiu à mensagem anterior, isso pode ser porque o histórico da conversa foi incluído no contexto. Isso não prova que sua mensagem modificou o modelo permanentemente. Os fundamentos desse mecanismo são explicados no curso do Google sobre modelos de linguagem grandes.

LLM, chatbot e mecanismo de busca são coisas diferentes

O chatbot é o aplicativo pelo qual você conversa. O LLM é um dos seus componentes. O aplicativo também pode pesquisar na internet, ler arquivos, fazer cálculos e armazenar as configurações do usuário. Por isso, dois serviços que usam modelos parecidos podem apresentar resultados diferentes.

O modelo, por si só, não precisa saber os horários atualizados dos trens nem o preço de um produto hoje. Se o aplicativo tiver uma ferramenta de busca, confira se ela foi usada e de onde vieram os dados. Um link visível é o início da verificação, não o fim: abra a página e confirme se ela realmente comprova a afirmação. O modelo também pode ler um documento corretamente e tirar uma conclusão errada.

Para quais tarefas usar um modelo de linguagem

Um bom começo são tarefas em que você tem o material de origem e consegue avaliar o resultado: resumir instruções, organizar anotações, comparar duas versões de um regulamento ou preparar algumas versões de uma mensagem. A cada versão, confira se alguma condição, exceção ou ressalva importante foi removida.

Um LLM também pode classificar textos, extrair dados deles e ajudar a escrever código. Nesse tipo de uso, defina o formato de resposta permitido e como a precisão será verificada. Uma explicação fluente da solução não é um teste do programa, e uma tabela no formato correto não confirma a veracidade dos números apresentados.

Como preparar seu primeiro comando útil

1. Forneça o material. No exemplo do condomínio, cole o comunicado sem incluir dados que não precisam ser processados. Em vez de pedir “escreva um aviso sobre a reforma”, mostre os fatos em que o aviso deve se basear.

2. Defina a tarefa e o público: “Resuma o comunicado para os moradores em seis frases. Mantenha todas as datas, horários e o número de contato”. Assim, o modelo não precisa adivinhar se você quer um anúncio, um resumo ou um comunicado oficial.

3. Inclua uma regra para informações ausentes: “Se a informação não estiver na fonte, não a acrescente”. Você pode pedir uma lista separada de dúvidas. Isso limita as respostas, mas não elimina a necessidade de conferi-las.

4. Compare o resultado com o texto original. Marque cada frase que contenha uma data, um valor ou um compromisso. Se algo estiver errado, aponte o erro específico e peça uma nova versão. Não considere a versão seguinte correta só porque o modelo pediu desculpas.

5. Guarde o comando testado junto com uma lista breve de verificações. Teste-o em outro comunicado, inclusive em um que não informe a data. Só então será possível avaliar se ele funciona de forma consistente.

Quando você precisa de documentos em vez de um modelo maior

Se a resposta depender de uma instrução da empresa, forneça primeiro a instrução correta. Um sistema RAG pesquisa trechos de materiais e os inclui na pergunta. Não é a mesma coisa que treinar o modelo novamente e não garante resultados sem erros: ele pode selecionar um documento desatualizado ou ignorar uma exceção importante. Na prática, a versão e a data da fonte podem ser mais importantes do que o tamanho da resposta.

O erro mais comum: confundir tom confiante com conhecimento

Um LLM pode escrever com a mesma fluência uma instrução correta e uma explicação inventada. Não há uma relação simples entre a convicção de uma afirmação e sua veracidade. Use-o em situações em que seja possível conferir o resultado e baseie decisões importantes em dados confirmados. Quando não for possível verificar um fato, responder “não sei” é melhor do que apresentar um palpite convincente.