Glossário de IA / Janela de contexto
⚙️ Técnica
Janela de contexto
Quanto texto o modelo “vê” de uma só vez. Uma janela maior permite colar documentos mais longos.
A janela de contexto é a quantidade máxima de texto (medida em tokens) que o modelo “vê” ao mesmo tempo: seu prompt, os materiais colados, a conversa até então e a própria resposta. O que não cabe, o modelo simplesmente não conhece - daí o “esquecimento” do início de conversas longas. As janelas atuais chegam a centenas de milhares de tokens e, em alguns modelos, até a um milhão, permitindo incluir um livro inteiro ou um repositório de código. Na prática, porém, a qualidade do modelo pode variar quando o contexto é muito longo - é melhor colocar as informações principais no início ou no fim do material.