Glossário de IA / Guardrails

🛡️ Segurança e qualidade

Guardrails (proteções) são mecanismos que limitam o comportamento do modelo: um conjunto de regras, filtros e técnicas de treinamento que procuram evitar conteúdo prejudicial, ilegal ou simplesmente incompatível com a finalidade do aplicativo. São eles que fazem o modelo se recusar a escrever instruções para invadir um sistema ou conselhos sobre como machucar alguém. As proteções atuam em vários níveis: no treinamento (o modelo aprende a recusar), nos prompts de sistema e em filtros externos que verificam as entradas e saídas. Calibrá-las é um eterno equilíbrio: se forem permissivas demais, deixam passar conteúdo prejudicial; se forem rígidas demais, recusam pedidos inofensivos.