Glossário de IA / Jailbreak

🛡️ Segurança e qualidade

Jailbreak é uma tentativa de contornar as proteções do modelo usando um prompt elaborado de forma engenhosa: interpretação de papéis, cenários hipotéticos, reformulações repetidas - tudo para fazer o modelo realizar algo que, de acordo com as regras, não deveria fazer. Há uma corrida constante entre quem cria as proteções e quem tenta burlá-las; os truques publicados logo deixam de funcionar e outros novos aparecem. Para empresas que implementam IA, a lição é prática: não se deve presumir que as proteções do modelo sejam impossíveis de contornar - restrições críticas também precisam ser aplicadas fora do próprio modelo.