Glossário de IA / Alignment

🏗️ Modelos e treinamento

Alinhamento é o termo geral para os esforços de fazer com que os objetivos e comportamentos da IA estejam de acordo com as intenções e os valores humanos - para que o modelo seja útil, honesto e inofensivo, inclusive em situações que seus criadores não previram. Na prática, isso combina técnicas de treinamento (como RLHF), proteções e testes de robustez. No debate sobre o futuro da IA, alinhamento também significa uma questão mais ampla: como garantir que sistemas cada vez mais poderosos façam o que realmente queremos - e não apenas o que um objetivo mal formulado determina literalmente.