Glossário de IA / RLHF

🏗️ Modelos e treinamento

RLHF (aprendizado por reforço com feedback humano) é uma etapa do treinamento em que o modelo aprende com avaliações humanas: as pessoas comparam diferentes respostas do modelo, indicam as melhores e o algoritmo ajusta o modelo para que ele gere com mais frequência as respostas preferidas. Foi o RLHF e técnicas relacionadas que transformaram os “previsores de texto” brutos em assistentes úteis, que respondem a perguntas em vez de apenas continuá-las, recusam solicitações prejudiciais e mantêm um tom cordial. O preço pode ser um modelo excessivamente complacente, que concorda com o usuário.