Почему при RLHF модель не дают сильно отклонять от SFT-версии?

Тема: NLP и LLM · Alignment · Сложность: Сложно

Ответьте на вопрос вслух или текстом — разбор придёт сразу: оценка по четырём критериям, пробелы и готовая формулировка.