Почему высокий reward не всегда означает хороший ответ для пользователя?

Тема: NLP и LLM · Alignment · Сложность: Сложно

Ответьте на вопрос вслух или текстом — разбор придёт сразу: оценка по четырём критериям, пробелы и готовая формулировка.