Какой loss обычно используется при autoregressive pretraining?

Тема: NLP и LLM · Этапы обучения LLM · Сложность: Средне

Ответьте на вопрос вслух или текстом — разбор придёт сразу: оценка по четырём критериям, пробелы и готовая формулировка.