Eugene Yan опубликовал материал о том, как генерировать синтетические данные и использовать их при финетюнинге моделей. Речь идёт о синтетических наборах данных как об одном из способов решать задачи обучения моделей.
Интерес к этому подходу автор объясняет ограничениями человеческих аннотаций. В статье разбирается, как синтетические данные применяют в instruction-tuning, preference-tuning и pretraining, где ручная разметка часто становится узким местом.
Текст в целом посвящён практикам генерации таких данных и их дальнейшему использованию при обучении моделей. Отдельно рассматривается роль синтетических наборов на этапах подготовки и настройки моделей.