AI-словарь · Обучение
Обучение
Обучение и дообучение моделей: fine-tuning, датасет и его разметка, эпохи, learning rate, переобучение, DreamBooth. Раздел для тех, кто хочет не просто пользоваться готовыми моделями, а настраивать их под свой стиль, персонажа или задачу.
Указатель
-
01
Synthetic Data
Синтетические данные создаёт программа, симулятор или модель. С их помощью можно получить редкие примеры и воспроизвести опасные ситуации. Пользу проверяют на независимых реальных данных, а не…
-
02
Mixture of Experts MoE
В разреженной Mixture of Experts (MoE) часть слоёв содержит несколько экспертных модулей. Маршрутизатор выбирает для каждого токена часть из них. Это позволяет увеличить общую ёмкость модели,…
-
03
RLHF и DPO
RLHF и DPO используют сравнения ответов, чтобы скорректировать поведение модели. В классическом RLHF отдельная модель награды оценивает новые ответы, а основная модель учится повышать эту оценку.…
-
04
Model Merge
Model Merge объединяет веса совместимых моделей. Разберём простое смешивание, перенос разницы между версиями и настройку отдельных блоков — и почему удачные свойства исходных моделей не всегда…
-
05
Overfitting
Overfitting, или переобучение, возникает, когда модель всё точнее подстраивается под обучающие примеры, но хуже работает на новых данных. В генерации это часто выглядит как навязчивое повторение…
-
06
Learning Rate LR
Learning rate — настройка масштаба обновлений при обучении. При слишком малом шаге модель учится медленно, при слишком большом процесс может стать нестабильным. Разберём, как подобрать значение…
-
07
Epoch
Epoch, или эпоха, — один проход через весь обучающий набор. Она показывает, сколько раз данные были охвачены тренировкой, но сама по себе ничего не говорит о…
-
08
Dataset Captioning
Dataset Captioning — подготовка текстовых подписей к изображениям в обучающем датасете. Подпись связывает конкретный снимок с его содержанием и помогает модели увидеть, какие признаки повторяются, а…
-
09
Fine-tuning
Файнтюнинг дообучает готовую модель под свою задачу. Он помогает закрепить стиль или формат ответа. Разберём разницу между полным дообучением и LoRA, а также случаи, когда вместо…
-
10
Dataset
Датасет — набор примеров для обучения или проверки модели. Разберём, как отбирать и размечать данные, находить дубли и отделять тестовые примеры, чтобы оценка не была завышенной.
