Hypernetwork

hypernetwork — дополнительная сеть для модификации внимания U-Net

Раздел
Адаптеры
Обновлено
19.06.26

Hypernetwork — техника тонкой настройки Stable Diffusion 2022 года. Подключает к U-Net дополнительную маленькую нейросеть, которая модифицирует cross-attention слои на лету. Файлы 50–200 МБ, тренировка ~1–2 часа. В 2023 году была полностью вытеснена LoRA: та же ниша применения, лучше качество, лучше совместимость с большинством инструментов. В 2026 году Hypernetwork остаётся только legacy-вариантом для SD 1.5 — для новых моделей и проектов не используется.

Коротко

Коротко. Hypernetwork — это устаревшая техника настройки Stable Diffusion: дополнительная маленькая нейросеть, модифицирующая внимание U-Net «на лету». Файлы 50–200 МБ, тренировка час-два. Появилась в 2022-м, к 2023-му полностью проиграла LoRA по качеству и удобству. В 2026 году встречается только в legacy SD 1.5-пайплайнах — для новых проектов используйте LoRA.

Что это такое

Осень 2022-го. Сообщество Stable Diffusion ищет, как быстро настроить SD 1.5 под конкретного художника, без дорогого DreamBooth и слабого Textual Inversion. Появляется идея Hypernetwork — её первая реализация в Automatic1111 быстро становится популярной.

Технически это маленькая нейросеть, которая подключается к cross-attention слоям U-Net и модифицирует их работу. Тренируется отдельно от модели — веса SD не меняются.

Через год выходит LoRA, и расклад мгновенно меняется. LoRA даёт более точный контроль (потому что меняет веса напрямую), легче комбинируется, лучше воспроизводит конкретные объекты. К концу 2023-го Hypernetwork почти не упоминается в новых релизах.

К 2026 году Hypernetwork — историческая техника:

  • SD 1.5 — несколько тысяч legacy-файлов на CivitAI, но новые не появляются.
  • SDXL — поддержка есть только в Automatic1111, практически никто не делает.
  • FLUX — нет, архитектура несовместима.

Знать Hypernetwork полезно для понимания контекста, но в практической работе 2026 года это пустая графа.

Как это работает

В U-Net есть cross-attention слои — места, где модель «слушает» промпт. На каждом таком слое hypernetwork подключает свой маленький блок (~5–20 миллионов параметров), который:

  1. Получает входной тензор cross-attention.
  2. Прогоняет его через свою маленькую сеть.
  3. Изменяет результат cross-attention перед тем, как он идёт дальше.

Это похоже на то, что делает LoRA, но через отдельный модуль, а не через прямую модификацию весов. Поэтому Hypernetwork:

  • Менее точна (нельзя «попасть» в конкретные веса).
  • Более capricious в тренировке (легко переобучить).
  • Хуже комбинируется с другими адаптерами.

Файл Hypernetwork — обычно .pt или .safetensors, размер 50–200 МБ. Подключается в Automatic1111 через Settings → Stable Diffusion → Hypernetwork, или через тег <hypernet:name:0.8> в промпте.

Пример на практике

Иллюстратор работает на legacy-проекте 2023 года, где у клиента уже есть оплаченные Hypernetwork-файлы под собственный стиль. Заменить их на LoRA сейчас — это лишние 4 часа работы и согласование с заказчиком.

Запускает Automatic1111 на SD 1.5, подключает Hypernetwork clientStyle_hypernet.pt (140 МБ) с весом 0.8. Промпт обычный. Результат — тот же фирменный стиль, что и в прошлогодних кадрах.

Это типичная роль Hypernetwork в 2026: сохранение совместимости. Если бы он начинал проект с нуля, использовал бы LoRA с самого начала — это в 2 раза легче, и LoRA обычно даёт чистее результат.

С чем часто путают

  • Hypernetwork и LoRA — оба адаптеры, но Hypernetwork добавляет отдельный модуль, LoRA меняет веса слоёв напрямую. Размер похожий (50–200 МБ), но LoRA точнее и универсальнее.
  • Hypernetwork и Textual Inversion — TI тренирует только один токен в словаре CLIP, файл 30 КБ. Hypernetwork тренирует целый модуль, 50+ МБ.
  • Hypernetwork и DreamBooth — DreamBooth тренирует всю модель (6 ГБ), Hypernetwork — отдельный маленький модуль (~100 МБ). Разные масштабы и качество.
  • Hypernetwork и Hyperparameter — звучит похоже, но это разные вещи. Hyperparameter — это параметр обучения (learning rate, batch size). Hypernetwork — техника настройки модели.

Частые ошибки и заблуждения

  • «Hypernetwork даёт лучшее качество, чем LoRA». Не даёт. В большинстве сравнений LoRA выигрывает или равна. Поэтому LoRA и вытеснила Hypernetwork.
  • «Можно конвертировать Hypernetwork в LoRA». Технически есть скрипты-конвертеры (hypernet_to_lora.py), но качество часто теряется. Проще перетренировать с нуля.
  • «Hypernetwork работает с SDXL». Поддержка в коде Automatic1111 есть, но файлов под SDXL практически нет. Сообщество перешло на LoRA.
  • «Hypernetwork лёгкая в тренировке». На бумаге проще, чем DreamBooth, но капризнее, чем LoRA: легко переобучить, тяжелее подобрать learning rate.
  • «Hypernetwork работает в ComfyUI». Только через старый узел Hypernetwork Loader из устаревших custom nodes. В новых пайплайнах не используется.

Связанные термины

  • LoRA — современная замена Hypernetwork, лучше во всём.
  • Textual Inversion — самая лёгкая техника настройки (5–50 КБ).
  • DreamBooth — самая тяжёлая (6 ГБ полная модель).
  • U-Net — основная нейросеть, к которой подключается Hypernetwork.
  • Cross-attention — слои U-Net, которые Hypernetwork модифицирует.
  • Automatic1111 — главный интерфейс, где Hypernetwork ещё работает.

Частые вопросы

Нужен ли мне Hypernetwork в 2026 году? Скорее всего — нет. Все задачи, которые решал Hypernetwork, теперь решает LoRA лучше. Hypernetwork нужен только если у вас есть конкретный legacy-файл, который нужно использовать.

Hypernetwork работает в Forge и ComfyUI? В Forge — да, наследует поддержку от Automatic1111. В ComfyUI — только через старые custom nodes, не из коробки.

Почему Hypernetwork проиграл LoRA? Точность, комбинируемость, поддержка инструментами. LoRA — это просто W + B·A, идеально для интерполяции и микса. Hypernetwork — отдельный модуль с собственным капризным характером.

Где скачать Hypernetwork? CivitAI (раздел Hypernetwork, в основном файлы 2022–2023). Hugging Face. Старые backup-ы коммерческих проектов.

Можно ли использовать несколько Hypernetwork одновременно? Технически — да, в Automatic1111 это работает. На практике часто конфликтуют. С LoRA таких проблем меньше.

Главное

Hypernetwork — это «адаптер до LoRA»: техника настройки Stable Diffusion 2022 года, которая за полтора года была полностью заменена LoRA. В 2026 году встречается только в legacy SD 1.5-пайплайнах. Для новых проектов всегда LoRA: точнее, легче, лучше совместимость с современными инструментами. Знать Hypernetwork полезно для исторического контекста, но тренировать новые — нет смысла.