Sustainable AI

Sustainable AI рассматривает экологические затраты нейросетей: энергию, воду и оборудование. Разберём, что учитывать при сравнении моделей и как сокращать лишние вычисления без потери нужного качества.

Коротко

Sustainable AI — подход к разработке, при котором вместе с качеством и ценой учитывают энергию, выбросы, воду и жизненный цикл оборудования. Цель не в том, чтобы объявить любой AI «вредным» или «зелёным», а в том, чтобы измерить конкретную систему и уменьшить ресурсы на единицу полезного результата.

Что входит в экологический след

У AI-системы есть несколько разных источников воздействия.

Обучение. Большой вычислительный запуск использует ускорители, сеть, хранение и охлаждение. Эксперименты до финального обучения тоже входят в расход.

Инференс. Каждый запрос может быть небольшим, но миллионы вызовов, длинный контекст, reasoning и генерация видео складываются в постоянную нагрузку.

Дата-центр. Помимо серверов энергия нужна охлаждению, сети, дискам и резервированию.

Вода. Некоторые системы охлаждения расходуют воду на объекте, а производство электричества может добавлять косвенный водный след.

Оборудование. Производство ускорителей и серверов требует материалов и энергии. Замена исправного парка ради небольшого ускорения переносит часть воздействия из эксплуатации в производство.

Источник электричества. Одинаковое число киловатт-часов даёт разные выбросы в зависимости от региона и времени.

Почему цифры «на один запрос» спорны

Запрос может означать короткую классификацию, анализ книги, генерацию изображения или длинную агентную цепочку. Даже внутри одного чата расход меняют:

• размер и архитектура модели;
• длина входа и выхода;
• пакетная обработка и загрузка сервера;
• число проб и инструментов;
• точность вычислений;
• тип ускорителя;
• эффективность дата-центра;
• источник энергии;
• доля простаивающей инфраструктуры.

Поэтому сравнение «AI-запрос против поискового запроса» без одинаковой задачи и методики быстро вводит в заблуждение. Полезнее измерять функцию: например, энергия на тысячу корректно обработанных документов.

Как измерять

Базовая схема связывает четыре величины:

выбросы на результат = (E × I + M) / R

Здесь E — энергия за выбранный период, I — выбросы на единицу энергии, M — относимая к этой работе доля выбросов производства и утилизации оборудования, R — количество полезных результатов за тот же период. При меняющемся источнике электричества расход и интенсивность учитывают по соответствующим промежуткам.

Единицей результата может быть успешно обработанный документ, час расшифрованной записи или изображение, прошедшее контроль качества. Она должна быть одинаковой у сравниваемых вариантов.

В отчёте полезно отдельно показывать:

• границы измерения;
• регион и период;
• модель, оборудование и точность;
• число запросов и долю повторов;
• качество результата;
• воздействие эксплуатации и производства оборудования отдельно;
• неизвестные и оценочные данные.

Software Carbon Intensity предлагает похожую логику для программных систем: к эксплуатационным выбросам добавляют относимую долю выбросов оборудования и рассчитывают показатель на единицу работы. Вода и другие виды воздействия требуют отдельного учёта — эта формула их не измеряет.

Пример на практике

Допустим, команда обрабатывает обращения клиентов. Сравниваются три схемы:

1. крупная модель отвечает на каждое обращение;
2. небольшая модель сортирует простые запросы, крупная получает только сложные;
3. одинаковые вопросы кэшируются, а модели обрабатывают только новые случаи.

Для каждой схемы измеряются точность, число повторов, задержка и энергия на тысячу закрытых обращений. Каскад может выиграть, если правило маршрутизации надёжно выделяет случаи для более сильной модели. Самооценка маленькой модели ещё не доказывает, что ошибка распознана. Если она часто ошибается и задача запускается заново, экономия исчезнет.

Такой тест одновременно полезен для бюджета и устойчивости: оба показателя зависят от объёма вычислений. Условия выбора меньшей модели объясняет статья о SLM, а дополнительную работу над сложным запросом — разбор test-time compute.

Для изображений единицей сравнения может быть принятый кадр, а не любое срабатывание генератора. В ComfyUI удобно сохранить граф и сравнить расход при разных размерах и числе шагов. Но время выполнения само по себе не измеряет энергию, а быстрее полученный брак не делает процесс экономнее.

Что обычно помогает

• выбрать модель минимального достаточного размера;
• сократить лишний контекст и ответ;
• кэшировать повторяемые части;
• использовать пакетную обработку там, где задержка не критична;
• квантизировать или дистиллировать модель с проверкой качества;
• маршрутизировать сложные запросы отдельно;
• выключать простаивающие ресурсы;
• выбирать подходящий ускоритель и оптимизированные вычислительные операции;
• планировать гибкую нагрузку на время с более чистой или доступной энергией;
• продлевать срок службы оборудования, когда это разумно;
• уменьшать хранение ненужных промежуточных данных;
• учитывать воду и воздействие производства оборудования, а не только электричество.

Оптимизация одного слоя может перенести расход в другой. Локальная модель может уменьшить передачу данных и нагрузку на облако, но использует ресурсы самого устройства. Для сравнения важно, работает ли уже имеющееся оборудование или ради модели покупают новое.

Эффект отдачи: дешевле один запрос, больше запросов

Представим, что запрос стал в десять раз дешевле, а продукт начал делать его в сто раз чаще. Тогда эффективность одной операции растёт, а общий расход — тоже.

Поэтому рядом с метрикой «на запрос» нужна абсолютная величина за период: сколько энергии и ресурсов потребила вся система. Это помогает увидеть, не съела ли новая функция техническую экономию ростом использования.

С чем часто путают

• Sustainable AI и Green AI. Термины часто пересекаются; под устойчивостью AI также могут понимать социальные последствия и весь жизненный цикл. Здесь речь прежде всего об экологическом воздействии.
• Энергия и выбросы. Киловатт-час — мера энергии, а CO₂e — эквивалент воздействия разных парниковых газов. Для перехода от энергии к выбросам нужен коэффициент источника электричества.
• Выбросы эксплуатации и производства оборудования. Первые возникают при работе, вторые — при производстве и утилизации оборудования.
• Эффективность и малый общий след. Очень эффективный сервис может потреблять много ресурсов из-за огромного масштаба.
• Локальный запуск и экологичность. Локальность меняет размещение нагрузки, но не отменяет электричество и оборудование.
• Компенсации и сокращение. Покупка сертификатов не равна физическому уменьшению вычислений или выбросов.

Частые ошибки и заблуждения

«Достаточно посчитать обучение». Для популярного продукта длительный инференс способен стать большей частью жизненного цикла.

«Один запрос имеет фиксированный след». Без модели, задачи, длины и инфраструктуры такая цифра почти не переносится.

«Возобновляемый контракт означает нулевые выбросы». Физическая сеть, время потребления и способ учёта важны. Отчётная отметка «ноль» не доказывает отсутствия дополнительных выбросов от нагрузки.

«Квантизация всегда экологичнее». Она сокращает объём представления данных, но выигрыш в энергии зависит от оборудования и реализации. При потере качества могут понадобиться дополнительные попытки. Сравнение включает качество.

«Большая модель всегда расточительна». На сложной задаче она может решить проблему одним вызовом, где маленькая потребует каскад и повторы.

Частые вопросы

Как начать измерение без доступа к дата-центру? Можно зафиксировать количество и тип запросов, токены, время GPU, повторы и качество. Провайдерская энергия останется оценкой, но такая телеметрия уже позволяет сравнивать архитектурные изменения.

Что важнее: обучение или инференс? Зависит от жизненного цикла. При небольшом числе запусков может преобладать обучение, при большом — эксплуатация. Это возможные случаи, а не правило для каждой исследовательской или массовой модели. Их считают отдельно.

Помогает ли RAG? Он может позволить меньшей модели отвечать по точным данным, но добавляет расчёт эмбеддингов, индекс и возможное переранжирование. Итог измеряют для всей цепочки.

Где смотреть оценки сектора? Международное энергетическое агентство публикует обновляемые отчёты Energy and AI. Прогнозы лучше воспринимать как сценарии с допущениями, а не вечные факты.

Главное

Чтобы оценить экологический след AI, сначала определяют, что именно считают: один ответ, всё обучение или работу сервиса за месяц. Затем сопоставляют расход энергии, воды и оборудования с качеством результата. Сократить нагрузку помогают вполне практичные меры: не повторять ненужные вычисления, подбирать модель под задачу и дольше использовать подходящее оборудование.