GPT

generative pre-trained transformer — семейство языковых моделей OpenAI

Раздел
Языковые модели
Сокращ.
Generative Pre-trained Transformer
Обновлено
19.06.26

GPT (Generative Pre-trained Transformer) — семейство больших языковых моделей OpenAI, на которых построены ChatGPT и платный API. Архитектурно это трансформер, обученный предсказывать следующий токен на огромных объёмах текстов из интернета. С 2018 года вышли версии GPT-1, GPT-2, GPT-3, GPT-3.5, GPT-4 и GPT-4o — каждая мощнее предыдущей по знанию мира, рассуждению и работе с изображениями.

Коротко

Коротко. GPT — название серии языковых моделей от компании OpenAI: GPT-3, GPT-4, GPT-4o, GPT-5 и так далее. Каждая новая версия — это более крупная и точнее настроенная модель того же типа. Когда говорят «GPT», обычно имеют в виду саму модель. ChatGPT — это уже продукт-приложение, который работает на этих моделях.

Что это такое

Июнь 2018-го. OpenAI публикует статью с длинным названием «Improving Language Understanding by Generative Pre-Training». В файле — модель на 117 миллионов параметров, способная связно продолжать тексты. Никто за пределами узкого круга исследователей этого не замечает.

Через два года GPT-3 со 175 миллиардами параметров взорвёт интернет. Ещё через четыре — GPT-5 будет писать тексты, которые сложно отличить от человеческих, понимать картинки, голос и видео.

Расшифровка аббревиатуры объясняет идею:

  • Generative — генеративная: модель производит новый текст, а не классифицирует существующий.
  • Pre-trained — предобученная: сначала её обучают на огромном корпусе текстов из интернета и книг, потом дообучают под конкретные задачи.
  • Transformer — архитектура трансформера, на которой построены почти все современные LLM.

GPT — конкретное семейство моделей, а не отдельная программа и не общий тип AI. Когда выходит «GPT-5» — это значит OpenAI выпустила следующее поколение своей модели. Когда говорят «GPT-стиль архитектура» — имеют в виду подход к обучению, не привязанный к конкретному поставщику.

Как это работает

Принцип у GPT простой: модель видит часть текста и должна угадать следующий токен — короткий кусочек слова. Этот процесс повторяется в цикле, пока не сложится полный ответ.

При обучении модель «прочитала» столько текстов, что усвоила язык целиком: грамматику, факты, способы рассуждения, стилистику разных авторов. Из-за этого одна и та же GPT может писать письма, объяснять код, переводить и собирать резюме — никакая дополнительная настройка для базовых задач не нужна.

После основного этапа обучения модель проходит доводку. Самый известный способ — RLHF: люди оценивают разные ответы модели, и она учится выдавать те, которые им нравятся. Так из «голой» модели получается ассистент, который старается быть полезным, а не просто продолжать текст любой ценой.

Когда вы пишете промпт в ChatGPT, под капотом работает одна из версий GPT. Запрос разбивается на токены, модель прогоняет их через все свои слои и предсказывает токен за токеном — это и есть ответ.

Пример на практике

Видеомонтажёр готовит описания к серии из двадцати роликов на YouTube. У каждого — своя тема, своя аудитория, свои ключевые слова. Текст должен звучать живо, попадать в SEO, не повторяться. Раньше — двадцать минут на ролик, итого почти семь часов работы за одной задачей.

С GPT процесс перестраивается. Готовится промпт-шаблон: бриф на ролик, формат канала, требования к стилю. Дальше — двадцать прогонов с разными темами в одном чате. GPT помнит контекст и держит общий тон. За двадцать минут готовы черновики на все ролики. Ещё час уходит на правку фактов и подгонку под голос монтажёра.

Семь часов превратились в полтора. Не магия — просто GPT умеет быстро собирать связный текст по чёткому брифу, и эту скорость можно использовать как рычаг.

Тот же подход — для сценариев, ответов в комментариях, кратких пересказов, технической документации и в обсуждении сложных пайплайнов вроде ComfyUI: можно описать workflow словами, попросить разобрать ошибку, сравнить ноды.

С чем часто путают

  • GPT и ChatGPT — GPT это модель, ChatGPT это продукт-обёртка с интерфейсом чата, памятью, поиском, голосом. Когда вы пишете в чате — отвечает GPT, но всё остальное (история диалога, кнопки, файлы) добавляет ChatGPT-приложение. Те же модели GPT доступны через API без этой обёртки.
  • GPT и LLM — GPT это конкретное семейство LLM. LLM — общий класс (туда входят Claude, Gemini, Llama). Каждая GPT — это LLM, но не каждая LLM — это GPT.
  • GPT-стиль и OpenAI — формально GPT (Generative Pre-trained Transformer) — это название архитектуры, и похожие модели есть у других компаний. Но OpenAI первой популяризовала аббревиатуру, и в массовом сознании GPT и OpenAI стали синонимами.
  • Версия GPT и качество — новая версия в среднем лучше старой, но не во всём. GPT-4o, например, быстрее и дешевле GPT-4, но в некоторых длинных задачах GPT-4 даёт более стабильный результат. Версия — не единственный фактор.

Частые ошибки и заблуждения

  • GPT — это бренд OpenAI. Не совсем. «GPT» как термин (Generative Pre-trained Transformer) описывает архитектуру, и формально похожие модели есть у других разработчиков. Но OpenAI первой популяризовала аббревиатуру, поэтому в массовом сознании GPT и OpenAI стали почти синонимами.
  • GPT — это и есть ChatGPT. Нет. ChatGPT — продукт-обёртка с интерфейсом чата, сохранением истории, инструментами. GPT — модель, которая под этим работает. Та же модель доступна через API без всякого «чат-режима».
  • Чем выше номер версии, тем лучше во всём. Не строго. Новая версия в среднем лучше, но для отдельных задач прежняя может оказаться удобнее: дешевле, быстрее, лучше держит формат.
  • GPT помнит всё, что писал пользователь. В рамках одного диалога — да, в пределах контекстного окна. После сброса разговора модель ничего не помнит, если только это не специально включено в сервисе (как «память» в ChatGPT).

Связанные термины

  • LLM — общий класс больших языковых моделей, к которому относится GPT.
  • ChatGPT — продукт OpenAI на основе GPT с интерфейсом чата.
  • Claude — конкурирующая LLM от Anthropic.
  • Gemini — мультимодальная LLM от Google.
  • Token — единица текста, с которой работает любая GPT-модель.
  • Context Window — объём текста, который модель удерживает за один запрос.
  • API — программный интерфейс, через который GPT встраивают в свои приложения.

Частые вопросы

Как расшифровывается GPT? GPT — это Generative Pre-trained Transformer, дословно «генеративный предобученный трансформер»: генеративная (создаёт текст) и предобученная (сначала учится на больших корпусах текста) модель на архитектуре трансформера.

Чем GPT отличается от Claude или Gemini? Это разные семейства LLM от разных компаний. GPT делает OpenAI, Claude — Anthropic, Gemini — Google. Архитектура у всех похожая (трансформер), различия в данных, способе обучения и продуктовых решениях.

Сколько параметров у GPT? Точные числа OpenAI не раскрывает уже несколько лет. У GPT-3 было 175 миллиардов, у более новых моделей — больше, но компания перешла на закрытую модель публикации.

Можно ли запустить GPT локально? GPT-модели OpenAI закрыты: их нельзя скачать и запустить на своём компьютере. Локально работают открытые альтернативы — Llama, Qwen, Mistral, Gemma, — и многие из них догоняют GPT по качеству в типовых задачах.

Зачем платить за GPT, если есть бесплатные? Платные версии дают доступ к более сильным моделям, большему контексту, мультимодальности и дополнительным функциям (поиск в интернете, генерация изображений, голосовой режим). Для разовых задач хватает бесплатных уровней, для регулярной работы платная подписка обычно окупается.

Как GPT справляется с русским языком? Хорошо. Новые версии GPT понимают и пишут на русском почти на уровне английского. Разница ощутима только в редких темах и специфической стилистике.

Главное

GPT — это конкретное семейство языковых моделей от OpenAI и одновременно общее обозначение архитектуры, на которой работают почти все современные LLM. Понимать, чем GPT отличается от ChatGPT, и где она хороша, а где её лучше дополнить чем-то ещё, — полезно даже тем, кто не пишет код. Это база для всего, что сегодня называют «AI-помощниками».