Большие языковые модели (LLM) кардинально изменили ландшафт искусственного интеллекта, обеспечивая работу всего — от чат-ботов и помощников по написанию кода до инструментов для научных исследований. Тем не менее, для многих практиков и энтузиастов внутреннее устройство этих систем остается загадкой. Понимание того, как LLM на самом деле функционируют, необходимо каждому, кто создает, оценивает или принимает решения относительно технологий ИИ.
Данное руководство раскладывает по полочкам три фундаментальных столпа современных LLM: архитектуру трансформера, механизм внимания и процесс токенизации, который преобразует человеческий язык во что-то, что нейронная сеть может обработать.
Архитектура Трансформера: Смена Парадигмы
До появления трансформеров в 2017 году большая часть обработки естественного языка полагалась на рекуррентные нейронные сети (RNN) и сети с долгой краткосрочной памятью (LSTM). Эти архитектуры последовательно обрабатывали текст, слово за словом, что создавало две серьезные проблемы: медленное обучение и трудности с поддержанием контекста на длинных отрезках текста.
Трансформер, представленный в эпохальной статье Attention Is All You Need от Vaswani et al., решил обе проблемы, обрабатывая целые последовательности параллельно. Вместо чтения предложения слово за словом, трансформер рассматривает все слова одновременно и изучает взаимосвязи между ними.
Трансформер состоит из двух основных компонентов: энкодера, который читает и понимает входной текст, и декодера, который генерирует выходной текст. Модели вроде BERT используют только энкодер, тогда как модели типа GPT — только декодер. Оригинальный трансформер использовал оба компонента для задач машинного перевода.
Каждый слой энкодера и декодера содержит два подслоя: механизм многоголового самовнимания (multi-head self-attention) и полносвязную нейронную сеть с попозиционной обработкой (position-wise feed-forward network). Остаточные соединения (residual connections) и слойная нормализация (layer normalization) оборачивают каждый подслой, стабилизируя обучение и позволяя градиентам проходить через глубокие сети без затухания.
Самовнимание: Как Модели Понимают Контекст
Механизм самовнимания, пожалуй, является наиболее важным новшеством трансформера. Он позволяет модели взвешивать важность каждого слова в последовательности относительно каждого другого слова, улавливая дальние зависимости, которые упускали предыдущие архитектуры.
Вот как самовнимание работает пошагово:
- Векторы запроса, ключа и значения (Query, Key, Value): Для каждого токена на входе модель создает три вектора, умножая эмбеддинг токена на обучаемые матрицы весов. Запрос представляет то, что ищет токен, ключ — то, что токен предлагает, а значение — фактическую передаваемую информацию.
- Оценки внимания (Attention scores): Модель вычисляет скалярное произведение каждого запроса со всеми ключами, получая оценку, которая показывает, насколько один токен должен уделять внимание другому. Эти оценки масштабируются на квадратный корень из размерности ключа, чтобы предотвратить появление чрезвычайно больших значений.
- Softmax-нормализация: Масштабированные оценки проходят через функцию softmax, преобразуя их в вероятности, сумма которых равна единице. Это создает распределение внимания по всем токенам в последовательности.
- Взвешенная сумма: Наконец, модель умножает каждый вектор значения на соответствующий ему вес внимания и суммирует результаты, получая контекстно-зависимое представление для каждого токена.
Рассмотрим предложение: Кот сидел на коврике, потому что он устал. При обработке слова он механизм внимания назначает высокие веса кот, а не коврике, правильно разрешая местоименную ссылку. Эта способность улавливать контекстные отношения и делает трансформеры столь мощными.
Многоголовое Внимание (Multi-Head Attention)
Вместо того чтобы вычислять внимание один раз, трансформеры используют многоголовое внимание, выполняя несколько вычислений внимания параллельно с различными обучаемыми матрицами весов. Каждая "голова" может фокусироваться на различных типах взаимосвязей: одна может улавливать синтаксическую структуру, другая — семантическое сходство, третья — позиционные закономерности. Результаты всех голов конкатенируются и линейно преобразуются в окончательное представление.
Модели класса GPT-4 обычно используют 96 или более голов внимания, распределенных по более чем 100 слоям, что дает им огромную способность моделировать сложные языковые закономерности.
Токенизация: Преобразование Языка в Числа
Нейронные сети не могут обрабатывать сырой текст напрямую. Токенизация — это критический этап предварительной обработки, который преобразует человекочитаемый текст в последовательности целых чисел, с которыми может работать модель.
Зачем использовать не слова?
Использование целых слов в качестве токенов создает невообразимо большой словарь. Только в английском языке сотни тысяч слов, а если добавить технический жаргон, имена собственные и многоязычный текст, словарь становится неуправляемым. Токенизация на уровне слов также не может изящно обрабатывать опечатки, неологизмы или морфологические вариации.
Токенизация на Уровне Подслов (Subword Tokenization)
Современные LLM используют методы токенизации на уровне подслов, чаще всего Byte Pair Encoding (BPE) или его варианты, такие как SentencePiece. Эти алгоритмы обеспечивают баланс между токенизацией на уровне символов и на уровне слов.
BPE работает, начиная с отдельных символов и итеративно объединяя наиболее частые пары. Обычные слова, такие как the (в английском), становятся отдельными токенами, тогда как редкие слова разбиваются на значимые подсловные единицы. Например, unhappiness (несчастье) может быть токенизировано как [un, happi, ness], что позволяет модели понять его компоненты, даже если она никогда не встречала точное слово раньше.
GPT-4 использует токенизатор с примерно 100 000 токенов в своем словаре. Среднее английское слово требует около 1,3 токена, в то время как код и неанглийские языки часто требуют больше токенов на слово, что влияет как на стоимость, так и на использование контекстного окна.
Позиционное Кодирование (Positional Encoding)
Поскольку трансформеры обрабатывают все токены параллельно, а не последовательно, у них нет встроенного понятия порядка слов. Позиционные кодировки добавляются к эмбеддингам токенов, чтобы внедрить информацию о позиции каждого токена в последовательности. Оригинальный трансформер использовал синусоидальные функции для этой цели, в то время как более новые модели, такие как GPT, используют обучаемые позиционные эмбеддинги или более продвинутые схемы, такие как Rotary Position Embeddings (RoPE), которые лучше справляются с длинными контекстами.
Складываем Все Вместе: Как LLM Генерируют Текст
Во время обучения LLM обрабатывает миллиарды текстовых примеров, корректируя свои параметры для предсказания следующего токена, учитывая все предыдущие токены. Этот процесс, называемый каузальным языковым моделированием (causal language modeling), учит модель статистическим закономерностям языка на всех уровнях: от грамматики и фактов до закономерностей рассуждения и стиля.
Во время инференса (генерации текста) модель работает авторегрессионно:
- Она принимает входной промпт, токенизирует его и обрабатывает через все слои трансформера.
- Последний слой выдает распределение вероятностей по всему словарю для следующего токена.
- Стратегия выборки (жадная, top-k, top-p или на основе температуры) выбирает следующий токен.
- Этот токен добавляется к последовательности, и процесс повторяется до достижения условия остановки.
Этот авторегрессионный цикл объясняет, почему LLM генерируют текст по одному токену за раз, даже несмотря на то, что базовая архитектура обрабатывает последовательности параллельно во время прямого прохода.
Масштаб и Его Последствия
Современные LLM черпают большую часть своих возможностей из чистого масштаба. GPT-3 имеет 175 миллиардов параметров, и считается, что более поздние модели значительно крупнее. Обучение таких моделей требует тысяч GPU, работающих месяцами, и потребляет мегаватт-часы электроэнергии.
Исследования показали, что возможности модели часто неожиданно проявляются при определенных масштабах. Способности, такие как обучение по нескольким примерам (few-shot learning), рассуждение по цепочке мыслей (chain-of-thought reasoning) и генерация кода, видимо, резко улучшаются, как только модели пересекают определенные пороговые значения параметров — явление, которое исследователи называют эмерджентными способностями (emergent abilities).
Однако один лишь масштаб недостаточен. Качество обучающих данных, инструктивная настройка (instruction tuning), обучение с подкреплением на основе обратной связи от человека (RLHF) и архитектурные улучшения — все это играет критическую роль в создании моделей, которые не только способны, но и соответствуют намерениям человека.
Практические Последствия
Понимание этих основ имеет прямую практическую ценность. Знание того, как работает токенизация, помогает создавать более эффективные промпты и оценивать затраты на API. Понимание механизмов внимания объясняет, почему модели иногда теряют из виду инструкции в очень длинных контекстах. Осознание того, что LLM по сути являются предикторами следующего токена, помогает установить реалистичные ожидания относительно их способностей к рассуждению.
Поскольку область продолжает развиваться благодаря таким инновациям, как архитектуры "смесь экспертов" (mixture-of-experts), модели пространства состояний (state-space models) и более длинные контекстные окна, трансформер остается фундаментом, на котором строятся современные возможности ИИ в области языка. Прочное понимание его механики — отправная точка для всех, кто серьезно относится к работе с искусственным интеллектом или его пониманию.
