Глоссарий терминов ИИ: 39 понятий человеческим языком

Термины в этой области почти никогда не ищут из любопытства. Их ищут в конкретный момент: вы выбираете модель и видите в названии Q4_K_M и Distill; вы запускаете её и получаете ошибку про нехватку памяти; вы настраиваете ответы и не понимаете, что делает температура; вы читаете про поиск по своим заметкам и натыкаетесь на BM25 и косинусную близость.

Поэтому здесь алфавитного порядка нет. Термины разложены по ситуациям, в которых на них натыкаются, и внутри каждой ситуации идут в том порядке, в котором обычно всплывают.

Каждая справка короткая — от трёхсот до шестисот слов — и устроена одинаково по сути, хотя и по-разному по форме: определение, практическое следствие, конкретное заблуждение, которое эта справка снимает, и ссылка на подробный разбор темы.

Отбор тоже сделан по правилу, а не по полноте. Термин попадает сюда, если у него есть последствие для того, кто выбирает, запускает или настраивает модель, и если вокруг него есть устойчивое заблуждение. Понятия, у которых нет ни того, ни другого, отдельной страницы не получили: сорок пересказов энциклопедии никому не нужны, а вам они обошлись бы в сорок потраченных впустую заходов из поиска.

#Ситуация 1: вы выбираете модель

На этом этапе вы читаете названия и описания и пытаетесь понять, что вообще перед вами.

• Что такое параметры модели — что значит 7B и во сколько гигабайт это превращается.
• Что такое веса модели и что такое Hugging Face — какие файлы лежат в репозитории и какие из них нужны.
• Что такое карточка модели — как читать описание и какие пропуски должны насторожить.
• Что такое дистилляция модели — почему Distill-Qwen-7B это Qwen, а не то, что стоит в названии раньше.
• Открытые веса и открытый код: это разные вещи — что на самом деле означает «открытая модель».
• Что такое RLHF — откуда берутся вежливость, многословие и отказы.
• Что такое перплексия — метрика, которую путают с одноимённым поисковым сервисом.
• Что такое трансформер — общее устройство, объясняющее стоимость длинного текста.
• Что такое механизм внимания — и почему середина длинного документа теряется.

Практический критерий выбора собран отдельно, в разборе того, какую модель выбрать.

#Ситуация 2: вы запускаете её у себя

Здесь всё упирается в память и в скорость, и термины ровно об этом.

• Что такое инференс — чем работа модели отличается от её обучения.
• Что такое VRAM и чем отличается от оперативной памяти — почему решает не объём, а скорость чтения.
• Что такое KV-кэш — почему занятая память растёт по ходу разговора.
• Что такое задержка и время до первого токена — два разных вида «медленно» и разные способы их лечить.
• Что такое TOPS и NPU — почему нейропроцессор в ноутбуке не запускает вашу модель.
• Что такое safetensors — от какой конкретной угрозы защищает формат весов.
• Что такое ONNX — где он применяется и почему языковые модели раздают в другом формате.

Пошаговая часть — в руководстве о том, как запустить LLM локально.

#Ситуация 3: вы настраиваете ответы

Модель работает, но отвечает не так, как хотелось бы. Дальше начинаются параметры.

• Что такое токен — единица, в которой считается всё: контекст, скорость, деньги.
• Что такое токенизация — почему один и тот же запрос стоит по-разному у разных моделей.
• Что такое контекстное окно — что именно в него входит, кроме вашего вопроса.
• Что такое температура модели — и почему на нуле модель не становится правдивее.
• Что такое top-p и top-k — два фильтра кандидатов и что будет, если зажать оба.
• Что такое seed и почему ответы не повторяются — условия воспроизводимости и почему облако их не даёт.
• Что такое системный промпт — постоянная инструкция и пять причин, по которым её игнорируют.
• Что такое промпт-инжиниринг — пять приёмов, дающих основной эффект.
• Что такое few-shot и zero-shot — примеры в запросе не являются обучением.
• Что такое цепочка рассуждений — и почему показанные шаги не обязаны быть настоящей причиной ответа.
• Что такое галлюцинация ИИ — почему выдумывание является режимом работы, а не сбоем.

#Ситуация 4: вы разбираетесь с памятью и поиском

Ассистент, который помнит, устроен вокруг поиска по вашему архиву. Термины отсюда.

• Что такое FTS5 — полнотекстовый поиск в SQLite и его проблема с русской морфологией.
• Что такое BM25 — формула ранжирования и почему частые слова не помогают искать.
• Что такое KNN и приближённый поиск соседей — при каком объёме архива индекс не нужен вовсе.
• Что такое косинусная близость — почему высокая близость означает «та же тема», а не «ответ».

Как эти части собираются в работающую память, разобрано в статье о том, как работает память ИИ.

#Ситуация 5: вы работаете с голосом и экраном

Здесь термины идут парами, и половина путаницы — от того, что пары перепутаны местами.

• Что такое мультимодальность — понимать картинку и рисовать картинку это разные модели.
• Что такое OCR — распознавание текста и латинские буквы, ломающие поиск.
• Что такое ASR и TTS — речь в текст и текст в речь, противоположные направления.
• Что такое диаризация — «кто говорил», и почему её ошибка опаснее ошибки распознавания.
• Что такое VAD — детектор речи, отсекающий тишину до сохранения.

#Ситуация 6: вы думаете о безопасности

Актуально с того момента, как у ассистента появляются инструменты и доступ к вашим данным.

• Что такое ограничители поведения модели — четыре уровня, из которых защитой является один.
• Что такое джейлбрейк промпта — что именно ломается при обходе ограничений.
• Что такое промпт-инъекция — инструкция приходит из прочитанного документа, а не от вас.

#Разбор одного названия: где прячутся сразу шесть терминов

Проверить, насколько глоссарий уже уложился в голове, проще всего на строке, которую вы увидите в первый же день. Пусть это будет что-нибудь вида Model-R1-Distill-Qwen-7B-Q4_K_M.gguf, скачиваемое для запуска через Ollama.

• Qwen-7B — базовая модель и число параметров. Семь миллиардов, значит, в 16-битном виде это порядка 15 ГБ, и без сжатия оно не поместится в потребительскую видеокарту.
• R1-Distill — это не R1. Перед вами Qwen, дообученный подражать выходам R1; чем такой дистиллят отличается от оригинала, разобрано отдельно, и разница не косметическая.
• Q4_K_M — уровень квантизации. Отсюда реальный размер файла: около 4,5 ГБ вместо пятнадцати.
• .gguf — формат для локального запуска, устроенный иначе, чем safetensors исходного репозитория.
• То, чего в имени нет: длина контекста. Её задаёт не модель, а настройка движка, и она напрямую превращается в занятую память через KV-кэш.
• Того, чего в имени нет тоже: лицензия. Скачиваемость файла не отвечает на вопрос, можно ли им пользоваться в работе, — об этом справка про открытые веса и открытый код.

Шесть решений, принятых за вас автором названия, и одно — про контекст — которое придётся принять самому. Именно поэтому термины из первых двух ситуаций стоит прочитать раньше остальных: они определяют, запустится ли что-нибудь вообще.

#Сквозная таблица: что чем измеряется

Отдельная причина путаницы — единицы измерения. Одни величины считаются в токенах, другие в гигабайтах, третьи в секундах, и подмена одного другим порождает половину неверных ожиданий.

Из таблицы следует правило, которое экономит много времени: числа из разных строк несравнимы, а числа из одной строки сравнимы только при одинаковых условиях. Токены одной модели не равны токенам другой, оценка близости одного эмбеддера ничего не говорит о пороге для другого, а «сорок токенов в секунду» без указания модели и железа не значит ничего.

#Пять числовых ориентиров, которые стоит помнить наизусть

Термины запоминаются хуже, чем числа, привязанные к ним. Ниже пять величин, к которым сводится большинство практических вопросов. Все они — правила большого пальца, а не константы: точное значение определяется моделью, версией и железом, и проверять его надо у себя.

1. Один токен — примерно четыре символа английского текста. Для русского — заметно меньше, обычно от одного до трёх символов, поэтому та же мысль обходится в полтора-три раза дороже.
2. Размер модели в гигабайтах = параметры × байт на параметр. Два байта на параметр в 16-битном виде, около половины байта при Q4. Отсюда «7B в Q4 — примерно 4,5 ГБ» выводится в уме.
3. К весам добавьте 15–25% на контекст и буферы, и больше при длинном окне. Модель, ровно совпадающая по размеру с объёмом видеопамяти, не запустится целиком.
4. Потолок скорости генерации = пропускная способность памяти ÷ объём активных весов. Формула объясняет, почему одна и та же модель на разном железе работает по-разному, и почему объём памяти не заменяет её скорость.
5. Обработка промпта растёт быстрее его длины, генерация — нет. Поэтому «долгая пауза перед ответом» и «медленный вывод» лечатся разными способами.

Пятый пункт стоит запомнить даже тем, кто пропустит остальные: он один снимает большую часть жалоб на скорость, потому что переводит расплывчатое «тормозит» в проверяемый вопрос «что именно тормозит».

#Три термина, которые чаще всего понимают неверно

Если читать целиком некогда, начните с этих трёх — они дают наибольшую отдачу на единицу прочитанного.

1. Контекст — не память. Окно очищается после каждого запроса; ощущение памяти создаётся тем, что клиент заново отправляет историю. Всё, что вышло за пределы окна и не сохранено отдельно, потеряно.
2. Примеры в промпте — не обучение. После ответа модель не помнит ничего. Файл весов на диске остаётся побайтово тем же.
3. Галлюцинация — не сбой. Модель всегда порождает правдоподобное продолжение; совпадение правдоподобного с верным мы называем ответом, несовпадение — галлюцинацией. Изнутри модели это один и тот же процесс.

#Частые вопросы

#С чего начать, если ни один термин не знаком?

С трёх справок в таком порядке: токен, контекстное окно, параметры модели. Первые две объясняют, в чём вообще всё измеряется, третья — почему модель либо запускается у вас, либо нет.

#Почему термины сгруппированы по ситуациям, а не по алфавиту?

Потому что алфавитный список полезен тому, кто уже знает слово и хочет уточнить определение. Здесь предполагается обратная задача: вы столкнулись с проблемой и не знаете, как называется то, что вам нужно.

#Насколько быстро эти определения устареют?

Сами понятия устойчивы: токены, контекст, внимание, квантизация никуда не денутся. Устареют конкретные значения по умолчанию, названия моделей и требования вендоров — там, где справка их называет, стоит пометка о необходимости проверить актуальность.

#Термины нужны, чтобы пользоваться ассистентом?

Для разговора — нет. Они нужны в трёх случаях: когда вы выбираете модель, когда что-то не работает и когда вы решаете, куда уходят ваши данные. Во всех трёх непонимание термина обходится дороже, чем время на чтение справки.

#Здесь есть не все термины из области. Почему?

Потому что справка пишется только под конкретное заблуждение, которое она снимает. Термин, у которого нет практического следствия для того, кто выбирает или запускает модель, отдельной страницы не получает — иначе получился бы пересказ энциклопедии.

Если после разбора терминов вы хотите увидеть, как всё это собирается в одном инструменте — память, локальная модель и контроль над данными живут вместе в Persona.