Карточка модели — файл README.md в репозитории с весами. Формально это обычное описание, фактически — документ с устоявшимся набором разделов, и читать его нужно как анкету: не «что тут написано интересного», а «какие поля заполнены, а какие пропущены».
Пропуски информативнее содержания.
#Чек-лист: что должно быть
- Базовая модель, если это дообученная версия. Без неё вы не знаете, что именно запускаете.
- Размер и архитектура — число параметров, число слоёв, тип модели.
- Длина контекста — заявленная, и желательно с оговоркой о рабочей.
- Шаблон чата — как оформляются роли. Без него модель будет продолжать ваш вопрос вместо ответа.
- Языки — на каких обучалась и на каких проверялась. Это разные списки.
- Назначение и ограничения — для чего сделана и где заведомо плоха.
- Лицензия — с текстом или ссылкой, а не одним словом.
- Дата или версия — иначе неизвестно, к какому поколению относить.
- Оценки качества — с указанием набора тестов, версии и настроек прогона.
Все девять пунктов сразу закрыты редко. Нормальной считайте карточку, где заполнены первые семь; если пропущен любой из первых четырёх, вы работаете вслепую.
#Признаки, по которым карточку стоит читать с недоверием
| Признак | Что он означает |
|---|---|
| Не названа базовая модель у дообученной версии | происхождение скрыто или автор сам не помнит |
| Таблица бенчмарков без указания набора и настроек | числа невоспроизводимы |
| «License: other» без текста лицензии | использовать юридически рискованно |
| Не указан шаблон чата | придётся угадывать, и ответы будут странными |
| Описание состоит из превосходных степеней | маркетинг вместо документации |
| Нет ни даты, ни номера версии | непонятно, что обновилось и когда |
Особенно внимательно смотрите на строку про лицензию: доступность весов не означает разрешения использовать их в работе — тема разобрана в тексте про лицензии открытых моделей.
#Где путают
Заблуждение первое, ключевое: карточка — это независимая документация. Её пишет автор модели, и никто её не проверяет: это заявление стороны, а не протокол испытаний. Относиться к ней надо как к описанию товара продавцом.
Заблуждение второе: раз в карточке есть таблица бенчмарков, модель протестирована. Опубликованные числа получены авторами на своих прогонах, и разброс между реализациями одного и того же теста бывает существенным. Как читать такие таблицы — в разборе того, как читать бенчмарки LLM.
Заблуждение третье: карточка квантованной сборки описывает модель. Часто она описывает только процесс квантизации, а остальное скопировано из исходного репозитория, иногда вместе с устаревшими сведениями. Оригинал стоит открыть отдельно — как устроен репозиторий модели, разобрано в справке про веса модели и Hugging Face.
#Частые вопросы
#На что смотреть в первую очередь при выборе модели?
На три поля: базовая модель, шаблон чата и лицензия. Первое говорит, что вы запускаете, второе — заработает ли оно как собеседник, третье — можно ли этим пользоваться в вашем сценарии. Остальные критерии выбора — в разборе того, какую модель выбрать.
#Что делать, если шаблон чата не указан?
Посмотреть tokenizer_config.json в репозитории: шаблон обычно лежит там в машиночитаемом виде, даже когда в описании о нём забыли. Если и там пусто, а базовая модель известна — берите шаблон базовой.
#Насколько можно доверять заявленной длине контекста?
Как заявленному максимуму — можно, как рабочей длине — не всегда. Модель принимает объявленное число токенов, но качество работы с серединой окна проверяйте сами.
#Есть ли смысл читать карточку, если модель ставится одной командой?
Есть — ради двух вещей: языков, на которых модель проверялась, и объявленных ограничений. Команда установки скрывает и то, и другое.
Остальные термины — в глоссарии терминов ИИ.