Рубрика
Своя модель
Все статьи блога Persona в категории «Своя модель»: 44 материалов о личном ИИ, памяти, приватности и локальных моделях.
Статей в рубрике: 44 · страница 2 из 2
Модели Llama: что осталось актуальным и чем ограничена лицензия
Llama раздают свободно, но не под свободной лицензией. Разбираем поколения, реальные сильные стороны и те пункты условий, которые бьют по коммерческому применению.
Своя модельLLM на ноутбуке без видеокарты: что реально работает
Расчёт потолка скорости по пропускной способности памяти для четырёх классов моделей, порог, ниже которого пользоваться невозможно, и что делать с интегрированной графикой.
Своя модельМодель не влезает в память: шесть вариантов по убыванию боли
Решения выстроены по цене для качества: сначала бесплатные — контекст и квантизация кэша, потом дешёвые, и только в конце смена модели. С оценкой потери на каждой ступени.
Своя модельЛокальная модель тормозит: порядок диагностики
Не список советов, а дерево из семи узлов: каждая ветка отсекает половину гипотез одним замером, и к пятому шагу причина обычно уже названа.
Своя модельМодели Mistral и Mixtral: европейская линейка на практике
Mistral редко возглавляет рейтинги, и берут его не за это. Разбираем линейку, разницу между Apache-версиями и исследовательскими, сильные и слабые задачи.
Своя модельМодели для слабого железа: таблица по объёму памяти
Таблица построена от железа, а не от моделей: найдите строку со своим объёмом памяти и получите короткий список классов моделей и честное описание того, чего ждать.
Своя модельМодели на 12-14 миллиардов: шаг вверх и его цена
Переход с восьмимиллиардной модели на четырнадцатимиллиардную даёт связность длинных ответов и стоит скорости. Разбираем, где прирост заметен, а где его нет вовсе.
Своя модельМодели от 30 миллиардов дома: что нужно и что получите
Верхняя граница домашнего запуска: какие конфигурации памяти держат 30B и 70B и почему большая модель с выгрузкой в ОЗУ часто проигрывает меньшей по полезности.
Своя модельМодели на 7-8 миллиардов: рабочая лошадь домашнего ИИ
Класс 7–8B стал стандартом не из-за науки, а потому что влезает в массовые 8 ГБ видеопамяти. Разбираем кандидатов по семействам и границы возможностей размера.
Своя модельМодели для кода: что реально помогает а что мешает
Под запросом «модель для кода» скрыты две несовместимые задачи: дополнение в редакторе и разговор об архитектуре. Разбираем требования каждой и цену их смешивания.
Своя модельМодели Nous Hermes: что это за семейство весов
Nous Hermes — это дообучения поверх чужих базовых моделей, а не самостоятельные модели. Разбираем, что отсюда следует для лицензии, для железа и для выбора.
Своя модельМодели Phi: маленькие но обученные на отобранных данных
Phi — семейство компактных моделей Microsoft, обученных на отобранных и синтетических данных. Разбираем, откуда берутся высокие баллы и где эта ставка не срабатывает.
Своя модельМодели Qwen: линейка размеры и для чего они хороши
У семейства Qwen есть вариант почти под любой объём видеопамяти. Разбираем размерную сетку, сильную мультиязычность, слабые места и неоднородность лицензий.
Своя модельRTX 3060 12 ГБ для локальных моделей: что влезает
Разбор эталонной бюджетной карты: таблица влезает-не влезает по связкам модель, квантизация и контекст, сильные и слабые стороны, и когда 12 гигабайт перестают хватать.
Своя модельОткрытые русскоязычные модели: T-lite Вихрь и другие
Дообученные под русский открытые веса — это надстройки над чужими базовыми моделями. Разбираем, что даёт дообучение, чего оно не даёт и откуда берётся лицензия.
Своя модельМодели которые видят картинки локально
Vision-модель кажется очевидной заменой OCR, когда тот не справился. Разбираем, где она действительно выручает, где проигрывает Tesseract и почему выдумывает текст.
Своя модельYandexGPT и GigaChat: что дают российские модели
Российские модели выбирают не по месту в мировом рейтинге, а по двум причинам: карта проходит оплату и данные обрабатываются внутри страны. Разбираем, что это даёт и чего стоит.
Своя модельСвоя модель ИИ: как дообучить нейросеть под себя (LoRA и датасет)
Честный разбор: что такое fine-tune и LoRA простыми словами, какой датасет реально нужен, на каком железе обучать и какой результат ждать от своей локальной модели.
Своя модельOllama: как запустить ИИ-модель локально на своём компьютере
Практический гайд по Ollama: установка на Windows, macOS и Linux, выбор модели под VRAM, базовые команды pull/run/list, настройка контекста и решение типичных проблем — чтобы запустить ИИ локально за несколько минут.
Своя модельКак собрать датасет для дообучения ИИ из своих оценок
Качественный датасет важнее объёма. Разбираем, как лайки, дизлайки и выделенные фрагменты превращаются в обучающие пары для своей модели — и где этот подход даёт сбой.
На этой странице совпадений нет
Живой фильтр ищет только по загруженным карточкам. Нажмите «Найти», чтобы искать по всему блогу.