Тег
#локальные модели
Статьи блога Persona с тегом «локальные модели» — 26 материалов.
Статей с тегом: 26 · страница 1 из 2
Почему компании запрещают ChatGPT и что делать сотруднику
Запрет редко означает «руководство не разбирается». За ним обычно стоят четыре конкретные причины. Разбираем их по одной и предлагаем три легальных сценария вместо теневого использования с личного телефона.
СравненияPersona против Jan: когда открытая лицензия важнее функций
Jan под Apache-2.0 закрывает вопрос доверия к коду, который Persona не закрывает вовсе: наш репозиторий закрыт и публичной лицензии в нём нет. Разбираем, кому что подойдёт, и не делаем вид, что этот проигрыш можно чем-то компенсировать.
СравненияPersona против LM Studio: запускалка моделей и ассистент — разные задачи
LM Studio удобнее всего для подбора и сравнения моделей и не претендует на память о пользователе. Разбираем три сценария, где выбор очевиден, и признаём: интерфейс работы с моделями у него сильнее нашего, а лицензии закрыты у обоих.
СравненияPersona против голой Ollama: девять задач, которые придётся решить самому
Ollama под MIT запускает модель — и на этом её задача заканчивается. Перечисляем девять вещей, которые придётся собрать поверх неё, чтобы получить ассистента с памятью, и честно оцениваем, кому эта сборка выгоднее готового продукта.
ТехнологииАгенты на маленькой локальной модели: где предел
Компактные модели плохо соблюдают формат вызова инструментов и разваливаются на третьем-четвёртом шаге цепочки. Разбираем причины по отдельности и приёмы упрощения задач.
Своя модельМодели DeepSeek: сильные рассуждения за небольшие деньги
Облачный DeepSeek и локальные модели с тем же именем — разные вещи. Разбираем, что такое дистилляции, чего они не наследуют и когда какой вариант оправдан.
Своя модельМодели Gemma: компактные и с оговорками в условиях
Gemma раздаётся открыто, но не по открытой лицензии: у неё собственные условия использования. Разбираем размеры, сильные и слабые стороны, а также что вы принимаете при загрузке.
Своя модельHermes 3 и Hermes 4: чем отличаются поколения
Сравнение поколений по прикладным свойствам для агентов: соблюдение формата вызова инструментов и следование системному промпту. Спорные детали помечены как требующие проверки.
ГайдыJan: открытая альтернатива LM Studio для локальных моделей
Настройка Jan по шагам и честная таблица того, что есть в LM Studio и чего в Jan пока нет — чтобы выбор в пользу открытости был осознанным, а не разочаровывающим.
Своя модельКакую модель выбрать под свою задачу и своё железо
Выбор модели решается в два шага: сначала железо отсекает почти всё, потом ваши собственные задачи выбирают из остатка. Разбираем оба шага без единого рейтинга.
ГайдыМодель отвечает плохо: когда виновата не модель
Прежде чем качать другую модель, проверьте шаблон чата, длину контекста, температуру и системный промпт. В большинстве случаев причина там, и смена модели ничего не даст.
ТехнологииКвантизация LLM: чем отличаются Q4 Q5 Q8 и что терять не жалко
Квантизация — обмен качества модели на память. Разбираем уровни от Q8 до Q2, показываем, где проходит точка перелома, и почему Q4_K_M стал практическим стандартом.
Своя модельМодели Llama: что осталось актуальным и чем ограничена лицензия
Llama раздают свободно, но не под свободной лицензией. Разбираем поколения, реальные сильные стороны и те пункты условий, которые бьют по коммерческому применению.
ГайдыLLM на видеокартах AMD: ROCm Vulkan и реальность
Три разных бэкенда для Radeon — ROCm, Vulkan и молчаливый откат на процессор, — таблица поддержки по поколениям карт и порядок диагностики, объясняющий, почему у соседа заработало.
ГайдыLM Studio: локальные модели для тех кто не хочет терминал
Пошаговая настройка LM Studio, разбор вкладки параметров загрузки модели и честная заметка о том, что это закрытое приложение со своими условиями использования.
Своя модельМодели Mistral и Mixtral: европейская линейка на практике
Mistral редко возглавляет рейтинги, и берут его не за это. Разбираем линейку, разницу между Apache-версиями и исследовательскими, сильные и слабые задачи.
ГайдыКак выбрать модель для русского языка
Четыре проверочных промпта на падежи, аббревиатуры, канцелярит и транслитерацию отсеивают модели за полчаса — быстрее и точнее любого англоязычного рейтинга.
Своя модельМодели для слабого железа: таблица по объёму памяти
Таблица построена от железа, а не от моделей: найдите строку со своим объёмом памяти и получите короткий список классов моделей и честное описание того, чего ждать.
Своя модельМодели на 12-14 миллиардов: шаг вверх и его цена
Переход с восьмимиллиардной модели на четырнадцатимиллиардную даёт связность длинных ответов и стоит скорости. Разбираем, где прирост заметен, а где его нет вовсе.
Своя модельМодели от 30 миллиардов дома: что нужно и что получите
Верхняя граница домашнего запуска: какие конфигурации памяти держат 30B и 70B и почему большая модель с выгрузкой в ОЗУ часто проигрывает меньшей по полезности.
Своя модельМодели на 7-8 миллиардов: рабочая лошадь домашнего ИИ
Класс 7–8B стал стандартом не из-за науки, а потому что влезает в массовые 8 ГБ видеопамяти. Разбираем кандидатов по семействам и границы возможностей размера.
Своя модельМодели Nous Hermes: что это за семейство весов
Nous Hermes — это дообучения поверх чужих базовых моделей, а не самостоятельные модели. Разбираем, что отсюда следует для лицензии, для железа и для выбора.
Своя модельМодели Phi: маленькие но обученные на отобранных данных
Phi — семейство компактных моделей Microsoft, обученных на отобранных и синтетических данных. Разбираем, откуда берутся высокие баллы и где эта ставка не срабатывает.
Своя модельМодели Qwen: линейка размеры и для чего они хороши
У семейства Qwen есть вариант почти под любой объём видеопамяти. Разбираем размерную сетку, сильную мультиязычность, слабые места и неоднородность лицензий.
На этой странице совпадений нет
Живой фильтр ищет только по загруженным карточкам. Нажмите «Найти», чтобы искать по всему блогу.