#конвертация

Конвертация дообученной модели в GGUF и запуск локально

Последний разрыв маршрута: от папки с весами после обучения до модели, которая отвечает в вашем ассистенте. Команды конвертации и квантизации, Modelfile и проверка результата.