#экономия памяти

Flash Attention и квантизация KV-кэша: как выиграть память

Две настройки, дающие самый большой выигрыш видеопамяти при почти нулевой потере качества. Точные флаги для llama.cpp и Ollama и расчёт экономии по четырём связкам.