#nginx

Обратный прокси перед ИИ-сервисом: nginx или Caddy

Две настройки по умолчанию ломают именно ИИ-приложения: буферизация убивает потоковый ответ, короткий таймаут рвёт долгую генерацию. Готовые конфигурации для обоих серверов и способ проверить, что поток действительно течёт.