Persona

Тег

#ttft

Статьи блога Persona с тегом «ttft» — 2 материалов.

Статей с тегом: 2

Технологии

Что такое задержка и время до первого токена

«Медленно» — это два разных симптома: долгая пауза перед ответом и медленный вывод. Причины у них разные, лечатся они по-разному, и мерить их надо отдельно.

4 мин обновлено 26 августа 2026 Технологии

Сколько токенов в секунду это нормально

Шкала из четырёх диапазонов, привязанная к скорости человеческой речи и чтения, плюс разделение двух величин, которые обычно путают: задержки до первого токена и скорости генерации.

6 мин обновлено 25 августа 2026