/ TOKEN WIKI
Общая пропускная способность системы
Пропускная способность/Пропускная способность Пропускная способность
пойми в одном предложении
Почему
— это количество запросов или токенов, обработанных за определенный период времени. Необходимо объяснить статистические объекты и условия испытаний.
важен для бизнеса?
и скорость генерации одного пользователя — это не одни и те же показатели. Более высокая совокупная пропускная способность может сопровождаться более длительным временем ожидания.
?
одновременно сообщает о параллелизме, длине ввода и вывода, частоте успешных операций и квантилях задержки, чтобы избежать некорректных сравнений.
Вопросы и ответы
Token/s — это отдельный запрос или индикатор всей машины?
Оба варианта возможны, сначала необходимо подтвердить тестовый калибр.
