roofline-capacity-ru
Installation
SKILL.md
Capacity и выкатка
Все task ниже: task -t ${CLAUDE_SKILL_DIR}/../roofline-toolbox/Taskfile.yml <задача> или include этого Taskfile в проектном (task infer:<задача>). Переменные INFER_URL, INFER_PROFILE берутся из окружения, из аргументов (task serve INFER_PROFILE=x) или из inference.env в текущем каталоге.
Входные данные
Без них расчёт недействителен; нет данных, пишем "неизвестно" и просим измерить.
| Параметр | Откуда | Типично для кодовых агентов |
|---|---|---|
| Пользователи одновременно | клиенты, прокси | 5-50 на команду |
| Длина промпта (p50, p95) | task metrics prompt tokens, логи прокси |
10k-60k, системный промпт стабилен |
| Длина ответа | там же | 200-2000 токенов, с thinking больше |
| Запросов на действие пользователя | клиент | агент делает 5-30 вызовов на задачу |
| SLO | договор с командой | TTFT p95 2 с, TPOT p95 50 мс |
| Модель и качество | evals, smoke-toolcall | наименьшая модель, проходящая evals |
| GPU | task gpu |
тип, число, NVLink между ними |