ai-cli-benchmark
Installation
SKILL.md
AI CLI Benchmark
When to Use
- Copilot CLI、Codex CLI、直接 API の速度・token・費用を比較する。
- prompt cache の read / write を区別し、cache-offを主張できるか確認する。
- fresh process、temporary home、instruction/tool isolationを揃えた再現可能なbenchmarkを作る。
過去sessionの事後分析だけなら対象外。このskillは比較条件の設計、実行、証拠化を担当する。
Cache Boundaries
- Copilot CLI / Codex CLIには、provider側model prompt cacheを無効化する公開optionがない。fresh process、一時home、ephemeral、nonceでも
cache offと呼ばない。 COPILOT_CACHE_HOMEはMarketplace、自動更新packageなどのローカル一時データ用。COPILOT_MCP_TOOL_CACHEはローカルMCP serverのtool-list snapshot用。model prompt cacheではない。- OpenAI prompt cacheは手動消去できない。GPT-5.6以降をResponses APIから直接呼ぶ場合だけ、explicit-only modeでbreakpointを置かず、そのrequestのcache writeを避けられる。CLIへ推測適用しない。
- nonceはuser prompt全体の一致を避ける補助であり、その前のhidden system / agent prefixのcache readを防がない。