Gemma 4 12B 本地部署

目标：把 Gemma 4 12B 的 GGUF 版本部署成本机模型服务。默认用 llama.cpp / llama-server + Apple Metal + Q4_K_M + tmux 暴露 OpenAI-compatible API；用户明确要 QAT、256K 或对比演示时，切到 QAT Q4_0 profile；用户明确要 Ollama 时，再走 Ollama 导入路径。

默认选择

• 默认模型仓库：ggml-org/gemma-4-12B-it-GGUF
• 默认量化：Q4_K_M
• 默认模型名：gemma-4-12b-it
• 默认端口：127.0.0.1:8080
• 默认上下文：32768
• 12B 长上下文：用户明确要求更大上下文时，可改为 65536 或原生最高 131072
• QAT 仓库：google/gemma-4-12B-it-qat-q4_0-gguf
• QAT 量化：Q4_0，文件名通常是 gemma-4-12b-it-qat-q4_0.gguf
• QAT 上下文：用户要求 QAT、最大上下文或 256K 时，用 262144
• 默认后台方式：tmux 会话 gemma4-12b
• 默认关闭 thinking：--reasoning off，避免 OpenAI API 的 message.content 为空
• Ollama 路径：只在用户明确要 Ollama、需要接 Ollama 生态，或询问 ollama pull gemma4:12b 时使用