llm-deploy
Installation
SKILL.md
🚀 LLM 部署技能
在 GPU 服务器上快速部署 vLLM 模型服务。
✨ 功能特点
- 🖥️ 多服务器支持 - 配置多个 GPU 服务器,灵活选择
- 🔍 自动检查 - 一键检查 GPU 状态和端口占用
- 🤖 模型库 - 预置流行模型配置
- ⚡ 快速部署 - 简单命令即可启动服务
📋 快速开始
1. 配置服务器
创建 ~/.config/llm-deploy/servers.json:
在 GPU 服务器上快速部署 vLLM 模型服务。
创建 ~/.config/llm-deploy/servers.json: