minicpmvocr-sdk
Installation
SKILL.md
MiniCPM-OCR 1.0 部署
SDK(minicpmvocr)负责版面检测(PP-DocLayoutV3)、切块、拼接和并发调度,通过 HTTP 调用推理服务。SDK 和推理服务装在不同的 venv 里。
1. 确定方案
先问清用户用哪个推理后端、SDK 与服务是否在同一台机器。用户没有偏好时用默认方案。
| 用户目标 | 环境 |
|---|---|
| 解析文档(默认) | sdk-env + vllm-ocr-env,DSpark 加速版 |
| 不想编译 vLLM | sdk-env + tf-ocr-env |
| 已有 llama.cpp / OpenAI 兼容服务 | 只装 sdk-env |
| vLLM 与 transformers 双端逐字验证 | 两个推理环境,或合并的 ocr-env(见第 7 节) |
- 推理环境只装一个,除非用户要做双端验证。
sdk-env不能和 torch / vLLM 装在一起,否则 numpy、opencv 版本冲突。- SDK 可以在没有 GPU 的机器上运行,用
--server-url或 SSH 隧道连接远程服务。