minicpmvocr-sdk

Installation
SKILL.md

MiniCPM-OCR 1.0 部署

SDK(minicpmvocr)负责版面检测(PP-DocLayoutV3)、切块、拼接和并发调度,通过 HTTP 调用推理服务。SDK 和推理服务装在不同的 venv 里。

1. 确定方案

先问清用户用哪个推理后端、SDK 与服务是否在同一台机器。用户没有偏好时用默认方案。

用户目标 环境
解析文档(默认) sdk-env + vllm-ocr-env,DSpark 加速版
不想编译 vLLM sdk-env + tf-ocr-env
已有 llama.cpp / OpenAI 兼容服务 只装 sdk-env
vLLM 与 transformers 双端逐字验证 两个推理环境,或合并的 ocr-env(见第 7 节)
  • 推理环境只装一个,除非用户要做双端验证。
  • sdk-env 不能和 torch / vLLM 装在一起,否则 numpy、opencv 版本冲突。
  • SDK 可以在没有 GPU 的机器上运行,用 --server-url 或 SSH 隧道连接远程服务。
Installs
1
GitHub Stars
13
First Seen
8 days ago