开源语音基础设施

FunASR

可私有化部署的语音智能基础设施。覆盖 GPU 高吞吐、实时流式服务、OpenAI 兼容 API，以及 CPU 与边缘独立运行。

选择部署方案

5 分钟验证

许可: Apache-2.0
接口: OpenAI compatible
验证日期: 2026-08-13

部署选择器

从工作负载开始，不从框架名开始

选择业务形态、硬件和首要目标，得到一条有明确限制的推荐路径。

推荐路径

首要限制

查看部署步骤

完整矩阵

无 JavaScript 也能完成选择

方案	工作负载	硬件	接口	状态
vLLM 原生 FunASR 服务	batch / private-api	nvidia-gpu / kubernetes	OpenAI-compatible HTTP	社区验证
SenseVoice TensorRT / Triton	batch / private-api	nvidia-gpu / kubernetes	Triton gRPC/HTTP / TensorRT plan	生产验证
llama.cpp / GGUF 独立运行	edge / batch	cpu / desktop-edge-gpu	CLI / local HTTP server	生产验证
SenseVoice 原生 OpenAI 实时服务	private-api / realtime / edge	cpu / nvidia-gpu	OpenAI-compatible HTTP / OpenAI realtime WebSocket	生产验证
audio.cpp 原生 Fun-ASR-Nano 与 SenseVoice	edge / batch / private-api	cpu / nvidia-gpu / desktop-edge-gpu	CLI / OpenAI-compatible HTTP	社区验证
OpenAI 兼容私有 API	private-api / batch	cpu / nvidia-gpu / kubernetes	OpenAI-compatible HTTP / OpenAPI	生产验证
实时流式与字幕	realtime	cpu / nvidia-gpu / kubernetes	WebSocket / Python client	社区验证
容器与 Kubernetes	private-api / batch / realtime	kubernetes / cpu / nvidia-gpu	Docker Compose / Kubernetes ClusterIP	社区验证
ONNX / C++ CPU 运行时	batch / realtime / edge	cpu	C++ / ONNX Runtime	社区验证
生产上线检查	private-api / batch / realtime / edge	cpu / nvidia-gpu / desktop-edge-gpu / kubernetes	HTTP / WebSocket	生产验证

可验证接口

先验证服务，再接入客户端

健康、模型身份和真实转写是三个独立检查。

localhost:8000

$ curl -fsS http://localhost:8000/health
{"status":"ok"}

$ curl -fsS http://localhost:8000/v1/models
{"data":[{"id":"sensevoice"}]}

$ curl http://localhost:8000/v1/audio/transcriptions \
  -F file=@meeting.wav -F model=sensevoice