参考音频注册一次，后续只传 speakerId + text；非空 prompt 可临时覆盖 Speaker 的默认画像。

CosyVoice3Pro 是社区服务化增强版，并非 FunAudioLLM 官方发行版。

_{真实服务演示：选择 Speaker → 设置画像与文本 → SSE 边生成边播 → 查看耗时并下载}

系统 RTF 与官方口径一致：整组墙钟时间 / 全部输出音频总时长。

同一硬件、模型、Engine、业务链路和请求，仅改变服务 Profile：

系统 RTF 降低 15.8%，音频吞吐提升 18.8%。第一行是同链路复现， 不是官方发布的 A100 数字。

来自 官方 CosyVoice3 Triton 文档：

官方未发布 A100 结果；L20 流式/离线工作负载与 Pro 的 A100 端到端 HTTP 测试不同，不直接比较倍数。

新增官方兼容评测器：相同 seed_tts_cosy2/wenetspeech4tts 数据、原始参考 音频、10 秒 padding、每任务一条持久 gRPC stream 和相同 TTFA 边界。

streaming Profile 在 registered Speaker 并发 16 A/B 中将 TTFA 平均降低 16.2%、P95 降低 28.2%。Public SSE 默认允许 16 路并发，提供排队 超时和断连清理；24 路客户端在首包前断开后，FFmpeg 残留进程为 0。 官方数据来自 L20，Pro 实测来自共享 A100，不能据此宣称跨硬件软件倍数。

完整变量、口径和复现命令见性能基准文档。 Flow/Vocoder 动态 Batch 已提供实验开关；A100 默认仍采用实测更快、更省显存 的静态 Batch 1，并按流式负载配置 2 个 Flow / 4 个 Vocoder 实例。

 Browser / SDK / curl
          │
          │ :18000
          ▼
 ┌─────────────────────────────────────────────┐
 │          CosyVoice3Pro Gateway              │
 │                                             │
 │ Public API                                  │
 │ /health · /register · /speakers             │
 │ /tts/ · /tts/stream (SSE)                   │
 │       ▲                                     │
 │       └──────── Web Admin 使用同一组 API     │
 │                                             │
 │ Advanced API                                │
 │ /v2/* ───────────────► Triton HTTP :18100   │
 └──────────────────────────┬──────────────────┘
                            ├── CosyVoice3Pro
                            ├── CosyVoice3ProStreaming
                            ├── Speaker Registry
                            └── upstream cosyvoice3

 gRPC :18001 · Metrics :18002

18100 仅供容器内部 Gateway 访问。业务开发优先使用 Public API；模型 调试和平台运维才需要 Advanced API。

Flow 接收目标语音 Token、对齐后参考语音 Token、参考 Mel 和说话人 Embedding 四个核心条件。点击图片可查看张量级说明和流式调度边界。

要求 Linux、Docker、NVIDIA Driver、NVIDIA Container Runtime 与 CUDA GPU。首次安装需要下载源码、镜像和模型。

git clone https://github.com/QuadraV-Speech/CosyVoice3Pro.git
cd CosyVoice3Pro
COSYVOICE_GPU_ID=0 bash manage.sh install

curl --fail-with-body http://127.0.0.1:18000/health

Web 工作台：http://服务器IP:18000/

curl --fail-with-body \
  -X POST "http://127.0.0.1:18000/register" \
  -H "Content-Type: application/json" \
  -d '{
    "speakerId": "narrator_01",
    "audio_url": "https://example.com/reference.mp3",
    "reference_text": "这是参考音频中实际说出的内容。",
    "prompt": "请用成熟、稳重、亲切的语气说话。"
  }'

也支持 multipart/form-data 文件上传。

curl --fail-with-body \
  -X POST "http://127.0.0.1:18000/tts/" \
  -F "text=你好，这是 CosyVoice3Pro 统一语音接口。" \
  -F "speakerId=common_speaker_1" \
  -F "prompt=请用成熟、稳重、亲切的语气说话。" \
  -F "speed=balanced" \
  -F "volume=middle" \
  -F "output_format=mp3" \
  --output output.mp3

不传或传空 prompt 使用 Speaker 默认画像；非空值仅覆盖本次请求。 /tts/ 也支持内置声音和直接上传 prompt_audio。更多 curl 见 对外 API 文档。

curl --fail-with-body -N --no-buffer \
  -X POST "http://127.0.0.1:18000/tts/stream" \
  -F "text=你好，这段声音会边生成边返回。" \
  -F "speakerId=common_speaker_1" \
  -F "prompt=请自然、清晰地说话。"

返回 meta → audio × N → done 事件；audio 是 16kHz 单声道 Base64 PCM。网页会实时解码播放，完整的 curl + ffplay 示例见 SSE 接口文档。

bash manage.sh start
bash manage.sh stop
bash manage.sh restart
bash manage.sh status
bash manage.sh logs
bash manage.sh backup

Speaker 默认保存在 data/speakers/；bash manage.sh backup 可手动备份。 性能 Profile、环境变量和高级运维见部署文档。

高级接口继续保留：Triton HTTP /v2/*、gRPC 18001、Metrics 18002。

服务默认不含应用层认证。公网部署请在反向代理或负载均衡层增加 TLS、 鉴权、限流、来源限制，并独立备份 Speaker 数据。

• 对外开发者 API
• 内部 Triton 高级 API
• 性能基准与复现
• 高并发流式推理优化技术报告
• Web Gateway 部署与运维
• 版本变更记录
• 安全策略

CosyVoice3Pro 的原创代码与文档使用 Apache License 2.0，归属声明见 NOTICE。

模型权重、基础镜像、CosyVoice、NVIDIA Triton、TensorRT-LLM 及其他上游 组件不因本仓库许可证而重新授权，仍分别受其原始许可证和使用条款约束。

欢迎提交 Bug、文档改进、GPU 兼容性结果、Benchmark 数据和 Pull Request。 提交前请阅读 贡献指南。仓库已经提供结构化 Bug/Feature 模板，界面变化请附截图，性能变化请附可复现命令和前后数据。

CosyVoice3Pro 基于 FunAudioLLM/CosyVoice、 NVIDIA Triton Inference Server 与 TensorRT-LLM 构建。

模型权重、基础镜像及上游组件分别受其原始许可证和使用条款约束。