一、SenseVoice概述
阿里云通义千问开源了两款语音基座模型 SenseVoice（用于语音识别）和 CosyVoice（用于语音生成）。
SenseVoice 专注于高精度多语言语音识别、情感辨识和音频事件检测，有以下特点：
-
多语言识别：采用超过 40 万小时数据训练，支持超过 50 种语言，识别效果上优于 Whisper 模型
-
富文本识别：具备优秀的情感识别，能够在测试数据上达到和超过目前最佳情感识别模型的效果；支持声音事件检测能力，支持音乐、掌声、笑声、哭声、咳嗽、喷嚏等多种常见人机交互事件进行检测
-
高效推理： SenseVoice-Small 模型采用非自回归端到端框架，推理延迟极低，10s 音频推理仅耗时 70ms，15 倍优于 Whisper-Large
-
微调定制：具备便捷的微调脚本与策略，方便用户根据业务场景修复长尾样本问题
-
服务部署：具有完整的服务部署链路，支持多并发请求，支持的客户端语言有 python、c++、html、java 与 c#等
体验地址：魔搭社区
二、本地测试
1、项目源码克隆
git clone https://gitee.com/zhyqieqie/SenseVoice.git2、安装依赖
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple -r requirements.txt3、测试
vi test.py
test.py内容（加载线上的一个音频文件并且自动解析出文件的文字）：
from model import SenseVoiceSmall
model_dir = "iic/SenseVoiceSmall"
m, kwargs = SenseVoiceSmall.from_pretrained(model=model_dir)
res = m.inference(
data_in="https://isv-data.oss-cn-hangzhou.aliyuncs.com/ics/MaaS/ASR/test_audio/asr_example_zh.wav",
language="auto", # "zn", "en", "yue", "ja", "ko", "nospeech"
use_itn=False,
**kwargs,
)
print(res)python test.py
初次运行的时候，会自动拉取模型文件，下一次运行就会直接加载本地模型文件。
