Whisper

Whisper 是一种通用语音识别模型。它是在大量不同音频数据集上进行训练的，也是一个多任务模型，可以执行多语言语音识别、语音翻译和语言识别。官方地址 https://github.com/openai/whisper

方法

一个Transformer序列到序列模型被训练在多种语音处理任务上，包括多语言语音识别、语音翻译、口语语言识别以及语音活动检测。这些任务被共同表示为一系列由解码器预测的令牌，使得单一模型能够替代传统语音处理管道中的多个阶段。多任务训练格式采用了一组特殊令牌，作为任务指定符或分类目标。

设置

Whisper使用Python 3.9.9和PyTorch 1.10.1来训练和测试我们的模型，但代码库预期与Python 3.8至3.11版本及近期的PyTorch版本兼容。该代码库还依赖于几个Python包，特别是OpenAI的tiktoken，用于其快速的分词器实现。你可以使用以下命令下载并安装（或更新至）Whisper的最新版本：

pip install -U openai-whisper

或者，以下命令将从这个仓库拉取并安装最新的提交，以及它的Python依赖项：