GPT-SoVITS项目的API改良与使用

news2024/11/17 13:52:57

GPT-SoVITS是一个非常棒的少样本中文声音克隆项目,之前有一篇文章详细介绍过如何部署和训练自己的模型,并使用该模型在web界面中合成声音,可惜它自带的 api 在调用方面支持比较差,比如不能中英混合、无法按标点切分句子等,因此对原版api做了修改,详细使用说明如下。

修改后代码开源地址:github.com/jianchang51…

代码下载地址 github.com/jianchang51…

api2.py 使用示例

下载解压 github.com/jianchang51… ,将 api2.py 复制到GPT-SoVITS软件目录下,执行命令同自带api.py一样,只需要将名字 api.py 改成 api2.py。默认端口也是 9880,默认绑定 127.0.0.1

效果音频,听听这是谁


启动默认模型并指定默认参考音频 -dr -dt -dl

假设参考音频要使用根目录下的 123.wav ,音频文字是 “一二三四五六七。” ,音频语言是中文,那么命令如下:

.\runtime\python api2.py -dr "123.wav" -dt "一二三四五六七。" -dl "zh"

image.png

Linux下命令去掉 .\runtime 即可

如上述命令这样在启动后,指定的参考音频将作为默认配置,在api请求数据中未指定参考音频时,将使用。

启动默认模型并指定ip地址和端口 -a -p

假设要指定绑定内网ip 192.168.0.120 ,端口要使用 9001,不指定默认参考音频,那么执行如下命令:

.\runtime\python api2.py -a "127.0.0.1" -p 9001

image.png

启动自己训练好的模型 -s -g

在指定自己的模型时,必须确保同时指定参考音频

训练好的模型可分别在软件目录下的 GPT_weightsSoVITS_weights 目录下寻找,以你训练时命名的模型名称开头,后跟e数字最大的那个即可。

.\runtime\python api2.py -s "SoVITS_weights/你的模型名" -g "GPT_weights/你的模型名" -dr "参考音频路径和名称" -dt "参考音频的文字内容,使用双引号括起来,确保文字内容里没有双引号" -dl zh|ja|en三者选一

image.png

强制在CPU上推理 -d cpu

默认将优先使用 CUDA 或 mps(Mac), 如果你想指定在CPU上运行,可以通过 -d cpu 指定

.\runtime\python api2.py -d cpu

注意 -d 后只能是 cpu 或 cuda 或 mps,并且只有在正确配置 cuda 后才能指定 cuda,只有Apple CPU Mac上才能指定 mps

全部按照默认运行

.\runtime\python api2.py

这种方式将使用默认模型,并且在 api 请求时必须指定参考音频、参考音频文字内容、参考音频语言代码,api 监听 9880 端口

可使用的语言代码 zh ja en

仅支持 中文、日语、英语 三种语言,对应只可使用 zh(代表中文或中英混合)ja(代表日语或日英混合)en(代表英语),使用 -dl 指定,如 -dl zh,-dl ja,-dl en

参考音频路径 -dr

参考音频填写以软件根目录为起点的相对目录,假如你的参考音频是直接放在软件根目录下,那么只需要填写带后缀的完整名字即可,比如 -dr 123.wav,如果是在子目录下,比如在 wavs 文件夹下,那么填写 -dr "wavs/123.wav"

参考音频的文字内容 -dt

参考音频的文字内容就是音频里的说话文字,需要正确填写标点符号,并使用英文双引号括起来。请注意,文字中不要再有英文双引号。

-dt "这里填写参考音频的文字内容,不要含有英文双引号"

image.png

可用的命令行参数:

模型相关参数

-s SoVITS模型路径, 默认模型无需填写,自训练模型在 SoVITS_weights 目录下

-g GPT模型路径, 默认模型无需填写,自训练模型在 GPT_weights 目录下

参考音频相关参数

-dr 默认参考音频路径,如果在根目录下,直接填写带后缀名字,否则加上 路径/名字

-dt 默认参考音频文本,音频的文字内容,以英文双引号括起来

-dl 默认参考音频内容的语种, “zh"或"en"或"ja”

设备和地址相关参数

-d 推理设备, “cuda”,“cpu”,“mps” 只有配置好了cuda环境才可指定cuda,只有Apple CPU上才可指定mps

-a 绑定地址, 默认"127.0.0.1"

-p 绑定端口, 默认9880

不常用参数,新手可忽略不必设置

-fp 使用全精度

-hp 使用半精度

-hb cnhubert路径

-b bert路径

API调用示例:

调用地址url: http://你指定的ip:指定的端口,默认是 http://127.0.0.1:9880

调用时不指定参考音频

启动 api2.py 时必须指定默认参考音频,才可在调用api时不指定,否则将报错:

GET方式调用,可直接浏览器中打开:

http://127.0.0.1:9880?text=亲爱的朋友你好啊,希望你的每一天都充满快乐。&text_language=zh

image.png

POST方式调用,以json格式传参:

json
复制代码
{
    "text": "先帝创业未半而中道崩殂,今天下三分,益州疲弊,此诚危急存亡之秋也。",
    "text_language": "zh"
}

image.png

手动指定当次所使用的参考音频:

GET方式:

http://127.0.0.1:9880?refer_wav_path=wavs/5.wav&prompt_text=为什么御弟哥哥,甘愿守孤灯。&prompt_language=zh&text=亲爱的朋友你好啊,希望你的每一天都充满快乐。&text_language=zh

POST方式:

json
复制代码
{
    "refer_wav_path": "wavs/5.wav",
    "prompt_text": "为什么御弟哥哥,甘愿守孤灯。",
    "prompt_language": "zh",
    "text": "亲爱的朋友你好啊,希望你的每一天都充满快乐。",
    "text_language": "zh"
}

image.png

Api调用返回信息:

成功时: 返回 wav 音频流,可直接播放或保存到 wav文件中,http 状态码 200

失败时: 返回包含错误信息的 json, http 状态码 400

css
复制代码
{"code": 400, "message": "未指定参考音频且接口无预设"}

问题:想切换模型怎么办

api2.py和官方原版api.py 一样都不支持动态模型切换,也不建议这样做,因为动态启动加载模型很慢,而且在失败时也不方便处理。

解决方法是: 一个模型起一个api服务器,绑定不同的端口,在启动 api2.py 时,指定当前服务所要使用的模型和绑定的端口。

比如起2个服务,一个使用默认模型,绑定 9880 端口,一个绑定自己训练的模型,绑定 9881 端口,命令如下

默认模型 9880 端口: http://127.0.0.1:9880

.\runtime\python api2.py -dr "5.wav" -dt "今天好开心" -dl zh

自己训练的模型: http://127.0.0.1:9881

.\runtime\python api2.py -p 9881 -s "SoVITS_weights/mymode-e200.pth" -g "GPT_weights/mymode-e200.ckpt" -dr "wavs/10.wav" -dt "御弟哥哥,为什么甘愿守孤灯" -dl zh

image.png

在视频翻译软件中使用

如下图所示,打开 菜单-设置-GPT-SoVITS ,填写api地址,以及参考音频, 填写格式为一行一个参考音频

bash
复制代码

参考音频路径带后缀名称1#参考音频1文字内容#参考音频1语言
参考音频路径带后缀名称2#参考音频2文字内容#参考音频2语言

详细说明可看上一篇文章 在其他软件中调用GPT-SoVITS将文字合成语音

image.png

小技巧

中英混合的句子如何取得更好的训练效果:

英文单词前后要留有空格,不要直接和汉字连在一起,因为英文是靠空格区分的,如果连在一起,可能无法正确识别。

此api2.py 兼容视频翻译配音软件的 GPT-SoVITS 声音合成功能

最后

为了帮助大家更好的学习人工智能,这里给大家准备了一份人工智能入门/进阶学习资料,里面的内容都是适合学习的笔记和资料,不懂编程也能听懂、看懂,所有资料朋友们如果有需要全套人工智能入门+进阶学习资源包,可以在评论区或扫.码领取哦)~

在线教程

  • 麻省理工学院人工智能视频教程 – 麻省理工人工智能课程
  • 人工智能入门 – 人工智能基础学习。Peter Norvig举办的课程
  • EdX 人工智能 – 此课程讲授人工智能计算机系统设计的基本概念和技术。
  • 人工智能中的计划 – 计划是人工智能系统的基础部分之一。在这个课程中,你将会学习到让机器人执行一系列动作所需要的基本算法。
  • 机器人人工智能 – 这个课程将会教授你实现人工智能的基本方法,包括:概率推算,计划和搜索,本地化,跟踪和控制,全部都是围绕有关机器人设计。
  • 机器学习 – 有指导和无指导情况下的基本机器学习算法
  • 机器学习中的神经网络 – 智能神经网络上的算法和实践经验
  • 斯坦福统计学习

😝有需要的小伙伴,可以点击下方链接免费领取或者V扫描下方二维码免费领取🆓

请添加图片描述

人工智能书籍

  • OpenCV(中文版).(布拉德斯基等)
  • OpenCV+3计算机视觉++Python语言实现+第二版
  • OpenCV3编程入门 毛星云编著
  • 数字图像处理_第三版
  • 人工智能:一种现代的方法
  • 深度学习面试宝典
  • 深度学习之PyTorch物体检测实战
  • 吴恩达DeepLearning.ai中文版笔记
  • 计算机视觉中的多视图几何
  • PyTorch-官方推荐教程-英文版
  • 《神经网络与深度学习》(邱锡鹏-20191121)

  • 在这里插入图片描述
    😝有需要的小伙伴,可以点击下方链接免费领取或者V扫描下方二维码免费领取🆓

第一阶段:零基础入门(3-6个月)

新手应首先通过少而精的学习,看到全景图,建立大局观。 通过完成小实验,建立信心,才能避免“从入门到放弃”的尴尬。因此,第一阶段只推荐4本最必要的书(而且这些书到了第二、三阶段也能继续用),入门以后,在后续学习中再“哪里不会补哪里”即可。

第二阶段:基础进阶(3-6个月)

熟读《机器学习算法的数学解析与Python实现》并动手实践后,你已经对机器学习有了基本的了解,不再是小白了。这时可以开始触类旁通,学习热门技术,加强实践水平。在深入学习的同时,也可以探索自己感兴趣的方向,为求职面试打好基础。

第三阶段:工作应用

这一阶段你已经不再需要引导,只需要一些推荐书目。如果你从入门时就确认了未来的工作方向,可以在第二阶段就提前阅读相关入门书籍(对应“商业落地五大方向”中的前两本),然后再“哪里不会补哪里”。

在这里插入图片描述
😝有需要的小伙伴,可以点击下方链接免费领取或者V扫描下方二维码免费领取🆓

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1499431.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

perf的安装与迁移

前言 perf是性能优化很重要的工具之一,本篇博客就来看一下perf的安装以及遇到的问题。 嵌入式驱动学习专栏将详细记录博主学习驱动的详细过程,未来预计四个月将高强度更新本专栏,喜欢的可以关注本博主并订阅本专栏,一起讨论一起学…

ElasticSearch之文档的存储

写在前面 本文看下文档的存储相关内容。 1:如何确定文档存储在哪个分片? 我们需要确保文档均匀分布在所有的分片中,避免某些部分机器空闲,部分机器繁忙的情况出现,想要实现均匀分布我们可以考虑如下的几种分片路由算…

HUAWEI Pocket 2说的防晒检测,能做到什么程度?

防晒是必须,还是噱头?我们来看一下经典案例: 《新英格兰医学杂志》调查一名69岁的卡车司机发现,他位于车窗侧、遭受更多阳光直晒的左半边脸,无论是皱纹还是皮肤厚度,都要比远离阳光的右半边脸要严重得多&am…

如何阅读“计算机界三大神书”之一 ——《计算机程序的构造和解释》SICP

👨‍🎓博主简介 🏅云计算领域优质创作者   🏅华为云开发者社区专家博主   🏅阿里云开发者社区专家博主 💊交流社区:运维交流社区 欢迎大家的加入! 🐋 希望大家多多支…

【设计模式 05】原型模式

有的时候,我们创建对象,需要耗费大量时间在一些资源型操作上,这个时候,我们就可以先创建出一个模板,然后每次创建的时候直接从模板复制即可,不用反复进行耗时的资源型操作。 python代码: impo…

【C++干货基地】六大默认成员函数: This指针 | 构造函数 | 析构函数

🎬 鸽芷咕:个人主页 🔥 个人专栏: 《C干货基地》《粉丝福利》 ⛺️生活的理想,就是为了理想的生活! 引入 哈喽各位铁汁们好啊,我是博主鸽芷咕《C干货基地》是由我的襄阳家乡零食基地有感而发,不知道各位的…

【学习心得】Python好库推荐——websocket-client

websocket-client 是一个在 Python 中广泛使用的库,用于创建 WebSocket 客户端并实现与 WebSocket 服务器的双向通信。更多的关于websocket协议介绍,可以看看我之前写的文章哦! 【学习心得】websocket协议简介并与http协议对比http://t.csdn…

什么是工业协议网关?作用是什么?

在工业自动化和智能制造领域,数据的采集、传输和处理是实现设备监控、远程控制和优化的关键。而工业协议网关,作为连接工业设备与上层管理系统的桥梁,发挥着至关重要的作用。今天,我们就来深入解析一下HiWoo Box这一工业协议网关的…

汽车车灯罩破损修复需要准备哪些材料?

汽车车灯罩破损修复需要准备哪些材料? 汽车灯罩破损修复需要准备的材料包括: 砂纸:用于打磨灯罩表面,去除污渍和划痕。抛光蜡或牙膏:用于抛光灯罩表面,使其恢复光滑和透明。UV胶或玻璃胶:用于填…

WPF —— Border、Frame控件详解

一:Border控件 1.Border介绍 Border(边框)是一个装饰的控件,此控件绘制一个边框、一个背景。用border标签包括目标标签。 不能有多个子元素,要想有多个子元素,多个子元素放在一个父元素下。或者放到grid标…

coreldraw2024中文版发布最新精简版绿色版

CorelDRAW Graphics Suite 2024(简称CDR2024)是一款非常专业的图形设计工具,已推出全新的2024版本,在功能和体验上进一步提升。它具备最新的填充和透明设备功能,可以完全控制任何类型的纹理,适用于网络摄影…

Redis 配置文件详解

Units 单位 配置大小单位,开头定义了一些基本的度量单位,只支持bytes,不支持bit,大小写不敏感。 # Redis configuration file example. # # Note that in order to read the configuration file, Redis must be # started with …

png格式怎么改成jpg?3种转换方法轻松掌握

png格式怎么改成jpg?在日常生活和工作中,PNG格式转换成JPG格式的需求十分普遍。无论是制作网页时需要优化图片加载速度,还是在图片编辑过程中需要调整图片格式以兼容不同平台,亦或是需要共享图片时减小文件大小,PNG转J…

惊呼:腾讯云服务器99元一年,要不要来一台?

腾讯云服务器99元一年是真的吗?真的,99元优惠购买入口 txybk.com/go/99 折合每天8元1个月,腾讯云99元服务器配置为2核2G3M带宽,2024年99元服务器配置最新报价为61元一年,如下图: 腾讯云服务器99元一年 腾讯…

华为“仓颉”不是中文编程:中文编程早有所属,势如破竹

“何时能见证中国自主研发的编程语言崛起?”这是我们这些对IT生态心怀关切的人常常深思的问题。 语言,作为文化的灵魂,总是与特定的环境和人群紧密相连。无论是中文还是英语,它们都不仅仅是交流的工具,更是各自文化背…

网络入侵检测系统之Suricata(十)--ICMP实现详解

ICMP协议 Common header 0 1 2 40 1 2 3 4 5 6 7 8 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 0 1 2 3 4--------------------------------| Type | Code | Checksum |-----…

学c++对Python有帮助吗?

学习C对Python编程确实有帮助,尽管这两种语言在许多方面有很大的不同。以下是学习C可能对Python编程产生帮助的几个方面: 理解底层概念:C是一种更接近硬件的编程语言,它要求程序员更深入地理解内存管理、指针、数据类型等底层概念…

el-form-item内的el-select如何自适应宽度

最近在使用element-ui做后台管理的时候,有个需求是在弹窗组件里面,添加一个el-select下拉框选项,但是给el-select设置的宽度无法自适应,原因很简单,我们不需要设置固定宽度,设置百分比就行了,让…

FPGA AXI4总线信号介绍篇

一.AXI总线类型接口 AXI是一种总线协议,可以挂在多个master和slave: (1)AXI4:主要面向高性能地址映射通信的需求;(突发数据)(地址映射模式) &#x…

微软大中华区商业应用事业部高级产品经理张诗源,将出席“ISIG-低代码/零代码技术与应用发展峰会”

3月16日,第四届「ISIG中国产业智能大会」将在上海中庚聚龙酒店拉开序幕。本届大会由苏州市金融科技协会指导,企智未来科技(LowCode低码时代、RPA中国、AIGC开放社区)主办。大会旨在聚合每一位产业成员的力量,深入探索低…