ThreeJs控制模型骨骼实现数字人

news2024/9/28 2:52:18

        之前章节有讲过ThreeJs加载pmd模型和vmd动作文件,实现动画人物根据vmd中的动作跳舞,不过缺点是只能按照文件中指定动作跳舞,如果要让一个模型做出多种动作的话,就需要做很多个动作文件,如果动作文件很多,加载势必也会变的慢了,所以这节讲ThreeJs用threejs代码控制模型中骨骼运动,实现动态控制人物做出指定动作。

        首先我们还是需要搭建出场景,这部分可以按照之前的章节提供的方法搭建,然后在场景中添加pmd模型,我们还拿之前的初音人物模型演示。

//加载pmd模型,模型为一个girl
initGirl() {
      this.helper = new MMDAnimationHelper()
      const loader = new MMDLoader()
      const _this = this
      loader.load('/static/animal/miku_v2.pmd', function(object) {
        const mesh = object
        if (object) {
          _this.bodyBone = object.skeleton.bones;
          console.log(_this.bodyBone)
        }
        _this.face = mesh.morphTargetInfluences
        _this.scene.add(mesh)
      }, null, null)
    },

加载完成后就可以得到一个静止的卡通女孩模型,因为没有加载动作文件,所以任务是不会动的,接下来就要使用js修改骨骼模型位置让她动起来,首先我们需要把加载的人物模型骨骼打印出来看下,刚才加载的方法中已经添加了打印骨骼的方法,可以看到一共140个骨骼,每个骨骼的name标示了这个骨骼属于哪部分,这样就更方便我们等会操作指定的骨骼了。

假设我们先让她的头发随风飘动,先找到他的头发骨骼模型,这里找到是下标12,13,14,15,16为左侧头发,44,45,46,47,48为右侧头发,下面可以控制头发摆动,先创建一个控制数组actions元素为bool类型,假设第三个为控制头发飘动,为true的时候朝向一个方向移动,为false往另一个方向移动回来,代码如下,

    //动漫渲染
    initAnimate() {
      requestAnimationFrame(this.initAnimate)
      this.renderer.render(this.scene, this.camera)
      if(this.bodyBone.length>0){
        if(this.bodyBone[12].rotation.z<0.1 && this.actions[3]===true) {
          this.bodyBone[12].rotation.z += 0.001
          this.bodyBone[13].rotation.z += 0.001
          this.bodyBone[14].rotation.z -= 0.001
          this.bodyBone[15].rotation.z += 0.001
          this.bodyBone[16].rotation.z -= 0.001
          this.bodyBone[44].rotation.z += 0.001
          this.bodyBone[45].rotation.z += 0.001
          this.bodyBone[46].rotation.z -= 0.001
          this.bodyBone[47].rotation.z += 0.001
          this.bodyBone[48].rotation.z -= 0.001
        }else{
          this.actions[3] = false
        }
        if(this.bodyBone[12].rotation.z>0 && this.actions[3]===false){
          this.bodyBone[12].rotation.z -=0.001
          this.bodyBone[13].rotation.z -=0.001
          this.bodyBone[14].rotation.z +=0.001
          this.bodyBone[15].rotation.z -=0.001
          this.bodyBone[16].rotation.z +=0.001
          this.bodyBone[44].rotation.z -=0.001
          this.bodyBone[45].rotation.z -=0.001
          this.bodyBone[46].rotation.z +=0.001
          this.bodyBone[47].rotation.z -=0.001
          this.bodyBone[48].rotation.z +=0.001
        }else{
          this.actions[3] = true
        }
      }
    },

看下效果

threejs控制头发摆动

但是身体还比较僵硬,下面再给其他部分添加一点动态效果,比如嘴巴说话,因为嘴巴说话不同的文字嘴型是不一样的,而不是像头发一样可以左右摆动,所以这里给嘴巴的偏移设置随机数但是见骨骼模型中发现并没有嘴巴的部分,然后发现是在morphTargetInfluences中。注:morphTargetInfluences是 Three.js 中的一个属性,主要用于控制网格(Mesh)的变形目标(morph targets)的权重。Three.js 是一个基于 WebGL 的 JavaScript 3D 库,它允许开发者在网页上创建和显示 3D 图形。

那么可以通过threejs改变morphTargetInfluences的嘴巴参数,来控制嘴巴活动,我们还可以添加按钮控制嘴巴开始说话和停止说话,这里引入了element-ui,添加两个按钮来实现。

    <el-button style="position:absolute;right:20px;top:120px;" @click="getHand(1)">说话</el-button>
    <el-button style="position:absolute;right:20px;top:160px;" @click="getBackHand(1)">停止说话</el-button>
 talkAction()  {
      if (this.actions[1]) { //如果说话被开启
        if (this.actionDistance[1] > 15) { //这个15用来控制说话的快慢
          this.actionDistance[1] = 0
          this.face[24] = Math.random() * 0.6
          this.face[25] = Math.random() * 0.6
          this.face[26] = Math.random() * 0.6
        }
        this.actionDistance[1] += 1; //每次叠加,到一定基数就随机改变一次嘴巴形状
      }
      if(this.rebackActions[1]){ // 如果回复就把嘴巴重置为0
        this.face[24] = 0
        this.face[25] = 0
        this.face[26] = 0
      }
    },

最终效果如下:

threejs控制嘴巴和头发动

        以上就先演示两个部分的运动,有兴趣可以写方法分别控制140个骨骼模型做各种运动,如果再配合大模型获取说话嘴巴的大小和形状就可以做成数字人说话了,不过还需要对接前面章节的CosyVoice和SenseVoice才可以实现语音对话。

需要源码的同学可以评论区留下邮箱。我会持续更新此模型的功能

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1980885.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

算力共享:forward_to_next_shard,process_prompt推断之间的链接map_partitions_to_shards

目录 forward_to_next_shard 参数 函数逻辑 _process_prompt StandardNode get_current_shard map_partitions_to_shards forward_to_next_shard 这段代码定义了一个名为 forward_to_next_shard 的异步函数,它是设计用于在分布式模型或数据处理系统中的节点(或称为“分…

SpringBoot基本原理,轻松应对面试官 - 第522篇

《国内最全的Spring Boot系列之一》 《国内最全的Spring Boot系列之二》 《国内最全的Spring Boot系列之三》 《国内最全的Spring Boot系列之四》 《国内最全的Spring Boot系列之五》 《国内最全的Spring Boot系列之六》 《国内最全的Spring Boot系列之七》 Noisee AI中…

C语言自定义类型联合体与枚举超详解

文章目录 1. 联合体1. 1 联合体类型的声明1. 2 联合体的特点1. 3 相同成员的结构体和联合体对比1. 4 联合体大小的计算1. 5 联合体的练习 2. 枚举2. 1 枚举类型的声明2. 2 枚举类型的优点2. 3 枚举类型的使用2. 4 枚举类型的实际使用 1. 联合体 1. 1 联合体类型的声明 像结构…

无线定位测距传输无延迟,飞睿智能超宽带uwb sip芯片,商显TV遥控器丝滑操控

在这个日新月异的智能时代&#xff0c;每一项技术的创新都如同星辰般璀璨&#xff0c;创新着我们的生活向更加便捷、高效的方向迈进。今天&#xff0c;让我们聚焦于一项正悄然改变商业显示&#xff08;商显&#xff09;领域游戏规则的黑科技——飞睿智能超宽带&#xff08;Ultr…

阿里云SMS服务C++ SDK编译及调试关键点记录

一. 阿里云SMS服务开通及准备工作 在阿里云官网上完成这部分的工作 1. 申请资质 个人or企业 我这里是用的企业资质 2. 申请签名 企业资质认证成功后&#xff0c;会自动赠送一个用于测试的短信签名 也可以自己再进行申请&#xff0c;需要等待审核。 3. 申请短信模板 企…

雷达气象学(0)——雷达的基本知识

文章目录 0.1 天气雷达的工作原理0.1.1 雷达的工作原理0.1.2 雷达的测距原理0.1.3 雷达的测角原理 0.2 天气雷达的种类0.3 我国新一代天气雷达系统简介0.3.1 我国天气雷达发展简史0.3.2 我国新一代天气雷达的型号命名0.3.3 补充&#xff1a;美国天气雷达的发展简史 0.4 天气雷达…

网络安全之sql靶场(1-10)

sql靶场&#xff08;1-10&#xff09; 第一关&#xff08;字符型注入&#xff09; 判断注入是否存在 http://127.0.0.1/sqllabs/Less-1/?id1 判断sql语句是否拼接 http://127.0.0.1/sqllabs/Less-1/?id1 http://127.0.0.1/sqllabs/Less-1/?id1-- 可以根据结果指定是字符…

Stable Diffusion WebUI 1.10.0来了

大家好&#xff0c;我是每天分享AI应用的萤火君&#xff01; 前几天 AUTOMATIC1111 发布了Stable Diffusion WebUI 1.10&#xff0c;我也在第一时间将云环境的镜像升级到了最新版本&#xff0c;有兴趣的同学可以去体验下&#xff0c;目前已经发布到了AutoDL&#xff0c;镜像地…

黑马Java零基础视频教程精华部分_13_包装类

系列文章目录 《黑马Java零基础视频教程精华部分》系列文章目录 黑马Java零基础视频教程精华部分_1_JDK、JRE、字面量、JAVA运算符 黑马Java零基础视频教程精华部分_2_顺序结构、分支结构、循环结构 黑马Java零基础视频教程精华部分_3_无限循环、跳转控制语句、数组、方法 黑…

【C++】tinygltf基本使用方法

一、前言 网上的教程均为搭配opengl使用&#xff0c;如果单纯想读取模型数据&#xff0c;资料就比较少了。先放出相关链接&#xff1a; 1、gltf规范文档&#xff1a;glTF™ 2.0 Specification (khronos.org) 2、gltf在线模型查看器 &#xff1a;glTF Viewer (donmccur…

基于FPGA的数字信号处理(21)--超前进位加法器(Carry Lookahead Adder,CLA)

目录 1、什么是超前进位加法器 2、CLA加法器的关键路径 3、CLA加法器的Verilog实现 4、CLA加法器的时序性能 5、总结 文章总目录点这里&#xff1a;《基于FPGA的数字信号处理》专栏的导航与说明 1、什么是超前进位加法器 在之前的文章&#xff0c;我们介绍了行波进位加法器…

通过Sm@rtServer远程访问西门子触摸屏的具体方法示例

通过Sm@rtServer远程访问西门子触摸屏的具体方法示例 配置组态 CPU 1513-F 6ES7 513-1FL02-0AB0 TP1200 精智面板 6AV2 124-0MC01-0AX0 TIA PORTAL V16 具体步骤可参考以下内容: 在TIA项目树中,打开HMI菜单,点击‘运行系统设置’→‘服务’→勾选远程控制中的‘启动Sm@rtSer…

探索GPT-4o mini:开启AI驱动的开发新时代

文章目录 GPT-4o mini&#xff1a;小身材&#xff0c;大能量成本与效能的完美平衡 AI辅助开发&#xff1a;从构想到现实自动化文档编写智能代码审查 提升创新能力&#xff1a;AI驱动的新常态模型驱动的设计思维 社区共享与合作知识共享的重要性 未来展望&#xff1a;AI与人类的…

用Manim标出在图形上的指定位置

用Manim标出在图形上的指定位置 在数据可视化和数学演示中&#xff0c;将数据点与坐标系中的轴连接起来对于理解和分析数据的关系至关重要。通过绘制从坐标轴指向特定点的线&#xff0c;可以直观地展示数据点在二维空间中的位置。这种方法在多种场景下都具有重要意义&#xff0…

虚拟机基础配置

基础配置&#xff1a; 挂载、软件仓库、网络配置、主机名、本地解析、关闭防火墙、关闭SELinux RHEL9 1.挂载 2.开机自启 3.仓库 4.网卡显示名称设置为ethx 注&#xff1a;/etc/NetworkManager/system-connections/为rhel9中的网络配置文件 5.设置IP地址&#xff0c;主机名…

虚实结合的智慧农业虚拟仿真实训室建设方案

一、智慧农业虚拟仿真实训室概述 当前&#xff0c;农业领域正经历着深刻的变革&#xff0c;物联网、大数据、云计算、人工智能等技术的广泛应用&#xff0c;为农业生产提供了精准、高效、可持续的解决方案。然而&#xff0c;传统农业教育往往受限于地域、季节、资源等因素&…

R语言论文插图模板第1期—折线图

在我出的Matlab相关内容下&#xff0c;常常有人问&#xff0c;有没有R语言版本&#xff0c;有没有Python版本&#xff0c;有没有Origin版本…… 以前觉得&#xff0c;选择一个软件&#xff0c;然后用到极致&#xff0c;便足够了。 但实际工作后&#xff0c;发现大家都是哪个软…

【Python系列】Python获取 Excel 文件的行数

&#x1f49d;&#x1f49d;&#x1f49d;欢迎来到我的博客&#xff0c;很高兴能够在这里和您见面&#xff01;希望您在这里可以感受到一份轻松愉快的氛围&#xff0c;不仅可以获得有趣的内容和知识&#xff0c;也可以畅所欲言、分享您的想法和见解。 推荐:kwan 的首页,持续学…

顶底预测 反转指标 文华财经指标公式源码 九稳量化系统 好用的期货指标公式顶底预测 期货指标公式精准买卖点无滞后顶底预测

我觉得期货市场就是一个战场的翻版。 以我多年的交易经验&#xff0c;盈利加仓符合顺势原理&#xff0c;成功率较高。 在具体交易时&#xff0c;都是先看技术指标&#xff0c;后找基本面辅助。 震荡行情对于趋势交易者一直是个难题。 九稳量化交易系统 是一套高胜率策略趋势…

2023华为od机试C卷【最富裕的小家庭】Python实现

思路&#xff1a; def main():Num int(input())#获取成员数#获取金钱列表&#xff0c;为了1对应100&#xff0c;我们添加一个索引为0对应的值为0Moneys list(map(int,input().split()))#获取金钱输入Moneys.insert(0,0)#成员-金钱映射relationship {}for i in range(1,Num1)…