硕士生论文学习——基于孪生神经网络的改进模型在中文语义相似度上的研究

news2024/11/26 0:38:23

文章目录

  • 摘要
    • 2.2 孪生神经网络
    • 3.2 基于孪生ELETRA网络的语义相似度交互模型结构
    • 3.3 实验结果分析
      • 3.3.4 评价指标

摘要

  1. 啥啊:两个文本之间的交互特征
    在这里插入图片描述
    在这里插入图片描述

在这里插入图片描述

  1. LSTM 应用于孪生神经网络的特征提取层,可以获取到长文本的语义信息。
    在这里插入图片描述
  2. 孪生神经网络的特征提取层,对文本之间进行编码是相互独立的,句子之间没有交互,使得两侧文本抽取出的特征仅仅是各自最后的语义向量。没有两个句子之间的结构信息、词性信息、句法信息
    在这里插入图片描述

目前国内外在文本语义相似度领域的研究中都取得了不错的成就,却也仍有一定的提升空间。基于传统的语义相似度在原理上简单,执行效率高,但是却存在难以深入文本语义的缺陷。基于深度学习的语义相似度模型可以挖掘到文本的深层含义,模型的性能效果更好,但由于目前研究时间不长,模型的准确率和鲁棒性还有进一步提升的空间。

2.2 孪生神经网络

(之前的内容我没有记录下来)

  1. 在深度学习还未在**任务中流行之前,大多数采用的是基于统计的语义相似度计算方法,对字符层面的统计分析
    在这里插入图片描述

  2. 在搜索引擎中,语义相似度作为信息检索任务的主体

  3. 在编码层之后,再利用一些方法机制增加两个网络之间的交互。
    在这里插入图片描述

  4. 输入层、特征提取层和相似性度量层。孪生神经网络的两个编码层是两个完全相同的共享参数权重的网络模型。(是两个类型相似的样本,比如两个长度相当或者两个同样大小的图片)
    在这里插入图片描述

  5. 在利用孪生神经网络框架计算相似度时,需要充分考量其应用场景,从而选择到合适的网络对样本进行特征提取。

  6. 相似性度量层。传入多层感知机或者其他前馈神经网络中,再利用分类函数对其相似度进行打分。【例如BP神经网络呀】
    在这里插入图片描述

  7. 加入特征交互的孪生神经网络
    在这里插入图片描述

3.2 基于孪生ELETRA网络的语义相似度交互模型结构

在这里插入图片描述

3.3 实验结果分析

3.3.4 评价指标

在这里插入图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/86378.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

【kernel exploit】CVE-2022-25636 nftables OOB 写堆指针漏洞利用

影响版本:Linux 5.4-rc1~5.17-rc5。5.17-rc6 已修补。 测试版本:Linux-5.13.19 (原作者在Ubuntu 21.10 内核版本 5.13.0-30 中测试,成功率40%,由于用到 msg_msg 对象,所以只能用 5.14 以前的内核版本进行测…

Linux 下复现 Google Chrome RCE

写在前面:网上大多都是windows下复现的,不过最近我在Linux中也遇到了低版本的chrome,想着这也是一个点,但是没想到技术不够,没搞出来,还是看大佬的文档慢慢学吧。。。 目录 一.环境搭建 1.1 环境信息 1.…

GX Works3 跨网访问

需求背景 1,有N条产线。 2,每条产线是一个独立的局域网。类似于192.168.x.x 3,每条产线部署一台产线控制系统。采用双网卡。一张接车间网络;一张接产线自身的局域网。 现在的需求是: 需要读写任意一条产线的PLC(三…

强化学习学习资料

1、OpenAI建立的强化学习教育资源网站,可以让我们更轻松地学习深度强化学习。里面有很多有用的资源,包括: (1)强化学习基本术语、算法种类、基本理论的介绍。 (2)一篇关于如何成长为RL研究者的…

是一种非常的Cy类近红外荧光染料,1686147-55-6,ICG amine,本产品的ICG是临床中所使用的ICG染料的衍生物

ICG(Indocyanine Green),是一种非常的Cy类近红外荧光染料,在临床中用于手术导航。ICG的体内药理学性质非常明确,具有良好的安全性,是常用近红外染料,被***运用于生物诊疗。ICG的荧光母核和Cy7.5…

Python中ArcPy基于矢量范围批量裁剪大量栅格遥感影像

本文介绍基于Python中ArcPy模块,基于矢量数据范围,对大量栅格遥感影像加以批量裁剪掩膜的方法。 本文所需要的代码如下所示。 # -*- coding: utf-8 -*- """ Created on Tue Dec 13 20:07:48 2022author: fkxxgis """impo…

31.前端笔记-CSS-CSS3盒子模型和其他特性

1、CSS3盒子模型 原来的CSS盒子设置了border和padding属性,就会撑大盒子。 现在CSS3中可以通过box-sizing来指定盒模型,有两个值: content-box:盒子大小是widthpaddingborderbordr-box:盒子大小就是width,padding和border不会撑…

【OpenFOAM】-olaFlow-算例2- breakwater

算例路径: olaFlow\tutorials\breakwater 算例描述: 波浪对防波堤的作用,堤身为孔隙可渗透结构,堤顶沉箱为不可渗透结构。 学习目标: 渗透模型、可渗结构设置、孔隙材料各项参数设置 算例快照: 图1 防波堤…

基于51单片机的四位数字频率计数码管显示设计

仿真原理图&#xff1a; 程序运行图&#xff1a; 部分程序&#xff1a; #include <reg52.h> #define uchar unsigned char #define uint unsigned int uchar duan[10]{0xc0,0Xf9,0xa4,0xb0,0x99,0x92,0x82,0xf8,0x80,0x90}; //所需的段的位码 //uchar wei[…

企业数字化转型关键路径:构建数据驱动的管控体系

本案例以元年方舟企业数字化转型PaaS平台为某国际运动品牌&#xff0c;解决全渠道对账项目应用为例&#xff0c;通过建立全渠道对账系统研发&#xff0c;构建数据驱动的管控体系&#xff0c;帮助该零售企业实现数字化转型的突破。 关键词&#xff1a;企业数字化&#xff1b;新…

Transformer网络

Transformer网络可以利用数据之间的相关性&#xff0c;最近需要用到这一网络&#xff0c;在此做一些记录。 1、Transformer网络概述 Transformer网络最初被设计出来是为了自然语言处理、语言翻译任务&#xff0c;这里解释的也主要基于这一任务展开。 在 Transformer 出现之前…

99-127-spark-核心编程-持久化-分区-io-累加器-广播变量

99-spark-核心编程-持久化-分区-io&#xff1a; RDD持久化 1) RDD Cache 缓存 Spark02_RDD_Persist RDD 通过 Cache 或者 Persist 方法将前面的计算结果缓存&#xff0c;默认情况下会把数据以缓存在 JVM 的堆内存中。但是并不是这两个方法被调用时立即缓存&#xff0c;而是触…

OS_@假脱机技术@设备分配@设备映射

文章目录OS_假脱机技术设备分配设备映射设备分配的策略1)设备分配原则2)设备分配方式静态分配动态分配3)设备分配算法设备分配的安全性1)安全分配方式2)不安全分配方式逻辑设备名到物理设备名的映射两种方式设置逻辑设备表假脱机(Spooling)系统SPOOLing系统的组成SPOOLing的工作…

足球一代又一代得青春

世界杯由来 世界杯&#xff08;World Cup&#xff09;即国际足联世界杯&#xff0c;是世界上最高水平的足球赛事。 众所周知&#xff0c;现代足球起源于英国&#xff0c;随后风靡世界。由于足球运动的迅速发展&#xff0c;国际比赛也随之出现。1896年&#xff0c;第一届现代奥…

[附源码]计算机毕业设计的疫苗接种管理系统Springboot程序

项目运行 环境配置&#xff1a; Jdk1.8 Tomcat7.0 Mysql HBuilderX&#xff08;Webstorm也行&#xff09; Eclispe&#xff08;IntelliJ IDEA,Eclispe,MyEclispe,Sts都支持&#xff09;。 项目技术&#xff1a; Springboot mybatis MavenVue等等组成&#xff0c;B/S模式…

Educational Codeforces Round 139 (Rated for Div. 2) D. Lucky Chains

翻译&#xff1a; 让我们命名一对正整数(&#x1d465;&#xff0c;&#x1d466;)&#xff0c;幸运的是它们的最大公约数等于1 (gcd(&#x1d465;&#xff0c;&#x1d466;)1)。 让我们定义一个链(&#x1d465;&#x1d466;)引起的一系列双(&#x1d465;&#x1d466;)…

Vue中对获取数据、返回数据进行处理的wode总结

&#x1f4ad;&#x1f4ad; ✨&#xff1a;Vue中对获取数据、返回数据进行处理的总结   &#x1f49f;&#xff1a;东非不开森的主页   &#x1f49c;: 也许&#xff0c;不负光阴就是最好的努力&#xff0c;而努力就是最好的自己。&#x1f49c;&#x1f49c;   &#x1f3…

Mybatis:MyBatis的分页插件(11)

Mybaits笔记框架&#xff1a;https://blog.csdn.net/qq_43751200/article/details/128154837 Mybatis中文官方文档&#xff1a; https://mybatis.org/mybatis-3/zh/index.html 分页插件1. 分页插件使用步骤2. 分页插件的使用2.1: 开启分页功能2.2: 分页相关数据2.3: 常用数据1.…

在小公司干测试5年,如今终于熬出头了,入职美团涨薪14K

你的努力&#xff0c;终将成就无可替代的自己&#xff0c;本科毕业后就一直从事软件测试的工作&#xff0c;和多数人一样&#xff0c;最开始从事功能测试的工作&#xff0c;我朋友看着自己的同学一步一步往上走&#xff0c;自己还是在原地踏步&#xff0c;说实话这不是自己想要…

TongWeb7微服务适配方案

先介绍一下我们微服务项目的部署情况&#xff1a; 之前使用的是内置的Tomcat容器部署方式&#xff0c;运行项目使用的 java -jar 项目文件 方式&#xff0c;然后使用k8sdocker容器化部署。 还没了解TongWeb部署的同学们&#xff0c;可以看看我前面写的几个关于TongWeb本地部…