幂律智能联合智谱AI发布千亿参数级法律垂直大模型PowerLawGLM

news2024/10/7 6:51:29

前言

2023年是当之无愧的“大模型之年”,据瑞银集团的一份报告显示,ChatGPT推出仅仅两个月后,月活用户已经突破了1亿,成为史上用户增长速度最快的消费级应用程序。

在炙热的大模型赛道里,基于中文大模型的发布也是层出不穷,相较于通用大模型的“大而全”,幂律联合智谱AI此次联合发布基于中文千亿大模型的法律垂直大模型——PowerLawGLM,聚焦于法律细分领域,针对中文法律场景的应用效果具有独特优势,具备丰富的法律知识和法律语言理解能力。

一、“法律垂直大模型”的诞生

通用大模型是具有强大语言理解能力和生成能力的人工智能模型,但由于专业知识及数据的欠缺,将通用大模型直接应用在法律领域,往往存在着严重的效果问题,例如法律知识错误、专业引用偏差、法律体系差异等问题。比如前段时间美国律师使用ChatGPT来提交法庭简报,结果引用的6个案例都是ChatGPT编造的虚假案例,这种“人工智能幻觉”现象在法律场景屡见不鲜,也说明了目前通用大模型难以保证法律专业层面的真实性、正确性。

幂律智能自2017年成立以来即深耕于法律+AI领域,基于领先的法律AI能力,向企业提供智能合同产品,并且深度参与了清华大学自然语言处理实验室的OpenCLaP、LawFormer等法律大模型的研发及应用。而智谱AI作为领先的通用大模型厂商,法律领域是其大模型迭代及布局的重要方向,基于双方达成的战略合作,在法律大模型上展开深度合作,来加快推动大模型在法律行业应用落地及商业化。

自2023年初双方成立联合项目组,启动法律大模型研发以来,经过千亿规模的基座模型增量训练、对话层监督微调、应用层工程优化,基于中文千亿大模型的法律垂直大模型——PowerLawGLM。

二、“PowerLawGLM”的打造

PowerLawGLM法律大模型,基于智谱目前效果最好的ChatGLM 130B通用千亿对话大模型进行联合研发。在2022年11月斯坦福大学基础模型中心对全球 30 个大模型的评测结果中,GLM-130B 是亚洲唯一入选的Top10大模型。

训练法律垂直大模型第一步——基座层:阅读大量法律文本。

通用大模型在法律场景的应用效果问题,最基础的原因在于基座大模型没有经过大量高质量专业法律文本数据的训练。双方基于ChatGLM130B的基座大模型GLM 130B,经过了多轮多次高质量法律文本数据(裁判文书、法律法规、法律知识问答等)清洗及模型增量训练,得到法律版基座大模型LawGLM 130B。

训练法律垂直大模型第二步——对话层:与法律对话场景对齐,具备法律场景的对话能力。

LawGLM 130B基座模型具备了文本生成能力,但在法律对话能力上存在欠缺,因此需要利用大量的法律领域对话数据进行监督微调。双方利用了近百万对高质量法律知识问题数据,来训练得到PowerLawGLM beta版,此时,它已经初步具备了法律场景的端到端生成式对话能力以及独特的回答习惯。

训练法律垂直大模型第三步——应用层:保证输出结果质量和可靠性。

法律问答的很多场景都有其特殊性,对于结果准确性的要求、可解释性的要求较高,直接大模型来端到端生成回答,会面临很多效果问题,例如引用失效法律、杜撰法条案例、与法律人处理逻辑不一致等等。因此幂律设计了一系列通用型及场景特定型的工程化优化方案,来提升法律问答的有法可依和引用法条内容的准确性,最终提升法律问答的专业性和可靠性。

通过以上三层结构,在基座层、对话层、应用层上提升了大模型对法律专业文本的理解、推理与生成能力:

  • 理解能力:理解复杂的法律文本,包括各种法律条款、判例、合同和其他法律文件。
  • 推理能力:从法律文本中推断出潜在的问题,提供可能的解决方案,或者预测出可能的法律后果。
  • 生成能力:回答法律问题,为用户提供咨询,甚至帮助起草法律文件。它还可以进行法律对话,帮助用户理解复杂的法律问题。

三、“PowerLawGLM”的实际能力

为了测试PowerLawGLM与通用大模型之间的效果对比,幂律的法律团队收集了互联网上法律相关的Top100高频问题,进行了不同模型的效果人工评测,并且从法律专业人员的角度,与ChatGPT等典型的通用大模型进行的效果对比。评测的维度包括:对问题点的把握是否准确、对问题所含信息的分析是否全面准确、答案的操作可行性强弱、答案的法律专业性程度、法律依据有无,以及准确性全面性程度。最终的评测结果显示,100个问题的最优答案中,PowerLawGLM接近70%是最优答案,并且在操作可行性、法律专业性等方面差异显著。

如图所示,以下是部分ChatGPT和PowerLawGLM的回答:

1.针对某一法律问题的咨询:

ChatGPT对于彩礼问题的回答

PowerLawGLM对同一问题给出的回答

在此法律问题上,ChatGPT没有对能否请求对方返还彩礼进行正面解答,也没有对彩礼问题从法律角度进行分析并给出相关法律依据;而PowerLawGLM则对此问题进行了明确回答,对题目进行分析并给出了相关法律依据。

2.关于买卖合同的起草:

ChatGPT对于合同起草的回答

PowerLawGLM关于合同起草的回答

如图所示,ChatGPT起草的合同较为简略,整体合同格式及条款表述与一份真实可用的合同差距较大,经常出现引用失效法律、条款缺失、信息不完备等问题;而PowerLawGLM将用户提问中的主体、标的物、单价、诉讼法院等信息准确无误的体现在合同正文中,并且合同条款的完整性、专业性差异显著。

四、基于PowerLawGLM大模型的对话产品ChatMe正式上线

基于PowerLawGLM大模型的能力,幂律打造了法律对话产品ChatMe,现已正式上线,首批开放50个内测名额,扫码文末二维码即可直接预约报名体验。

ChatMe的功能和特点:

  • 合同咨询:ChatMe拥有丰富的合同知识数据,能够回答诸如“合同租期期限”等合同知识问题。
  • 合同起草:贴近中文合同起草场景,模版起草、条款组合起草、端对端生成起草等多种解决方案,让生成的合同质量更高。
  • 合同信息抽取:能够识别合同中的关键信息进行提取,如主体信息,合同总金额等等。
  • 合同审查:能够针对合同条款的风险点给出相关建议,提示风险。
  • 通用法律咨询:提供具有专业法律依据的法律咨询服务。

未来,幂律智能将持续专注法律垂直大模型的技术提升和落地应用,将法律大模型能力深度融入智能合同管理产品MeFlow及智能合同审查产品MeCheck中。同时,幂律将面向企业客户开放能力接口,企业可以将法律大模型能力快速接入现有业务流与系统中,带来显著效率提升。

幂律也会不断更新和改进模型,面向不断变化的法律知识和应用进行针对性的效果优化,进一步提升PowerLawGLM大模型的进化能力。

欢迎体验:法律大模型产品ChatMe申请体验

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/692309.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

二叉树OJ题:LeetCode--104.二叉树的最大深度

朋友们、伙计们,我们又见面了,本期来给大家解读一下LeetCode中第104道二叉树OJ题,如果看完之后对你有一定的启发,那么请留下你的三连,祝大家心想事成! 数据结构与算法专栏:数据结构与算法 个 人…

SAP从入门到放弃系列之工艺路线-子工序-Part2

文章目录 概述使用场景子工序内容1、 维护工序控制码2、维护子工序的工资类型3、作业标准值4、用户定义字段5、通过维护子工序的作业类型数据后,点击汇总标准值,工序的作业类型值可以通过子工序进行累计6、可以设置子工序是否带入生产订单 注意事项&…

selenium通过xpath定位text换行的元素

DOM元素(该元素是换行的,不能通过普通xpath定位): 可使用下面xpath定位该div //div[./text()/following-sibling::text()"点" and ./text()"5"] 解释一下就是:定位“子节点的text是[5] 且 子节点…

自然语言处理(概念)

1、 RNN模型简介 1.2传统RNN模型 2、LSTM模型 3、GRU模型 5、注意力机制 6、人名分类器 7 、BERT 8、Transformer 的结构是什么样子的? 各个子模块有什么作用? 8.1 Encoder模块 8.2 Decoder模块 8.3 Transformer 结构中的Decoder端具体输入是什么&#…

C# wpf 附加属性实现任意控件拖动调整大小

摘自这里 https://blog.csdn.net/u013113678/article/details/121719278 调试效果如下 using System; using System.Collections.Generic; using System.Diagnostics; using System.Linq; using System.Text; using System.Threading.Tasks; using System.Windows; using Syst…

vue修改数据后页面不重新渲染

使用vue&#xff0c;遇到几次修改了对象的属性后&#xff0c;页面并不重新渲染 一、直接添加属性的问题 <template><div><p v-for"(value,key) in item" :key"key">{{ value }}</p><button click"addProperty">…

【Linux】在Ubuntu下部署nginx——nginx的负载均衡

介绍 这里是小编成长之路的历程&#xff0c;也是小编的学习之路。希望和各位大佬们一起成长&#xff01; 以下为小编最喜欢的两句话&#xff1a; 要有最朴素的生活和最遥远的梦想&#xff0c;即使明天天寒地冻&#xff0c;山高水远&#xff0c;路远马亡。 一个人为什么要努力&a…

vs中的一些编码问题

1. 基本概念 文件编码格式 首先vs中编辑&#xff0c;保存文件实际上也是将文件内容以一定的编码格式存储。对于中文字符串 string s "一"; 按不同的编码格式保存后&#xff0c;通过16进制文件查看器&#xff0c;可以看到中文的编码是能对应上的。 开放高级保存…

select和pselect的关于信号打断的实验

select和pslect的man手册 SELECT(2) Linux Programmers Manual SELECT(2)NAMEselect, pselect, FD_CLR, FD_ISSET, FD_SET, FD_ZERO - synchronous I/O …

【HDFS实战】HDFS联合(联邦)集群的发展史

HDFS联合集群的发展史 文章目录 HDFS联合集群的发展史HDFS原始架构方案一 HDFS Federation方案二 ViewFs方案三 HDFS Router-based Federation常用命令常用配置RPC serverConnection to the NamenodesAdmin serverHTTP ServerState StoreRoutingNamenode monitoring 版本相关is…

nestJS打印多层对象以及铺平金额类型

console.dir(ret, { depth: 3 }); 金额是Decimal类型不好显示 Logger.verbose(JSON.stringify(ret, null, 2)); 利用JSON.stringify参数格式化 null: 不对数据进行提取&#xff0c; 2&#xff1a;缩进两个空格&#xff0c; 效果是直接帮忙平铺金额对象

java.lang.IllegalStateException Unable to find a @SpringBootConfiguration代码报错

文章目录 一. 问题场景二. 报错原因三. 解决方案 一. 问题场景 使用idea基于springBoot的项目进行单元测试时&#xff0c;出现异常&#xff0c;如下所示&#xff1a; Test ignored.java.lang.IllegalStateException: Unable to find a SpringBootConfiguration, you need to …

【电源专题】案例:电池保护芯片有是否能向0V电池充电的功能的区别

本案例发生在实际的工作之中。案例是这样的,有些产品因为各种原因没有按规范将电池与设备断开,而是插入机器(存在1mA的静态功耗)中并存放在仓库里2年后发现产品无法开机使用,并且电池无法充电。更换新的电池后运行正常,所以认定为是电池的问题。 可是为什么电池无法充电呢…

学妹:怎样才能设计出优秀的测试用例?

这篇文章我们主要聊一下测试工程师最通用的也是最根本的技能&#xff0c;测试用例的设计能力。 测试用例 测试用例是通过使用在测试计划中确定的测试技术&#xff0c;对于已确定的测试条件进行逐步推敲&#xff0c;精炼而设计出来的重点说明如何具体操作产生何种结果的文档。…

(免费分享)基于springboot,vue高校就业系统

管理员&#xff1a;10086/123 学生&#xff1a;10087/123 企业&#xff1a;10070/123 辅导员&#xff1a;10090/123 项目描述 高校就业管理系统 学生 : 个人信息、查看企业岗位信息、简历信息管理、我的应聘 辅导员 : 学生信息管理、三方协议书审核、查看班级就业统计信息 企…

App启动流程分析(一)

一、App启动涉及到的三个进程 1、Launcher进程&#xff1a;负责接收用户点击屏幕的事件&#xff0c;它其实就是一个Activity&#xff0c;屏幕上的各种Icon就是这个Activity中的Button&#xff0c;当点击Icon时&#xff0c;会触发启动App的流程。 2、SystemServer进程&#xff…

新手小白学JAVA_IDEA修改编辑与控制台字体大小

很多小白在刚刚使用IDEA的时候还不是很熟练 本文主要给大家提供一些使用的小技巧&#xff0c;希望能帮助到你 1.改变编辑窗口字体大小 1.1 将字体大小设置为固定值 我们可以将编辑窗口的字体大小设置为固定值 1.2 动态改变字体的大小 我们还可以通过Ctrl鼠标滚轮改变编辑窗口…

微信小程序怎么制作自己的小程序

小程序制作是指通过工具或开发语言制作微信平台上的小型应用程序&#xff0c;具有轻量、易用、无需下载安装等优点。随着移动互联网的飞速发展&#xff0c;小程序已经成为了各种企业和个人展示自己、提供服务的重要手段之一。 小程序制作的好处 小程序可以提高品牌曝光度。在…

SpringBoot + 规则引擎 URule,真的太强悍了!

一、背景 前段时间&#xff0c;在做项目重构的时候&#xff0c;遇到很多地方需要做很多的条件判断。当然可以用很多的if-else判断去解决&#xff0c;但是当时也不清楚怎么回事&#xff0c;就想玩点别的。于是乎&#xff0c;就去调研了规则引擎。 当然&#xff0c;市面上有很多…

Springboot 中RESTtemplate的使用

目录 一 概述 二 应用 1.get请求 2.post请求 一 概述 RESTtemplate提供了http请求连接的功能。spring 框架提供的 RestTemplate 类可用于在应用中调用 rest 服务&#xff0c;它简化了与 http 服务的通信方式&#xff0c;统一了 RESTful 的标准&#xff0c;封装了 http 链接…