对话AI顶尖大牛周明老师:大模型的机遇和挑战?

news2024/10/5 19:18:38

 Datawhale学习 

分享人:周明老师,Datawhale 特邀嘉宾

58854f4a77eb647562043be3110572d2.jpeg

这次 Datawhale开源学习 特别邀请了周明老师分享:

周明,澜舟科技创始人兼CEO,中国计算机学会 CCF 副理事长、NLP和大模型领域的顶尖大牛。

1991年就从NLP重镇哈工大拿到了博士学位,其后进入清华任职任教,并在1999年被微软亚洲研究院创始院长李开复挖走,后来不久成为NLP研究组de负责人。直到2020年离开,周明已经是MSRA副院长多年。

周明也是当今NLP领域成就最高的华人之一。他不仅是中国第一个中英翻译系统的研制者、日本最著名中日翻译产品研制者,还在2019年成为了语言领域最高级顶会ACL(国际计算语言协会)主席。

学术维度看,周明在NLP领域的影响力也位居世界前列。他是过去十年来发表NLP论文最多的科学家之一。据谷歌学术最新数据,其文章被引用总量超过3.4万。

2020年12月,他从微软离职,随后加入创新工场担任首席科学家,2021年6月孵化出澜舟科技,7月就推出轻量化模型——「孟子」,在中文语言理解评测CLUE榜单的多项指标上登顶第一。

周老师在人才培养、学术、产业方面都有非常高的成就,这次分享是对话的形式,主要根据参与开源学习的学习者感兴趣的问题,进行探讨和答疑。

在这次学习中,周明老师亲自看了每一个学习者提的问题,并逐一提供了反馈。晚上将选出部分问题一起交流。

1.直播预约:4月26日晚20:00

后台回复“周明”可以获取录播分享

以下是学习者们提的问题,周明老师亲自分类(经师易遇,人师难遇,感谢周明老师),看看大家都关心什么:

教育类

  1. 您好周老师,您能谈谈NLP未来的可能的发展么,以及这一波大模型的热度对NLP的从业人员和科研人员和学生的影响?

  2. 周老师您好,请问您如何看待AIGC对教育的影响?您认为在AIGC技术下智慧教育的发展方向在哪里?

  3. 周老师,您好,目前的chatGPT可能已经比世界上任何一个人都聪明了,您觉得未来学历还重要么,考研还有必要么,因为社会变化这么快,学校的那一套越来越不适应社会的发展

  4. 周老师您好,LLM对于刚入门的学生应如何学习呢?

  5. 周老师,您好,请问您觉得chatgpt4能帮助考研学生大幅度提高学习效率吗?

  6. 周教授,大模型时代已经到来,您认为在这种背景下,如何才能做出创新?

  7. 老师您好,我想请问一下,您觉得在目前大模型背景下,nlp 方向的研究、就业是否会受到巨大影响以至于进入一个衰退区呢,因为大模型其实导致了很多nlp经典任务的消融。

  8. 周老师您好,请问一个文科生如何学习ai,尤其是ai 的数学基础。请为文科生规划一个学习路径。谢谢周老师。

  9. 周老师晚上好,我想请教一下关于在社科研究领域如何应用ChatGPT做研究,怎么发挥其LLM模型的优势,在社科领域中有哪些可以较好切入的研究点。谢谢老师!

  10. 周老师,您好,我想问下对于在从事别的行业的在职人员,本身对NLP感兴趣,现阶段学习哪方面的知识可以更好的利用这些大模型,不会别别人替代呢,方便后续谋求更好的职业发展(比如财务审计领域、金融行业)

  11. 周老师,这波大模型浪潮,对于个体而言意味着什么,有哪些重要影响和机会?是否能够为个体实现很大的赋能?主要体现在哪些方面?谢谢老师

  12. 周老师您好!作为一个刚毕业才入职的员工,我正在转型计算机视觉,单位有创新科研的要求,但感觉自己的创新能力有限,一方面是感觉有很多基础知识要学,另一方面又觉得ai发展那么快,感觉自己跟不上了,有种无能无力的感觉。请问老师我该怎么做才能赶上ai的浪潮,不被淘汰呢,感谢老师~

  13. 周老师您好,请问在如今ChatGPT高速发展的形式下,我们作为基层开发者,要如何调整发展才能保持住自己的价值呢?

  14. 周老师您好,在大模型当道的今天,初学者是否还需要学习传统的机器学习理论、方法?

  15. 老师你好,我想问一下如何在AI突起的时代背景下找到需求方向,如何找到自己的AI方向?

技术类

  1. 周老师,请问在大模型高速发展都情况下,知识图谱是否有必要继续发展?如果发展是否是llm+kg,你认为两者该如何结合?

  2. 周老师您好,请问您如何看待LLM的智能化程度,它离真正的具有自我思考创造的智能还有多远?以及未来NLP的发展方向?

  3. 您好周老师,我想请教一下:在传统的NLP任务(如抽取、生成、分类、问答等)中,大型语言模型现在能够达到什么样的效果?相对于小型模型,它们是否具有明显的优势?如果大型模型能够超越小型模型,那么是否意味着将来每个人都可以完成NLP任务,而不需要过多的NLP工程师了呢?

  4. 您好周老师,目前gpt的模型中,规模相对较小的4b,8b类型模型,在基于GPT4生成的训练素材进行训练似乎也能达到接近GPT4的效果。如果只需要特定场景的模型,比如代替人类写sql代码这个场景,是不是基于4b,8b规模的模型进行为微调,也能得到不错的效果?未来研究趋势是沿着GPT的路线越做越大,还是在保证准确率的情况下把大模型做小,让人人都可离线部署?

  5. 周老师您好,我有两个问题:现在越来越多的人提到传统的NLP技术已经不复存在了,这是否意味着以应用为主的NLP入门者该花费相交以往更少的时间在传统nlp理论的学习上?

  6. 请问当前大模型的潜力挖掘到什么程度了呢,如果增加更多数据和算力,模型性能还会有多大的增长?

  7. 老师您好,我想了解一下人工智能现在是否真的到了一个瓶颈期,开始需要像chatgpt那样开始从规模入手提升算法而不是从更优化的模型?

  8. 想问下周老师怎么看大模型对CV的影响,目前来看一般是以多模态的方式去完成对CV的任务。想问下您对于纯视觉的大模型怎么看。以及对于科研工作者,大模型感觉让很多科研工作者处于无科研可做的境地,您怎么看这个事?

  9. 老师您好,现在的大语言模型都有一个很严重的通病,就是会有严重的幻觉,会胡编乱造根本不存在的内容,目前有什么技术路线可以根据这个恶疾?

  10. 现在LLM应用在文本生成领域,怎么控制以及评测生成的数据质量?

  11. 似乎现在的各种类AGI应用,都是把所需的各种信息用旁门左道的方法转化为自然语言文本,再交给LLM进行API调用并自我迭代完成的,这显然是个笨办法,那有没有什么有前景的研究方向,可以取代LLM这个"胶水"模型?

  12. 周老师您好,问下GPT-4相比GPT-3.5,在训练阶段有变化吗,后续的指令微调过程和GPT-3.5有什么不同吗?

  13. 我是一名业务类AI算法工程师,但是面对AIGC一个大模型可以统一所有任务的情况,感到特别焦虑,担心被淘汰。您觉得算法工程师应该如何应对这样的变化呢?

  14. 周老您好,请问您目前对国内的大数据模型看法如何,您认为国内有什么大学或者公司的探索领域是值得关注的?您如何看待ai的安全问题?

  15. 周老师您好,向您请教,如何利用开源大语言模型,开展自己企业的个性化本地化大语言模型打造?

  16. 周老师好,LLM未来在人机对话领域有哪些科研发展方向?哪些前景值得研究?

  17. 周老师好,请问您对LLM的self-refine和self-improve的技术路径有何见解?

  18. ChatGPT及GPT4.0远远优于其他同类LLM的根本原因是什么?

  19. LLM的涌现能力出现的底层原因或数学原理是什么?ChatGPT在各项涌现能力上领先于同类产品吗?是否有具体指标衡量?

  20. 从大模型蒸馏减枝方式将参数减少到小模型之后,通过更高质量数据训练调优,能否一样产生涌现能力?

应用类

  1. 周老师您好,除了自然语言的模型,大模型还会对哪些产业的模型有本质的影响,大家会有意愿去共享自己私域的数据吗?如果会,是什么原因在驱动这个变化?

  2. 周老师,您好。请问对于LLM的finetune,您有什么理解,以后可能每个公司,甚至创业的小公司都能廉价地训练出自己业务领域的LLM吗?finetune需要多少数据量?

  3. 周老师你好,目前OpenAI对国内不开放,而且有合规问题,国内商用LLM效果还比较弱,很多开源的LLM都不允许商用,部分可以商用的中文效果都不好,请问对于国内的个人或者是中小企业,在这波变革之中如何不被落下

  4. 您好,现在各大公司和机构都在争相研究大模型作为基础模型,我们是否真的需要那么那么多相似的大模型,这是否会造成算力和能源的浪费?

  5. 自然语言处理的技术如何应用到基础科学上?比如材料、物理、生物等学科。

  6. 周老师您好,目前大模型在文本、图像等通用非结构化数据上表现良好,请问您觉得这种优势能否应用在结构化数据上,如交通、金融等时序数据,提升这些垂直领域上的模型推理能力吗?

  7. 老师您好,如何针对垂类领域进行数据标注?

  8. 周老师好,请问AI对传统软件的影响是什么样的,未来会大规模嵌入吗?

  9. 周老师您好!您能谈谈多模态大模型与机器人领域结合的发展么,AGI通用人工智能机器人如何实现?感谢老师

  10. 请问nlp目前在情感分析和心理咨询方面有什么突破性的进展?未来实现ai心理咨询是否是大势所趋?

  11. 周老师您好,这次AIGC的浪潮,我感觉开源生态起了很大的作用,像github、huggingface、colab、LLaMa等等,我们不仅依赖这些国外的生态学习,甚至越来越多付费了。想请问周老师,这类开源生态产品有没有推荐的国产替代?以及这类国产替代是否值得作为创业方向?

  12. 周老师您好!请问chatGPT与图技术结合在风控领域的应用有成功案例么?

  13. 周老师好,请问如何利用chatGPT更好赋能coding?

  14. 金融领域落地专用大模型的可能困难在什么地方?

  15. NLP发展历程的拐点有哪些,最新的或者下一次拐点会是什么呢?

参考:
1. 对话AI大牛周明:从科学家到企业家要迈过多少道坎

参与学习:AIGC 组队学习来了!

f36250ceb9d273fe02e04d51c441649f.png
点赞“分享就是一种支持↓

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/462449.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

typeScript安装以及typeScript配置

1. 什么是typeScript ? 它强调了 TypeScript 的两个最重要的特性——类型系统、适用于任何规模。 包含js的所有的元素,能运行js代码,支持ES语法,是一种开源、跨平台的编程语言。就是js的超 集。 TypeScript 是添加了类型系统的 JavaScri…

Java并发编程 —— ThreadLocal详解

一、什么是ThreadLocal ThreadLocal用于提供线程内部共享的变量,每个线程在访问ThreadLocal实例的时候都可以获得自己的、独立初始化的变量副本,这样线程间互不干扰,从而避免了线程安全问题。 比如我们知道SimpleDateFormat是线程不安全的&…

LVS负载均衡+keepalived高可用

准备准备五台虚拟机 192.168.255.128 MASTER 192.168.255.134 BACKUP 192.168.255.130 Nginx节点服务器1 192.168.255.131 Nginx节点服务器2 192.168.255.132 客户端验证 一、配置节点服务器 1、配置虚接口lo:0 cd /etc/sysconfig/network-scripts/ cp ifcfg-…

Vue-cli 3.x 脚手架搭建的 Vue 2.x 项目进行 npm install 安装时报错: npm ERR! code 1……

项目场景: 公司以前做过的项目,当时开发环境 npm,node.js 版本和现在都不一样,比较旧了,项目之前是用 Vue-cli 3.x 搭建的,Vue 2.x 写的,当时配套的第三方依赖版本也都很落后了,在近…

有趣有爱有温度!迅镭激光第一季度户外团建活动圆满落幕!

阳春四月,元气复苏 凝心聚力,共享喜悦 迅镭激光第一季度寿星及新人 欢聚常熟蒋巷基地 开启一段美妙的户外团建之旅 无创意不团建!蓝天白云下,队员们在教练的指导下解锁各种花样游戏大玩法,大家密切配合、相互协作,…

Docker | 解决docker 容器中csv文件乱码的情况

问题描述:在Ubuntu docker容器中,打开.csv文件时显示乱码 问题如图 错误分析: 用locale查看所用容器支持的字符集 从输出可以看到,系统使用的是POSIX字符集,POSIX字符集是不支持中韩文的,而UTF-8是支持中…

054:cesium加载WMS规范的影像服务

第054个 点击查看专栏目录 本示例的目的是介绍如何在vue+cesium中加载WMS规范的影像服务。WebMapServiceImageryProvider提供由 Web 地图服务 (WMS) 服务器托管的平铺图像。 直接复制下面的 vue+cesium源代码,操作2分钟即可运行实现效果. 文章目录 示例效果配置方式示例源代…

剑指 Offer II 026. 重排链表

思路: (1)找到链表中心点,如果链表节点为奇数,那么要保证前面要比后面多一个节点。 (2)将后一部分的结点进行反转。 (3)将反转后的结点插入前一部分的结点。 &#xff0…

前有谷歌的“生存指南”,后有金山系的“表格编程”,均登热榜

谷歌的“生存指南” 一位曾经在谷歌工作的工程师,干了一件了不起的事,花费了两年的时间,整理了一份“xg2xg”的清单。 原来这位离职的谷歌工程师为程序员编写了一份“厂外生存指南”,即使你从谷歌离职后,在这套“生存…

无良公司把我从上家挖过来,白嫖了六个月,临近试用期结束才说不合适,催我赶紧找下家!...

职场套路多,一不小心就会掉坑,一位网友讲述了自己的遭遇: 今天被领导催促离职了,当时就是这个领导把他从别的公司挖过来。这家公司催得太急,为了投奔这里,他和上家的HR都闹翻了,上家总监挽留他&…

ChatGLM ptuning 的实战方案

大家好,我是herosunly。985院校硕士毕业,现担任算法研究员一职,热衷于机器学习算法研究与应用。曾获得阿里云天池比赛第一名,CCF比赛第二名,科大讯飞比赛第三名。拥有多项发明专利。对机器学习和深度学习拥有自己独到的见解。曾经辅导过若干个非计算机专业的学生进入到算法…

【中间件】kafka

目录 一、概述二、生产者1. 发送原理2. 生产者分区 Partition分区好处分区策略 3. 生产者如何提高吞吐量4. 数据可靠性ACK应答级别数据不丢失:ACK ISR数据不重复:幂等性数据有序 三、broker1. 工作流程2. 副本相关3. 底层存储4. 高效读写数据 四、消费者…

常见误区,你可曾踩过?深度剖析WEB自动化测试实施问题与解决方案

目录 摘要: 一、WEB自动化测试实施的步骤 1.测试计划 2.测试用例设计 3.环境搭建 4.脚本编写 5.执行测试 6.缺陷管理 二、WEB自动化测试常见误区 1.选择不合适的自动化测试工具和框架 2.忽略测试环境的影响 3.. 缺乏对页面元素的理解 三、示例代码 结论…

学顶教育:一级消防师资格证发放问题分享

1、为什么证书不申请没加注就可以下载? 2021年12月17日前由相关行业协会、学会或有关部门指定的机构出具的电子证书,目前无需申请加注,可直接查看、下载。 2、如何查询“证书查询验证范围”? 进入中国人事考试网首页&#xff0…

体验 Google Bard

环境 windows 10 64bitGoogle Bardpython 3.8 简介 本篇介绍一个开源的 Google 聊天机器人Bard 的 API 逆向工程,使用它,可以免费的使用 Bard 服务,项目地址:https://github.com/acheong08/Bard 安装及使用 通过 pip 来安装 pip &…

内网渗透的一些tips

声明:文中涉及到的技术和工具,仅供学习使用,禁止从事任何非法活动,如因此造成的直接或间接损失,均由使用者自行承担责任。 每周不定时持续分享各种干货。 众亦信安,中意你啊! 一.密码抓取 平…

CVPR 2023 | 一键去除视频闪烁,该研究提出了一个通用框架

该论文成功提出了第一个无需额外指导或了解闪烁的通用去闪烁方法,可以消除各种闪烁伪影。 高质量的视频通常在时间上具有一致性,但由于各种原因,许多视频会出现闪烁。例如,由于一些老相机硬件质量较差,不能将每帧的曝光…

字符函数和字符串函数(二)

目录 1.strncpy 2.strncat 3.strncmp 4.strstr 5.strchr 6.strtok 7.strerror 1.strncpy ok,在上一篇博客的讲解中,我们谈到了strcpy这个函数,并且了解到了这个函数的功能是将源字符串的内容复制到目标字符串里,并且我们还知道了在C语…

字符函数和字符串函数(三)

1.字符分类函数 在我们的日常代码生活中,经常会遇到一类问题,比如说判断一个字母的大小写,或者标点符号等。因此,我们需要用到一些字符分类函数 函数 如果他的参数符合下列条件就返回真 iscntrl 任何控制字符 isspace 空白字符&…

使用GPT4做Leetcode第 102 场双周赛

虽然一次周赛的几个题目说明不了太多问题,比如这个周赛的Hard题目就是板子题,算不上Hard,也许把第三题和第四题的顺序换一下比较合适。但是,GPT4的表现已经严重超出了我的预期。对于这次周赛的四个题目,GPT4的表现如下…