受到物理、数学等学科的启发,AIGC大模型发展迎来一波技术颠覆。交叉学科里蕴含的巨大能量,为科研人带来创新视角和思维启迪。
北京时间4月28日(周五)10:00,将门-TechBeat社区邀请到麻省理工学院电子与计算机科学系博士生——许逸伦,与大家分享 “解锁由物理启发的深度生成模型:从扩散模型到泊松流模型”,同时也与大家在线讨论交流物理模型对AI生成模型的影响。
⚡这是TechBeat社区第493期Talk,本期Talk以直播形式与大家见面,如果无法及时参与,可在直播结束后登录https://www.techbeat.net/ 查找观看~
TechBeat人工智能社区
,
已结束直播,可观看回放
观看回放
解锁由物理启发的深度生成模型:从扩散模型到泊松流模型
讲者:MIT在读博士许逸伦
视频号
Talk·信息
▼
主题:解锁由物理启发的深度生成模型:从扩散模型到泊松流模型
嘉宾:麻省理工学院电子与计算机科学系博士生 许逸伦
时间:北京时间 4月28日 (周五) 10:00
直播平台:TechBeat人工智能社区视频号
回顾视频:https://www.techbeat.net/
Talk·介绍
▼
最近,我们见证了由物理启发的深度生成模型的大放异彩,如基于热力学的扩散模型(diffusion model)和基于静电学的泊松流模型(PFGM)。本次分享将会梳理他们的发展,并且介绍一个更宽泛的扩展柏松流模型(PFGM++)框架。PFGM++ 通过扩展静电力学中的增广空间,统一了扩散模型和泊松流模型。PFGM++不仅理论上能够显示地调节模型的鲁棒性与训练难度,在多个图片标准数据集的实际实验上也取得了当今最优的表现。最后,我将探讨其他物理过程是否可以为我们带来新的生成模型。
分享内容大纲:
1、对生成模型的背景介绍
-
物理启发的生成模型在如今的应用
-
从Normalizing flow model到由热力学启发的扩散模型(diffusion model)的演化
2、对泊松流模型(PFGM)的介绍
-
泊松流模型如何用静电学的理论来构建生成模型
-
泊松流模型的具体训练与采样算法
-
讨论泊松流模型比起之前已有模型(如diffusion model)的好处
3、对扩展泊松流模型 (PFGM++)的介绍
-
扩展泊松流模型如何通过变化增广空间的维度来统一PFGM与diffusion model
-
扩展泊松流模型的高效训练方法
-
扩展泊松流模型如何显示地控制模型的鲁棒性与训练难度
4、物理过程能否提供给我们更多新的生成模型?
Talk·预习资料
▼
PFGM (泊松流模型):
https://arxiv.org/abs/2209.11178(arXiv), https://github.com/Newbeeer/Poisson_flow (GitHub)
PFGM++ (扩展泊松流模型):
https://arxiv.org/abs/2302.04265(arXiv),https://github.com/Newbeeer/pfgmpp (GitHub)
Diffusion model (扩散模型):
https://arxiv.org/abs/2006.11239, https://arxiv.org/abs/2011.13456
Talk·嘉宾介绍
▼
许逸伦
麻省理工学院电子与计算机科学系博士生
许逸伦是麻省理工学院(MIT)电子与计算机科学(EECS)系三年级在读博士生,师从Tommi Jaakkola教授。他本科就读于北京大学的图灵班。许逸伦的研究方向为机器学习,目前主要关注更高效、更可控的生成模型。他在国际人工智能顶级会议(如ICML、NeurIPS和ICLR等)上发表了十余篇文章,并多次获得口头报告的机会。
个人主页:https://yilun-xu.com
举手提问
▼
大家如有希望同嘉宾交流的问题,欢迎扫码留下你的想法,工作人员将记录下你的问题提前告知嘉宾,并在直播中讨论~