没有听懂,自己浅浅记录一下
背景
深度学习与大模型带来的算力需求(需要的算力指数型提高)
解决方案
算力池化和算力网络
传统的主机服务,可能会存在闲置资源。
->改变商业模式:不是出售硬件服务,而是出售算力。类比水电公司不应该出售的是发电机/水库而是水与电
新的GPU架构?
算力网络新范式
主要聚焦于集成光学对算力网络的贡献
全电设计:稀疏矩阵的情况下效率不高
延迟与功耗的协调
光子集成设计的优势:
低延迟:光速通过
高能耗:只主要在光的产生、接受、转化上会有能耗
尺寸不敏感:
光子矩阵运算的实现方式
- 级联MZI(2017年的np)
- WDM
- WDM+PCM:相变材料控制状态,后续维护工作小,能耗更低
挑战
集成难度较大