【藏经阁一起读】(68)__《ECS技术实战指南》
目录
一、知识收获
(1)、CIPU
(2)、RDMA
二、个人建议
一、知识收获
(1)、CIPU
1、多模态、海量数据、超大模型成为发展方向,模型参数规模的快速增长,以及在工程上极难处理,这种发展趋势也带来了巨大的计算挑战。
大模型在训练,微调和应用上线的阶段是最消耗算力的。预训练之后的模型还需要Finetune,大模型业务的几个关键环节,对应算力的需求都十分惊人,带来的算力挑战不小。文中全面解释了,大模型时代如何利用弹性计算服务应对大算力挑战
2、AIACC是基于阿里云laaS资源推出的神龙A1性能加速套件,用于优化基于Al主流计算框架搭建的模型,能显著提升训练和推理性能。
AIACC神龙Ai推理加速套件由AIACC—Torch(Pytorch推理加速引擎)、AIACC—MLIR(MLIR推理加速引擎)、AIACC—HRT(AIACC算子深度加速引擎)等组件构成。AIACC神龙Ai性能加速套件能够为SD提供加速优化支持。
文章中同时详细介绍了SD的使用方法,举例对比普通状态下和阿里云AIACC加速下的出图和计算速度的不同
3、AIGC,全称是Al Generated Content,是指Al内容生成,本质上是一种生成式AI。
它所覆盖的范围比较广,包括LLM,即大语言模型。从广义上来讲,大语言模型就是从大规模数据集上进行自监督训练,参数量级在10亿、百亿甚至更多。
这种语言模型训练任务可以分为以下两个部分:
Pretrain:大量数据提取共性特征,作为不同场景的基础模型,它的定位是通用性,对训练资源要求比较高,是各大公司实现通用基础模型的必要途径;
Finetune:少量数据适应特定领域模型,它面向的是下游任务,定位在于特定性,这个在目前这种大语言模型场景下对训练要求也很高,也是各个公司希望基于自已有的基础模型和特有数据集,做定制化产业升级和创新应用开发的实现方式。
4、阿里云云基础设施处理器CIPU技术是取代传统CPU的新一代云计算体系架构的核心。
在云的环境下,CIPU解决云的弹性、多租户问题。它把存储资源、网络资源、CPU资源,全部通过CIPU纳管,就是物理资源加上CIPU后就是一个云化的虚拟计算资源池。
CIPU和CPU、GPU的差别:
(1)、安全
(2)、加速数据。CPU是通用计算,GPU加速计算、CIPU加速数据。
(3)、laas池化。
5、弹性RDMA ,是阿里云自研的云上弹性 RDMA网络,兼具传统RDMA网络高吞吐、低延迟特性,同时支持秒级的大规模RDMA组网。
基于弹性RDMA,开发者可以将HPC应用软件部署在云上,获取成本更低、弹性更好的高性能应用集群;也可以将 VPC网络替换成弹性RDMA 网络,加速应用性能。
(2)、RDMA
6、软件跨架构迁移的原理和实践(x86->ARM)
7、云原生算力时代-倚天实例技术架构与最佳实践解析
二、个人建议
本书是阿里云弹性计算技术公开课的演讲合辑,实用,干货,是一本非常有用的参考书。
个人建议能否在文章中附上阿里云相关的课程训练营、相关的实验,这样读完书可以继续学习相关知识,有同时学习这方面的人可以一起讨论相关问题,动手实验可以加深学习的效果。
推荐阅读:
大数据的关键技术之——大数据采集 |
[你找到牵手一辈子的人了吗?] 七夕情人节特辑 |
数字技术能让古籍“活过来”吗? |
心情不好时,帮自己训练个AI情绪鼓励师吧(基于PALM 2.0 finetune) |
深度学习框架TensorFlow |
人工智能开发人员工作流程、看法、工具统计数据 |
2023 年6月开发者调查统计结果——最流行的技术(2) |
2023 年6月开发者调查统计结果——最流行的技术(1) |
让Ai帮我们画个粽子,它会画成什么样呢? |
| | |
给照片换底色(python+opencv) | 猫十二分类 | 基于大模型的虚拟数字人__虚拟主播实例 |
| | |
计算机视觉__基本图像操作(显示、读取、保存) | 直方图(颜色直方图、灰度直方图) | 直方图均衡化(调节图像亮度、对比度) |
| | |
语音识别实战(python代码)(一) | 人工智能基础篇 | 计算机视觉基础__图像特征 |
| ||
matplotlib 自带绘图样式效果展示速查(28种,全) | ||
| ||
Three.js实例详解___旋转的精灵女孩(附完整代码和资源)(一) | ||
| | |
立体多层玫瑰绘图源码__玫瑰花python 绘图源码集锦 | Python 3D可视化(一) | 让你的作品更出色——词云Word Cloud的制作方法(基于python,WordCloud,stylecloud) |
| | |
python Format()函数的用法___实例详解(一)(全,例多)___各种格式化替换,format对齐打印 | 用代码写出浪漫__合集(python、matplotlib、Matlab、java绘制爱心、玫瑰花、前端特效玫瑰、爱心) | python爱心源代码集锦(18款) |
| | |
Python中Print()函数的用法___实例详解(全,例多) | Python函数方法实例详解全集(更新中...) | 《 Python List 列表全实例详解系列(一)》__系列总目录、列表概念 |
| | |
用代码过中秋,python海龟月饼你要不要尝一口? | python练习题目录 | |
| | |
草莓熊python turtle绘图(风车版)附源代码 | 草莓熊python turtle绘图代码(玫瑰花版)附源代码 | 草莓熊python绘图(春节版,圣诞倒数雪花版)附源代码 |
| | |
巴斯光年python turtle绘图__附源代码 | 皮卡丘python turtle海龟绘图(电力球版)附源代码 | |
| | |
Node.js (v19.1.0npm 8.19.3) vue.js安装配置教程(超详细) | 色彩颜色对照表(一)(16进制、RGB、CMYK、HSV、中英文名) | 2023年4月多家权威机构____编程语言排行榜__薪酬状况 |
| | |
手机屏幕坏了____怎么把里面的资料导出(18种方法) | 【CSDN云IDE】个人使用体验和建议(含超详细操作教程)(python、webGL方向) | 查看jdk安装路径,在windows上实现多个java jdk的共存解决办法,安装java19后终端乱码的解决 |
| ||
vue3 项目搭建教程(基于create-vue,vite,Vite + Vue) | ||
| | |
2023年春节祝福第二弹——送你一只守护兔,让它温暖每一个你【html5 css3】画会动的小兔子,炫酷充电,字体特 | 别具一格,原创唯美浪漫情人节表白专辑,(复制就可用)(html5,css3,svg)表白爱心代码(4套) | SVG实例详解系列(一)(svg概述、位图和矢量图区别(图解)、SVG应用实例) |
| | |
【程序人生】卡塔尔世界杯元素python海龟绘图(附源代码),世界杯主题前端特效5个(附源码) | HTML+CSS+svg绘制精美彩色闪灯圣诞树,HTML+CSS+Js实时新年时间倒数倒计时(附源代码) | 2023春节祝福系列第一弹(上)(放飞祈福孔明灯,祝福大家身体健康)(附完整源代码及资源免费下载) |
| | |
tomcat11、tomcat10 安装配置(Windows环境)(详细图文) | Tomcat端口配置(详细) | Tomcat 启动闪退问题解决集(八大类详细) |