OpenCSG传神社区月度功能更新

news2024/11/23 21:07:06

9月社区ReleaseNote

在9月的社区更新中,我们继续秉持开放与创新的精神,推出了一系列新功能和技术升级。这些更新不仅扩展了社区的技术支持范围,还为用户提供了更多资源,助力其在人工智能、大数据处理和推理加速等领域的创新。通过与知名企业的合作、引入具身智能的专区以及不断提升存储系统的性能,传神社区致力于为开发者、研究人员和企业提供一个全面、开放、易于使用的平台。

本次更新包括以下几大亮点:

01 具身智能专区🧠

02 Dataflow平台上线🌐

0支持NVIDIA推理引擎NIM🤖

04 支持昇腾推理引擎MINDIE⚙️

05  提示工程专区📋

06  数据集预览功能增强👀

07  后端存储系统升级📦

来源:传神社区

01 

具身智能专区

基于8月推出的“开源项目”模块,本次新增了“知名企业”专区,进一步拓展了具身智能领域的内容,为用户提供了更广泛的行业视角和信息资源。该专区汇集了全球在具身智能领域中具有重要影响力的企业,涵盖了机器人、人工智能技术研发及应用等多个方向。

在这个专区中,用户可以方便地浏览并深入了解与具身智能技术紧密相关的领先企业,如Neura Robotics、Sanctuary AI和Figure AI等。这些企业的资料包括它们的成立时间、主要技术方向、产品和服务,以及最新的技术动态。通过访问这些企业的介绍页面,用户能够了解行业内的最新进展、技术革新以及不同企业在具身智能领域的研究和开发重点。

此外,专区不仅是行业信息的展示窗口,也是一个交流与合作的平台。通过这一模块,用户能够掌握最新的前沿技术趋势,并有机会与这些领先企业建立合作或获取技术支持,进一步推动具身智能在各行业中的应用与创新。

您可以在传神社区首页 导航栏 -> 专区 -> 具身智能 -> 找到“知名企业”专区

图片

图片

02 

Dataflow平台上线

DataFlow平台是基于Agentic架构理念设计的,专门应对复杂的数据处理任务。这个平台通过高度动态且可定制化的架构,为用户提供了一站式的数据处理体验,极大地简化了各类复杂的数据操作过程。无论是大规模数据清洗、分析,还是多种格式的文件处理,DataFlow都能够灵活适应不同场景的需求。它不仅为用户提供了高效的数据流管理和任务自动化工具,还具备良好的扩展性,能够轻松应对不断增长的业务需求。

平台支持多种数据处理模块,涵盖从数据清洗、转换到复杂的机器学习模型部署的全流程。用户可以通过直观的界面创建并管理自己的数据任务,实时查看任务状态和处理进度。同时,DataFlow还集成了丰富的数据源接口,支持对不同类型的文件格式进行快速处理,如PDF、CSV、HTML等,帮助用户轻松应对多样化的数据处理需求。

DataFlow平台的最大优势在于其高度定制化的解决方案。用户可以根据具体的业务需求,灵活调整数据处理流程、配置参数,并通过平台提供的API接口与现有系统无缝集成。这一切都极大提升了数据处理的效率与灵活性,使用户能够专注于更具战略性的数据分析和决策。

您可以在传神社区首页 导航栏 -> 产品 -> 找到 DataFlow 智能数据平台

图片

图片

详情请点击卡片内容查看

我们欢迎用户随时与我们联系,以获取更多关于DataFlow平台的详细信息和定制化咨询服务。我们的团队将为用户提供个性化的解决方案,帮助其充分利用平台的强大功能,满足各种数据处理的需求。

03 

支持NVIDIA推理引擎NIM

NVIDIA 推出的 NIM(NVIDIA Inference Microservices) 是一款基于 NVIDIA 推理软件的微服务预构建容器,包含了 Triton 推理服务器™TensorRT™-LLM,为开发者提供强大的推理加速能力。借助高性能显卡如 A100H800,NIM 能显著缩短 AI 模型的部署时间,从传统的几周减少到几分钟,为企业带来极大的效率提升。

通过 OpenCSG,用户可以轻松实现 NIM 容器的部署,快速优化模型推理,加速大模型应用的落地。

这一解决方案不仅为用户提供了高效、安全的推理应用环境,还通过与阿里云计算巢的结合,提供了企业级私有化部署选项,满足企业在数字化转型中的不同场景需求。

图片

详情请点击卡片内容查看

API 测试

图片

UI测试

图片

性能测试(2GPU in A10)

图片

04 

支持昇腾推理引擎MINDIE

OpenCSG 平台现已全面支持 昇腾推理引擎 MindIE,为开发者提供了强大的推理加速工具。通过集成 MindIE,OpenCSG 用户可以充分利用昇腾硬件的高效算力,快速部署并优化基于昇腾平台的 AI 应用。MindIE 的引入不仅提升了 AI 推理任务的处理效率,还让用户能够通过分层开放的 AI 能力设计多样化的推理方案,满足各类复杂应用场景的需求。

在 OpenCSG 中,用户可以轻松选择 MindIE 作为运行时框架,并根据具体业务需求动态调整资源配置,例如选择不同的 NPU、vCPU 及内存,确保推理任务在最优配置下高效运行。MindIE 的多层次编程接口还允许开发者根据不同的推理任务灵活调用底层 API,极大提升了开发的灵活性和效率。

MindIE 支持多个昇腾处理器,如 NPU 910B,能够提供卓越的推理加速效果。结合 OpenCSG 平台的高可扩展性,用户可以在该平台上轻松部署 AI 模型,实现从开发、测试到生产环境的一站式服务,进一步优化推理性能并缩短项目的上线周期。

通过 MindIE 的支持,OpenCSG 不仅进一步扩展了其 AI 推理能力,还为广大的昇腾平台用户提供了更加灵活、高效的开发环境,助力他们在各类 AI 任务中获得更出色的表现。

您可以在个人中心-> 资源控制台-> 新建实例 -> 运行时框架 -> 选择 MindIE 

图片

05  

提示工程专区

社区上线了全新的提示工程专区,旨在为用户提供丰富的提示词相关工具和资源,助力大家更高效地开发和优化提示工程。这个专区涵盖了多个模块,方便用户在不同应用场景下灵活使用。

“提示词库”模块,用户不仅可以浏览社区中已经共享的优质提示词,还可以根据自己的需求搜索特定领域的提示词,或者通过模型查看关联的提示词。这些提示词由社区用户共同贡献,涵盖了各类AI应用场景,如自然语言处理、生成式模型、图像识别等。用户还可以对自己常用或创造的提示词进行标注和分享,进一步丰富提示词库的内容,同时帮助其他用户加速模型开发。

“优化助手”模块是提示工程专区的另一大亮点,专为提示词优化而设计。通过这个模块,用户可以将自己的提示词输入,OpenCSG提供优化服务,对提示词进行微调。

您可以在传神社区首页 导航栏 -> 专区 -> 提示工程 -> 找到提示词库和优化助手

图片

图片

图片

06 

数据集预览功能增强

针对parquet格式的数据集,平台支持子数据集及用途数据集的智能识别与切换功能。用户可在数据预览界面中查看并管理不同的子数据集,如训练集、验证集和测试集。通过选择用途(例如train, validation, test),用户能够快速切换数据的使用场景,以满足不同的实验需求。此外,系统能够自动识别并展示parquet文件中的行数,方便用户了解数据集的规模。该功能有效简化了数据集管理流程,增强了多场景下的灵活性与便捷性。

图片

07 

后端存储系统升级

OpenCSG 的后端存储系统通过 Gitaly 进行了全面升级,显著提升了模型同步的性能。借助这一升级,用户能够体验到更高的可用性,系统在处理大规模模型时表现更加稳定。同时,响应速度大幅提升,用户可以更快速地完成模型的上传、下载和更新操作。升级后的系统还加强了稳定性,即使在高并发情况下,存储系统也能保持平稳运行,为用户提供更加流畅的操作体验。

欢迎加入传神社区

•贡献代码,与我们一同共建更好的OpenCSG

•Github主页

欢迎🌟:https:// github.com/OpenCSGs

•Huggingface主页

欢迎下载:https://huggingface.co/opencsg

•加入我们的用户交流群,分享经验

图片

扫描上方二维码添加传神小助手


“      关于OpenCSG

开放传神(OpenCSG)成立于2023年,是一家致力于大模型生态社区建设,汇集人工智能行业上下游企业链共同为大模型在垂直行业的应用提供解决方案和工具平台的公司。

关注OpenCSG

图片

加入传神社区

图片

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2202859.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

老男孩mysql系列 1_Mysql 8.0常规安装

1. MySQL安装准备 选择安装的MySQL版本首先判断是否要和公司其他已经安装好的MySQL保持版本一致如果没有上述要求,则一般会安装最新版本(目前是5.7)如果不是实验新功能性质,则不要选择development release,而要安装Gen…

nuScenes里的目标物体的速度是如何获取的

nuScenes的那些标注文件里并没有标注记录物体的速度数据,而是读取标注数据后根据sample_annotation.json里目标在前后帧里的translation数据相减除以时间差获得x、y、z方向的三个速度分量(Vx,Vy,Vz)的,一版只使用了Vx和Vy,具体实现代码在nusc…

20241007给荣品RD-RK3588-AHD开发板刷Rockchip原厂的Buildroot时使用ADB

20241007给荣品RD-RK3588-AHD开发板刷Rockchip原厂的Buildroot时使用ADB 2024/10/7 17:35 缘起:由于荣品RD-RK3588-AHD开发板使用的是9针的USB-A口,没有使用EVB4默认的type C口。 因此需要拿掉fusb302的驱动/DTS配置部分。 同时,为了简单起见…

腾讯云实时音视频 SDK(TRTC SDK)相关

实时音视频 SDK(TRTC SDK) 的 RoomID 是什么?取值区间值是多少? RoomID 即房间号,用于唯一标识一个房间。房间号取值区间为1 - 4294967295,由开发者自行维护和分配。 实时音视频 SDK(TRTC SDK…

国产工具链GCKontrol-GCAir助力控制律开发快速验证

前言 随着航空领域技术的不断发展,飞机的飞行品质评估和优化成为了航空领域的一个重要任务,为了确保飞行器在各种复杂条件下的稳定性,控制律设计过程中的模型和数据验证需要大量仿真和测试。 本文将探讨基于世冠科技的国产软件工具链GCKont…

Java面试宝典-Java集合01

Java面试宝典-Java集合01 目录 Java面试宝典-Java集合01 1、Java中常用的集合有哪些? 2、Collection 和 Collections 有什么区别? 3、为什么集合类没有实现 Cloneable 和 Serializable 接口? 4、数组和集合有什么本质区别? 5、数组…

flutter 一段长文本实现检索功能,检索的文本加粗标红

先来看效果 做这个功能的原因,因为日志比较长,内容很多,找起来非常不方便 只是简单的加粗标红的话,用TextSpan自己也可以做,主要日志还涉及选择复制,涉及的东西很多,想到了 extended_text&…

基于Python的摄影平台交流系统

作者:计算机学姐 开发技术:SpringBoot、SSM、Vue、MySQL、JSP、ElementUI、Python、小程序等,“文末源码”。 专栏推荐:前后端分离项目源码、SpringBoot项目源码、Vue项目源码、SSM项目源码、微信小程序源码 精品专栏:…

美团Java一面

美团Java一面 9.24一面,已经寄了 收到的第一个面试,表现很不好 spring bean生命周期 作用域(忘完了) 为什么用redis缓存 redis和数据库的缓存一致性问题 redis集群下缓存更新不一致问题 aop说一下 arraylist和linkedlist 数据库的…

H264重点笔记记录

H264格式 目前视频中的H.264流行的NALU包装方式有两种,一种叫做annexB,一种叫做avcC。对于这两种格式,不同的厂商支持程度也不太一样,例如,Android硬解码MediaCodec只接受annexB格式的数据,而Apple的Video…

AI绘画,AI生成图片

分享一个可以免费使用的AI生成图片的网站: https://openart.aihttps://openart.ai/create 1、登陆后点击右上角create 2、在创建页面左侧输入描述文案,下面调整生成图片张数,点击create,右边即可生成 我这里输入了在吃麦当劳的超…

【bug】paddleocr draw_ocr_box_txt ValueError: incorrect coordinate type

【bug】paddleocr draw_ocr_box_txt ValueError: incorrect coordinate type 环境 python 3.10.15pillow 10.4.0 paddleocr 2.8.1错误详情 错误文本 Traceback (most recent call last):....draw_left.polygon(box, fillcolor)ValueError: inco…

社交媒体对人际关系的影响:Facebook的案例分析

随着社交媒体的快速发展,人们的沟通方式和人际关系发生了深刻变化。作为全球最大的社交网络之一,Facebook在这一进程中扮演了重要角色。本文将分析Facebook如何影响人际关系,包括沟通方式的转变、情感连接的变化以及社交互动的质量。 1. 沟通…

echarts的option,设置折线图鼠标悬浮显示数据

在series平级位置加代码 效果看起来还不错

深度学习:词嵌入embedding和Word2Vec模型

目录 前言 一、词嵌入(Embedding) 1.传统自然语言处理问题 2.什么是词嵌入 3.主要特点 二、Word2vec模型 1.连续词袋模型(CBOW) 2.跳字模型(Skip-gram) 三、CBOW模型训练过程 前言 在机器学习里的…

包材推荐中的算法应用|得物技术

目录 一、业务背景 二、算法架构 规则算法 三、算法原理 装箱装袋 四、衍生应用 切箱合包箱型设计包装方案推荐 五、作者结语 一、业务背景 任何一家电商的商品出库场景中,都涉及到打包——即把订单中的商品用包材进行包裹,常见的打包方式有装袋和装箱。…

Lazada该怎么直播?开播需要有哪些条件?

随着电商平台的快速发展,直播电商已成为一种重要的销售和营销手段。作为东南亚领先的电商平台之一,Lazada也提供了直播功能——LazLive,使商家和品牌能够通过直播与消费者进行实时互动,推广产品并提升销量。要在Lazada上顺利进行直…

bmp格式如何转换成jpg?5个软件帮助你快速转换文件格式

bmp格式如何转换成jpg?5个软件帮助你快速转换文件格式 将BMP格式转换为JPG格式是许多人在处理图片文件时常遇到的需求。BMP是一种无压缩的图像格式,占用空间较大,而JPG是一种有压缩的图片格式,能大幅减少文件大小,更适…

链表的回顾与总结(一)正序、逆序、有序、插入、修改、删除

逆序链表 #include<iostream> using namespace std; struct node {int data;node* next; };//最好不要全局定义指针&#xff0c;很麻烦 void show(node* head) {while (head){cout << head->data << ;head head->next;} } int main() {int i, j, k…

链表的回顾与总结(二)有序链表合并、约瑟夫问题

两个有序链表的合并 #include<iostream> using namespace std; struct node {int num;node* next; }; void show(node* head) {while (head){cout << head->num << ;head head->next;} } void add(node* head1, node* head2,node*&head3) {hea…