9月社区ReleaseNote
在9月的社区更新中,我们继续秉持开放与创新的精神,推出了一系列新功能和技术升级。这些更新不仅扩展了社区的技术支持范围,还为用户提供了更多资源,助力其在人工智能、大数据处理和推理加速等领域的创新。通过与知名企业的合作、引入具身智能的专区以及不断提升存储系统的性能,传神社区致力于为开发者、研究人员和企业提供一个全面、开放、易于使用的平台。
本次更新包括以下几大亮点:
01 具身智能专区🧠
02 Dataflow平台上线🌐
03 支持NVIDIA推理引擎NIM🤖
04 支持昇腾推理引擎MINDIE⚙️
05 提示工程专区📋
06 数据集预览功能增强👀
07 后端存储系统升级📦
来源:传神社区
01
具身智能专区
基于8月推出的“开源项目”模块,本次新增了“知名企业”专区,进一步拓展了具身智能领域的内容,为用户提供了更广泛的行业视角和信息资源。该专区汇集了全球在具身智能领域中具有重要影响力的企业,涵盖了机器人、人工智能技术研发及应用等多个方向。
在这个专区中,用户可以方便地浏览并深入了解与具身智能技术紧密相关的领先企业,如Neura Robotics、Sanctuary AI和Figure AI等。这些企业的资料包括它们的成立时间、主要技术方向、产品和服务,以及最新的技术动态。通过访问这些企业的介绍页面,用户能够了解行业内的最新进展、技术革新以及不同企业在具身智能领域的研究和开发重点。
此外,专区不仅是行业信息的展示窗口,也是一个交流与合作的平台。通过这一模块,用户能够掌握最新的前沿技术趋势,并有机会与这些领先企业建立合作或获取技术支持,进一步推动具身智能在各行业中的应用与创新。
您可以在传神社区首页 导航栏 -> 专区 -> 具身智能 -> 找到“知名企业”专区
02
Dataflow平台上线
DataFlow平台是基于Agentic架构理念设计的,专门应对复杂的数据处理任务。这个平台通过高度动态且可定制化的架构,为用户提供了一站式的数据处理体验,极大地简化了各类复杂的数据操作过程。无论是大规模数据清洗、分析,还是多种格式的文件处理,DataFlow都能够灵活适应不同场景的需求。它不仅为用户提供了高效的数据流管理和任务自动化工具,还具备良好的扩展性,能够轻松应对不断增长的业务需求。
平台支持多种数据处理模块,涵盖从数据清洗、转换到复杂的机器学习模型部署的全流程。用户可以通过直观的界面创建并管理自己的数据任务,实时查看任务状态和处理进度。同时,DataFlow还集成了丰富的数据源接口,支持对不同类型的文件格式进行快速处理,如PDF、CSV、HTML等,帮助用户轻松应对多样化的数据处理需求。
DataFlow平台的最大优势在于其高度定制化的解决方案。用户可以根据具体的业务需求,灵活调整数据处理流程、配置参数,并通过平台提供的API接口与现有系统无缝集成。这一切都极大提升了数据处理的效率与灵活性,使用户能够专注于更具战略性的数据分析和决策。
您可以在传神社区首页 导航栏 -> 产品 -> 找到 DataFlow 智能数据平台
详情请点击卡片内容查看
我们欢迎用户随时与我们联系,以获取更多关于DataFlow平台的详细信息和定制化咨询服务。我们的团队将为用户提供个性化的解决方案,帮助其充分利用平台的强大功能,满足各种数据处理的需求。
03
支持NVIDIA推理引擎NIM
NVIDIA 推出的 NIM(NVIDIA Inference Microservices) 是一款基于 NVIDIA 推理软件的微服务预构建容器,包含了 Triton 推理服务器™ 和 TensorRT™-LLM,为开发者提供强大的推理加速能力。借助高性能显卡如 A100 和 H800,NIM 能显著缩短 AI 模型的部署时间,从传统的几周减少到几分钟,为企业带来极大的效率提升。
通过 OpenCSG,用户可以轻松实现 NIM 容器的部署,快速优化模型推理,加速大模型应用的落地。
这一解决方案不仅为用户提供了高效、安全的推理应用环境,还通过与阿里云计算巢的结合,提供了企业级私有化部署选项,满足企业在数字化转型中的不同场景需求。
详情请点击卡片内容查看
API 测试
UI测试
性能测试(2GPU in A10)
04
支持昇腾推理引擎MINDIE
OpenCSG 平台现已全面支持 昇腾推理引擎 MindIE,为开发者提供了强大的推理加速工具。通过集成 MindIE,OpenCSG 用户可以充分利用昇腾硬件的高效算力,快速部署并优化基于昇腾平台的 AI 应用。MindIE 的引入不仅提升了 AI 推理任务的处理效率,还让用户能够通过分层开放的 AI 能力设计多样化的推理方案,满足各类复杂应用场景的需求。
在 OpenCSG 中,用户可以轻松选择 MindIE 作为运行时框架,并根据具体业务需求动态调整资源配置,例如选择不同的 NPU、vCPU 及内存,确保推理任务在最优配置下高效运行。MindIE 的多层次编程接口还允许开发者根据不同的推理任务灵活调用底层 API,极大提升了开发的灵活性和效率。
MindIE 支持多个昇腾处理器,如 NPU 910B,能够提供卓越的推理加速效果。结合 OpenCSG 平台的高可扩展性,用户可以在该平台上轻松部署 AI 模型,实现从开发、测试到生产环境的一站式服务,进一步优化推理性能并缩短项目的上线周期。
通过 MindIE 的支持,OpenCSG 不仅进一步扩展了其 AI 推理能力,还为广大的昇腾平台用户提供了更加灵活、高效的开发环境,助力他们在各类 AI 任务中获得更出色的表现。
您可以在个人中心-> 资源控制台-> 新建实例 -> 运行时框架 -> 选择 MindIE
05
提示工程专区
社区上线了全新的提示工程专区,旨在为用户提供丰富的提示词相关工具和资源,助力大家更高效地开发和优化提示工程。这个专区涵盖了多个模块,方便用户在不同应用场景下灵活使用。
在“提示词库”模块,用户不仅可以浏览社区中已经共享的优质提示词,还可以根据自己的需求搜索特定领域的提示词,或者通过模型查看关联的提示词。这些提示词由社区用户共同贡献,涵盖了各类AI应用场景,如自然语言处理、生成式模型、图像识别等。用户还可以对自己常用或创造的提示词进行标注和分享,进一步丰富提示词库的内容,同时帮助其他用户加速模型开发。
“优化助手”模块是提示工程专区的另一大亮点,专为提示词优化而设计。通过这个模块,用户可以将自己的提示词输入,OpenCSG提供优化服务,对提示词进行微调。
您可以在传神社区首页 导航栏 -> 专区 -> 提示工程 -> 找到提示词库和优化助手
06
数据集预览功能增强
针对parquet格式的数据集,平台支持子数据集及用途数据集的智能识别与切换功能。用户可在数据预览界面中查看并管理不同的子数据集,如训练集、验证集和测试集。通过选择用途(例如train, validation, test),用户能够快速切换数据的使用场景,以满足不同的实验需求。此外,系统能够自动识别并展示parquet文件中的行数,方便用户了解数据集的规模。该功能有效简化了数据集管理流程,增强了多场景下的灵活性与便捷性。
07
后端存储系统升级
OpenCSG 的后端存储系统通过 Gitaly 进行了全面升级,显著提升了模型同步的性能。借助这一升级,用户能够体验到更高的可用性,系统在处理大规模模型时表现更加稳定。同时,响应速度大幅提升,用户可以更快速地完成模型的上传、下载和更新操作。升级后的系统还加强了稳定性,即使在高并发情况下,存储系统也能保持平稳运行,为用户提供更加流畅的操作体验。
欢迎加入传神社区
•贡献代码,与我们一同共建更好的OpenCSG
•Github主页
欢迎🌟:https:// github.com/OpenCSGs
•Huggingface主页
欢迎下载:https://huggingface.co/opencsg
•加入我们的用户交流群,分享经验
扫描上方二维码添加传神小助手
“ 关于OpenCSG
开放传神(OpenCSG)成立于2023年,是一家致力于大模型生态社区建设,汇集人工智能行业上下游企业链共同为大模型在垂直行业的应用提供解决方案和工具平台的公司。
关注OpenCSG
加入传神社区