擎创动态 | 开箱即用！擎创科技联合中科可控推出大模型一体机

news2024/11/24 3:41:22

一、金融行业大模型一体机发布

10月26日至27日，2023金融科技安全与创新大会顺利召开。会上，中科可控联合擎创科技、卓世科技、文因互联、百川智能、捷通华声、智谱华章、易道博识等9大厂商，发布了9款金融行业大模型一体机，为金融科技领域发展提供了解决方案与技术支持。擎创科技副总裁冯陈湧受邀与会并出席中科可控大模型一体机发布仪式。

自2022年以来，生成式人工智能（AIGC）代表人工智能发展的前沿，正开创着信息技术理论方法和应用的新局面。基于AIGC发展的大模型在企业IT系统建设过程中扮演着越来越重要的角色，同时算力、数据和算法成为支撑大模型体系的三大要素，也是重要门槛。如何提升三要素的赋能能力，是大模型产业发展需要思考的关键问题。

在探索中行进，在积淀中创新。本次中科可控联合擎创科技发布的擎智运维大模型一体机，依托超强算力、海量数据以及智能算法，为企业IT系统运维提供开箱即用、可靠易用的大模型建设新思路。

二、擎智运维大模型一体机

擎智运维大模型一体机，一方面基于国产CPU处理器与GPU异构加速卡，依托中科可控服务器的底层算力支撑，并采用异构解耦合设计架构，针对不同算法引擎提供性能加速，同时支持单卡多个并发，单台8卡服务器能够满足金融领域对AI大模型部署应用需求。

三、擎智大模型一体机特点

1.数据处理自主安全

擎智大模型一体机搭载全国产核心器件，支持国密算法、可信计算等多种先进安全方案，确保金融企业数据处理安全，全栈自主可控，实现安全与能力双重保障。

2.极大提升运维效率

擎智大模型一体机拥有利用自然语言处理、运维领域知识、持续学习和改进、推理、自然语言生成、代码生成等大模型基础能力。结合微调技术、检索增强和代理模式构建运维大模型，能够有效提升运维过程中的数据探查能力、数据理解能力和故障定位能力，赋能客户的风险预警、告警管理、应急定界、运营分析等全生命周期的IT智能运维。

3.实现智能运维全景可观测

尤其在数据治理、事前预测、事中定位、事后分析以及业务感知方面，一体机在国产异构加速卡的超强AI算力加持下，能够从智能健康风险预警中消弭80%以上的故障隐患，智能聚焦消除80%以上的无效告警，完成智能应急定界，降低运营成本，优化运营策略，并以业务应用为对象观测多样化监控数据、日志数据和调用链数据，实现智能运维全景可观测。