从大模型到AgentScope
AgentScope是一款全新的Multi-Agent框架,专为应用开发者打造,旨在提供高易用、高可靠的编程体验!
- 高易用:AgentScope支持纯Python编程,提供多种语法工具实现灵活的应用流程编排,内置丰富的API服务(Service)以及应用样例,供开发者直接使用。同时,AgentScope提供了详尽的教程,API文档和应用样例。
- 高鲁棒:确保开发便捷性和编程效率的同时,针对不同能力的大模型,AgentScope提供了全面的重试机制、定制化的容错控制和面向Agent的异常处理,以确保应用的稳定、高效运行;
- 基于Actor的分布式机制:AgentScope设计了一种新的基于Actor的分布式机制,实现了复杂分布式工作流的集中式编程和自动并行优化,即用户可以使用中心化编程的方式完成分布式应用的流程编排,同时能够零代价将本地应用迁移到分布式的运行环境中。
GitHub: https://github.com/modelscope/agentscope
大模型的发展
大模型的涌现改变了AI相关的技术研究以及应用
- 辅助办公:帮助用户生成、修改文本,完成会议纪要
- 代码生成: 根据注释自动生成代码,提高编程效率
- 多模态生成:AI图像生成,音视频合成
- 生活娱乐:快速生成短视频,文本生成类小游戏
但是,大模型仍不能满足实际需求
什么是Agent
Agent的构建
Single-Agent 到Multi-Agent
Multi-Agent
进一步借助多个Agent之间的协作,完成复杂任务
Single-agent开发 -> Multi-agent
如何完成更复杂任务 -> 根据任务,让多个agent根据SOP或自定义流程配合
如何针对大模型幻觉容错 -> 多个agent讨论、复盘逻辑
如何拓展能处理的任务范围? -> 自由组合有不同擅长领域的agents
如何提高解决问题的效率?-> 优化、并行多个子任务agent执行
Multi-Agent实践中的挑战
- 如何编排复杂流程
用户:编写带有Standard Operating Procedure
(SOP)的剧情对话
难点:交流顺序、方式复杂多变,逐一枚举费时费
力
Keywords: 灵活,交流机制 - 如何提高鲁棒性和可靠性?
用户:模型总是不能按照我的要求产生输出
难点:大模型幻觉和不稳定的指令跟随能力
会影响应用运行效果
Keywords:容错机制,鲁棒性 - 如何处理多模态数据
用户:我想接入Gemini,Sora等模型,开发一个生成
视频的应用
难点:需要在文本支持的基础上兼容多模态数据的
传递,存储和展示
Keywords:多模态,系统性支持 - 如何提高运行效率
用户:应用运行的速度太慢了,每次运行都要等很久
难点:需要分布式背景,并深度分析应用流程,对开发
者而言优化难度高
Keywords: 异步,分布式,并行优化
Multi-Agent框架
AgentScope
一款全新的Multi-Agent开发平台,专为应用开发者打造,旨在提供高易用、高可靠的编程体验,提供多模态和分布式的技术支持
平台架构:
Multi-Agent小游戏
Modelscope 体验版:
https://modelscope.cn/organization/AgentScope