“ 了解如何在短短1分钟内,让智能聊天机器人与国产ChatGLM开源模型无缝连接,为你的应用增添智能交流能力!”
01
—
昨天发布ChatGPT微信助手体验群后,见《ChatGPT 微信助手上线!问答更便捷,功能持续升级中。》,有不少朋友进群体验。
朋友们问了很多有意思的问题,也有请助手帮忙处理工作上的事,甚至还有数学题,简直是要累死ChatGPT机器人的节奏。
“有一列数:32、54、98、1716⋯它有一定的规律性. 若把第一个数记为 a₁, 第二个数记为 a₂, ……第 n个数记为aₙ, 则(a1+a2+a3+⋯+a2020)的值是多少?”
“简要说明《红楼梦》各章回的内容”
“假设你是外贸公司的业务员,现在需要催促客户尽快安排发货,要求客户在1个月之前发货,否则收取每个月100美元的仓储费。请用英语书写正式的法律书信格式文本完成。”
“变幅载荷下的疲劳可靠性评估方法主要应用在飞机什么结构上”
“你是怎么知道当前乌克兰和俄罗斯有冲突的?”
“假设你是东欧问题专家,请阐述俄罗斯和乌克兰战争的起因,经过和结果。”
“请你帮忙写一封关于给客户账期的邮件,首先感谢客户在过去4年的支持并配合,接下来说明针对单一一个品种订单的账期由原先的见提单支付,升级为“货物上船后30天内付清尾款”。要情真意切。”
想进群体验的朋友可以扫下面的二维码进群:
因为ChatGPT的知识截止日期是2021年9月1日,而且没有实时的数据访问权限。像“能提供2020年恒大地产的销售数据吗?” 这类关于实时的问题就无法回答。
群里的朋友就提供了ChatGLM的回答截图,表明GLM就可以回答。
国内清华和智谱合作的开源大模型:ChatGLM,下面几篇文章是有关于这个国产之光产品的体验和实施部署。
ChatGLM 更新:LongBench—评测长文本理解能力的数据集,支持 32k 上下文的 ChatGLM2-6B-32K
工程落地实践|基于 ChatGLM2-6B + LangChain 搭建专属知识库初步完成
工程落地实践|国产大模型 ChatGLM2-6B 阿里云上部署成功
ChatGLM2-6B 初体验
激发了我试试接入ChatGLM 开放 API的念头。
02
—
轻车熟路打开智谱AI开放平台官网:
https://open.bigmodel.cn/
开放平台提供三个模型:Pro、Std、Lite,分别对应三种不同场景。Lite 最便宜,Pro 效果最好。
创建 API Key
点右上角小人图标,选择“个人账号”,再点击“API keys”,“添加新的API key”,给key起一个名称,就完成了API key 的创建。
官方提供了 SDK 和原生 HTTP 来实现模型 API 的调用。用SDK的编程体验比较好。
安装SKD包:
pip install zhipuai
ChatGLM 的对话 prompt 调用跟 ChatGPT 类似,也是分了 role 角色。
import zhipuai
zhipuai.api_key = "your api key"
response = zhipuai.model_api.sse_invoke(
model="chatglm_lite",
prompt=[
{"role": "user", "content": "你好"},
{"role": "assistant", "content": "我是人工智能助手"},
{"role": "user", "content": "你叫什么名字"},
{"role": "assistant", "content": "我叫chatGLM"},
{"role": "user", "content": "你都可以做些什么事"},
]
)
把调用ChatGPT换成ChatGLM就可以切换后面回答问题的大模型了。
看来上次的开发计划任务又可以添加一条:增加对ChatGLM模型调用的支持。
账号注册后,官方送了18元用于API调用的支持,用完了就得付费了。
但是没看到任何关于费用支出的明细,例如是一个token多少费用?经朋友提醒0.01元 / 千tokens
参考文章
ChatGLM 开发文档
https://open.bigmodel.cn/dev/api
阅读推荐:
一键开启ChatGPT“危险发言”!研究发现:AI聊天机器人竟有“大bug”,目前无法修复
人人可拍大片!全AI制作的电影效果炸裂!
M3E 可能是最强大的开源中文嵌入模型
AI人工智能大模型失守!ChatGPT、BARD、BING、Claude 相继被"提示攻击"攻陷!
Hayo AI:国内朋友的居家旅行必备良药,融入了 ChatGPT 和绘图 Stable diffusion
拥抱未来,学习 AI 技能!关注我,免费领取 AI 学习资源。