玩转 LLMs 之基础设施「利刃出鞘」

news2024/11/26 22:29:09

LLMs 时代已经到来，这个由 ChatGPT 开始的全球化技术浪潮，所经之处，风起云涌。LLMs 之于当下，更像是 iOS 、Android 之于移动互联网时代。开发者沸腾，投资机构争抢，与赛道相关的基础设施建设自然也成为整个圈子关注的焦点。

向量数据库就是其中之一，作为 LLMs 基础设施中的一把利刃，以 Milvus 和 Zilliz Cloud 为代表的向量数据库能为 LLMs 提供超强的存储能力，可以看作 LLMs 的记忆体。同时，为了方便大家使用，Milvus 和 Zilliz Cloud 也在自研和集成相关生态工具。

目前，我们已经发布了可以为开源项目提供问答服务的 OSSChat，以提升开发者的效率；为 ChatGPT 做了缓存层——GPTCache，以降低大语言模型开发成本、大大减少 LLMs 缓存时间。与此同时，我们也将产品集成到 LangChain、Auto-GPT、BabyAGI 之中，成为全球为数不多的同时与这些大热门项目深度对接的公司。

当然，为了让用户更丝滑地使用 Zilliz Cloud，我们也将于今年 6 月底登陆阿里云，与其他几朵云的合作也已提上日程，敬请期待！

言归正传，为了方便大家了解和学习，我们在 Deep Dive 直播中特地开设了 LLMs 专题。本期的 Deep Dive 邀请到 Zilliz 的两位工程师顾梦佳、付邦，他们将为大家详解 Zilliz Cloud 以及自研生态工具 GPTCache 如何为 LLMs 赋能，希望能为大家在大语言模型冲浪的旅程中，带来思考和启发。

扫码观看直播，本周四 20:00，直播间等你！