2024/08 近期关于AI的阅读和理解[笔记]

#Cohere

就像商业能力很强的云数仓公司 Snowflake 一样，Cohere 也采用了按需付费模式而不是按月或按年付费，而且它的付费模式很精细。Cohere 按照模型的不同能力，包括文本生成，文本总结，重新排名，文本分类等能力制定了不同了价格，而在每一种能力里，模型是否经过定制化，价格也有区分，客户可以根据自己的不同需求任意选择能力和模型的类型。

Cohere 在计算上的支出是竞争对手的 20%。但构建的东西是市场真正想要的东西。砍掉 80% 的支出，并交付一些对市场同样有吸引力的东西，这是 Cohere 战略的核心部分。

人类会做很多鹦鹉学舌的事情，并且有很多偏见。在很大程度上，我们所知道的确实存在的智能系统——人类——我们做了很多鹦鹉学舌的事儿。有句谚语说，我们是读过的 10 本书或离我们最近的 10 个人的平均值。我们是根据我们在世界上看到的东西来塑造自己的。

Cohere 提供的产品存在两大主要应用场景：

首先，是面向外部的创新应用。Cohere 希望帮助行业采用这项技术，作为接口应用到他们所有的产品中。例如，甲骨文医疗公司利用Cohere推出了新一代电子病历平台，简化了患者参与。
其次，是公司内部使用的应用，旨在提升工作效率，为不同部门和员工提供定制化辅助，典型的例子是人力资源部、客服部等多个部门的运营。

#Salesforce

下一代销售平台的核心不再是基于文本的数据库，而是一个包含文本、图像、语音和视频的多模态系统，将整合对公司内所有客户的洞察。一个原生 AI 平台将会能做到根据客户及其心态，提取出比现有工具拼凑出的更深入洞察。

传统的SQL, MQL

销售者和购买者的互动方式将发生根本变化

在为销售中的 AI 应用绘制市场时，应当将市场划分为更广泛的活动类别:

智能管道：这是任何销售团队的命脉，也许是人工智能最自然的插入点。近期将有许多人工智能驱动的方法来实现管道建设的自动化。例如，团队使用 Clay 的丰富功能和 AI 研究代理，准备高质量的潜在客户名单，然后销售人员进行外发。销售人员甚至可以使用 AI 个性化定制好的消息，不用再自己起草。
数字工作者：许多人工智能（AI）解决方案的设计理念是尽可能全面地覆盖整个销售流程，从最初的潜在客户的资格审查（筛选出真正有购买意向的客户）开始，一直到最终的成交（客户完成购买）。例如，团队目前使用 11x 来端到端自动化 SDR 角色，这意味着 11x 甚至可以预约与潜在客户的会面。未来该范围可能会扩大到完全成交。
销售支持 + 洞察：在达成交易时，AI 可以提供超出销售本身活动范围的宝贵背景和信息。例如，Naro 会自动查看卖家的电子邮件，显示与买家问题相关的公司文件，通过自动化的方式快速找到买家所需的信息。
CRM + 自动化：在处理数据时，我们需要一种有效的方法来处理那些没有固定格式或结构的（非结构化）数据，以及包含多种类型数据（多模式）的数据。这种方法应该能够使这些数据对人类用户和人工智能系统都具有价值和可用性。例如，Day 可以加入卖家与客户的对话，捕捉背景信息并不断更新其知识库。这之后，它会将见解总结在客户「页面」上，这样不仅销售团队，而且公司中的任何人都可以轻松理解。

销售、市场营销和客户融为一体

在 AI 加持下，市场推广团队将具备更全面、共享的背景和洞察力，员工之间更加同步，能够更好地相互协作。事实上，随着所有重要的客户背景都反映在同一个真实来源中，并且活动由人工智能指导，工作职能可能会开始融合。在某些情况下，销售、账户管理和客户成功这些业务领域可能被看作是为市场推广活动增加人性化元素的不同手段。团队成员不再为了个人在提升销售业绩中的贡献而相互竞争或争夺功劳。

按人头定价 → 基于结果的定价

以 AI 为先的模式下，随着一切转向销售结果，将定价与交付价值更紧密地结合起来的机会；但是如何定价？ PS 客服方认不认？

哪些指标或结果才适合作为计费的基本单位。在销售中，从最不值钱到最值钱的结果范围是从产生不合格的线索（例如，渠道潜在客户列表的顶部）到完全自动化地达成交易（例如，AI 软件无需人工参与即可销售您的产品）。 CPA vs CPA ?

在 AI 销售软件的背景下，可以将潜在的佣金率与 AE 的佣金率进行比较，这是一个有趣的考虑。虽然 AE 通常以佣金的形式赚取交易年度合同价值 (ACV) 的 10-15%（除了工资），但完全独立完成交易的 AI 销售代理可以用低得多的价格完成交易，提供能立即获得明显投资回报的机会。

#Hubspot

AI-CRM Day.ai (https://aitable.ai/ 类似概念)

Artificial →Customer Intelligence： AI-native CRM that brings customers into every decision

自动化捕捉和更新客户信息、智能分析业务对话、以及无缝集成到线索管理，满足企业对高效客户管理和市场响应的需求。

商业场景，包括但不限于销售管理、客户服务、市场分析。

未来不止帮助销售解决线索跟进问题，帮助售后跟进客户服务问题，还能处理企业内容的经销商、合作伙伴等业务拓展，智能化时代的全域营销赋能，机会和市场更大。

新产品/新模式带来的岗位机遇：

销售精英：他们将需要具备更强的共情能力和同理心，通过聊天与客户建立情感联系。在AI的赋能下，他们将从繁琐的数据录入、线索追踪与整理等重复性工作中解放出来，专注于更为核心且富有创造性的任务——通过深度对话挖掘客户的潜在需求与偏好，并与AI系统无缝对接，进行智能化的整理与洞察。

AI模型训练师：这些对特定领域有深刻理解的业务专家，将成为AI模型训练和优化的关键角色。他们将从执行者转变为AI的导师，利用对行业的深刻洞察和知识图谱，训练AI模型以更好地适应实际应用场景，成为AI模型训练和优化的核心力量。

自动化捕捉和更新客户信息、智能分析业务对话、以及无缝集成到线索管理，满足企业对高效客户管理和市场响应的需求。

渠道状态自动更新：比如结合新的会议结论，系统立即就能自动创建新的销售渠道，并更新状态。 PS 飞书等工具？
信息同步：团队内同步状态，会议上即刻制定策略。
任务助手：跟进任务无需手动更新，一旦完成就会自动推进。
需求预测：自动预测销售状态，并同步最新线索情况。

#LinkIn

整体设计， KSA 代表 "知识共享"Agent

调用内部API，这个话题有意思

内部成千上万的API，在一个上下文塞入进去可能性不大，同时成本也不友好，这部已有资产如何最大化利用起来， linkin 的方法，有借鉴价值，berkeley的 RAFT 模式解决方案同样很不多， https://goex.gorilla-llm.com/index && https://gorilla.cs.berkeley.edu/

为这些 API 创建了「技能」包装。每项技能都包括以下几个部分：

人类（因此也是 LLM）友好的 API 功能描述及使用时机。
调用 RPC API 的配置（端点、输入架构、输出架构等）。
LLM 友好的输入和输出架构
1. 原始类型（字符串/布尔/数字）值
2. JSON 模式风格的输入和输出模式描述
将 LLM 友好的架构与实际 RPC 架构进行映射的业务逻辑

PS 这个时候对高质量API Meta 信息挑战非常大， OAS 标准已经远远不能满足。

这种标注肯定花费大量的人工工作，看 RAFT 对于API 标注:

 {        "user_name": "dangeo773",        "api_name": "Stripe API - Charges",        "api_call": "stripe.Charge.create(amount={amount}, currency={currency}, source={source}, description={description})",        "api_version": "2023-10-16",        "api_arguments": {            "amount": "integer",            "currency": "string",            "source": "string",            "description": "string"        },        "functionality": "Create, retrieve, update, and delete charges.",  "env_requirements": ["stripe"],  "example_code": "stripe.Charge.create(amount=2000, currency='usd', source='tok_amex', description='Charge for jenny.rosen@example.com')",  "meta_data": {    "description": "The Stripe Charge API allows you to create, retrieve, update, and delete charges. This API is part of Stripe's suite for handling payments."  },  "questions": [    "Charge Jenny Rosen $2000 in USD.",    "Can you check how much I charged Sam Rosen?",    "Undo my charge to Ronald Samuels"  ]},

主要是适合自然语言的 few shot 提示，如何标注成千上万的API 可能非常困难：

  "questions": [    "Charge Jenny Rosen $2000 in USD.",    "Can you check how much I charged Sam Rosen?",    "Undo my charge to Ronald Samuels"  ]

工程实践中还是有巨大挑战， “设计了提示词，要求 LLM 决定使用什么技能来解决特定工作（通过规划选择技能），然后输出调用技能的参数（函数调用）。由于调用的参数必须与输入模式相匹配，因此我们要求 LLM 以结构化的方式输出这些参数。大多数 LLM 都是通过 YAML 和 JSON 进行结构化输出的。我们之所以选择 YAML，是因为它不太啰嗦，因此比 JSON 消耗更少的标记。” 还有庞大的纠错处理逻辑，而 LinkIn: “一个统一的技能注册表，用于动态发现和调用 API/Agent，并将其打包为 LLM 友好型技能，供我们的生成式人工智能产品使用。”， PS 不知道是个什么玩意？是否开源哈？

LLM 响应决定调用哪些 API 会被逐步解析，我们在参数准备好后立即触发 API 调用，而不等待完整的 LLM 响应。最终合成的回应也通过我们的实时消息基础设施流式传输到客户端，通过增量处理（如信任/负责任的人工智能分类）一路流式传输到客户端。PS: 好主意，异步，及时响应客户！

Evaluation -- 测试，质量保证，也有一些参考.

#Coze

好多人在玩Coze 值得实验下看看

https://www.coze.cn

Coze，作为字节精心打造的AI Bot开发旗舰平台，致力于赋能开发者，以强大而简洁的界面，加速智能聊天机器人的设计与部署流程。在中文大模型智能体生态中，Coze以其先驱地位傲视群雄，无论是率先布局的市场先机，还是其在智能体编排工具的成熟度、插件的广泛性、兼容大模型种类的多样性，乃至发布渠道的全面覆盖，均展现出非凡实力。