该公司确认正在“迅速采取行动”消除人工智能工具的一些奇怪反应。

社交媒体上充斥着谷歌新的人工智能概述产品的例子，这些产品说了一些奇怪的话，从告诉用户在披萨上涂胶水到建议他们吃石头。混乱的推出意味着，随着各种表情包的发布，谷歌正在竞相手动禁用特定搜索的人工智能概述，这就是为什么用户看到这么多表情包在发布到社交网络后不久就消失了。

这是一个奇怪的情况，因为谷歌已经测试人工智能概述一年了——该功能于 2023 年 5 月作为搜索生成体验推出测试版——首席执行官桑达尔·皮查伊 (Sundar Pichai) 表示，该公司当时服务了超过 10 亿个查询。

但皮查伊还表示，“在硬件、工程和技术突破的推动下”，谷歌同期将提供人工智能答案的成本降低了 80%。在技​​术准备好之前，这种优化似乎发生得太早了。

喜好儿网AIGC专区：
https://heehel.com/category/aigc

喜好儿网更多消息：
https://heehel.com/category/ai-news

一位不愿透露姓名的人工智能创始人告诉 The Verge：“一家曾经以走在前沿、提供高质量产品而闻名的公司，现在却以低质量的产品而闻名，而这些产品正在被人们模仿。”

谷歌继续表示，其AI Overview产品主要向用户输出“高质量信息”。谷歌发言人梅根·法恩斯沃斯 (Meghann Farnsworth) 在给 The Verge 的电子邮件中表示：“我们看到的许多示例都是不常见的查询，而且我们还看到了被篡改或无法重现的示例。”法恩斯沃斯还证实，该公司正在“迅速采取行动”，“在我们的内容政策下适当的情况下删除某些查询的人工智能概述，并利用这些示例对我们的系统进行更广泛的改进，其中一些已经开始推出。”

人工智能专家、纽约大学神经科学名誉教授加里·马库斯 (Gary Marcus) 告诉 The Verge，许多人工智能公司都在“兜售梦想”，认为这项技术的正确率将从 80% 提高到 100%。马库斯说，实现最初的 80% 相对简单，因为它涉及到大量的人类数据，但最后的 20% 却极具挑战性。事实上，马库斯认为最后 20% 可能是最难的事情。

“你实际上需要做一些推理才能做出决定：这件事可信吗？这个来源合法吗？你必须像人类事实检查员那样做事情，这实际上可能需要人工智能，”马库斯说。 Marcus 和 Meta 的人工智能负责人 Yann LeCun 都同意，为当前人工智能系统（如 Google 的 Gemini 和 OpenAI 的 GPT-4）提供支持的大型语言模型不会创造 AGI。

看，这对谷歌来说是一个艰难的处境。在谷歌用萨蒂亚·纳德拉（Satya Nadella）著名的“我们让他们跳舞”名言之前，必应（Bing）就在人工智能上大举进军，据报道 OpenAI 正在开发自己的搜索引擎，一家新的人工智能搜索初创公司已经值得了10 亿美元，只想要最佳体验的年轻一代用户正在转向 TikTok。该公司显然感受到了竞争的压力，而压力正是导致人工智能发布混乱的原因。马库斯指出，2022 年，Meta 发布了一款名为“卡拉狄加”的人工智能系统，该系统在推出后不久就被下架，因为除其他外，它告诉人们要吃玻璃。听起来很熟悉。

谷歌对人工智能概述有着宏伟的计划——目前存在的这一功能只是该公司上周宣布的一小部分。针对复杂查询的多步推理、生成人工智能组织的结果页面的能力、Google Lens 中的视频搜索——这里有很多雄心壮志。但目前，该公司的声誉取决于基本的正确性，而且看起来并不好。

马库斯说：“[这些模型]本质上无法对自己的工作进行健全性检查，这就是对这个行业造成的影响。”