重磅更新！谷歌发布Gemini 1.5 Pro！多模态，1000K上下文！附Waitlist链接！

news2024/11/28 9:41:27

大家好，我是木易，一个持续关注AI领域的互联网技术产品经理，国内Top2本科，美国Top10 CS研究生，MBA。我坚信AI是普通人变强的“外挂”，所以创建了“AI信息Gap”这个公众号，专注于分享AI全维度知识，包括但不限于AI科普，AI工具测评，AI效率提升，AI行业洞察。关注我，AI之路不迷路，2024谷歌一起变强。

一些结论

谷歌今天发布了Gemini 1.5 Pro

Gemini 1.5 Pro的核心功能包括：

基于先进架构：Gemini 1.5 Pro采用了最新的Transformer和专家混合（MoE）架构，通过将网络分割成多个小型的“专家”网络来提高处理效率和精确度。这种架构使得模型能够根据输入类型自动选择最相关的专家路径，从而实现更高的运算效率和更准确的数据处理。

扩展的上下文窗口：Gemini 1.5 Pro的上下文窗口容量显著增加，能够处理高达1百万个标记，极大地扩展了模型处理和理解大规模数据集的能力。这一特性使得Gemini 1.5 Pro在分析、分类和总结复杂信息方面具有显著优势。

高度复杂的信息处理能力：得益于其扩展的上下文窗口，Gemini 1.5 Pro能够无缝处理、分析和总结大量的文本、代码、视频和音频数据，包括但不限于长篇文档、大规模代码库和长时间的多媒体内容。

跨模态理解和推理：Gemini 1.5 Pro在不同模态之间展现了高度复杂的理解和推理能力，能够准确分析视频内容、解析大量代码，并在多种数据类型中识别细节和模式。

谷歌CEO Sundar Pichai的官宣

谷歌及Alphabet CEO桑达尔·皮查伊今日（2024年2月15日）宣布，继成功推出功能强大的Gemini 1.0 Ultra模型后，谷歌团队继续以安全为核心，快速推进技术发展，现已准备好推出下一代模型Gemini 1.5。这一新一代模型在多个方面实现了显著改进，特别是在长上下文理解能力上取得了重大突破，能够处理高达100万个令牌的信息量，创下了新的记录。通过这些进步，Gemini 1.5将为开发者和企业客户提供更强大的工具，帮助他们构建更加有用的应用程序和服务，同时也展现了谷歌在AI领域的最新科技成就和对未来发展的承诺。

Gemini 1.5 Pro Demo视频

Gemini 1.5 Pro介绍

谷歌DeepMind开发的Gemini 1.5 Pro模型代表了人工智能领域的一项重大进展，它基于最新的Transformer和专家混合（MoE）架构，旨在处理和理解大规模数据集。不同于传统的Transformer模型，Gemini 1.5 Pro采用了更为精细的结构，将网络分割成数个小型的“专家”网络，这些专家网络根据输入的不同自动激活，大幅提升了处理效率和准确性。

该模型的上下文窗口容量远超过之前版本，能够处理高达1百万个标记，这一能力在机器学习领域是前所未有的。这种扩展的上下文窗口让Gemini 1.5 Pro能够一次性分析、分类和总结大量复杂的信息，包括长篇文档、大量代码、长时间的视频和音频。例如，它能够处理阿波罗11号登月任务的402页文档，理解和推理文档中的对话、事件和细节；分析44分钟的无声电影，识别情节点和事件，甚至是容易被遗漏的小细节；以及解析超过100,000行代码，提出改进建议并解释代码的不同部分如何工作。

在全面的评估中，Gemini 1.5 Pro在开发大型语言模型（LLMs）所使用的87%的基准测试中超越了其前身1.0 Pro，与目前最大的模型1.0 Ultra在相同基准测试中的性能大体相似。即便在上下文窗口显著扩大时，它也能保持高性能，如在“大海捞针”（NIAH）评估中，它能够在长达1百万个标记的文本块中99%的时间内准确找到特定的文本片段。

另外，Gemini 1.5 Pro展现出了卓越的“上下文学习”能力，即在无需额外微调的情况下，从长篇提示中学习新技能。在《来自一本书的机器翻译》（MTOB）基准测试中，该模型展现了从未见过的信息中学习的能力，能够将英语翻译成Kalamang语，这种语言全球使用者不到200人，学习效果与人类学习相媲美。

考虑到Gemini 1.5 Pro的长上下文窗口是大规模模型中的首创，谷歌正在积极开发新的评估和基准测试来探索和验证其新颖的能力。这些持续的创新和优化预示着人工智能技术未来更广泛的应用前景，Gemini 1.5 Pro的技术报告中提供了更多细节。