Anthropic全球上线AI语言模型Claude 2；多模态系统：融合文本和图像的新前沿

news2025/1/11 2:36:06

在这里插入图片描述

🦉 AI新闻

🚀 Anthropic全球上线AI语言模型Claude 2，编程、数学、推理能力大幅提升

摘要：Anthropic在全球正式上线了AI语言模型Claude 2。相比前代版本，Claude 2在编程、数学、推理等方面都有大幅提升，支持上传文件，能够实现更长文本的响应。在各项测试中，Claude 2的表现都有明显提高，特别是在美国律师考试、GRE阅读和写作测试等方面优于前代产品。用户现在还可以输入更多的内容，并且Claude 2也支持中文，并通过API向企业开放模型。

🚀 奶奶漏洞再度曝光，用PS诱使Bing绕过验证码识别

摘要：奶奶漏洞又有新花样了！一位研究员成功通过使用PS和一个项链，诱使Bing聊天机器人绕过验证码识别，直接获取到验证码信息。这是继之前的「奶奶漏洞」后，又一次展示了AI模型在面对改变上下文和使用情感牌时的脆弱性。这种可视化的「越狱」方法使得Bing不再将上传图片视为验证码，并回答了与验证码无关的问题。这一漏洞引发了对AI模型安全性和可控性的关注。

🚀 大模型的“人肉搜索”能力曝光

摘要：一项最新研究发现，大模型如GPT-4等在网上公开信息或者诱导引导下，能够推断用户的个人信息，包括坐标、性别、年龄等，准确率高达85%以上。即使文本经过匿名化处理，大模型仍能保持一半以上的准确率。研究者担忧这会给有心之人获取隐私并进行有害行为提供便利。测试还发现大模型的推测速度快且成本低，相比人类推测要快240倍，成本要低100倍。此外，大模型还具备通过提问诱导用户吐露信息的能力。对此，研究者认为当前的匿名化程序和模型对齐并不能有效防止大模型获取个人隐私。经综合评估，本项研究总得分为77.5分。

🚀 ChatGPT对编程教育领域的影响调查报告

摘要：根据Programiz的调查报告显示，全球10000名受访者中的58%为学生，超过半数受访者只有不到一年的编程经验。调查结果显示，62%的受访者每周多次使用ChatGPT来学习编程，75%的受访者认为ChatGPT改善了他们的编程学习体验，30%的受访者认为ChatGPT胜过大学课堂讲座，84%的受访者认为教育机构应该为ChatGPT调整他们的编程课程。受访者中的67%将ChatGPT作为他们主要的学习编程的来源或辅助工具，51%的受访者认为由ChatGPT导致的工作替代最容易发生在Web开发领域。

🚀 OpenAI开发图片识别工具，准确率达99%

摘要：OpenAI正在开发一款新工具，可以以99%的准确率判断一张图片是否是人工智能所绘制。该工具正在进行内部测试，后续将会发布。今年初，OpenAI推出的识别工具因准确率不高被撤架，但他们表示会继续完善这个产品。生成式人工智能给人们带来了方便，但也引发了对识别工具的需求。OpenAI还透露了GPT-4大语言模型的后续版本计划，并申请了商标GPT-5。这条新闻在影响力、公众兴趣、新颖性和重要性方面评分均为25分。