1 Anthropic安全负责人：在超级A！「毀灭」人类之前，我们可以做这些准备
机器之心 丨阅读原文
Anthropic公司为应对A发展带来的港在风险，发布了负责任扩展策路(RSP)，旨在通过技术和组织协议管理功能日益强大的Al系统。RSP专注于灾难性风险，定义了Al安全等级(ASL)，并强调了 在Al达到变革性人工智能 (TAI)阶段前，确保其行为与开发者意園一致的重要性。文章还讨论了在Al发展不同阶段应采取的措施，包括技术准备、安全评估、以及与第三方合作等。
2 反向和错位图灵测试：GPT-4比人类更「人性化」
新智元 丨阅读原文
加州大学圣地亚哥分校的研究者通过反向图灵测试和错位图灵测试，探讨了人类和Al在区分对话者是人类还是Al时的能力。研究发现，在不进行主动互动时，无论是人类还是当前的大语言模型都难以区分二者。研究还发现，GPT-4作为Al裁定者，其准确性与错位人类裁定者相当，但错误模式不同，表明在思维和判断过程中存在根本差异。此外，统计Al检测方法在区分人类和Al生成消息时显示出潜力，但实际应用中的误报问题可能会对真实用户产生不利影响。
3 Sora陷研究泥潭？ OpenAl一年血亏50亿，高盛报告乌龙引Al股地震！
新智元 丨阅读原文
Sora Al横型发布后遭遇研究困境，迟迟末全面开放，原因涉及安全风险、与好莱坞合作及法律问题。同时，高盛报告误读ChatGPT流量下降，引1发Al股票抛售。尽管面临挑战，OpenAl在艺术和娱乐领域与艺术家合作，探索Sora的潜力。高盛强调Al领域存在不确定性，但并非泡沫，建议投资者多元化投资。
4 深度｜Andrej Karpathy 最新思考：小模型有巨大潜力，大模型用来处理多任务，Al模型未来聚焦子处理重要信息的能力
有新Newin ｜阅读原文
前特斯拉Al总监及OpenAl创始成员，在与Sara Guo和Elad Gil的对话中，深入探讨了A的未来，特别是Transformer模型的港力、小模型的发展前景、合成数据的重要性、大模型的多任务处理能力，以及A!在教育领域的应用。Karpathy认为，小模型通过蒸馏技术能高效处理复杂任务，未来A将聚焦手处理重要信息的能力，而非记忆大量数据。他还强调了合成数据在训练高质量模型中的关键作用，并展望了Al作为教育工具的港力，以赋能人类而非取代工作。
对此，你怎么看？
详情查看参与互动赢蚂蚁周边
支付宝开放平台-开发者社区
「AGI 之路」 内容库
欢迎你的投稿！戳我进群
支付宝/钉钉扫码加入支付宝开发者钉组织，可了解支付宝开放能力最新动态，订阅文档更新消息，和同城同行业交流业务，与支付宝产研沟通交流。
