5月30日，一封由非营利组织人工智能安全中心（Center for AI Safety）发布的简短声明轰动了AI界，导致人工智能的地位可能会被动摇。
我们在该组织的官网上找到了这份声明。声明中仅有22个单词，却饱含了专家对AI的“控诉”：需要减轻人工智能可能导致的人类灭绝风险，并将其放在与流行病、核战等社会问题的同一高度，并作为全球优先事项推进。
倡议已获得多位AI行业大佬支持，截至目前，已有超过350位AI领域高管和专家签署了这份声明。其中的主要签署者包括Google DeepMind首席执行官戴米斯·哈萨比斯（Demis Hassabis）、OpenAI首席执行官山姆·奥特曼（Sam Altman）、“AI教父”杰弗里·辛顿（Geoffrey Hinton）、2018年图灵奖得主约书亚·本希奥（Youshua Bengio）、Anthropic的首席执行官达里奥·阿莫代（Dario Amodei）。
ChatGPT引发了AI热，也造成人们对该项技术潜在风险的担忧持续增加。其实，今年早些时候，包括特斯拉CEO马斯克在内的1000多名行业高管和专家就签署了公开信，呼吁6个月内暂停高级AI的开发。此事件在当时对AI造成了一定的冲击。
1、AI可能造成人类灭绝
AIGC、AGI以势如破竹的速度席卷几乎每一个领域，但是，狂热过后，人们也开始理性的思考AI是否会干扰人类活动。上述高管和专家们的声明也并非空穴来风，他们主要的目的是警告：AI可能为人类带来灭绝风险。
人工智能安全中心执行主任丹·亨德里克斯（Dan Hendrycks）在接受《纽约时报》采访时表示：“声明很简洁，没有提出减轻人工智能威胁的潜在方法，旨在避免分歧。”
签署声明的专家则认为，如果人工智能发展失控、缺乏相应的对策与管理措施，很可能导致人类灭绝。这需要相关企业与人类保持警惕，需要采取必要措施以确保其安全发展。
由人类灭绝问题，我们也可以引申到如何平衡个人利益与社会利益问题，特别是AI企业与研究机构，需要避免过于片面的追求利益，忽视可能造成的影响。
2、AI失控、过度替代人工
如果AI失控，超出了人类的理解与管理范围，将可能造成灾难性后果，这是最严重的情况。此外，由AI失控引发的技术被恶意利用或者出于非理性目的使用，也可能造成毁灭性的结果。
再有就是AI过度替代人工。如果人工智能过快并广泛地替代人类劳动，那么可能导致大规模失业与社会动乱，这同样具有毁灭性风险。
在战争方面，当人工智能作为武器使用也可能导致灭绝级后果，这需要严格限制与管理。而当人工智能技术被判断失误、产生偏差的时候，也可能导致灾难性结果。这也需要在开发过程中增加必要的控制与监督。
3、AI诈骗层出不穷
针对AI造成的另一种负面影响，当属最近发生的AI诈骗事件。近日，包头警方发布一起利用人工智能（AI）实施电信诈骗的典型案例，福州市某科技公司法人代表郭先生10分钟内被骗430万元。
4月20日中午，郭先生的好友突然通过微信视频联系他，自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。
基于对好友的信任，加上已经视频聊天核实了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了好友朋友的银行卡上。郭先生拨打好友电话才知道被骗。骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。
继此前“10分钟被AI换脸骗走430万元”事件引发关注之后，5月22日，又一起AI换脸诈骗发生，此次金额高达132万，且整个诈骗过程时间只有9秒钟。
5月22日，安徽安庆的何先生接到熟人视频电话，让他帮忙转一笔账。但9秒之后，对方以“在开会”为由，迅速挂断了电话，还称“微信和电话不能说，加一下QQ”。
“因为打了视频电话，又是熟人，我就没多想，就转账了。”何先生回忆被骗经历时说。
4、面对AI诈骗，我们能做些什么？
面对AI诈骗，我们能做些什么来应对呢？可以参考如下措施：减少自己照片与音视频的曝光度，防止被骗子收集用于AI换脸或拟声。此外，在与对方沟通时，可以询问共同知晓的信息，真信息中掺假信息，让对方多与你沟通，看是否有破绽。
视频时让对方多做一些面部表情或肢体语言，看是否有失真现象。观察视频通话中对方的眼睛，多数假脸都是使用睁眼照片合成，假脸极少甚至不会眨眼，缺少眨眼是判断一个视频真假的好方法。注意语音和嘴唇运动的同步状况、情绪不符合、模糊的痕迹、画面停顿或变色等异常现象，这些可能是AI换脸的痕迹。
总之，防范人工智能风险需要全社会共同努力。政府、企业与个人都需要各自发挥作用，通过科学管理、安全防范、认知提高与人类发展来确保人工智能的安全与可控发展。
5、用户评价：AI界又一次集体刷存在感
对于此事，有的网友认为，人类最终有可能被自己创造的机器人灭绝，也有的网友认为这绝不可能，既然人类早有预料，那一定有预防措施。
客观、清醒的网友则认为，这是AI界又一次集体刷存在感、博人眼球，大家也别太当真，至少国内的研究如果真停下来，那才是掉进坑里了。
有网友指出，研究可控制、可解释、可信赖、安全的人工智能当然是值得关注的事情，但将AI灭绝人类严重程度和流行病、核武器提升到一个层面真是一个可笑的比喻。
但是，也有网友认为，这个声明的发布总体来说是好事，让更多的人意识到AI的潜在风险，需要尽快制定监管政策。
6、写在最后：专家怎么认为？
前天，谷歌首席执行官桑德尔·皮查伊（Sundar Pichai）在布鲁塞尔与欧盟官员会晤讨论AI政策，他的观点比较中立：“需要对技术进行适当监管且不会扼杀创新。”
Sam Altman可能是名单上最有趣的签署者，毕竟公司在将AI推向现实世界方面所做的比几乎任何其他公司都多，这有点讽刺意味。
自从ChatGPT在2022年底爆火，Altman一再表示人工智能的未来让他大吃一惊，同时“吹嘘着”人工智能将使世界变得多么美好。
现在，他签署了公开信件，前后不同的言论和行动确实让人感觉有些矛盾。
微软（Microsoft）联合创始人比尔·盖茨（Bill Gates）则警告称，人工智能助手可能很快就会彻底改变用户的在线行为，从而淘汰谷歌等搜索引擎和亚马逊。
据美国全国广播公司财经频道（CNBC）报道，盖茨本周在旧金山举行的高盛人工智能活动上表示：“获得了AI个人助理（personal agent），你不会再去搜索网站，也不会浏览亚马逊。”
他说，人工智能助手可以“阅读你没有时间阅读的东西”，让用户无需使用谷歌等搜索引擎就能获取信息。
各位小伙伴，对于这项声明你怎么看？你觉得AI会导致人类灭绝吗？
