科技云报道:大模型引领技术浪潮,AI安全治理面临“大考”

news2024/11/24 17:41:18

科技云报道原创。

从文生文到文生图,再到文生视频,近年来,以ChatGPT、Sora等为代表的大模型引领了全球人工智能技术与产业的新一轮浪潮。2024年更是被业内称为大模型应用爆发元年。

年初,Sora横空出世验证了Scalling Law在视频生成方面的有效性。但Sora始终止步于公开的60秒Demo,产品落地计划迟迟未公开。

随后的半年时间,不少玩家继续在AI视频生成赛道展开角逐。今年6月,快手发布视频生成大模型“可灵”。紧随其后,国外知名3D建模平台Luma AI也高调入局,并宣布对所有用户免费开放其文生视频模型,再掀波澜。近日,智谱AI也正式上线了AI视频生成功能清影(Ying),全面入局文生视频及图生视频赛道,生成6秒视频仅需30秒的时间。

人工智能技术的普及应用一方面为社会发展带来了巨大的技术红利,另一方面也带来了风险挑战。

哲学家海德格尔曾反思过现代技术的危险性,其认为现代技术强调效率,在这种效率观念的促逼下,人类反而被技术所控制和占有,成为了技术的奴隶,受到技术发展的支配。虽然当下加速了发展进程,但是盲目的发展最终会导致一系列的社会危机,这是人类不可忽视的问题。
在这里插入图片描述

AI繁荣表象下的安全隐

近年来,一些不法分子利用人工智能深度伪造新工具实施电信诈骗、散布虚假视频、激化社会矛盾,给安全领域带来了诸多风险。人工智能深度伪造是一种利用人工智能技术合成、修改或替换图像、视频和音频内容的技术,可以将一个人的面部表情、言辞和动作应用到其他人的图像或视频上,使生成的内容看似原始内容。这项技术让假新闻和虚假信息更具迷惑性,严重威胁公众的信任和社会稳定。

此类安全产生的主要原因在于,技术发展速度过快而法律法规和伦理规范未能及时跟进。现有的法律框架往往难以适应人工智能的快速发展,导致监管滞后。

例如,AI自动驾驶汽车的责任认定问题,目前尚无明确的法律规定。当人工智能系统出现故障导致事故时,如何界定制造商、开发者和用户的责任,成为法律界亟待解决的难题。

同时,人工智能的决策机制和数据处理方式存在不透明性,可能导致偏见和歧视的扩散。例如,面部识别技术在执法中的应用可能带来隐私侵害和种族偏见的问题。经济基础决定上层建筑,上层建筑反作用于经济基础,当上层建筑为适合生产力发展的经济基础服务时,它就成为推动社会发展的进步力量;反之则成为阻碍社会发展的力量。当前的法律法规和伦理规范已经落后于人工智能技术发展水平,亟需改良进步。

受到发展水平、价值观念、文化差异和国家利益等多个因素的影响,各国推动的治理框架和解决方案通常在防范风险、公平公正、隐私保护和国家安全等方面有不同关切,而人工智能的发展趋势和特征却要求在全球治理方面构建更加包容的框架。

因此,在当前形势下,在推动全球人工智能治理框架、标准和规范形成广泛共识方面,仍存在诸多挑战与难题。

首先,人工智能技术本身的复杂性和快速发展使得全球治理更加困难。人工智能技术涉及深度学习、自然语言处理、计算机视觉等多个领域,每个领域都有其独特的技术挑战和应用场景,治理的复杂性大大增加,并且人工智能技术更新速度快,传统的立法和监管手段难以跟上技术进步的步伐。即使制定了相关政策和法规,也可能很快变得过时,需要不断更新和调整。随着人工智能应用的广泛普及,数据隐私、不公平与歧视性,以及国家安全等风险日益彰显。人工智能技术及其引发的全局性、系统性和国际性风险将成为全球治理合作面临的挑战之一。

其次,人工智能技术的发展涉及巨大的经济利益,各国之间在技术研发、市场份额和产业布局方面存在激烈竞争。一些国家和科技公司在人工智能领域占据领先地位,不愿意在国际治理框架中受到限制,担心影响自身的竞争优势;人工智能技术的应用涉及广泛的商业利益,各国可能会为了保护本国企业的市场份额而抵制统一的国际规范;不同国家在产业政策上也会有不同的侧重点,一些国家可能会更倾向于保护本国的人工智能产业,制定有利于自身发展的政策,而不是参与全球性的治理框架。

第三,主体多元将成为制约全球人工智能治理的因素。当前人工智能治理仍以政府为主导,主要表现为中国、欧盟、美国等制定和发布了一系列人工智能治理倡议、规划和立法。然而,私营部门在人工智能技术发展中也发挥着不可忽视的作用,谋求人工智能规则的话语权可以增强其影响力。多利益攸关方以自身利益为中心,可能导致人工智能治理主导权和规则制定权的多方博弈甚至恶性竞争。倘若如此,将严重损害各方在人工智能全球治理上的合作动能。

第四,人工智能技术的发展依赖于大量数据的收集和共享,但数据隐私和安全问题却成为全球治理的重要难题。许多国家对本国数据的控制权有很强的保护意识,不愿意轻易共享数据。而且各国对数据隐私保护的标准和要求不同,一些国家可能对数据的跨境流动设置严格的限制。

第五,少数科技巨头公司在人工智能技术和市场上占据主导地位,导致全球治理面临技术垄断和不平等问题。大型科技公司在人工智能技术研发和应用方面占据主导地位,拥有巨大的经济和政治影响力,可能会影响政策的制定和执行。

人工智能技术的发展还可能加剧全球范围内的经济不平等,发展中国家在技术和资源方面处于劣势,难以在全球治理中发挥有效作用。

面对人工智能全球治理的多重挑战和现实困境,中国提出推动构建人类命运共同体为愿景的解决方案。在7月举行的2024世界人工智能大会暨人工智能全球治理高级别会议上,清华大学苏世民书院院长、清华大学人工智能国际治理研究院院长薛澜曾表示,从全球角度来讲,人工智能发展面临着很多挑战。

要把AI发展和安全作为“一体两翼”,通过多途径建立国际交流及防控体系,加强政府间的多边对话机制,同时通过科学共同体力量助力国际机制全面完善。

同时发挥联合国等国际组织的综合全面协调作用,打破各种壁垒,加强国际合作协议,同时在产业、科学界共同努力下推动人工智能合理、健康发展,为人类和平与发展作出更大的贡献。

图灵奖得主、中国科学院院士、清华大学交叉信息研究院院长姚期智表示,人工智能最有深度、最有意思的风险来自AI生存或者存在的风险。要控制好AI,但又不能破坏它,“正如图灵所说,这是无法预测的,预测不了机器有了足够算力之后会做什么。”

因此,AI风险需要专家来解决,不仅是科学家,还可能需要政府、律师、经济学家来参与,几乎涉及到每一个行业。

上海人工智能实验室主任、衔远科技创始人周伯文认为,目前,世界上只有1%的资源投入在对齐或者安全考量上,对AI安全的投入远落后于AI性能的投入。人类将遵循“AI-45°平衡律”,沿着可信AGI的“因果之梯”拾级而上,探索人工智能系统安全和能力的系统性平衡之路。

道阻且长,行则将至

全球人工智能治理倡导“以人为本、智能向善、造福人类”的原则,这既代表了人工智能发展的主线,也代表了治理的宗旨。

7月24日,中国人工智能产业发展联盟(简称“AIIA”)安全治理委员会成果发布会举行。会上,AIIA秘书长、中国信息通信研究院院长余晓晖表示,开展人工智能安全治理工作不仅是我国推动人工智能发展和安全的重要工作,也是全人类共同需要对待的重大问题。如何释放出人工智能最大向善的能力,造福于人类,促进经济社会发展,需要世界各国共同推动。

在这里插入图片描述

AIIA秘书长、中国信息通信研究院院长余晓晖

AIIA安全治理委员会主任委员、公安部信息安全等级保护评估中心原副主任、研究员毕马宁表示,过去一年,大模型发展速度之快,赋能范围之广,让业界看到了通用人工智能的实现路径与曙光,但人工智能安全问题的严重性与紧迫性不容忽视。在从不同层面审视人工智能安全问题时,可以发现人工智能所带来的安全挑战已经从技术本身所带来的数据、算力、系统等传统安全问题,逐渐向对个人、组织、国家社会、人类生态的衍生安全问题蔓延。
在这里插入图片描述

AIIA安全治理委员会主任委员、公安部信息安全等级保护评估中心原副主任、研究员毕马宁

AIIA总体组组长、中国信通院人工智能研究所所长魏凯表示,世界各国都对人工智能的发展表示出非常大的期待,不论是发达国家或者发展中国家,普遍认为人工智能是一个巨大的机遇,同时也对人工智能的确定性安全和风险挑战表示担忧。

多年来,中国信通院作为国家智库产业平台,不仅联合各方在中国人工智能产业发展联盟下成立了安全委员会,搭建人工智能安全方面交流合作平台,同时联合产业界发布了《人工智能治理框架》,提出以风险为导向的人工智能研判理论体系,并发布一系列人工智能安全合规方面的标准规范,协助企业提升安全能力。

围绕大模型安全,中国信通院还启动大模型安全基准测试,为国内企业开展大模型安全防范工作提供参考。此外,与国际组织各国就人工智能的安全治理工作开展双边、多边的讨论交流,共同推动人工智能在全球的发展和安全的治理工作。

目前,全球针对人工智能安全已有很多声明和请愿,但更重要的是要明确目标、投入资源、采取行动,携手结伴共同应对风险。各国和地区针对人工智能治理正从原则治理走向安全实践的新阶段。

治理框架方面,各国和地区基本形成本土治理方案。比如美国推出《人工智能风险管理框架》推动基于风险的治理实践。欧盟《人工智能法》构建了风险分级的治理方案,并即将正式生效。

新加坡在原先治理框架基础上推出了《生成式人工智能治理模型框架》,提出人工智能评估需考虑的九个维度。日本发布《人工智能运营商指南》,为开发者、提供者、使用者制定行为准则。我国从《互联网信息服务算法推荐管理规定》到《生成式人工智能服务管理暂行办法》精准化治理前沿技术。

治理工具方面,全球积极推出安全测试评估平台。美国成立人工智能安全研究所和安全联盟以推动制定人工智能安全标准和开展安全评测,并于近期启动“评估人工智能的风险和影响”计划。英国人工智能安全研究所推出“Inspect”人工智能模型安全评估平台。新加坡依托“AI Verify”发布软件工具包,推动新技术的沙箱测试。我国已有近140个大模型通过安全评估与备案,形成良好示范效应。

可以看出,安全已成为各国人工智能治理的核心关切,保障安全是人工智能技术创新发展的基石,也是推动人工智能产业可持续发展的重要前提。

道远路长,行则将至。人工智能治理是一个不容忽视又实时更新的问题,未来也许将有超出现有认知的挑战,这就需要国际社会携手共同努力,为人工智能的发展把好方向盘,显然是未来与技术狂奔向前相伴的另一个主旋律。让每一个人成为人工智能的使用者、受益者,也让每一个人成为人工智能的设计者、治理者。

【关于科技云报道】
专注于原创的企业级内容行家——科技云报道。成立于2015年,是前沿企业级IT领域Top10媒体。获工信部权威认可,可信云、数博会、国家网安周与全球云计算等大型活动的官方指定传播媒体之一。深入原创报道云计算、人工智能、大模型、网络安全、大数据、区块链等企业级科技领域。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1973356.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

计算机的错误计算(五十)

摘要 扩展了计算机的错误计算(四十九)中的代码。同时发现,误差也“扩展”了。 下面是代码: import torch# 设置随机种子 torch.manual_seed(0)# 创建张量并移动到GPU W1 torch.randn(5, 3) * 10 W1 W1.to(cuda) X1 torch.ran…

高级宏定义

平时常说的 C 语言三大预处理功能是什么?(吹牛谈资,不能不知) 答:宏定义;文件包含;条件编译。 说到底,宏定义的实质是什么? 答:替换。 关于宏定义有一点…

CSS技巧专栏:一日一例 18 -纯CSS实现背景浮光掠影的按钮特效

CSS技巧专栏:一日一例 18 -纯CSS实现背景浮光掠影的按钮特效 先发图,再说话: 案例图片 案例分析 按钮是好几种颜色的背景色组成的,使用css的话,应该会有几个不同颜色的层,在按钮后面移动。每个层互相叠加,大概还会用到图片混合模式产生了更多的叠加的颜色,然后边缘过…

云计算实训20——mysql数据库安装及应用(增、删、改、查)

一、mysql安装基本步骤 1.下载安装包 wget https://downloads.mysql.com/archives/get/p/23/file/mysql-8.0.33-1.el7.x86_64.rpm-bundle.tar 2.解压 tar -xf mysql-8.0.33-1.el7.x86_64.rpm-bundle.tar 3.卸载mariadb yum -y remove mariadb 查看解压后的包 [rootmysq…

二叉树遍历算法的应用

1、二叉树的创建 2、二叉树的复制 3、二叉树的深度 4、计算结点总个数

jsp 自定义taglib

一、简介 我们在javaWeb开发中,经常会用到jsp的taglib标签,有时候并不能满足我们的实际需要,这就需要我们自定义taglib标签, 二、开发步骤 1、编写control方法,继承BodyTagSupport 2、定义zdytaglib.tld标签文件 3、…

AI Agent 如何入门?来看看这本新书!!!

半个月前,粗心的我细心地发现,有一本关于 Agent 的书籍,作者还是熟悉的咖哥(黄佳老师,当年拜读过他的《零基础学机器学习》)。 而在昨天,我终于收到了!立刻花了半个小时品读起来~觉…

LeetCode 572.另一棵树的子树 C写法

LeetCode 572.另一棵树的子树 C写法 思路🧐: 可以用上判断两棵树是否相同的方法,root的每个结点都去与subroot进行该方法的比较,如果有一轮比较成功就表示root包含subroot。 代码🔎: bool isSameTree(struc…

【时时三省】(C语言基础)函数的声明和定义

山不在高,有仙则名。水不在深,有龙则灵。 ——csdn时时三省 函数声明 1.告诉编译器有一个函数叫什么,参数是什么,返回类型是什么。但是具体是不是存在,无关紧要。 2.函数的声明一般出现在函数的使用之前。要满足先声…

视频监控汇聚平台LntonCVS安防管理平台构建互联网视频监控安全管理系统方案

随着互联网和人工智能技术的发展,我们致力于建设一种云端平台,统一整合各类二三类视频资源,实现对网络工程最后100米、10米甚至1米的全域覆盖。 依托互联网与VPN网络,我们提供了一种视频监控安全管理系统方案,集成了大…

SpringSecurity+Mysql数据库实现用户安全登录认证

Spring Security 是一个提供身份认证、授权和防范常见攻击的安全权限框架。无论是对命令式,还是响应式web应用程序都完美支持,现在主要用作保护基于 Spring 框架的应用程序的事实标准。相对于shiro来说,SpringSecurity功能更加复杂而且更加强…

深入浅出:可视化理解揭示决策树与梯度提升背后的数学原理

决策树是一种非参数的监督学习算法,可用于分类和回归。它使用类似树的结构来表示决策及其潜在结果。决策树易于理解和解释,并且可以轻松地进行可视化。但是当决策树模型变得过于复杂时,它不能很好地从训练数据中泛化,会导致过拟合…

64、ELK记录nginx、httpd、mysqld日志

logstash收集服务日志文件 一、logstash收集appache日志文件,转发到elasticsearch 1、建立在elk1、2、3搭建好elk架构基础之上192.168.168.61 es1 2/4g192.168.168.62 es2 2/4g192.168.168.63 logstash kibana nginx/http 4/8g三台开启服务systemctl s…

《数据结构》(C语言版)第1章 绪论(上)

第1章 绪论 1.1 数据结构的研究内容1.2 基本概念和术语 1.1 数据结构的研究内容 N.沃思(Niklaus Wirth)教授提出: 程序算法数据结构 电子计算机的主要用途 早期:主要用于数值计算 后来:非数值计算,复杂的具有一定结构…

Gstreamer配合srs服务器实现RTMP直播和WebRtc直播

前言 上一篇文章,实现了配合腾讯云直播的推流,但是需要花钱,于是就在思考能不能搞一个局域网内,免费的RTMP直播呢? 最终发现了可以使用srs服务器。如果成功了,以后也可以使用webrtc的直播推流。 以下是实现效果: 一、搭建srs服务器: 参考:ubuntu环境下搭建SRS服务器(…

windows系统关闭开机自检硬盘

效果: 注册表关闭开机硬盘自检,你可以按照以下步骤操作: 打开注册表编辑器: 按 Win R 键打开“运行”对话框。输入 regedit 并按回车,打开注册表编辑器。 定位到自检相关的键: 依次展开以下路径&#x…

认识经典蓝牙

现在BLE很流行,本人接触BLE也更多,而对经典蓝牙BR/EDR的开发知之甚少,而且网上关于经典蓝牙的资料也很少,所以,想要有更多了解。 参考: https://www.nordicsemi.cn/news/bluetoothle-and-bluetoothclassic/…

mac|运行别人的SpringBoot+Vue项目

一、运行vue 1、查看项目版本,在package.json中查看,在dependencies中的vue就是对应的版本 2、查看本机的vue版本:vue -V 3、删除node_modules 、package-lock.json 4、运行npm install 如果卡住不动,可能是因为网络问题&…

EasyAR_稀疏空间图

EasyAR_稀疏空间图 EasyAR4.6.3 丨 Unity2020.3.15f2 1.创建稀疏空间地图 在EasyAR开发中心后台创建Scene许可证密钥,并且使用稀疏空间地图 2.设置稀疏空间地图库名,对稀疏空间地图进行管理,设置密钥 3.复制密钥到Unity中 添加Spatial Map Ap…

N4 - Pytorch实现中文文本分类

🍨 本文为🔗365天深度学习训练营 中的学习记录博客🍖 原作者:K同学啊 目录 任务描述步骤环境设置数据准备模型设计模型训练模型效果展示 总结与心得体会 任务描述 在上周的任务中,我们使用torchtext下载了托管的英文的…