生成式AI爆发,安全问题如何解决?

news2024/11/17 23:35:34

在生成式AI浪潮下,如何为行业用户提供符合实际应用场景需求的生成式AI服务,是行业数字化转型的下一个重点。《亚马逊云科技AIGC加速企业创新指南》白皮书指出,AIGC在游戏、零售电商、金融、媒体娱乐、医疗健康等行业都有典型应用场景。作为 AI 数字商业的探路者,AIGC有望开启下一场数字商业模式的新篇章。

“目前,生成式AI已经应用到企业创新的各个环节,通过智能客服优化客户体验、通过自动生成代码提高技术团队生产力、通过文字生成图片的方式加速创意内容生成、通过自动化文档处理提高整个组织的运营效率等等……生成式AI真正让AI在企业加速落地。”

(亚马逊云科技大中华区解决方案架构部总监代闻)

亚马逊云科技大中华区解决方案架构部总监代闻在“2023亚马逊云科技re:Inforce中国站”上表示,已经很久没有看到一个技术在各行各业同时遍地应用、突飞猛进。代闻在工作中还发现了一个很有意思的现象,那就是越来越多的生成式AI的需求是由业务部门提出,生成式AI不只是技术部门进行创新的工具或平台,而变成了业务增强竞争力的一个核心手段,这将大幅加速各个行业智能化发展,也将促进改变行业游戏规则机会的出现。 

同时,也正是因为生成式AI应用场景的井喷,业务部门需求如此旺盛,目前给企业技术部门带来了前所未有的挑战。大语言模型和AIGC的安全威胁并不是预言而是正在发生的事实。以数据泄露为例,前段时间网上的一则消息显示,某大型国际企业在采用了基于某大语言模型的公开聊天应用服务后,20天内出现了3起数据泄露事件,包括产品良率的泄露、代码的泄露以及会议内容的泄露。而进一步深度分析,这些泄露也代表了访问控制的不足。

面对AIGC安全挑战,企业到底应该怎么做?亚马逊云科技认为,安全是构建生成式AI应用不可回避的议题。从构建开始,企业就需要把安全作为企业AI战略的核心环节,尤其是在飞速发展的现阶段。具体应该怎么做?亚马逊云科技建议,要从全栈技术角度审视和建设合规体系,包括应用、模型、数据、框架、基础设施等,从而构建用户体验良好且安全合规的AI和生成式AI应用。

目前,亚马逊云科技在人工智能和机器学习领域,拥有从人工智能服务到大模型和机器学习等丰富的产品组合。例如,亚马逊云科技推出了大量AI服务,让客户通过简单的API调用就可添加AI功能到应用程序中,如图像识别、预测和智能搜索等;在AIGC方面,亚马逊云科技让更多客户能够访问基础模型能力、为推理和训练提供基础设施、提高所有开发人员的编码效率,更简单、更容易地在业务中使用AIGC;而全托管一站式机器学习平台Amazon SageMaker,为所有开发人员构建、训练和部署模型提供最大便利。

亚马逊云科技秉持着“逆向工作法”的产品服务开发理念,即95%以上的服务都是通过不断听取客户需求而产生。截至目前,亚马逊云科技已经帮助超过10万家来自各行各业不同规模的客户使用机器学习进行创新。正是因为有了规模化的AI客户优势,让亚马逊云科技能够在第一时间掌握新AI领域的安全解决之道。

以AIGC访问控制为例,亚马逊云科技的访问控制服务Amazon Identity and Access Management(Amazon IAM)自诞生至今的12年间已经陆续发布了多项服务,通过不断听取客户需求进行迭代优化更新,从而满足在复杂的企业环境中轻松实现访问控制的设置、验证及实施。针对大模型,亚马逊云科技在几个月前推出了Amazon Bedrock和多种生成式AI服务和功能,Amazon KMS、Amazon IAM等可以完善地跟Amazon Bedrock等集成,集成以后可以很好地管理加密、权限控制所有行为日志。

亚马逊云科技不仅提供了一系列的技术、服务和工具帮助更多企业充分释放生成式 AI 的潜力,同时确保安全合规是开展一切业务的基础,包括生成式 AI的各种工具,涵盖数据、模型以及应用各个环节。同时,亚马逊云科技还将AI以及生成式AI技术应用于安全及合规服务中,以更智能的安全、合规服务应对复杂的安全威胁、提高合规效率。

亚马逊云科技利用自身经验,将AI防护应用到软件开发的全生命周期,让开发更便捷、更安全,例如亚马逊云科技近期发布的两项AI开发安全能力——Amazon CodeWhisperer是亚马逊云科技推出的AI编程助手,可根据开发者指令利用内嵌的基础模型实时生成代码建议,该服务内置了代码安全扫描功能,可帮助开发者查找难以检测的漏洞并提出补救建议;Amazon CodeGuru Security可以扫描代码,在代码里面寻找漏洞,包括调用包漏洞以及其他代码逻辑漏洞,还能够在CICD流程中通过人工智能和机器学习的方式自动降低误报率,同时基于API设计可方便地集成到开发工作流程,实现集中化和良好的扩展性。 

生态建设是全栈安全的全面保障,亚马逊云科技也在AI安全方面深耕的重点。在IDC近期发布的《2023中国公有云托管安全服务能力报告》中,亚马逊云科技在专家能力、漏洞及威胁检测、威胁情报等7项目评估维度上是获得满分最多的厂商之一,其中“生态建设”评估维度是唯一获得满分的厂商。 

在2023亚马逊云科技re:Inforce中国站”大会上,亚马逊云科还宣布与涂鸦智能成立“联合安全实验室”,双方将在机密计算及数据隐私、Matter技术合作及体系建设、生成式AI在IoT领域的安全实践等方面展开联合共创;与德勤企业咨询合作发布《中国企业出海发展建议白皮书2023版》,为中国出海企业解读相应的法律法规,分析面临的问题和挑战,并提出应对策略提升出海企业数据安全。

Gartner 将生成式AI 列为最有商业前景的人工智能技术之一。根据Gartner发布的2022 年人工智能技术成熟度曲线,预计生成式AI 将在2-5 年内进入生产成熟期,发展潜力与应用空间巨大。根据预测,2025年,30%大型组织对外消息将由生成式AI生成;2025年,50%的药物发现与研发将使用生成式AI;2027年,30%的制造商将使用生成式AI提高产品研发效率。

展望不远的未来,生成式AI正在加速AI在企业内的真正落地,正在加速产业融合与变革。随着生成式AI向数实融合全面渗透,全栈安全思维必须成为企业数字化转型的总领,也是企业加速智能化发展的底盘。(文/宁川)

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/984710.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

冠达管理:股票退市整理期?

近些年来,随着我国股市的发展,股票市场的出资者逐渐增多。但在出资过程中,退市股票的问题也成为了备受重视的论题。那么,股票退市收拾期到底是什么?如何应对退市股票? 首要,什么是股票退市收拾…

设备管理系统有什么功能?它有什么用?

设备管理系统已成为现代化大规模研究所,信息化管理体系建设中最为关键的要素。随着工业设备的机械化、自动化、大型化、高速化以及复杂化等因素不断叠加,设备设施对于工业生产的作用和影响越来越大,其各项制度和流程也涉及面广、内容繁杂。  …

中企绕道突破封锁,防不胜防 | 百能云芯

韩国的财经媒体Business Korea最新报道指出,尽管美方在《通胀削减法案》(IRA)的补贴中排除了中国,但中国企业正通过多种方式积极应对美国在半导体和电动汽车电池领域的封锁,这包括建立合资企业、设立生产基地以及开展技…

STDF-Viewer 解析工具说明

一、简介 1. 概述 STDF(Standard Test Data Format)(标准测试数据格式)是半导体测试行业的最主要的数据格式,包含了summary信息和所有测试项的测试结果;是半导体行业芯片测试数据的存储规范。 在半导体行业…

城市排水监测方案(dtu终端配合工业路由器精准监测)

台风季节,暴雨容易导致城市内涝积水。为有效监测排水状况,预警和防控积水灾害,星创易联推出智慧排水监测解决方案。 解决方案采用星创易联DTU300作为水位数据采集终端,它可挂载在河道及排水井等地点,实时监测水位变化,一旦超过预警阈值,立即通过4G网络传输报警信息,实现对水位…

使用Kmeans进行图像聚类

Kmeans可以用于与发现聚类相关的其他任务 介绍 聚类是一种无监督机器学习技术。这意味着您的数据集没有标签,即与解释变量发现的模式关联的目标变量。 无监督学习是找到看似相似的模式并将它们放入同一个桶中的过程。 最常用的无监督学习算法之一是Kmeans&#xff…

冠达管理:紧盯必要性 追问合理性 再融资问询透露监管新动向

在“活泼资本市场,提振出资者决心”一系列办法落地之后,再融资市场整体已明确收紧,但审阅尺度、相关细则还有待进一步观察。有接受采访的投行人士指出,现在存量项目仍在持续推进,监管审阅要点已在问询环节有较为充沛的…

2.7 PE结构:重定位表详细解析

重定位表(Relocation Table)是Windows PE可执行文件中的一部分,主要记录了与地址相关的信息,它在程序加载和运行时被用来修改程序代码中的地址的值,因为程序在不同的内存地址中加载时,程序中使用到的地址也…

单月打造8个10w+,情感类视频号如何爆火?

上月,腾讯公布了2023年Q2财报,其中,较为亮眼的是微信视频号的广告收入。据财报显示,二季度视频号用户使用时长与去年同期相比几乎翻倍,广告收入超过30亿元。作为微信生态的核心组件,视频号的内容生态呈现出…

C/C++浮点数向零舍入 2019年9月电子学会青少年软件编程(C/C++)等级考试一级真题答案解析

目录 C/C浮点数向零舍入 一、题目要求 1、编程实现 2、输入输出 二、解题思路 1、案例分析 三、程序代码 四、程序说明 五、运行结果 六、考点分析 C/C浮点数向零舍入 2019年9月 C/C编程等级考试一级编程题 一、题目要求 1、编程实现 输入一个单精度浮点数&#…

09-JVM垃圾收集底层算法实现

上一篇:08-JVM垃圾收集器详解 1.三色标记 在并发标记的过程中,因为标记期间应用线程还在继续跑,对象间的引用可能发生变化,多标和漏标的情况就有可能发生。 这里我们引入“三色标记”来给大家解释下,把Gcroots可达性…

uni-app动态tabBar,根据不同用户展示不同的tabBar

1.uni框架的api实现 因为我们用的是uni-app框架开发,所以在创建项目的时候直接创建uni-ui的项目即可,这个项目模板中自带了uni的一些好用的组件和api。 起初我想着这个效果不难实现,因为官方也有api可以直接使用,所以我最开始尝试…

DeeTune:基于 eBPF 的百度网络框架设计与应用

作者 | 百度APP云原生技术研发组 导读 随着云计算的技术的不断迭代演进,百度内部服务逐渐搬迁到云环境中,部署成本和效率取得明显收益,但一些可观测能力的短板和缺失逐渐显露,传统的方式往往通过植入代码进行修改来实现&#xff0…

esp-hosted 方案介绍

esp-hosted SDK esp-hosted 方案介绍 esp-hosted 方案主要为 Linux 或者 MCU 提供无线连接功能(WiFi 或者 BT/BLE) esp-hosted 解决方案包含了 esp-hosted FG 和 esp-hosted NG 两套方案 与传统 WiFi 网卡的区别在于 ESP 设备端需要烧录固件&#xff0…

RGMII 与 GMII 转换电路设计

文章目录 前言一、RGMII 接口的信号说明二、RGMII 发送的 FPGA 实现方案1. OPPOSITE_EDGE 模式2. SAME_EDGE 模式三、使用 FPGA 实现 RGMII 接口前言 RGMII 是 IEEE802.3z 标准中定义的千兆媒体独立接口(Gigabit Medium Independent Interface)GMII 的一个替代品。相较于 GM…

详解Redis之Lettuce实战

摘要 是 Redis 的一款高级 Java 客户端,已成为 SpringBoot 2.0 版本默认的 redis 客户端。Lettuce 后起之秀,不仅功能丰富,提供了很多新的功能特性,比如异步操作、响应式编程等,还解决了 Jedis 中线程不安全的问题。 …

Python中的依赖管理是什么? - 易智编译EaseEditing

Python中的依赖管理是指管理和跟踪项目所依赖的外部软件包或库的过程。 在Python项目中,通常会使用许多第三方库或模块来实现特定的功能,而依赖管理就是确保这些库可以正确地安装、更新和卸载,以确保项目的可靠性和稳定性。 以下是Python中…

正则表达式使用总结

一、字符匹配 普通字符:普通字符按照字面意义进行匹配,例如匹配字母 "a" 将匹配到文本中的 "a" 字符。 元字符:元字符具有特殊的含义,例如 \d 匹配任意数字字符,\w 匹配任意字母数字字符&#xf…

Market Insight:中国低代码/零代码市场典型供应商名录(2023)发布

Market Insight:典型供应商名录根据厂商调研、行业用户点评、研究团队评估来综合确定。典型供应商名录的入围者拥有值得客户信赖的能力,这种能力可以表现在产品与技术、服务能力、市场力等其中的一项或多项。典型供应商名录的入围者可以是市场领导者&…

Exception_json反序列化失败_JSONException

TokenGroup tokenGroup JSONObject.parseObject(tokenGroup1, TokenGroup.class);com.alibaba.fastjson.JSONException: create instance error, null, public com.daikin.snapshot.controller.auth.token.TokenGroup 解决方法: 在反序列化失败的实体类添加无参构造方法