为什么要对员工行为进行安全管控?

news2024/9/25 3:19:31

ChatGPT的火热已不是一件新鲜事了。而现在更让大家热议的是,ChatGPT带来的网络安全风险,不少安全人员对此担心不已。因ChatGPT引起的网络安全事件,媒体也多有报道。

例如,近日,外媒就报道了三星因ChatGPT泄露了机密信息的安全事件。

据外媒报道,韩国科技巨头三星前不久发生了好几起由ChatGPT引起的信息泄露事件,设备测量、产量数据、内部会议等机密内容都被传输到了海外。

 

三星陆续发生的三起信息泄露事故,均起缘其内部员工的不合规操作所致。据了解,其中一位员工复制了他工作中遇到的问题相关的源代码,并输入到了ChatGPT之中,向该AI询问解决方案;而另一位员工则在 ChatGPT 中输入了与设备良品率相关的程序代码,并向AI请求代码优化;最后一位员工则是将会议内容输入到ChatGPT中要求AI为其编写会议记录。

在事件发生前,批准使用GPT的三星DS部门,曾特别在公告中提醒员工:“注意公司内部信息安全,不要输入敏感内容”。但是在三星DS部门发布政策不到20天的时间里,陆续发生了这三起信息泄露事故。

另外了解到,在ChatGPT的使用指南中,OpenAI也有明确说明输入给ChatGPT的文本内容会被用于进一步训练模型,警告用户不要提交敏感信息。

 

而三星这三位员工的操作就意味着,他们提交的这些数据都被传输给了ChatGPT所属的美国公司OpenAI,并有可能被用作了该模型的训练数据。

三星公司在知悉这些事件后,紧急采取了一系列缓解措施,例如将上传内容限制在1024字节以内等。三星目前正向事故相关职员调查原委,必要时给予处罚。

在高科技带来便利同时,众人也在担忧着高科技带来负面影响,例如大家会担心ChatGPT加剧全球日益严峻的数据安全挑战,给到攻击者更多的可趁之机或造成使用者的敏感信息数据的泄露。此前,就有ChatGPT骗局、安全研究人员诱导ChatGPT编写出危险的数据窃取恶意软件、新手利用ChatGPT轻松构建零日恶意软件,等等。以及当下的三星由ChatGPT引起的信息泄露事件。

事物总是存在着两面性,像ChatGPT这样的新事物,是造福人类还是威胁人类,端看使用者对其的利用、安排。而在此次的三星数据泄露事件中,事实上事故的起因都是“员工的行为”,尽管此前三星对其员工有所特别提醒。当然了,ChatGPT所使用的技术本身也存在一定的风险。

 

纵观以往的一些安全事件,数据泄露的原因大致可分为外部入侵和内部风险。外部入侵主要由于入侵者有足够的动机、精力和机会,一方面可以获取巨大的利益;另一方面又由于各个行业的网络是相对开放的,给外部入侵者制造了机会。

而内部风险主要由于内部人员的有意或无意的违规操作,一些内部人员会受到各种各样的诱惑,使得他们铤而走险,通过对外非法提供数据来获取利益。这些有意的内部人员也称之为行业“内鬼”。

据相关报道了解,各行各业由于数据特点不同,其安全风险原因也不同,85%的数据泄露都有人为因素。这其中有外部因素,但更多的还是内部因素。另外,据Tessian 和斯坦福大学的一项研究发现,2020 年88%的数据泄露事件仅仅是因为某个地方有人搞砸了;Verizon发布的《2022年数据泄露调查报告》指出,2022年数据泄露事件中82%的违规行为涉及人为因素。

 

人为泄露数据的事件屡见不鲜,例如,一些快递站点工作人员进行面单拍摄、数据人为导出,后在黑灰产交易平台出售;平安人寿某分公司内部人员利用职务之便泄露了4万条客户信息;近日,极氪员工因操作失误泄露了一份内部文件并在网上流传,中包括,用户姓名、电话、车身VIN码等大量隐私信息,等等。

在过去,诸多企业将数据防泄漏的重点都放在了外部,于是诞生了防火墙、漏洞扫描等安全防护产品。然而,近年来,因人为因素导致的企业数据泄露事件频发,而且随着职场道德问题频发,内鬼作祟导致的泄密事件也已占到了总泄密事件的70%。因此,在不侵犯员工隐私的前提下,企业有必要对员工行为进行安全管控!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/430679.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

ChatGPT - 基于 Visual Studio Code 进行 AI 编码

2023-04-15 周六 杭州 晴 前情提要 ChatGPT ,AutoGPT , AgentGPT 现在各种人工智能编码工具层出不穷,通过人工智能编码再也不用记大量的技术知识点了,现在所谓开发人员的经验性的东西也好像弱化了很多,我们可以更有效率的做自己…

Qt/QML编程学习之心得:QML界面设计(二)

都知道Qt是一种界面设计语言,那么它有几种设计方式UI technologies呢?答案是5种。 1、传统桌面所见即所得Classic desktop look-and-feel• Qt Widgets 2、 流畅、现代+触控Fluent, modern touch-based UX• Qt Quick 3、 三维3D becomes more and more important• Qt Open…

安全运营之资产安全信息管理

安全风险管理的三要素分别是资产、威胁和脆弱性,脆弱性的存在将会导致风险,而威胁主体利用脆弱性产生风险。网络攻击主要利用了系统的脆弱性。由于网络管理对象(资产)自身的脆弱性,使得威胁的发生成为可能,…

Linux 函数调用过程解析

一、Linux 函数调用过程解析 在x86的计算机系统中,内存空间中的栈主要用于保存函数的参数,返回值,返回地址,本地变量等。一切的函数调用都要将不同的数据、地址压入或者弹出栈。因此,为了更好地理解函数的调用&#xf…

QT 常见面试题

1、在Qt当中,多线程环境下,信号槽分别是在什么样的线程中执行?如何控制? 参考答案: 通过connect(...)第5个参数控制信号槽执行所在线程 connect(...)它的连接方式:队列连接、自动连接和直接连接 队列连…

EMC-MLCC电容反谐振点引起的RE辐射超标

MLCC电容反谐振点引起的RE辐射超标 对待RE辐射问题,可以按照干扰源,干扰路径,被干扰源,入手较多的是干扰源和干扰路径, 解决干扰源可以从展频,调频,屏蔽干扰源,增加RC snabber吸收…

ChatGPT颠覆者来了,能替代90%的人的工作?

前言 Auto GPT是一个实验性开源应用程序,展示了GPT-4语言模型的功能。该程序由GPT-4驱动,将LLM“思想”链接在一起,以自主实现您设定的任何目标。作为GPT-4完全自主运行的首批例子之一,Auto GPT突破了人工智能的极限。 特征 &a…

明面抵制,暗中布局 对于AI,马斯克的言行为何如此“割裂”?

最近,马斯克创建了一家叫做“X”的空壳公司,目标是将其打造成涵盖各方面的多功能应用集合平台,推特、SpaceX、特斯拉、Neuralink等公司业务都已打包加入其中。如今,“X”公司再添新丁——X.AI,即马斯克新成立的人工智能…

【硬件外设使用】——PWM

【硬件外设使用】——PWMPWM基本概念PWM使用方法pyb.pwm方法属性machine.pwm方法属性PWM可用的传感器PWM基本概念 PWM是脉冲宽度调制(Pulse Width Modulation)的缩写,是一种用数字信号控制模拟电路输出的技术。PWM通常被用来控制电压或电流的…

【 Spring MVC 核心功能(三) - 输出数据】

文章目录引言一、返回静态页面二、返回非静态页面的数据三、返回 JSON 对象四、请求转发(forward)和请求重定向(redirect)五、拓展:IDEA 热部署(热加载)3.1 添加 SpringBoot DevTools 框架3.2 开起 IDEA 的自动编译3.3 开起运行中的热部署3.4 使用 debug 启动项目引…

Docker系列 基于OpenAI API自建ChatGPT

转自我的博客文章https://blognas.hwb0307.com/linux/docker/4201,内容更新仅在个人博客可见。欢迎关注! 前言 我用帐号/密码使用chatGPT已经有一段时间。但是,我有几个私交较密的朋友,他们并不具备使用chatGPT的条件&#xff1b…

kafka集群topic重新分配leader

1.案例 当kafka集群的broker节点宕机重启后,此broker节点的partition分区的leader节点会被选举为其它broker节点,此broker节点恢复后就会导致配分不均衡 可以看到所有partition的leader节点都在broker id为1的节点上,原来是平均分配到3个broker节点上,replicas项的首位…

【动手学深度学习】(task123)注意力机制剖析

note 将注意力汇聚的输出计算可以作为值的加权平均,选择不同的注意力评分函数会带来不同的注意力汇聚操作。当查询和键是不同长度的矢量时,可以使用可加性注意力评分函数。当它们的长度相同时,使用缩放的“点-积”注意力评分函数…

文章改写工具-文章改写工具的原理

文章改写工具的原理 文章改写工具是一种利用自然语言处理技术和相关算法,对原始文章进行改写、调整或替换等操作,生成与原始文章类似但又不完全相同的新文章的工具。 实现文章改写的工具通常需要包括以下几个步骤: 文本预处理:对原…

【数据库数据恢复】MongoDB数据库启动失败的数据恢复案例

数据库数据恢复环境: Windows Server操作系统服务器,部署MongoDB数据库。 数据库故障&分析: 在MongoDB数据库服务未关闭的情况下,管理员将MongoDB数据库文件从原分区拷贝到其他分区,然后将MongoDB数据库所在原分区…

网页解析--接上篇--bs4/xpath

网页解析完成的是从下载回来的html文件中提取所需数据的方法,一般会用到的方法有: 正则表达式:将整个网页文档当成一个字符串用模糊匹配的方式来提取出有价值的数据 Beautidul Soup:一个强大的第三方插件 lxml:解析html网页或者xm…

一文详解 PoseiSwap,Nautilus Chain 上的首个 DEX

前不久,首个 Layer3 概念的新链 Nautilus Chain 推出了测试网“Triton” 引发瞩目,据了解过,经过一个月的Triton I测试历程,Nautilus Chain社区成员突破200,000,同时测试网激励活动注册地址数突破180,000,链…

Kotlin中lateinit 和 Lazy 的区别

Kotlin中Lateinit 和 Lazy 的区别 latinit 我们可能不想在定义它们时初始化我们的值,相反我们可能想在以后的任何时间初始化并在我们的应用程序中使用它们。但是在使用我们的值之前,一定要记住,我们的值必须先初始化,然后才能使用…

高斯混合模型 GMM 的详细解释

高斯混合模型(后面本文中将使用他的缩写 GMM)听起来很复杂,其实他的工作原理和 KMeans 非常相似,你甚至可以认为它是 KMeans 的概率版本。 这种概率特征使 GMM 可以应用于 KMeans 无法解决的许多复杂问题。 因为KMeans的限制很多…

【factoryio】虚拟仓储实现(入仓出仓)

实现虚拟工厂场景之一的智能仓储实验 注:本文仅供参考 目录 引 入仓部分 1.上料部分 1.效果 2.实现 2.入仓部分 1.效果 2.实现 3.入仓扩展 1.行列控制和优先级 2.入仓优化和完善 出仓部分 1.出仓 2.后传送带 3.出仓效果 1.效果 2.优先级 3.完…