第47期 | GPTSecurity周报

news2025/1/8 4:34:27

图片

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区,集成了生成预训练Transformer(GPT)、人工智能生成内容(AIGC)以及大语言模型(LLM)等安全领域应用的知识。在这里,您可以找到关于GPT/AIGC/LLM最新的研究论文、博客文章、实用的工具和预设指令(Prompts)。现为了更好地知悉近一周的贡献内容,现总结如下。

Security Papers

1.LLM代理可以自主利用0day漏洞

简介:近年来,大语言模型(LLMs)在正向和负面应用上的能力均有显著提升。研究人员开始关注这些模型在网络安全漏洞利用方面的潜力。尽管已有初步研究探讨LLM代理自动攻击网站的能力,但这些研究多局限于基本漏洞。最新研究表明,当提供CVE(常见漏洞和披露)描述时,GPT-4模型能够自主利用现实系统中87%的0day漏洞,包括被标记为临界严重的漏洞。相比之下,GPT-3.5、开源LLMs以及ZAP和Metasploit等开源漏洞扫描器在没有CVE描述的情况下,无法有效利用这些漏洞。然而,GPT-4在没有CVE描述时,其漏洞利用能力大幅下降至7%。这一发现引发了对高度智能LLM代理广泛部署可能带来的安全问题的担忧。

链接:

https://arxiv.org/pdf/2404.08144.pdf

2.超越随机输入:一种基于机器学习的硬件模糊测试方法

简介:ChatFuzz是一种创新的基于机器学习的硬件模糊测试工具,旨在克服传统硬件漏洞检测技术的局限。它利用大语言模型来解析处理器指令,并结合强化学习优化输入生成,以提高代码覆盖率。在RISC-V架构的RocketCore和BOOM核心的测试中,ChatFuzz显著提升了测试效率,短时间内实现了高覆盖率,超越了现有工具。ChatFuzz不仅检测到了已知漏洞,还发现了新漏洞,证明了其在提高硬件安全性方面的潜力。

链接:

https://arxiv.org/pdf/2404.06856.pdf

3.三明治攻击:针对LLMs的多语言混合自适应攻击

简介:本文探讨了大语言模型(LLMs)在广泛应用中遇到的挑战,尤其是在确保输出与人类价值观一致性和多语言处理能力方面。尽管采用了安全训练方法,但恶意行为者仍能操纵LLMs生成有害内容。此外,攻击者利用LLMs在不同语言中的性能差异,尤其是低资源语言的弱点,来产生有害响应。文章介绍了一种新型的“三明治攻击”,该攻击通过多语言混合输入操纵LLMs,实验显示它能在不同模型中引发有害和不一致的响应。这一发现强调了未来LLMs研究和开发需要更加关注安全性和韧性,以确保其正面服务于社会并减少滥用风险。

链接:

https://arxiv.org/pdf/2404.07242.pdf

4.Subtoxic问题:深入探讨在越狱尝试中大语言模型(LLM)回应的态度变化

简介:本文提出了一种新的研究方法,专注于对越狱提示更为敏感的问题集,以评估大语言模型(LLMs)的安全性和进行深入实验。该方法旨在克服增强的LLM安全措施所带来的限制。通过设计和分析这些问题,研究揭示了一种更有效的识别LLMs中潜在漏洞的方法,对LLM安全性的提升做出了贡献。这项研究不仅对现有的越狱技术提出了挑战,也增强了LLMs抵御潜在利用的能力。

链接:

https://arxiv.org/pdf/2404.08309.pdf

5.FuSeBMC AI:通过机器学习加速混合方法

简介:FuSeBMC-AI是一个将机器学习技术应用于软件测试的工具,它通过分析程序特征并利用先进的机器学习模型来优化测试策略。该工具结合了有界模型检查和模糊测试的优势,提高了在特定情况下的测试效果,并有效降低了资源消耗。FuSeBMC-AI的设计适应了软件测试的多样性和复杂性,能够生成高质量的测试用例,提高软件的稳定性和可靠性。这一工具的发展突显了机器学习在提升软件测试效率和精确性方面的巨大潜力,预示着软件测试自动化和智能化的新时代。

链接:

https://arxiv.org/pdf/2404.06031.pdf

编辑:Fancy

图片

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1601918.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

URLConnection、HttpURLConnection、OKHttpClient分析

URLConnection和HttpURLConnection都是用于建立(应用层的)网络连接的类。 URLConnection是一种通用的连接方式,它支持多种协议,如 HTTP、HTTPS、FTP 等。 HttpURLConnection是URLConnection的子类,提供了更多针对HTTP协议的功能。如果仅是简…

【redis基础01】数据结构-通用命令、String、Hash、List、Set

目录 1 通用命令1.1 keys 检索匹配特定模式的所有键1.2 del 删除指定的key1.3 exists 判断key是否存在1.4 expire 给key设定有效期1.5 ttl 查看key的剩余有效期1.6 key的层级格式 2 String类型2.1 set&get2.2 mset&mget 批量操作2.3 incr&incrbyfloat 自增2.4 setn…

RabbitMQ-交换机

文章目录 交换机fanoutDirecttopicHeadersRPC 交换机 **交换机 **是消息队列中的一个组件,其作用类似于网络路由器。它负责将我们发送的消息转发到相应的目标,就像快递站将快递发送到对应的站点,或者网络路由器将网络请求转发到相应的服务器…

杀死那个名为360安全的软件

背景 2023年底,闲来没事想起了xjun师傅2021年发的procexp驱动利用帖子时在群里讨论的,通过procexp驱动突破PPL后注入到csrss进程中,再通过csrss来结束那些个安全防护软件。于是在当时就有了如下成果: 这些弄完之后,觉…

康谋技术 | 深入探讨:自动驾驶中的相机标定技术

随着自动驾驶技术的快速发展,多传感器的数据采集和融合可以显著提高系统的冗余度和容错性,进而保证决策的快速性和正确性。在项目开发迭代过程中,传感器标定扮演着至关重要的角色,它位于数据采集平台与感知融合算法之间&#xff0…

关于外网后端服务访问内网minio中间件,因连接minio超时,启动失败问题

注:服务器情况:2台服务器,内网服务器包含(activemq、minio、nginx、redis、mysql、后端java服务)。外网服务器只有后端java服务,访问内网的中间件(内网服务器开放了部分指定端口) 问…

01_FreeRTOS移植

FreeRTOS移植 FreeRTOS移植FreeRTOS移植-中断文件修改 FreeRTOS移植 内核移植时用到的文件 复制工程模板,不需要的源文件全部删除 复制到工程文件中 放到这里 注释掉这两个重复定义的中断 替换掉工程中的裸机延时 FreeRTOS移植-中断文件修改

React脚手架的搭建与使用

React脚手架是开发现代Web应用的必备,其充分利用Webpack、Babel、ESlint等工具辅助项目的开发,当然这些工具也无需手动配置即可使用,脚手架的意义更多的是关注的是业务而不是工具的配置;项目的整体技术架构为:react w…

OpenHarmony实战开发-如何通过分割swiper区域,实现指示器导航点位于swiper下方的效果。

介绍 本示例介绍通过分割swiper区域,实现指示器导航点位于swiper下方的效果。 效果预览图 使用说明 1.加载完成后swiper指示器导航点,位于显示内容下方。 实现思路 1.将swiper区域分割为两块区域,上方为内容区域,下方为空白区…

git clone报错:error invalid path ‘dorisdockerthirdpartiesdocker-composexxxx‘

git clone报错:error: invalid path ‘doris/docker/thirdparties/docker-compose/xxxx’ 在周日晚上,我尝试从GitHub上克隆Doris的代码库,以便进行学习。在使用IntelliJ IDEA进行克隆时,我遇到了一个Git错误。具体操作如下&…

selenium反反爬虫,隐藏selenium特征

一、stealth.min.js 使用 用selenium爬网页时,常常碰到被检测到selenium ,会被服务器直接判定为非法访问,这个时候就可以用stealth.min.js 来隐藏selenium特征,达到绕过检测的目的 from selenium import webdriver from seleniu…

KDTree索引(K近邻搜索,半径R内近邻搜索)——PCL

K近邻搜索(K Nearest Neighbors) K近邻搜索是一种基于点数量的搜索方法,它会找到指定点附近最接近的K个邻居点。K近邻搜索中的K值是一个参数,您需要指定要搜索的邻居数量。该方法适用于需要查找固定数量邻居点的情况,…

2W 3KVDC 隔离 稳压单输出 DC/DC 电源模块——TPK-SAR 系列介绍

TPK-SAR系列产品是专门针对PCB上分布式电源系统中需要与输入电源隔离且输出精度要求较高的电源应用场合而设计。该产品适用于;1)输入电源的电压变化≤5%;2)输入输出之前要求隔离电压≥3000VDC;3)对输出电压…

使用两台主机实现博客的搭建

1.运行环境 这里的主机IP是自己虚拟器的IP。 主机主机名系统服务192.168.179.128Server-WebLinuxWeb192.168.179.129Server-NFSDNSLinuxNFS/DNS 2.基础配置 1.配置主机名,静态IP地址 2.开启防火墙并配置 3.部分开启SElinux并配置 4.服务器之间使用同ntp.aliyun.com…

正整数分解-第12届蓝桥杯省赛Python真题精选

[导读]:超平老师的Scratch蓝桥杯真题解读系列在推出之后,受到了广大老师和家长的好评,非常感谢各位的认可和厚爱。作为回馈,超平老师计划推出《Python蓝桥杯真题解析100讲》,这是解读系列的第54讲。 正整数分解&#…

Golang 开发实战day11 - Pass By Value

🏆个人专栏 🤺 leetcode 🧗 Leetcode Prime 🏇 Golang20天教程 🚴‍♂️ Java问题收集园地 🌴 成长感悟 欢迎大家观看,不执着于追求顶峰,只享受探索过程 Golang 开发实战day11 - 按值…

如何阻止访问您的网站

本周有一个客户,购买Hostease的HK Basic Linux虚拟主机,询问我们的在线客服,如何阻止部分地区或IP段访问他的网站。我们为用户提供教程,用户很快完成了设置。在此,我们分享这个操作教程,希望可以对您有帮助…

管理 nodejs 版本工具 nvm

nvm 方便切换不同版本的 node 及 对应的 npm 版本 一、安装nvm nvm官网 &#xff08;内含下载的文件&#xff0c;点击进去下载&#xff0c;并按照 网站文档步骤 操作即可&#xff09; 二、nvm 基础命令 nvm arch&#xff1a;显示node是运行在32位还是64位。nvm install <…

网上订餐系统|基于springboot的网上订餐系统设计与实现(源码+数据库+文档)

网上订餐系统目录 目录 基于springboot的网上订餐系统设计与实现 一、前言 二、系统功能设计 三、系统实现 1、用户功能模块的实现 &#xff08;1&#xff09;用户注册界面 &#xff08;2&#xff09;用户登录界面 &#xff08;3&#xff09;菜品详情界面 &#xff08…

随动系统同步性问题(跟随给定和跟随反馈的区别)

1、运动控制比例随动 运动控制比例随动系统_正运动随动系统-CSDN博客文章浏览阅读1.4k次,点赞2次,收藏5次。PLC如何测量采集编码器的位置数据,不清楚的可以参看我的另一篇博文:三菱FX3U PLC高速计数器应用(附代码)_RXXW_Dor的博客-CSDN博客本文主要以三菱FX3U系列的高速…