Few-Shot Learning in Wireless Networks: A Meta-Learning Model-Enabled Scheme

news2024/11/28 4:50:39

1 INTRODUCTION

  • 由于6G的复杂管理机制,可以在基站收集历史数据——为克服训练数据集容量的限制提供了极大的便利

问题与挑战:

  • 尽管元学习可以提高网络边缘智能(network edge intelligence)的性能,但其在无线网络(wireless networks)中的应用仍然面临一些独特的技术问题:
    • 虽然可以在基站处生成多个元学习模型,但需要复杂的模型选择方案(model selection schemes),以适应不同的小样本学习任务
    • 元学习模型是通过使用额外的无线电资源传输给用户的,这给无线网络带来了沉重的负担

文章贡献:

  • 提出了一种基于元学习模型的无线网络小样本学习方案

    • 通过使用历史数据在基站生成多个元学习模型,以适应用户的小样本学习任务
    • 任务可以通过多播(multicasting)发送给用户,以提高频谱效率(spectrum efficiency)
  • 设计了一种基于hedonic coalition formation的元学习模型选择算法

    • 用来平均小样本学习模型的性能和元学习模型传输的通信成本之间的权衡
  • 提供了仿真结果:方案可以在低通信成本的情况下显著提高小样本学习任务的性能

2 SYSTEM MODEL

在这里插入图片描述
在这里插入图片描述

2.1 基站元学习模型生成

在这里插入图片描述

2.2 元学习模型参数传输

在这里插入图片描述

2.3 用户目标任务生成

在这里插入图片描述

3 A COALITION FORMATION GAME-BASED META-LEARNING MODEL SELECTION ALGORITHM

  • 用户的元学习模型选择可以被建模为零一整数规划问题 zero-one integer programming problem
    • 优化目标:通过最大化余弦相似性减去传输延迟来平衡小样本学习的性能和通信效率

挑战: 元学习模型参数的传播时延公式分母是最小值公式,从而采用导数方式进行优化时会很困难

作者想法: 模型选择问题可以表述为联盟形成博弈 coalition formation game —— a hedonic coalition formation-based meta-learning model selection algorithm


  • coalition formation game: 玩家决定加入或离开联盟的原则是在不侵犯他人的情况下提高联盟的效用——效用函数应经过精心设计

3.1 Utility Function Formulation

每个用户加入联盟的效用被定义为用户减去联盟中的成本所获得的收益

考虑 U n U_n Un 加入 联盟 R l R_l Rl的效用函数:
在这里插入图片描述

  • ϕ n , P \phi_{n,P} ϕn,P:用户加入联盟的报酬——payoff function:评估其目标模型的性能,可以设计为目标学习任务与其联盟相关元学习模型的训练任务之间的余弦相似性
    在这里插入图片描述

  • ϕ n , C \phi_{n,C} ϕn,C: 用户加如联盟的成本——cost function:为了减少元学习模型传输的通信开销,可以将成本函数设计为多播元学习模型的传输延迟
    在这里插入图片描述

  • μ \mu μ:一个权重参数来控制收益和成本的影响

3.2 A Hedonic Coalition Formation-Based Meta-Learning Model Selection Algorithm

偏好关系 preference relation :一个玩家比另一个玩家更喜欢加入一个特定的联盟

论文建模:
在这里插入图片描述

  • f n f_n fn : 偏好函数
    在这里插入图片描述
  • g n ( R l ) g_n(R_l) gn(Rl) U n U_n Un访问然后离开联盟 R l R_l Rl的次数
  • η n \eta_n ηn:允许访问然后离开某个联盟的最大次数

switch rule:
在这里插入图片描述

在这里插入图片描述

3.3 The Stability Analysis of Algorithm 2

论文提出的模型选择算法被证明总是可以收敛到一个Nash-Stable 划分结果

Nash-stable partition的定义:
在这里插入图片描述

证明: 如果可以满足以下两个条件,则可以保证算法2的收敛性:

  • 给定一个随机的初始联盟分布,再经过有限次选择 switch 操作可以收敛到一个最终的分区结果 Π f \Pi_f Πf
  • 最终的分区结果是 Nash-stable

条件1具体说明:

  • 在论文所提出的联盟形成博弈中的联盟数量是固定的,从而可能的分区次数是固定的 the number of possible partitions is finite
    • 一个用户 U n U_n Un可以重新访问某个联盟的最大次数是 η n \eta_n ηn,达到这个次数后就可以访问新的联盟

可推出的结论:

  • 所提出的基于特征联盟形成的算法是一系列切换操作 a sequence of switch operations
  • 在某个时间点,每个切换操作将转向新访问的分区
  • 由于分区的数量有限,切换操作序列总是收敛于一个最终分区 Π f \Pi_f Πf

条件2具体说明:

通过矛盾证明

首先,假设论文里从所提算法得到的不满足 Nash-stable

4 SIMULATION RESULTS

数据集: Omniglot data set
模型: 卷积神经网络——网络由4个卷积层和1个全连接层组成——元学习模型和目标任务都采用
总带宽 total bandwidth: 50MHz
发射功率 transmit power: P = 40 dBm
噪声功率 noise power: σ 2 \sigma^2 σ2 = -5 dBm


基准选择:

  • 基准1:没有元学习模型——在没有元学习的情况下,直接基于少镜头学习任务对目标模型进行微调
  • 基准2:基于余弦相似性的元学习模型选择——目标模型是基于元学习模型生成的,该模型是基于余弦相似性选择的
  • 基准3:随机元学习模型选择——目标模型是基于随机选择的元学习模型生成的

在这里插入图片描述

在这里插入图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/742043.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

HCIP实验---OSPF实验2

1.如图连接,合理规划IP地址,所有路由器各自创建一个loopback接口 2.R1再创建三个接口IP地址为201.1.1.1/24、201.1.2.1/24、201.1.3.1/24 R5再创建三个接口IP地址为202.1.1.1/24、202.1.2.1/24、202.1.3.1/24 R7再创建三个接口IP地址为203.1.1.1/2…

高效办公学习的秘密!打工人高效工作必备的AI神器

​人工智能 (AI) 近年来取得了显著进步,并已成为科技行业的流行语。我们随时能看到大量有关人工智能工具的资讯,它有可能自动执行任务,节省时间并提高效率,使其成为企业的宝贵资产和平台。 随着人工智能的进步,旨在让…

如何在Ubuntu18.04中下载MySQL5.7

检查环境 首先检查自己电脑有没有安装过mysql,输入如下: rpm -qa | grep mysql如果有则清理干净在安装,输入 whereis mysql找到文件夹目录,再把它删除 rpm -e --nodeps mysql-xxx检查系统是否自带mariadb,输入如下检查 rpm -…

基于Tars高并发IM系统的设计与实现-实战篇1

基于Tars高并发IM系统的设计与实现-实战篇1 通过前文基础篇,进阶篇的介绍,相信大家已经对IM的基础能力实现,难点及其如何解决有了一个全面的了解与认识。 相信大家都迫不及待想看看一个高性能的IM系统到底怎么设计与实现,从本篇开…

grpc学习笔记

目录 gRPC原理网络传输效率问题基本概念概览ClientServer 异步相关概念异步 Client异步 Server gRPC原理 RPC 即远程过程调用协议(Remote Procedure Call Protocol),可以让我们像调用本地对象一样发起 远程调用。 网络传输效率问题 HTTP…

Mysql---explain详解

explain命令是用来分析查询语句的执行计划的工具。它可以显示查询语句的执行计划,包括查询的顺序、使用的索引、扫描的行数等信息,帮助开发人员优化查询语句的性能。通过分析执行计划,可以找到查询语句的瓶颈,进而优化查询语句的性…

机器学习笔记 - 探索PaddlePaddle框架的对象检测、分割和关键点检测

一、PaddlePaddle简述 PaddlePaddle(PArallel Distributed Deep LEarning)是百度于2016年发布的开源深度学习框架。它为各种机器学习任务提供了统一的平台。 但是最近的基准测试显示 PaddlePaddle 是潜在的领跑者,其基准速度超过了其更知名的竞争对手。 PaddlePaddle 与 PyT…

2.SpringBoot集成Swagger

1.添加依赖 <!--添加Swagger依赖 --><dependency><groupId>io.springfox</groupId><artifactId>springfox-swagger2</artifactId><version>2.7.0</version></dependency><!--添加Swagger-UI依赖 --><dependenc…

Python实现操作MySQL【增删改查-示例】

闲话少叙,直接上操作! 一、准备工作 1.本地安装MySQL、Python(以3.6为例) 2.MySQL新建数据库【test】,新建表【user】,新建字段【name】【age】 3.建表方式:navicat工具 字段 二、Python操作—插入数据 #!/usr/bin/env # coding=utf-8import pymysql # Python 连…

Leetcode-每日一题【430.扁平化多级双向链表】

题目 你会得到一个双链表&#xff0c;其中包含的节点有一个下一个指针、一个前一个指针和一个额外的 子指针 。这个子指针可能指向一个单独的双向链表&#xff0c;也包含这些特殊的节点。这些子列表可以有一个或多个自己的子列表&#xff0c;以此类推&#xff0c;以生成如下面…

Java语言程序设计试卷6套

目录 Java语言程序设计试卷1 一、单项选择题 二、多项选择题 三、判断题 Java语言程序设计试卷2 一、单项选择题 二、多项选择题 三、判断题 Java语言程序设计试卷3 一、单项选择题 二、多项选择题 三、判断题 Java语言程序设计试卷4 一、单项选择题 二、多项选…

【7月比赛合集】119场可报名的数据挖掘大奖赛,任君挑选!

CompHub[1] 主页增加了“近两周上新的奖金赛”&#xff0c;更加方便查找最新比赛&#xff0c;欢迎访问和反馈&#xff01; 最新更新的比赛会第一时间在群里通知&#xff0c;欢迎加群交流&#xff01;&#xff08;公众号回复“加群”即可&#xff09; 以下信息仅供参考&#xff…

一种简单的数据库性能测试方法

这两天接到一个任务&#xff0c;要测试一个服务器的性能&#xff0c;客户要求向数据库内 1000/s&#xff08;每插入一千条数据&#xff09; 的处理能力&#xff0c;当时脑子赌赛了&#xff0c;想的是用LR来进行&#xff0c;由于LR接触不深&#xff0c;只知道LR实现参数化的时候…

Java基础---异常

目录 典型回答 什么是Throwable Error和Exception的区别和联系 Java异常处理相关的几个关键字&#xff0c;以及简单用法 什么是自定义异常&#xff0c;如何使用自定义异常 Java异常体系结构 以下关于异常处理的代码有哪些问题 典型回答 Java中的异常&#xff0c;主要可以…

力扣 62. 不同路径

文章目录 题目描述思路代码 题目描述 思路 动态规划 代码 private int UniquePaths(int m, int n) {int[][] dp new int[m][];for (int i 0; i < m; i) {dp[i] new int[n];}for (int i 0; i < m; i) {for (int j 0; j < n; j) {if (i 0 || j 0) dp[i][j] …

LLM - Baichuan7B Tokenizer 生成训练数据

目录 一.引言 二.Tokenizer 原始数据 1.原始数据样例 2.加载并 Token 原始数据 2.1 参数准备 2.2 单条样本处理逻辑 2.3 批量处理逻辑 2.4 主函数与完整代码 三.shell 执行 四.总结 一.引言 前面提到了自己在微调 Baichuan7B Lora 的过程中遇到了一些问题&#xff0c…

Cesium Token申请

一、什么是Cesium ion&#xff1f; Cesium ion是一个提供瓦片图和3D地理空间数据的平台&#xff0c;支持把数据添加到用户自己的应用程序中。 二、为什么需要access token&#xff1f; 使用Cesium ion需要申请access token,当用户将数据添加到自己的账户后&#xff0c;便可以…

Android-jar包方式连接本地sqlite并操作返回数据

背景: 数据库的创建及字段都是后端人员维护,Android端只是映射相关数据库到本地来操作。为了统一管理操作方式方法,所以提出,后端打jar包的方式封装对Android端数据库sqllite的连接、操作。 说明: 因为之前是后端打jar包,JDBC连接的驱动及方法有差异,导致连接Android…

PHP在线拨打电话的代码

这段代码包括一个HTML表单,用于收集用户的姓名,电子邮件和消息。当用户提交表单时,邮件将发送到指定的电子邮件地址,并显示一条消息,指示我们将在不久的将来拨打电话回复。请注意,在上面的代码中,电话号码硬编码为 $phone_number 变量,您需要将其更改为您想要的电话号码…

jmeter使用正则表达式匹配多个中的响应结果

目录 一、背景&#xff1a; 二、例如&#xff1a; 三、接口响应的所有结果&#xff1a; 四、正则表达式的写法&#xff1a; 五、调试的时候添加一个Debug PostProcessor 调试器 六、在Debug PostProcessor中可以查看到获取的参数结果 七、引用方式&#xff1a;${testValue…