回归分析中的异方差性

news2024/11/23 7:48:31

在简单线性回归或多元线性回归中,我们对误差项做了一些基本假设。

简单线性回归:
在这里插入图片描述
多元线性回归:
在这里插入图片描述

假设条件:

1.误差均值为零
2.误差具有恒定方差
3.误差不相关
4.误差呈正态分布

第2个假设称为同方差性,因此,违反这个假设称为异方差性。

同方差vs异方差

在这里插入图片描述

因此,简单地说,我们可以将异方差定义为回归模型中误差项或残差项的方差发生变化的条件。正如你在上图中看到的,在同方差的情况下,数据点是均匀分散的,而在异方差的情况下,数据点不是均匀分散的。

产生异方差的可能原因:

  1. 通常发生在最大和最小观测值之间有很大范围的数据集中,即当有异常值时。
  2. 未正确指定模型时。
  3. 如果观察结果与不同的尺度度量混合。
  4. 当使用不正确的数据转换来执行回归时。
  5. 偏度是回归量分布中的一种,也可能是其他一些来源。

异方差的影响:

  • 如上所述,线性回归的假设之一(假设2)是不存在异方差。打破这个假设意味着OLS(普通最小二乘)估计量不是最佳线性无偏估计量(BLUE),并且它们的方差不是所有其他无偏估计量中最低的。
  • 估计器不再是最佳/有效的。
  • 由于估计的回归系数的协方差矩阵的不一致性,假设检验(如t检验、F检验)不再有效。

用残差图识别异方差:

如前文所示,异方差在残差图中产生向外开口的漏斗或向外闭合的漏斗形状。

通过统计检验识别异方差:

异方差的存在也可以使用算法方法进行量化。有一些统计检验或方法可以用来确定异方差的存在或不存在。

  • Breusch-Pagan测试:它测试回归误差的方差是否依赖于自变量的值。在这种情况下,存在异方差性。
  • White 检验:White 检验确定回归模型中误差的方差是否为常数。为了检验恒定方差,我们进行辅助回归分析:这将来自原始回归模型的平方残差回归到包含原始回归量及其平方和叉积的一组回归量上。

异方差修正:

  1. 我们可以使用不同规范的模型。
  2. 加权最小二乘法是常用的统计方法之一。这是普通最小二乘和线性回归的推广,其中允许误差协方差矩阵不同于单位矩阵。
  3. 使用MINQUE:Minimum Norm Quadratic Unbiased Estimation(MINQUE)的理论包括三个阶段。首先,定义一个一般类的潜在的估计作为二次函数的观测数据,其中的估计涉及到一个向量的模型参数。其次,指定某些约束的估计量的期望属性,如无偏性。第三,选择最佳的估计量通过最小化的“范数”的大小的协方差矩阵的估计。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1461797.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

【开源】JAVA+Vue.js实现大病保险管理系统

目录 一、摘要1.1 项目介绍1.2 项目录屏 二、功能模块2.1 系统配置维护2.2 系统参保管理2.3 大病保险管理2.4 大病登记管理2.5 保险审核管理 三、系统详细设计3.1 系统整体配置功能设计3.2 大病人员模块设计3.3 大病保险模块设计3.4 大病登记模块设计3.5 保险审核模块设计 四、…

使用JDBC操作数据库(IDEA编译器)

目录 JDBC的本质 ​ JDBC好处 JDBC操作MySQL数据库 1.创建工程导入驱动jar包 2.编写测试代码 ​相关问题 JDBC的本质 官方(sun公司) 定义的一套操作所有关系型数据库的规则,即接口各个数据库厂商去实现这套接口,提供数据库驱动jar包我们可以使用这…

Docker Desktop 4.27.1 Windows 10 安装 教程

Docker Desktop 4.27.1 Windows 10 安装 版本要求windows 版本要求wsl 版本要求docker desktop 版本 安装首先确保系统版本符合要求前提下安装wsl安装 Dockers Desktop安装说明 安装问题docker Desktop 无法正常启动,提示wsl 相关信息wsl --install 执行输出帮助日志…

Stable Diffusion 模型下载:A-Zovya RPG Artist Tools(RPG 大师工具箱)

本文收录于《AI绘画从入门到精通》专栏,专栏总目录:点这里。 文章目录 模型介绍生成案例案例一案例二案例三案例四案例五案例六案例七案例八 下载地址 模型介绍 A-Zovya RPG Artist Tools 模型是一个针对 RPG 训练的一个模型,可以生成一些 R…

【深度学习】微调Qwen1.8B

1.前言 使用地址数据微调Qwen1.8B。Qwen提供了预构建的Docker镜像,在使用时获取镜像只需安装驱动、下载模型文件即可启动Demo、部署OpenAI API以及进行微调。 github地址:GitHub - QwenLM/Qwen: The official repo of Qwen (通义千问) chat & pretr…

Maven的下载安装配置教程

一、简单了解一下什么是Maven Maven就是一款帮助程序员构建项目的工具,我们只需要告诉Maven需要哪些Jar 包,它会帮助我们下载所有的Jar,极大提升开发效率。 1.Maven翻译为“专家“, ”内行”的意思,是著名Apache公司下…

通过盲注脚本复习sqllabs第46关order by 注入

在MySQL支持使用ORDER BY语句对查询结果集进行排序处理,使用ORDER BY语句不仅支持对单列数据的排序,还支持对数据表中多列数据的排序。语法格式如下 select * from 表名 order by 列名(或者数字) asc;升序(默认升序) select * from 表名 or…

将一个 PostgreSQL 数据库复制到另一个数据库中

以管理员身份进入cmd窗口,输入如下命令 语法: pg_dump -C -h 本机IP -U 本机postgresql用户名 源数据库名 | psql -h 服务器IP -U 服务器postgresql用户名 目标数据库名 示例: pg_dump -C -h 127.0.0.1 -U postgres test01-dbname | psql…

顺序表详解(如何实现顺序表)

文章目录 前言 在进入顺序表前,我们先要明白,数据结构的基本概念。 一、数据结构的基本概念 1.1什么是数据结构 数据结构是由“数据”和“结构”两词组合而来。所谓数据就是?常见的数值1、2、3、4.....、姓名、性别、年龄,等。…

高维数据的中介效应【中介分析】《R包:HIMA》

允许基于高级中介筛选和惩罚回归技术来估计和测试高维中介效应 Hima包浏览 高维中介示意图 图1. 在暴露和结果之间有高维中介的情况 本包的作用 在确定独立筛选和极小极大凹惩罚技术的基础上,采用联合显著性检验方法对调解效果进行检验。使用蒙特卡罗模拟研究来展…

C#知识点-15(匿名函数、使用委托进行窗体传值、反射)

匿名函数 概念:没有名字的函数,一般情况下只调用一次。它的本质就是一个方法,虽然我们没有定义这个方法,但是编译器会把匿名函数编译成一个方法 public delegate void Del1();//无参数无返回值的委托public delegate void Del2(s…

Java SE 入门到精通—基础语法【Java】

敲重点! 本篇讲述了比较重要的基础,是必须要掌握的 1.程序入口 在Java中,main方法是程序的入口点,是JVM(Java虚拟机)执行Java应用程序的起始点。 main方法的方法签名必须遵循下面规范: publ…

TestNG与ExtentReport单元测试导出报告文档

TestNG与ExtentReport集成 目录 1 通过实现ITestListener的方法添加Reporter log 1.1 MyTestListener设置 1.2 输出结果 2 TestNG与ExtentReporter集成 2.1 项目结构 2.2 MyExtentReportListener设置 2.3 单多Suite、Test组合测试 2.3.1 单Suite单Test 2.3…

Java实现实验室耗材管理系统 JAVA+Vue+SpringBoot+MySQL

目录 一、摘要1.1 项目介绍1.2 项目录屏 二、功能模块2.1 耗材档案模块2.2 耗材入库模块2.3 耗材出库模块2.4 耗材申请模块2.5 耗材审核模块 三、系统展示四、核心代码4.1 查询耗材品类4.2 查询资产出库清单4.3 资产出库4.4 查询入库单4.5 资产入库 五、免责说明 一、摘要 1.1…

WebSocket实现聊天

基于webSocket通信的库主要有 socket.io,SockJS,这次用的是 SockJS。 这里我们使用sockjs-client、stomjs这两个模块,要实现webSocket通信,需要后台配合,也使用相应的模块。 WebSocket 1、http:http超文…

War Robots可以使用5347的卡支付

很多小伙伴想使用War Robots,但是不知道怎么弄,方法比较可靠,亲测有效~~~ 可以使用Fomepay的5347的卡支付 卡片cvc就是卡密,在首页点击更多时可以查看

【ubuntu2004安装N卡驱动】

软硬件环境 硬件:联想notebook16,显卡4060laptop 软件: ubuntu20.04 驱动安装成功的版本:NVIDIA-Linux-x86_64-535.146.02.run 使用默认的驱动安装,没用原因如下 让手动安装。 手动安装 环境准备: sudo …

【shap】使用shap画图时colorbar颜色条不能正常显示

下面,我的shap值全是蓝色的,没有红色 (注:蓝色是负贡献,红色是正贡献) 参考上面的帖子,是matplotlib版本问题,我原来的版本是3.5.0,降级回3.4.3就正常了。

心律守护 基于机器学习的心脏病预测

心律守护 基于机器学习的心脏病预测 心律守护 基于机器学习的心脏病预测项目背景与意义项目数据与特征数据分析与预处理机器学习模型建立与评估结语 心律守护 基于机器学习的心脏病预测 在当今数字化时代,机器学习的应用已经渗透到了医疗保健领域的各个层面。其中&…

阿里云/腾讯云幻兽帕鲁服务器为什么更新/重启之后,服务器存档没了?

有的朋友说,他的阿里云幻兽帕鲁服务器重启了一下后,服务器存档就没了?这是怎么回事呢,其实可能的原因,一是服务器还有重启完成,也就是游戏服务端还没有启动,就登进去,可能会显示网络…