贝叶斯估计(1):期末大乱炖

news2024/11/14 18:02:30

写在前面!

 

1 先验分布和后验分布

三种信息:总体信息、样本信息、先验信息

总体信息:“总体是正态分布”;样本信息:总体抽取的样本提供的信息,是最新鲜的信息;先验信息:在抽样之前就知道的关于统计问题的一些信息【来源于历史资料等】

贝叶斯公式

离散形式:

几个公式:

先验分布:

样本信息的综合:

三个信息的综合:

\theta进行估计:

求后验分布!!!
【1】连续时(先验分布)

(1)写出先验分布,如果不知道按照均匀分布处理

(2)计算样本X 和参数\theta的联合分布

样本似然函数 乘以 先验信息密度函数

(3)计算X的边际密度【m(x)】

(4)利用贝叶斯公式得到\theta的后验分布

所以\theta的范围在这里就是 大于样本数的的最大值-0.5 小于最小值+0.5

这样就定下了\theta的取值范围咯!!!!

具体视频启发见:已知观测值求后验分布-哔哩哔哩_bilibili

【2】离散

共轭先验分布

【1】正态分布[指的是样本]的共轭先验分布[先验和后验都是]是正态分布(之间的关系)

【2】二项分布中的成功概率\theta的共轭先验分布式贝塔分布

【3】泊松分布的均值\lambda的共轭先验分布是伽马分布

二项分布的进化,X是发生的次数,那么当抽取样本时,n\bar{x}就是总次数!!!!【可见例题5.3.1】

贝塔分布

伽马分布

特例:

先验分布超参数的确定

【1】利用先验矩

【2】利用先验分位数

【3】利用先验矩和先验分位数

充分统计量【更方便的计算出后验分布!】

作用:

应用:

p(x|\theta)是没有办法计算出来的因为,不知道具体取值的情况,但是p(\bar{x}|\theta)是知道的

2 贝叶斯推断

存在意义:

2.1 条件方法

2.2 估计

2.2.1 贝叶斯估计

例题1

例题2

例题3

贝叶斯假设 是假设\theta是均匀分布,当都为1 的时候贝塔分布退化成均匀分布

例题4

最大的取值不能超过观察值哦!!!

2.2.2 贝叶斯误差估计

后验均方误差的均值!

例题1  !!!!(先验分布是离散的)

后验密度达到最大的时候所对应的\theta 是最大后验估计

后验分布期望值是后验分布均值

例题2 (先验分布是连续的贝塔分布)

众数算出来的值其实就是贝塔分布函数达到最大时自变量的取值!!!!

2.3 区间估计

不用寻找枢轴量直接用后验分布就可以!!

例题1

110.38-1.96*8.32 = 94.07

110.38+1.96*8.32 = 126.69

2.4 假设检验

2.4.1 假设检验

接受最大后验概率的假设!!!!

例题1

计算出后验分布!!

均匀

2.4.2 贝叶斯因子

后验概率比较的方法!

后验机会比、前验机会比!可见2.4.4 例题2

贝叶斯因子表示数据X支持原假设的程度!

2.4.3 简单对简单【先计算贝叶斯因子】

例题1

2.4.4 复杂对复杂【计算后验概率比】

例题2

不用计算器的话:就是先标准化然后查表!

贝叶斯因子小这就不可以!

2.4.5 简单对复杂【先计算贝叶斯因子】

例题3

2.4.6 多重假设检验

例题4 

谁大接受谁!

2.5 预测

例题5

2.6 似然原理

3 先验分布的确定

3.1 主观概率

3.2 利用先验信息

3.2.1 直方图法(微重要)

例题1

3.2.2 选定先验密度函数形式再估计其超参数

通过矩估计的方法!

例题1延续

例题2

3.2.3 定分位度法和变分位度法【了解即可】

3.3 利用边缘分布确定先验分布

3.3.1 可直接求出边缘分布

例题1

让m(x)达到最大时 ,求出两个超参数的值

3.3.2 混合分布下求出边缘分布类似加权求和

例题2

3.3.3 先验选择的ML-LL方法

例题3 延续3.3.1的例题1

样本是从边缘分布里抽出来的当然可以用于边缘分布超参数的估计!!!!!

3.3.4 先验选择的矩方法

可通过公式进行简化计算!

\mu _m(\lambda ) = E^{\theta |\lambda }[\mu (\theta ))]

目标是求出\lambda

例题4

到此为止吧,我看不懂.....服了

3.4 无信息先验分布

4 决策中的收益、损失与效用

4.1 决策问题的三要素

4.2 决策准则

4.2.1 行动的容许性

例题1

4.2.2 决策准则【只使用先验信息】

【1】乐观准则(大中选大)

【2】悲观准则(小中选大)

【3】折中准则(加权)

例题

4.3 先验期望准则

使先验平均收益达到最大的行动a

例题

例题

这个只计算均值时发现有两个最优行动,因此再计算方差 选择方差小的!!!

P134【课本】

4.3.2 两个性质

都加不变,同一个状态的一行加一样的数不变!

4.4 损失函数

损失函数:“没有转到该赚到的钱!”

4.4.1 从收益到损失

例题【由收益矩阵得到损失矩阵】

损失为,当前位 与赚最多钱时的差距!(状态是一定的!!!)

也是一个状态一算!

例题(已知收益函数的表达式求损失函数!)

\theta进行积分得到关于a的表达式,然后求出这个表达式的最小值!!!

4.4.2 损失函数下的悲观准则

例题(收益和损失悲观)

注意悲观准则在 收益函数中时(小中选大);在 损失函数中时(大中选小)

用损失函数进行决策合理一点!

例题

4.4.3 损失函数下的先期望准则

例题

课本【P141】

例题p142

4.5 常用损失函数

4.5.1 常用损失函数

【1】平均损失函数

【2】线性损失函数

【3】0-1损失函数

【4】多元二次损失函数

【5】二行动线性决策问题的损失函数

例题【后序步骤和5.1 中的例题是一样的!】

先求平衡值就是相等的时候\theta的取值!

5 贝叶斯决策

5.1 贝叶斯决策问题定义

先验信息和样本信息 都使用的决策问题!

按照后验平均损失最小 得到贝叶斯决策

优缺点

例题5.1.1P163!!!

让先验期望损失最小是第四章,把\theta弄没,离散的时候是相乘

贝叶斯要在这个机会基础上基础上进行抽样!

5.2 后验风险准则【贝叶斯准则是使用这个的】

5.2.1 后验风险

例题【贝叶斯决策】!!!!!

【1】第四章

【3】贝叶斯

后验分布!:

损失函数的计算后的个数等于:x的取值【抽样后数据的情况】*行动的个数!

损失函数:

行动2:变成只拿出箱子里的两个进行检查 那么需要支付1.6元,然后如果再进行赔偿!

5.2.2 决策函数

5.2.3 后验风险准则

例题5.2.3

例题5.2.4

5.3 常用损失函数下的贝叶斯估计!!!!

5.3.1 平方损失函数下的贝叶斯估计

【1】定理1在平均损失下

【2】定理2在加权平方损失

【3】定理3在多元二次损失函数

例题5.3.1

5.3.2 线性损失函数下的贝叶斯估计

【1】定理1

例题5.3.6

后验分布的积分是1

5.3.3 有限个行动问题的假设检验

 6 统计决策理论

只使用样本信息!

6.1 风险函数

6.1.1 风险函数

6.1.2 决策函数的最优性

6.1.3 统计决策中的点估计问题

6.1.4 统计决策中的区间估计问题

6.2 容许性

例题

6.3 最小最大准则

例题

例题

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1907907.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

从OpenAI停服看中国市场:国产替代崛起的机遇与挑战

一、OpenAI 停服事件背景 OpenAI 自 2020 年推出 GPT-3 以来,在全球范围内引起了极大的反响。其强大的自然语言处理能力使其成为许多企业和开发者的首选工具。然而,2024 年 6 月 25 日,许多中国用户收到了一封来自 OpenAI 的邮件&#xff0c…

c++之命名空间详解(namespace)

引例 在学习之前我们首先了来看这样一个情形: 在c语言下,我们写了两个头文件:链表和顺序表的。我们会定义一个type(typedef int type)方便改变数据类型(比如将int改成char),来做到整体代换。 但是我们两个头文件里面…

精益生产培训公司:从混乱到高效,只需一步!

大家有没有觉得工作中的琐事总是让你忙得团团转,却总是达不到预期的效果?其实,很多人都遇到过类似的困扰。今天张驰咨询想跟你们分享一个能彻底改变这种情况的方法——精益生产。其实它并不复杂,而是非常实用和高效! …

Xilinx FPGA DDR4 接口的 PCB 准则

目录 1. 简介 1.1 FPGA-MIG 与 DDR4 介绍 1.2 DDR4 信号介绍 1.2.1 Clock Signals 1.2.2 Address and Command Signals 1.2.3 Address and Command Signals 1.2.4 Data Signals 1.2.5 Other Signals 2. 通用存储器布线准则 3. Xilinx FPGA-MIG 的 PCB 准则 3.1 引脚…

通过高德地图 JS API实现单击鼠标进行标注

效果图: 核心代码: <template><a-modal title="选择地图所在位置" :width="width" :visible="visible" @ok="handleOk" @cancel="handleCancel" cancelText="关闭"><div class="location-…

java —— JSP 技术

一、JSP &#xff08;一&#xff09;前言 1、.jsp 与 .html 一样属于前端内容&#xff0c;创建在 WebContent 之下&#xff1b; 2、嵌套的 java 语句放置在<% %>里面&#xff1b; 3、嵌套 java 语句的三种语法&#xff1a; ① 脚本&#xff1a;<% java 代码 %>…

白嫖A100活动来啦,书生·浦语大模型全链路开源体系

扫码参加即可获得&#xff1a; 第一节 书生浦语大模型全链路开源体系 书生浦语大模型的开源历程。 从模型到应用的典型流程 书生浦语的开源体系&#xff0c;包含从数据、预训练、微调、部署、评测、应用等环节

一手洞悉泰国slot线上游戏投放本土网盟CPI计费广告优势

一手洞悉泰国slot线上游戏投放本土网盟CPI计费广告优势 ​在泰国这个拥有独特文化背景和审美观念的国家&#xff0c;Slots游戏以其丰富的玩法和刺激的体验迅速赢得了玩家们的喜爱。然而&#xff0c;要在竞争激烈的市场中脱颖而出&#xff0c;有效的推广策略显得尤为重要。本土…

消防认证-防火窗

一、消防认证 消防认证是指消防产品符合国家相关技术要求和标准&#xff0c;且通过了国家认证认可监督管理委员会审批&#xff0c;获得消防认证资质的认证机构颁发的证书&#xff0c;消防产品具有完好的防火功能&#xff0c;是住房和城乡建设领域验收的重要指标。 二、认证依据…

C++入门基础篇(1)

欢迎大家来到海盗猫鸥的博客—— 断更许久&#xff0c;让我们继续好好学习吧&#xff01; 目录 1.namespace命名空间 命名空间的存在价值&#xff1a; 命名空间的定义&#xff1a; 命名空间的使用&#xff1a; 2.C输入输出函数 使用&#xff1a; 3.缺省参数 4.函数重载…

静脉分割YOLOV8-SEG

静脉分割&#xff0c;YOLOV8*SEG资源-CSDN文库 首先使用YOLOV8-SEG训练&#xff0c;得到PT模型&#xff0c;然后转换成ONNX&#xff0c;OPENCV的DNN调用&#xff0c;从而摆脱PYTORCH依赖&#xff0c;支持C,PYTHON,ANDROID调用

Spring AOP源码篇二之 代理工厂ProxyFactory学习

了解AspectJ表达式以及PointCut、Advice、Advisor后&#xff0c;继续学习Spring AOP代理工厂 AspectJ表达式参考&#xff1a;Spring AOP之AspectJ表达式-CSDN博客 PointCut、Advice、Advisor参考&#xff1a;Spring AOP源码篇一之 PointCut、Advice、Advisor学习-CSDN博客 简单…

昇思13天

ResNet50迁移学习 ResNet50迁移学习总结 背景介绍 在实际应用场景中&#xff0c;由于训练数据集不足&#xff0c;很少有人会从头开始训练整个网络。普遍做法是使用在大数据集上预训练得到的模型&#xff0c;然后将该模型的权重参数用于特定任务中。本章使用迁移学习方法对Im…

2.5 C#视觉程序开发实例1----IO_Manager实现切换程序

2.5 C#视觉程序开发实例1----IO_Manager实现切换程序 1 IO_Manager中输入实现 1.0 IO_Manager中输入部分引脚定义 // 设定index 目的是为了今后可以配置这些参数、 // 输入引脚定义 private int index_trig0 0; // trig index private int index_cst 7; //cst index priva…

简单介绍 Dagger2 的入门使用

依赖注入 在介绍 Dagger2 这个之前&#xff0c;必须先解释一下什么是依赖注入&#xff0c;因为这个库就是用来做依赖注入的。所以这里先简单用一句话来介绍一下依赖注入&#xff1a; 依赖注入是一种设计模式&#xff0c;它允许对象在运行时注入其依赖项。而不是在编译时确定&a…

学习数据库2

在数据库中创建一个表student&#xff0c;用于存储学生信息 查看建表结果 向student表中添加一条新记录 记录中id字段的值为1&#xff0c;name字段的值为"monkey"&#xff0c;grade字段的值为98.5 并查看结果 向student表中添加多条新记录 2,"bob"…

Gradle基础:从入门到掌握

人不走空 &#x1f308;个人主页&#xff1a;人不走空 &#x1f496;系列专栏&#xff1a;算法专题 ⏰诗词歌赋&#xff1a;斯是陋室&#xff0c;惟吾德馨 在现代软件开发中&#xff0c;自动化构建工具是提高效率和管理依赖的重要手段。而Gradle作为一种灵活且强大的构…

Oracle 19c 统一审计表清理

zabbix 收到SYSAUX表空间告警超过90%告警&#xff0c;最后面给出的清理方法只适合ORACLE 统一审计表的清理&#xff0c;传统审计表的清理SYS.AUD$不适合&#xff0c;请注意。 SQL> Col tablespace_name for a30 Col used_pct for a10 Set line 120 pages 120 select total.…

2024全球数字经济大会:大模型时代下DataOps驱动企业数智化升级

7月5日&#xff0c;以“开源生态筑基础&#xff0c;数字经济铸未来”为主题的2024全球数字经济大会在北京成功举办&#xff0c;来自全国各地的专家学者、企业代表、数据库行业从业人士及众多开源开发者&#xff0c;共聚一堂&#xff0c;共同探讨开源数据库技术的发展现状与未来…

C++ | Leetcode C++题解之第216题组合总和III

题目&#xff1a; 题解&#xff1a; class Solution { private:vector<vector<int>> res;void backtracking(int k, int n, vector<int> ans){if(k 0 || n < 0){if(k 0 && n 0){res.emplace_back(ans);}return;}int start (ans.size() 0 ?…