【2024 Optimal Control 16-745】【Lecture 3 + Lecture4】minimization.ipynb功能分析

news2024/12/23 23:16:12

主要功能-最小化问题

  1. 目标函数分析:

    • 定义函数 f ( x ) f(x) f(x) 及其一阶、二阶导数。
    • 使用绘图工具可视化函数的形状。
  2. 实现数值优化:

    • 使用牛顿法寻找函数的极值点,结合一阶和二阶导数加速收敛。
    • 使用正则化牛顿法解决二阶导数矩阵可能不正定的问题。
  3. 可视化过程:

    • 在优化过程中,动态标记初始点和更新点,直观展示牛顿法的优化轨迹。

环境设置和包导入

import Pkg; Pkg.activate(@__DIR__); Pkg.instantiate()

using LinearAlgebra
using ForwardDiff
using PyPlot

定义目标函数及其导数

function f(x)
    return x.^4 + x.^3 - x.^2 - x
end
  • 定义函数 f ( x ) = x 4 + x 3 − x 2 − x f(x) = x^4 + x^3 - x^2 - x f(x)=x4+x3x2x,这是目标函数。
function ∇f(x)
    return 4.0*x.^3 + 3.0*x.^2 - 2.0*x - 1.0
end
  • 定义 f ( x ) f(x) f(x) 的一阶导数:
    ∇ f ( x ) = 4 x 3 + 3 x 2 − 2 x − 1 \nabla f(x) = 4x^3 + 3x^2 - 2x - 1 f(x)=4x3+3x22x1
function ∇2f(x)
    return 12.0*x.^2 + 6.0*x - 2.0
end
  • 定义 f ( x ) f(x) f(x) 的二阶导数:
    ∇ 2 f ( x ) = 12 x 2 + 6 x − 2 \nabla^2 f(x) = 12x^2 + 6x - 2 2f(x)=12x2+6x2

绘制目标函数

x = LinRange(-1.75, 1.25, 1000)
  • 生成区间 [ − 1.75 , 1.25 ] [-1.75, 1.25] [1.75,1.25] 上的 1000 个均匀点,用于绘图。
p = plot(x, f(x))
  • 绘制函数 f ( x ) f(x) f(x) 在区间 [ − 1.75 , 1.25 ] [-1.75, 1.25] [1.75,1.25] 上的曲线。
    在这里插入图片描述

定义牛顿法单步更新

function newton_step(x0)
    xn = x0 - ∇2f(x0)\∇f(x0)
end
  • 定义牛顿法的单步更新公式:
    x new = x old − ( ∇ 2 f ( x old ) ) − 1 ∇ f ( x old ) x_{\text{new}} = x_{\text{old}} -{\left(\nabla^2 f(x_{\text{old}})\right)}^{-1} \nabla f(x_{\text{old}}) xnew=xold(2f(xold))1f(xold)

使用牛顿法寻找极值点

xguess = 0.0
  • 初始猜测点 x guess = 0 x_{\text{guess}} = 0 xguess=0
plot(x, f(x))
plot(xguess, f(xguess), "rx")
  • 绘制目标函数,并在初始点 x guess x_{\text{guess}} xguess 标记一个红叉。
    在这里插入图片描述
xnew = newton_step(xguess[end])
xguess = [xguess xnew]
plot(x, f(x))
plot(xguess, f(xguess), "rx")
  • 使用牛顿法计算新的 x new x_{\text{new}} xnew,并更新 x guess x_{\text{guess}} xguess
  • 再次绘制目标函数并标记新的点
    • 这个代码块可以反复运行,进行 x g u e s s x_{guess} xguess迭代
      在这里插入图片描述

检查二阶导数在 x = 0 x = 0 x=0 的值

∇2f(0.0)
  • 计算 ∇ 2 f ( x ) \nabla^2 f(x) 2f(x) x = 0 x = 0 x=0 的值,判断此处的二阶导数是否正定。结果为-2,不是正定的
    在这里插入图片描述

定义正则化牛顿法

function regularized_newton_step(x0)
    β = 1.0
    H = ∇2f(x0)
    while !isposdef(H)
        H = H + β*I
    end
    xn = x0 - H\∇f(x0)
end
  • 实现正则化牛顿法,解决二阶导数矩阵 ∇ 2 f ( x ) \nabla^2 f(x) 2f(x) 可能不是正定的问题。
    • 步骤:
      1. 初始化 β = 1.0 \beta = 1.0 β=1.0 和 Hessian 矩阵 H = ∇ 2 f ( x ) H = \nabla^2 f(x) H=2f(x)
      2. 如果 H H H 不是正定(isposdef(H) 返回 false),则将 β I \beta I βI 加入 H H H,直到 H H H 正定。
      3. 使用修正后的 H H H 计算牛顿更新公式:
        x new = x old − H − 1 ∇ f ( x old ) x_{\text{new}} = x_{\text{old}} - H^{-1} \nabla f(x_{\text{old}}) xnew=xoldH1f(xold)

使用正则化牛顿法寻找极值点

xguess = 0.0
plot(x, f(x))
plot(xguess, f(xguess), "rx")
  • 再次初始化 x guess x_{\text{guess}} xguess 并绘制初始点。
    在这里插入图片描述
xnew = regularized_newton_step(xguess[end])
xguess = [xguess xnew]
plot(x, f(x))
plot(xguess, f(xguess), "rx")
  • 使用正则化牛顿法计算新的点 x new x_{\text{new}} xnew 并更新 x guess x_{\text{guess}} xguess
  • 再次绘制目标函数并标记新的点。
    • 这个代码块可以反复运行,进行 x g u e s s x_{guess} xguess迭代

在这里插入图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2245857.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

实现 UniApp 右上角按钮“扫一扫”功能实战教学

实现 UniApp 右上角按钮“扫一扫”功能实战教学 需求 点击右上角扫一扫按钮(onNavigationBarButtonTap监听),打开扫一扫页面(uni.scanCode) 扫描后,以网页的形式打开扫描内容(web-view组件),限制只能浏览带有执行域名的网站,例如…

ThreadLocal 父子线程、线程池、数据传递

讲一下背景:springboot 项目。写了个拦截器,解析请求头 Authorization 中传过来的 token,获取到登录用户信息,然后通过 ThreadLocal 存起来,后面的业务代码从 ThreadLocal 取用户信息。 再说下问题:当业务代…

uniapp 微信小程序地图标记点、聚合点/根据缩放重合点,根据缩放登记显示气泡marik标点

如图,如果要实现上方的效果: 上方两个效果根据经纬度标记点缩放后有重复点会添加数量 用到的文档地址https://developers.weixin.qq.com/miniprogram/dev/api/media/map/MapContext.addMarkers.htmlMapContext.addMarkers(Object object) 添加标记点Ma…

ubuntu下如何使用C语言访问Mysql数据库(详细介绍并附有案例)

一、配置 首先,确保你已经安装了MySQL服务器和MySQL Connector/C库。在Linux上,你可以使用包管理器来安装这些,例如: sudo apt-get install mysql-server libmysqlclient-dev 在ubuntu的机器上,库文件通常保存在 /li…

uniapp接入BMapGL百度地图

下面代码兼容安卓APP和H5 百度地图官网:控制台 | 百度地图开放平台 应用类别选择《浏览器端》 /utils/map.js 需要设置你自己的key export function myBMapGL1() {return new Promise(function(resolve, reject) {if (typeof window.initMyBMapGL1 function) {r…

直播服务器多设备同显方案

在直播行业中,服务器多设备同显方案已成为一种创新且高效的技术应用。这一技术不仅能够满足大规模同步直播的需求,还能显著提升观众的观看体验和参与度。本文将深入探讨直播服务器多设备同显方案的技术细节、实施步骤以及在不同场景下的应用价值。 直播服…

101.【C语言】数据结构之二叉树的堆实现 下

目录 1.堆删除函数HeapPop 一个常见的错误想法:挪动删除 正确方法 设计堆顶删除函数HeapPop 解析向下调整函数AdjustDown 向下调整最多次数 向下调整的前提 代码实现 2.测试堆删除函数 运行结果 3.引申问题 运行结果 4.练习 分析 代码 执行过程图 运行结果 承…

数据结构(Java版)第二期:包装类和泛型

目录 一、包装类 1.1. 基本类型和对应的包装类 1.2. 装箱和拆箱 1.3. 自动装箱和自动拆箱 二、泛型的概念 三、引出泛型 3.1. 语法规则 3.2. 泛型的优点 四、类型擦除 4.1. 擦除的机制 五、泛型的上界 5.1. 泛型的上界的定义 5.2. 语法规则 六、泛型方法 6.1…

【pyspark学习从入门到精通14】MLlib_1

目录 包的概览 加载和转换数据 在前文中,我们学习了如何为建模准备数据。在本文中,我们将实际使用这些知识,使用 PySpark 的 MLlib 包构建一个分类模型。 MLlib 代表机器学习库。尽管 MLlib 现在处于维护模式,即它不再积极开发…

【CSP CCF记录】201903-1第16次认证 小中大

题目 样例1输入 3 -1 2 4 样例1输出 4 2 -1 样例1解释 4 为最大值,2 为中位数,−1 为最小值。 样例2输入 4 -2 -1 3 4 样例2输出 4 1 -2 样例2解释 4 为最大值,(−13)21为中位数,−2为最小值。 思路 本题两个注意点&#xff0…

P8692 [蓝桥杯 2019 国 C] 数正方形:结论,组合数学

题目描述 在一个 NNNN 的点阵上,取其中 44 个点恰好组成一个正方形的 44 个顶点,一共有多少种不同的取法? 由于结果可能非常大,你只需要输出模 10971097 的余数。 如上图所示的正方形都是合法的。 输入格式 输入包含一个整数 …

Elasticsearch客户端在和集群连接时,如何选择特定的节点执行请求的?

大家好,我是锋哥。今天分享关于【Elasticsearch客户端在和集群连接时,如何选择特定的节点执行请求的?】面试题。希望对大家有帮助; Elasticsearch客户端在和集群连接时,如何选择特定的节点执行请求的? 100…

【题解】—— LeetCode一周小结46

🌟欢迎来到 我的博客 —— 探索技术的无限可能! 🌟博客的简介(文章目录) 【题解】—— 每日一道题目栏 上接:【题解】—— LeetCode一周小结45 11.切棍子的最小成本 题目链接:1547. 切棍子的最…

AI社媒引流工具:解锁智能化营销的新未来

在数字化浪潮的推动下,社交媒体成为品牌营销的主战场。然而,面对海量的用户数据和日益复杂的运营需求,传统营销方法显得力不从心。AI社媒引流王应运而生,帮助企业在多平台中精准触达目标用户,提升营销效率和效果。 1.…

Python 使用 Selenuim进行自动化点击入门,谷歌驱动,以百度为例

一、首先要下载谷歌驱动 1.(打开谷歌浏览器 - 设置 - 关于谷歌,查看谷歌浏览器版本,否则不对应无法调用,会提示:selenium.common.exceptions.SessionNotCreatedException: Message: session not created: This versio…

C语言-指针作为函数返回值及二级指针

1、指针作为函数返回值 c语言允许函数的返回值是一个指针&#xff08;地址&#xff09;我们将这样的函数称为指针函数&#xff0c;下面的例子定义一了一个函数strlong&#xff08;&#xff09;&#xff0c;用来返回两个字符串中较长的一个&#xff1a; 1. #include <stdio…

实时数据开发 | 怎么通俗理解Flink容错机制,提到的checkpoint、barrier、Savepoint、sink都是什么

今天学Flink的关键技术–容错机制&#xff0c;用一些通俗的比喻来讲这个复杂的过程。参考自《离线和实时大数据开发实战》 需要先回顾昨天发的Flink关键概念 检查点&#xff08;checkpoint&#xff09; Flink容错机制的核心是分布式数据流和状态的快照&#xff0c;从而当分布…

再次讨论下孤注一掷

在孤注一掷中的黑客技术里面&#xff0c;简单介绍了电影孤注一掷中用的一些"黑科技"&#xff0c;这里继续讨论下&#xff0c;抛弃这些黑科技&#xff0c;即使在绝对公平的情况下&#xff0c;你也一样赢不了赌场 相对论有一个假设就是光速不变&#xff0c;这里也有个…

微信小程序技术架构图

一、视图层1.WXML&#xff08;WeiXin Markup Language&#xff09; 这是微信小程序的标记语言&#xff0c;类似于 HTML。它用于构建小程序的页面结构。例如&#xff0c;通过标签来定义各种视图元素&#xff0c;如<view>&#xff08;类似于 HTML 中的<div>&#xff…

GaussDB 华为高斯数据库

GaussDB 是华为推出的一款企业级分布式数据库&#xff0c;旨在为企业提供高效、可靠、安全的数据库服务。GaussDB 基于华为在数据库领域的多年积累&#xff0c;结合人工智能技术和分布式架构&#xff0c;支持多种场景的数据存储与管理需求&#xff0c;是云计算、大数据、人工智…