无约束优化--实践

栏目: IT技术 · 发布时间: 3年前

内容简介:假设满足如下方程f(x,y) = x² + 3y²需要求得改方程的最小值

假设满足如下方程

f(x,y) = x² + 3y²

需要求得改方程的最小值

使用梯度下降法进行求解

无约束优化--实践

我们使用MATLAB 进行一个梯度下降求解

一些初始化代码

x=-3:0.1:3;
y=-3:0.1:3;
[X,Y]=meshgrid(x,y); 
fsurf=X.^2+3*Y.^2;
surf(X,Y,fsurf),hold on;
clear x;
clear y;
x(1) = 3; y(1) = 2; %guess
f(1) = x(1)^2+3*y(1)^2; %init value
plot3(x,y,f,'ko','Linewidth',[3])

然后根据我们上面推导的公式进行一个循环迭代

我们循环迭代1000 次 如果当我们发现 误差在我们的接受范围我们就可以停止 break

for j=1:1000
 tau = (x(j)^2+9*y(j)^2) / (2*x(j)^2+54*y(j)^2);
 x(j+1) = (1-2*tau)*x(j);
 y(j+1) = (1-6*tau)*y(j);
 f(j+1) = x(j+1)^2+3*y(j+1)^2;
 
 plot3(x(j+1),y(j+1),f(j+1),'ko','Linewidth',[3]);
 
 pause(2);
 
 if abs(f(j+1)-f(j)) < 10^(-6)
 break;
 end
end

最后的结果路径就为我们红色线那样step by step 走到一个合理区域

无约束优化--实践

最小二乘法

与该方法类同有一个 最小二乘法 这里使用淘宝双十一 数据作为一个拟合

数据分别是 淘宝这几年 双11 的成交数据 单位都是 RMB 亿元

时间是从2009-2019 年这个时间

y = [0.5 9.36 52 191 350 571 912 1207 1682 2135 2684]

当我们把这些数据放在坐标轴上面观察的时候,直觉上的就觉得他是一个指数函数

无约束优化--实践

所以我们的一个目标函数就是 ax^2+b ,a 为扩展系统,b 为一个截距在ax+b 中的b 一样的效果

最小二乘法 就是我们 loss = ∑ ( f(x) - y)² 求解他的最小值 其中 f(x)是 我们假定他的函数 y 为真是的函数的数值 (在上图中横坐标就是年份第一年.第二年,纵坐标就是成交和GMV,也即是我们y 值)

1: 我们定义个我们的目标函数

function E=datafitali(x0,x,y)
A = x0(1); B = x0(2); 
E = sum( (A*x.^2+B-y).^2 )
2:我们使用fminsarch 结果进行最优化
x = 1:11
y = [0.5 9.36 52 191 350 571 912 1207 1682 2135 2684]
 
A = 1;
B = 1;
 
 
plot(x,y,'ko'),hold on
 
 
 
 coeff = fminsearch('datafitali',[A B],[],x,y);
 A1 = coeff(1) ; B1 = coeff(2);
 f2 = A1 * x.^2+B1
 
 plot(x,f2,'g’);

基本上是符合一个指数增长的,这条曲线确实挺完美的 !

无约束优化--实践


以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

计算机程序设计艺术

计算机程序设计艺术

Donald E. Knuth / 李伯民、范明、蒋爱军 / 人民邮电出版社 / 2016-1-1 / 198

《计算机程序设计艺术》系列是公认的计算机科学领域经典之作,深入阐述了程序设计理论,对计算机领域的发展有着极为深远的影响。本书是该系列的第 1 卷,讲解基本算法,其中包含了其他各卷都需用到的基本内容。本卷从基本概念开始,然后讲述信息结构,并辅以大量的习题及答案。一起来看看 《计算机程序设计艺术》 这本书的介绍吧!

在线进制转换器
在线进制转换器

各进制数互转换器

HTML 编码/解码
HTML 编码/解码

HTML 编码/解码

正则表达式在线测试
正则表达式在线测试

正则表达式在线测试