内容简介：很多年前，我的师兄 Jian Zhu 在这里发表过一个系列《无约束最优化》，当时我写下了一段话:估计有些读者看到这个题目的时候会觉得很数学，和自然语言处理没什么关系，不过如果你听说过最大熵模型、条件随机场，并且知道它们在自然语言处理中被广泛应用，甚至你明白其核心的参数训练算法中有一种叫LBFGS，那么本文就是对这类用于解无约束优化算法的Quasi-Newton Method的初步介绍。
很多年前，我的师兄 Jian Zhu 在这里发表过一个系列《无约束最优化》，当时我写下了一段话:
估计有些读者看到这个题目的时候会觉得很数学，和自然语言处理没什么关系，不过如果你听说过最大熵模型、条件随机场，并且知道它们在自然语言处理中被广泛应用，甚至你明白其核心的参数训练算法中有一种叫LBFGS，那么本文就是对这类用于解无约束优化算法的Quasi-Newton Method的初步介绍。
事实上，无论机器学习还是机器学习中的深度学习，数值优化算法都是核心之一，而在这方面，斯坦福大学Stephen Boyd教授等所著的《凸优化》堪称经典： Convex Optimization – Boyd and Vandenberghe ，而且该书的英文电子版在该书主页上可以直接免费下载：
http://web.stanford.edu/~boyd/cvxbook/bv_cvxbook.pdf
还附带了长达301页的Slides:
http://web.stanford.edu/~boyd/cvxbook/bv_cvxslides.pdf
以及额外的练习题、相关代码数据文件：
http://web.stanford.edu/~boyd/cvxbook/bv_cvxbook_extra_exercises.pdf
http://web.stanford.edu/~boyd/cvxbook/cvxbook_additional_exercises/相当贴心，另外Stephen Boyd教授2014年还在斯坦福大学自家的MOOC平台上开过相关课程: CVX101
https://class.stanford.edu/courses/Engineering/CVX101
提示是：A MOOC on convex optimization, CVX101, was run from 1/21/14 to 3/14/14. If you register for it, you can access all the course materials.
不知道现在注册是否还可以访问课程材料，我当年竟然注册过这门课程，所以还能访问相关资料：
这本书也有中文翻译版，由清华大学出版社出版：
http://www.tup.tsinghua.edu.cn/bookscenter/book_03184902.html
最后提供上述相关材料的打包下载，包括凸优化课程视频、英文原版书籍、练习题和Slides，另外也包括《无约束最优化》的PDF文档，感兴趣的同学可以关注我们的公众号AINLP，回复"youhua"下载：
注：原创文章，转载请注明出处及保留链接“我爱自然语言处理”： http://www.52nlp.cn
本文链接地址： 凸优化及无约束最优化相关资料 http://www.52nlp.cn/?p=11222
欢迎关注我们的公众号
以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持 码农网
猜你喜欢:
- 基于下界函数的最优化
- 从最优化的角度看待 Softmax 损失函数
- matlab练习程序（Levenberg-Marquardt法最优化）
- Vue 服务端渲染实践 ——Web应用首屏耗时最优化方案
- NeurIPS 2018 | 腾讯AI Lab详解3大热点：模型压缩、机器学习及最优化算法
- NIPS 2018：作为多目标优化的多任务学习：寻找帕累托最优解
本站部分资源来源于网络，本站转载出于传递更多信息之目的，版权归原作者或者来源机构所有，如转载稿涉及版权问题，请联系我们。
