专栏名称: 机器学习研究会

机器学习研究会是北京大学大数据与机器学习创新中心旗下的学生组织，旨在构建一个机器学习从事者交流的平台。除了及时分享领域资讯外，协会还会举办各种业界巨头/学术神牛讲座、学术大牛沙龙分享会、real data 创新竞赛等活动。

【直观详解】拉格朗日乘法和KKT条件

机器学习研究会 · 公众号 · AI · 2017-12-12 23:58

正文

【阅读时间】8min - 10mun

【内容简介】直观的解读了什么是拉格朗日乘子法，以及如何求解拉格朗日方程，并且给出几个直观的例子，针对不等式约束解读了KKT条件的必要条件和充分条件

What & Why

拉格朗日乘法（Lagrange multiplier）是一种在最优化的问题中寻找多元函数在其变量受到一个或多个条件的相等约束时的求局部极值的方法。这种方法可以将一个有 n 个变量和 k 个约束条件的最优化问题转换为一个解有 n+k 个变量的方程组的解的问题

考虑一个最优化问题

How

那么如何求这个极值点呢？

例子1

设一个具体的例子，我们需要求下列问题

根据几个不同的解带入 f(x,y) 到，2，-2，0，也就是我们需要的最大值，最小值，对应的直观图像解释如下图所示（非常直观的展现约束和等高线的含义）

例子二

推荐文章

爱可可-爱生活 · 【Stanford CS236 Deep Generative -20250205214119

昨天

爱可可-爱生活 · 【DeepSeek：比ChatGPT危险100倍？它正在中文互联-20250205085327

昨天

量子位 · 华为昇腾推理DeepSeek-R1，性能比肩高端GPU，API免费无限量！潞晨自研推理引擎出手了

2 天前

宝玉xp · 你说的对，学术领域是挺好的网页链接 //@柔软_zzZ:感觉这-20250204022012

3 天前

爱可可-爱生活 · 《爱可可微博热门分享(2.2)》爱可可微博热门分享(2.2)-20250202224514

4 天前

豆瓣电影 · 熊孩子出没请注意

8 年前

占豪 · 原创丨习总为何紧急出访这两个国家，有何深意？

8 年前

微路况 · 涨知识 | 黑夜里最亮的尾灯，你能认出几个？

8 年前

瞭望消金 · 新一轮地方交易场所清理整顿全面启动！事涉多家金交所

8 年前

国资报告 · 雄安新区筹备工作委员会领导赴中国建设科技集团调研考察

7 年前