色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

您好,歡迎來電子發(fā)燒友網(wǎng)! ,新用戶?[免費注冊]

您的位置:電子發(fā)燒友網(wǎng)>源碼下載>數(shù)值算法/人工智能>

如何搞定機器學(xué)習(xí)中的拉格朗日?看看這個乘子法與KKT條件大招

大小:0.4 MB 人氣: 2017-12-06 需要積分:1
 一 前置知識
  拉格朗日乘子法是一種尋找多元函數(shù)在一組約束下的極值方法,通過引入拉格朗日乘子,可將有m個變量和n個約束條件的最優(yōu)化問題轉(zhuǎn)化為具有m+n個變量的無約束優(yōu)化問題。在介紹拉格朗日乘子法之前,先簡要的介紹一些前置知識,然后就拉格朗日乘子法談一下自己的理解。
  1.梯度
  梯度是一個與方向?qū)?shù)有關(guān)的概念,它是一個向量。在二元函數(shù)的情形,設(shè)函數(shù)f(x,y)在平面區(qū)域D內(nèi)具有一階連續(xù)偏導(dǎo),則對于每一點P(x0,y0)∈D,都可以定義出一個向量:fx(x0,y0)i+fy(x0,y0)j ,稱該向量為函數(shù)f(x,y)在點P(x0,y0)
  的梯度。并記作grad f(x0,y0) 或者?f(x0,y0),即 grad f(x0,y0) = ?f(x0,y0) = fx(x0,y0)i+fy(x0,y0)j=(fx(x0,y0),fy(x0,y0)) 。
  再來看看梯度和方向?qū)?shù)的關(guān)系:如果函數(shù)f(x,y)在P(x0,y0)點可微,el = (cosα,cosβ)是與方向L同向的單位向量,則?f/?L|(x0,y0) = fx(x0,y0)cosα+fy(x0,y0)cosβ = grad f(x0,y0).el = |grad f(x0,y0)|.cosθ ,其中θ表示的梯度與el 的夾角。由此可知,當(dāng)θ = 0時,el 與梯度的方向相同時,此時方向?qū)?shù)最大,函數(shù)f(x,y)增長最快;當(dāng)θ = π時,el 與梯度的方向相反時,此時方向?qū)?shù)最小且為負,函數(shù)f(x,y)減小最快。
  2.等高線(等值線)
  通常來說,二元函數(shù) z = f(x,y)在幾何上表示一個曲面,這個曲面被平面 z = c(c為常數(shù))所截得的曲線L的方程為:
  如何搞定機器學(xué)習(xí)中的拉格朗日?看看這個乘子法與KKT條件大招
  這是一條空間曲線,這條曲線L在xOy平面上的投影是一條平面曲線L*,它在xOy平面直角坐標系中的方程為:f(x,y) = c 。對于曲線L*上的一切點,已給函數(shù)的函數(shù)值都是c,所以我們稱平面曲線L*為函數(shù)z = f(x,y)的等值線(等高線)。再來看看等高線的一些性質(zhì):
  若fx,fy不同時為零,則等高線 f(x,y) = c上任一點P(x0,y0)處的一個單位法向量為:
  如何搞定機器學(xué)習(xí)中的拉格朗日?看看這個乘子法與KKT條件大招
  這表明函數(shù)f(x,y)在一點(x0,y0)的梯度?f(x0,y0)的方向就是等高線f(x,y) = c在這點的法向量的方向,而梯度的模|?f(x0,y0)|就是沿這個法線方向的方向?qū)?shù)?f/?n,于是有:
  如何搞定機器學(xué)習(xí)中的拉格朗日?看看這個乘子法與KKT條件大招

非常好我支持^.^

(0) 0%

不好我反對

(1) 100%

      發(fā)表評論

      用戶評論
      評價:好評中評差評

      發(fā)表評論,獲取積分! 請遵守相關(guān)規(guī)定!

      ?
      主站蜘蛛池模板: 天天国产在线精品亚洲| 无套内谢大学生A片| 三级黄色在线观看| 樱桃视频高清免费观看在线播放| 国产精品久久久久久精品...| 青青草国拍2018| 97人人添人人澡人人澡人人澡 | 韩国hd高清xxx| 性夜夜春夜夜爽AA片A| 国产精品亚洲AV色欲在线观看| 神马影院午夜伦理限级| 国产成人mv 在线播放| 丝袜足控免费网站xx91| 大地影院日本韩国电影免费观看| 日本又黄又爽又色又刺激的视频| 第七色男人天堂| 我要色色网| 久久国产精品永久免费网站| 最近日本字幕免费高清| 欧美性情video sexo视频| 国产AV精品久久久毛片| 午夜一区二区三区| 老师真棒无遮瑕版漫画免费| 99RE6国产精品视频播放| 日韩视频中文在线一区| 国产激情视频在线播放| 亚洲色视在线观看视频| 欧美性猛交xxxxxxxx软件| 国产91青青成人a在线| 亚洲国产在线午夜视频无| 免费一级片网站| 国产午夜高潮熟女精品AV| 99精品久久| 亚洲国产在线播放在线| 欧美区 bt| 久久精品亚洲精品国产欧美| 第一次破女初国产美女| 在线看免费毛片| 亚洲AV国产国产久青草| 欧美16一17sex性hd| 久久青草影院|