在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

您好,歡迎來電子發燒友網! ,新用戶?[免費注冊]

您的位置:電子發燒友網>源碼下載>數值算法/人工智能>

如何搞定機器學習中的拉格朗日?看看這個乘子法與KKT條件大招

大?。?/span>0.4 MB 人氣: 2017-12-06 需要積分:1
 一 前置知識
  拉格朗日乘子法是一種尋找多元函數在一組約束下的極值方法,通過引入拉格朗日乘子,可將有m個變量和n個約束條件的最優化問題轉化為具有m+n個變量的無約束優化問題。在介紹拉格朗日乘子法之前,先簡要的介紹一些前置知識,然后就拉格朗日乘子法談一下自己的理解。
  1.梯度
  梯度是一個與方向導數有關的概念,它是一個向量。在二元函數的情形,設函數f(x,y)在平面區域D內具有一階連續偏導,則對于每一點P(x0,y0)∈D,都可以定義出一個向量:fx(x0,y0)i+fy(x0,y0)j ,稱該向量為函數f(x,y)在點P(x0,y0)
  的梯度。并記作grad f(x0,y0) 或者?f(x0,y0),即 grad f(x0,y0) = ?f(x0,y0) = fx(x0,y0)i+fy(x0,y0)j=(fx(x0,y0),fy(x0,y0)) 。
  再來看看梯度和方向導數的關系:如果函數f(x,y)在P(x0,y0)點可微,el = (cosα,cosβ)是與方向L同向的單位向量,則?f/?L|(x0,y0) = fx(x0,y0)cosα+fy(x0,y0)cosβ = grad f(x0,y0).el = |grad f(x0,y0)|.cosθ ,其中θ表示的梯度與el 的夾角。由此可知,當θ = 0時,el 與梯度的方向相同時,此時方向導數最大,函數f(x,y)增長最快;當θ = π時,el 與梯度的方向相反時,此時方向導數最小且為負,函數f(x,y)減小最快。
  2.等高線(等值線)
  通常來說,二元函數 z = f(x,y)在幾何上表示一個曲面,這個曲面被平面 z = c(c為常數)所截得的曲線L的方程為:
  如何搞定機器學習中的拉格朗日?看看這個乘子法與KKT條件大招
  這是一條空間曲線,這條曲線L在xOy平面上的投影是一條平面曲線L*,它在xOy平面直角坐標系中的方程為:f(x,y) = c 。對于曲線L*上的一切點,已給函數的函數值都是c,所以我們稱平面曲線L*為函數z = f(x,y)的等值線(等高線)。再來看看等高線的一些性質:
  若fx,fy不同時為零,則等高線 f(x,y) = c上任一點P(x0,y0)處的一個單位法向量為:
  如何搞定機器學習中的拉格朗日?看看這個乘子法與KKT條件大招
  這表明函數f(x,y)在一點(x0,y0)的梯度?f(x0,y0)的方向就是等高線f(x,y) = c在這點的法向量的方向,而梯度的模|?f(x0,y0)|就是沿這個法線方向的方向導數?f/?n,于是有:
  如何搞定機器學習中的拉格朗日?看看這個乘子法與KKT條件大招

非常好我支持^.^

(0) 0%

不好我反對

(1) 100%

      發表評論

      用戶評論
      評價:好評中評差評

      發表評論,獲取積分! 請遵守相關規定!

      ?
      主站蜘蛛池模板: 国产网站大全 | 怡红院日本| 国产一区二区三区四卡 | 三级视频在线 | 福利区在线观看 | 亚洲六月婷婷 | 天天做夜夜做 | 男人视频网站 | 久久www免费人成看片色多多 | 色婷婷六月丁香在线观看 | 国内一级野外a一级毛片 | 天天av天天翘天天综合网 | 免费人成在线观看网站品爱网日本 | 人人艹在线 | 国产男女怕怕怕免费视频 | 日韩在线一区二区 | 人人爱人人艹 | 国产毛片久久久久久国产毛片 | 国产片翁熄系列乱在线视频 | 国产又黄又爽又猛的免费视频播放 | 国产三级黄色毛片 | 亚洲伊人天堂 | 色婷婷在线视频 | 成熟女人免费一级毛片 | 欧美性色xo影院永久禁欲 | 欧美做a欧美 | 伊人精品成人久久综合欧美 | 九九re6精品视频在线观看 | 久操成人 | 国产精品久久久亚洲456 | 韩国免费三片在线视频 | 欧美在线高清视频 | 一级毛片免费不卡在线视频 | freesexvideo性残疾 | 日韩亚洲人成在线综合日本 | 免费一级在线 | 久久99热精品 | 特一级黄色毛片 | 色老成人精品视频在线观看 | 禁网站在线观看免费视频 | 天天摸天天干 |