次梯度法
02-25
次梯度法是求解凸函數(shù)最優(yōu)化(凸優(yōu)化)問題的一種迭代法。次梯度法能夠用于不可微的目標(biāo)函數(shù)。當(dāng)目標(biāo)函數(shù)可微時,對于無約束問題次梯度法與梯度下降法具有同樣的搜索方向。雖然在實(shí)際的應(yīng)用中,次梯度法比內(nèi)點(diǎn)法和牛頓法慢得多,但是次梯度法可以直接應(yīng)用于更廣泛的問題,次梯度法只需要很少的存儲需求。然而,通過將次梯度法與分解技術(shù)結(jié)合,有時能夠開發(fā)出問題的簡單分配算法。