コンジュゲートグラデーション入門

コンジュゲートグラデーション入門

共役勾配は、最も急な降下法とニュートン法の間の方法です。それは最初の微分情報を使用するだけで済みますが、最も急な降下法の遅い収束の欠点を克服し、ニュートン法の貯蔵の必要性を回避します。ヘッセン行列の計算と逆行列の見つけ方の欠点に加えて、共役勾配法は、大きな線形方程式を解く最も有用な方法の1つであるだけでなく、大きな非線形最適化を解く最も効果的なアルゴリズムの1つです。