パブリック最終クラスApplyRmsProp
RMSProp アルゴリズムに従って「*var」を更新します。
このアルゴリズムの高密度実装では、grad が 0 であっても ms と mom は更新されますが、このスパース実装では、grad が 0 である反復では ms と mom は更新されないことに注意してください。
平均二乗 = 減衰 * 平均二乗 + (1-減衰) * 勾配 ** 2 デルタ = 学習率 * 勾配 / sqrt(平均二乗 + イプシロン)
ms <- rho * ms_{t-1} + (1-rho) * grad * grad mom <- 勢い * mom_{t-1} + lr * grad / sqrt(ms + epsilon) var <- var - mom
ネストされたクラス
クラス | applyRmsProp.Options | ApplyRmsProp のオプションの属性 |
定数
弦 | OP_NAME | TensorFlow コア エンジンによって認識される、この演算の名前 |
パブリックメソッド
出力<T> | asOutput () テンソルのシンボリック ハンドルを返します。 |
static <T extends TType > applyRmsProp <T> | |
出力<T> | 外() 「var」と同じです。 |
静的ApplyRmsProp.Options | useLocking (ブール型 useLocking) |
継承されたメソッド
定数
パブリック静的最終文字列OP_NAME
TensorFlow コア エンジンによって認識される、この演算の名前
定数値: "ApplyRMSProp"
パブリックメソッド
public Output <T> asOutput ()
テンソルのシンボリック ハンドルを返します。
TensorFlow オペレーションへの入力は、別の TensorFlow オペレーションの出力です。このメソッドは、入力の計算を表すシンボリック ハンドルを取得するために使用されます。
public static applyRmsProp <T> create (スコープscope,オペランド<T> var,オペランド<T> ms,オペランド<T> mom,オペランド<T> lr,オペランド<T> rho,オペランド<T> モーメント,オペランド<T > イプシロン、オペランド<T> grad、オプション...オプション)
新しいApplyRmsPropオペレーションをラップするクラスを作成するファクトリメソッド。
パラメーター
範囲 | 現在のスコープ |
---|---|
変数 | Variable() から取得する必要があります。 |
MS | Variable() から取得する必要があります。 |
お母さん | Variable() から取得する必要があります。 |
lr | スケーリング係数。スカラーでなければなりません。 |
ロー | 減衰率。スカラーでなければなりません。 |
イプシロン | リッジ用語。スカラーでなければなりません。 |
卒業生 | グラデーション。 |
オプション | オプションの属性値を持ちます |
戻り値
- applyRmsProp の新しいインスタンス
public static applyRmsProp.Options useLocking (ブール型 useLocking)
パラメーター
使用ロック | 「True」の場合、var、ms、および mom テンソルの更新はロックによって保護されます。それ以外の場合、動作は未定義ですが、競合が少なくなる可能性があります。 |
---|