ResourceApplyCenteredRmsProp

パブリック最終クラスResourceApplyCenteredRmsProp

中心の RMSProp アルゴリズムに従って「*var」を更新します。

中心RMSPropアルゴリズムは、(非中心の)2次モーメントを使用する通常のRMSPropとは対照的に、正規化に中心2次モーメント(つまり、分散)の推定値を使用します。これはトレーニングに役立つことがよくありますが、計算とメモリの点で若干高価になります。

このアルゴリズムの高密度実装では、grad が 0 であっても mg、ms、および mom が更新されますが、このスパース実装では、grad が 0 である反復では mg、ms、および mom が更新されないことに注意してください。

平均二乗 = 減衰 * 平均二乗 + (1-減衰) * 勾配 ** 2 平均勾配 = 減衰 * 平均勾配 + (1-減衰) * 勾配

デルタ = 学習率 * 勾配 / sqrt(平均二乗 + イプシロン - 平均勾配 ** 2)

mg <- rho * mg_{t-1} + (1-rho) * grad ms <- rho * ms_{t-1} + (1-rho) * grad * grad mom <- 勢い * mom_{t-1 } + lr * grad / sqrt(ms - mg * mg + イプシロン) var <- var - mom

ネストされたクラス

クラスResourceApplyCenteredRmsProp.Options ResourceApplyCenteredRmsPropのオプションの属性

定数

弦OP_NAME TensorFlow コア エンジンによって認識される、この演算の名前

パブリックメソッド

static <T extends TType > ResourceApplyCenteredRmsProp
create (スコープscope,オペランド<?> var,オペランド<?> mg,オペランド<?> ms,オペランド<?> mom,オペランド<T> lr,オペランド<T> rho,オペランド<T> モーメンタム,オペランド<T > イプシロン、オペランド<T> grad、オプション...オプション)
新しい ResourceApplyCenteredRmsProp 操作をラップするクラスを作成するためのファクトリ メソッド。
静的ResourceApplyCenteredRmsProp.Options
useLocking (ブール型 useLocking)

継承されたメソッド

定数

パブリック静的最終文字列OP_NAME

TensorFlow コア エンジンによって認識される、この演算の名前

定数値: "ResourceApplyCenteredRMSProp"

パブリックメソッド

public static ResourceApplyCenteredRmsProp create (スコープscope,オペランド<?> var,オペランド<?> mg,オペランド<?> ms,オペランド<?> mom,オペランド<T> lr,オペランド<T> rho,オペランド<T> モーメンタム,オペランド<T> イプシロン、オペランド<T> grad、オプション...オプション)

新しい ResourceApplyCenteredRmsProp 操作をラップするクラスを作成するためのファクトリ メソッド。

パラメーター
範囲現在のスコープ
変数Variable() から取得する必要があります。
mg Variable() から取得する必要があります。
MS Variable() から取得する必要があります。
お母さんVariable() から取得する必要があります。
lrスケーリング係数。スカラーでなければなりません。
ロー減衰率。スカラーでなければなりません。
勢い勢いスケール。スカラーでなければなりません。
イプシロンリッジ用語。スカラーでなければなりません。
卒業生グラデーション。
オプションオプションの属性値を持ちます
戻り値
  • ResourceApplyCenteredRmsProp の新しいインスタンス

public static ResourceApplyCenteredRmsProp.Options useLocking (Boolean useLocking)

パラメーター
使用ロック「True」の場合、var、mg、ms、mom テンソルの更新はロックによって保護されます。それ以外の場合、動作は未定義ですが、競合が少なくなる可能性があります。