ResourceSparseApplyCenteredRmsProp

パブリック最終クラスResourceSparseApplyCenteredRmsProp

中心の RMSProp アルゴリズムに従って「*var」を更新します。

中心RMSPropアルゴリズムは、(非中心の)2次モーメントを使用する通常のRMSPropとは対照的に、正規化に中心2次モーメント(つまり、分散)の推定値を使用します。これはトレーニングに役立つことがよくありますが、計算とメモリの点で若干高価になります。

このアルゴリズムの高密度実装では、grad が 0 であっても mg、ms、および mom が更新されますが、このスパース実装では、grad が 0 である反復では mg、ms、および mom が更新されないことに注意してください。

平均二乗 = 減衰 * 平均二乗 + (1-減衰) * 勾配 ** 2 平均等級 = 減衰 * 平均勾配 + (1-減衰) * 勾配 デルタ = 学習率 * 勾配 / sqrt(平均二乗 + イプシロン - 平均勾配 ** 2)

ms <- rho * ms_{t-1} + (1-rho) * grad * grad mom <- 勢い * mom_{t-1} + lr * grad / sqrt(ms + epsilon) var <- var - mom

ネストされたクラス

クラス

ResourceSparseApplyCenteredRmsProp.Options

ResourceSparseApplyCenteredRmsPropのオプションの属性

定数

弦

OP_NAME

TensorFlow コア エンジンによって認識される、この演算の名前

パブリックメソッド

static <T extends TType > ResourceSparseApplyCenteredRmsProp	create (スコープscope,オペランド<?> var,オペランド<?> mg,オペランド<?> ms,オペランド<?> mom,オペランド<T> lr,オペランド<T> rho,オペランド<T> モーメンタム,オペランド<T > イプシロン、オペランド<T> grad、オペランド<? extends TNumber > インデックス、オプション...オプション) 新しい ResourceSparseApplyCenteredRmsProp 操作をラップするクラスを作成するためのファクトリ メソッド。
静的ResourceSparseApplyCenteredRmsProp.Options	useLocking (ブール型 useLocking)

継承されたメソッド

クラスorg.tensorflow.op.RawOpから

最終ブール値	等しい(オブジェクトオブジェクト)
最終整数	ハッシュコード（）
手術	オプ() この計算単位を単一のOperationとして返します。
最後の文字列	toString ()

クラスjava.lang.Objectから

ブール値	等しい(オブジェクト arg0)
最終クラス<?>	getクラス()
整数	ハッシュコード（）
最後の空白	通知する()
最後の空白	すべて通知()
弦	toString ()
最後の空白	wait (long arg0, int arg1)
最後の空白	待機(長い引数0)
最後の空白	待って（）

インターフェースorg.tensorflow.op.Opから

抽象的な実行環境	環境() このオペレーションが作成された実行環境を返します。
抽象的な操作	オプ() この計算単位を単一のOperationとして返します。

定数

パブリック静的最終文字列OP_NAME

TensorFlow コア エンジンによって認識される、この演算の名前

定数値: "ResourceSparseApplyCenteredRMSProp"

パブリックメソッド

public static ResourceSparseApplyCenteredRmsProp create (スコープscope,オペランド<?> var,オペランド<?> mg,オペランド<?> ms,オペランド<?> mom,オペランド<T> lr,オペランド<T> rho,オペランド<T> モーメンタム,オペランド<T> イプシロン、オペランド<T> grad、オペランド<? extends TNumber > インデックス、オプション...オプション)

新しい ResourceSparseApplyCenteredRmsProp 操作をラップするクラスを作成するためのファクトリ メソッド。

パラメーター

範囲	現在のスコープ
変数	Variable() から取得する必要があります。
mg	Variable() から取得する必要があります。
MS	Variable() から取得する必要があります。
お母さん	Variable() から取得する必要があります。
lr	スケーリング係数。スカラーでなければなりません。
ロー	減衰率。スカラーでなければなりません。
イプシロン	リッジ用語。スカラーでなければなりません。
卒業生	グラデーション。
インデックス	var、ms、mom の最初の次元へのインデックスのベクトル。
オプション	オプションの属性値を持ちます

戻り値

• ResourceSparseApplyCenteredRmsProp の新しいインスタンス

public static ResourceSparseApplyCenteredRmsProp.Options useLocking (Boolean useLocking)

パラメーター

使用ロック	「True」の場合、var、mg、ms、mom テンソルの更新はロックによって保護されます。それ以外の場合、動作は未定義ですが、競合が少なくなる可能性があります。