ResourceApplyCenteredRmsProp

genel son sınıf ResourceApplyCenteredRmsProp

'*var'ı ortalanmış RMSProp algoritmasına göre güncelleyin.

Merkezlenmiş RMSProp algoritması, (merkezlenmemiş) ikinci anı kullanan normal RMSProp'un aksine, normalleştirme için ortalanmış ikinci momentin (yani varyansın) bir tahminini kullanır. Bu genellikle eğitime yardımcı olur, ancak hesaplama ve hafıza açısından biraz daha pahalıdır.

Bu algoritmanın yoğun uygulanmasında mg, ms ve mom'un grad sıfır olsa bile güncelleneceğini, ancak bu seyrek uygulamada mg, ms ve mom'un grad'ın sıfır olduğu yinelemelerde güncellenmeyeceğini unutmayın.

ortalama_kare = bozunum * ortalama_kare + (1-bozunma) * gradyan ** 2 ortalama_gradyan = bozunma * ortalama_gradyan + (1-bozunma) * gradyan

Delta = öğrenme_oranı * gradyan / sqrt(ortalama_kare + epsilon - ortalama_grad ** 2)

mg <- rho * mg_{t-1} + (1-rho) * derece ms <- rho * ms_{t-1} + (1-rho) * derece * derece anne <- momentum * anne_{t-1 } + lr * grad / sqrt(ms - mg * mg + epsilon) var <- var - mom

İç İçe Sınıflar

sınıf ResourceApplyCenteredRmsProp.Options ResourceApplyCenteredRmsProp için isteğe bağlı özellikler

Sabitler

Sicim OP_NAME Bu operasyonun TensorFlow çekirdek motoru tarafından bilinen adı

Genel Yöntemler

statik <T, TType'ı genişletir > ResourceApplyCenteredRmsProp
create ( Kapsam kapsamı, İşlenen <?> var, İşlenen <?> mg, İşlenen <?> ms, İşlenen <?> anne, İşlenen <T> lr, İşlenen <T> rho, İşlenen <T> momentum, İşlenen <T > epsilon, İşlenen <T> grad, Seçenekler... seçenekler)
Yeni bir ResourceApplyCenteredRmsProp işlemini saran bir sınıf oluşturmaya yönelik fabrika yöntemi.
statik ResourceApplyCenteredRmsProp.Options
useLocking (Boolean useLocking)

Kalıtsal Yöntemler

Sabitler

genel statik son Dize OP_NAME

Bu operasyonun TensorFlow çekirdek motoru tarafından bilinen adı

Sabit Değer: "ResourceApplyCenteredRMSProp"

Genel Yöntemler

public static ResourceApplyCenteredRmsProp create ( Kapsam kapsamı, İşlenen <?> var, İşlenen <?> mg, İşlenen <?> ms, İşlenen <?> anne, İşlenen <T> lr, İşlenen <T> rho, İşlenen <T> momentumu, İşlenen <T> epsilon, İşlenen <T> grad, Seçenekler... seçenekler)

Yeni bir ResourceApplyCenteredRmsProp işlemini saran bir sınıf oluşturmaya yönelik fabrika yöntemi.

Parametreler
kapsam mevcut kapsam
var Bir Variable()'dan olmalıdır.
mg Bir Variable()'dan olmalıdır.
Hanım Bir Variable()'dan olmalıdır.
anne Bir Variable()'dan olmalıdır.
IR Ölçekleme faktörü. Bir skaler olmalı.
ro Çürüme oranı. Bir skaler olmalı.
itme Momentum Ölçeği. Bir skaler olmalı.
epsilon Ridge terimi. Bir skaler olmalı.
mezun Gradyan.
seçenekler isteğe bağlı nitelik değerlerini taşır
İadeler
  • ResourceApplyCenteredRmsProp'un yeni bir örneği

public static ResourceApplyCenteredRmsProp.Options useLocking (Boolean useLocking)

Parametreler
KullanımKilitleme 'Doğru' ise var, mg, ms ve mom tensörlerinin güncellenmesi bir kilitle korunur; aksi takdirde davranış tanımsızdır ancak daha az çekişme sergileyebilir.