'*var'ı ortalanmış RMSProp algoritmasına göre güncelleyin.
Merkezlenmiş RMSProp algoritması, (merkezlenmemiş) ikinci anı kullanan normal RMSProp'un aksine, normalleştirme için ortalanmış ikinci momentin (yani varyansın) bir tahminini kullanır. Bu genellikle eğitime yardımcı olur, ancak hesaplama ve hafıza açısından biraz daha pahalıdır.
Bu algoritmanın yoğun uygulanmasında mg, ms ve mom'un grad sıfır olsa bile güncelleneceğini, ancak bu seyrek uygulamada mg, ms ve mom'un grad'ın sıfır olduğu yinelemelerde güncellenmeyeceğini unutmayın.
ortalama_kare = bozunum * ortalama_kare + (1-bozunma) * gradyan ** 2 ortalama_grad = bozunma * ortalama_grad + (1-bozunma) * gradyan Delta = öğrenme_oranı * gradyan / sqrt(ortalama_kare + epsilon - ortalama_grad ** 2)
ms <- rho * ms_{t-1} + (1-rho) * grad * grad mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon) var <- var - mom
İç İçe Sınıflar
sınıf | ResourceSparseApplyCenteredRmsProp.Options | ResourceSparseApplyCenteredRmsProp için isteğe bağlı özellikler |
Sabitler
Sicim | OP_NAME | Bu operasyonun TensorFlow çekirdek motoru tarafından bilinen adı |
Genel Yöntemler
static <T, TType'ı genişletir > ResourceSparseApplyCenteredRmsProp | create ( Kapsam kapsamı, İşlenen <?> var, İşlenen <?> mg, İşlenen <?> ms, İşlenen <?> anne, İşlenen <T> lr, İşlenen <T> rho, İşlenen <T> momentum, İşlenen <T > epsilon, İşlenen <T> grad, İşlenen <? TNumber'ı genişletir > dizinler, Seçenekler... seçenekler) Yeni bir ResourceSparseApplyCenteredRmsProp işlemini saran bir sınıf oluşturmaya yönelik fabrika yöntemi. |
statik ResourceSparseApplyCenteredRmsProp.Options | useLocking (Boolean useLocking) |
Kalıtsal Yöntemler
Sabitler
genel statik son Dize OP_NAME
Bu operasyonun TensorFlow çekirdek motoru tarafından bilinen adı
Genel Yöntemler
public static ResourceSparseApplyCenteredRmsProp create ( Kapsam kapsamı, İşlenen <?> var, İşlenen <?> mg, İşlenen <?> ms, İşlenen <?> anne, İşlenen <T> lr, İşlenen <T> rho, İşlenen <T> momentumu, İşlenen <T> epsilon, İşlenen <T> grad, İşlenen <? extends TNumber > dizinler, Seçenekler... seçenekler)
Yeni bir ResourceSparseApplyCenteredRmsProp işlemini saran bir sınıf oluşturmaya yönelik fabrika yöntemi.
Parametreler
kapsam | mevcut kapsam |
---|---|
var | Bir Variable()'dan olmalıdır. |
mg | Bir Variable()'dan olmalıdır. |
Hanım | Bir Variable()'dan olmalıdır. |
anne | Bir Variable()'dan olmalıdır. |
IR | Ölçekleme faktörü. Bir skaler olmalı. |
ro | Çürüme oranı. Bir skaler olmalı. |
epsilon | Ridge terimi. Bir skaler olmalı. |
mezun | Gradyan. |
endeksler | var, ms ve mom'un birinci boyutuna ait indekslerin bir vektörü. |
seçenekler | isteğe bağlı nitelik değerlerini taşır |
İadeler
- ResourceSparseApplyCenteredRmsProp'un yeni bir örneği
public static ResourceSparseApplyCenteredRmsProp.Options useLocking (Boolean useLocking)
Parametreler
KullanımKilitleme | 'Doğru' ise var, mg, ms ve mom tensörlerinin güncellenmesi bir kilitle korunur; aksi takdirde davranış tanımsızdır ancak daha az çekişme sergileyebilir. |
---|
'*var'ı ortalanmış RMSProp algoritmasına göre güncelleyin.
Merkezlenmiş RMSProp algoritması, (merkezlenmemiş) ikinci anı kullanan normal RMSProp'un aksine, normalleştirme için ortalanmış ikinci momentin (yani varyansın) bir tahminini kullanır. Bu genellikle eğitime yardımcı olur, ancak hesaplama ve hafıza açısından biraz daha pahalıdır.
Bu algoritmanın yoğun uygulanmasında mg, ms ve mom'un grad sıfır olsa bile güncelleneceğini, ancak bu seyrek uygulamada mg, ms ve mom'un grad'ın sıfır olduğu yinelemelerde güncellenmeyeceğini unutmayın.
ortalama_kare = bozunum * ortalama_kare + (1-bozunma) * gradyan ** 2 ortalama_grad = bozunma * ortalama_grad + (1-bozunma) * gradyan Delta = öğrenme_oranı * gradyan / sqrt(ortalama_kare + epsilon - ortalama_grad ** 2)
ms <- rho * ms_{t-1} + (1-rho) * grad * grad mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon) var <- var - mom
İç İçe Sınıflar
sınıf | ResourceSparseApplyCenteredRmsProp.Options | ResourceSparseApplyCenteredRmsProp için isteğe bağlı özellikler |
Sabitler
Sicim | OP_NAME | Bu operasyonun TensorFlow çekirdek motoru tarafından bilinen adı |
Genel Yöntemler
static <T, TType'ı genişletir > ResourceSparseApplyCenteredRmsProp | create ( Kapsam kapsamı, İşlenen <?> var, İşlenen <?> mg, İşlenen <?> ms, İşlenen <?> anne, İşlenen <T> lr, İşlenen <T> rho, İşlenen <T> momentum, İşlenen <T > epsilon, İşlenen <T> grad, İşlenen <? TNumber'ı genişletir > dizinler, Seçenekler... seçenekler) Yeni bir ResourceSparseApplyCenteredRmsProp işlemini saran bir sınıf oluşturmaya yönelik fabrika yöntemi. |
statik ResourceSparseApplyCenteredRmsProp.Options | useLocking (Boolean useLocking) |
Kalıtsal Yöntemler
Sabitler
genel statik son Dize OP_NAME
Bu operasyonun TensorFlow çekirdek motoru tarafından bilinen adı
Genel Yöntemler
public static ResourceSparseApplyCenteredRmsProp create ( Kapsam kapsamı, İşlenen <?> var, İşlenen <?> mg, İşlenen <?> ms, İşlenen <?> anne, İşlenen <T> lr, İşlenen <T> rho, İşlenen <T> momentumu, İşlenen <T> epsilon, İşlenen <T> grad, İşlenen <? extends TNumber > dizinler, Seçenekler... seçenekler)
Yeni bir ResourceSparseApplyCenteredRmsProp işlemini saran bir sınıf oluşturmaya yönelik fabrika yöntemi.
Parametreler
kapsam | mevcut kapsam |
---|---|
var | Bir Variable()'dan olmalıdır. |
mg | Bir Variable()'dan olmalıdır. |
Hanım | Bir Variable()'dan olmalıdır. |
anne | Bir Variable()'dan olmalıdır. |
IR | Ölçekleme faktörü. Bir skaler olmalı. |
ro | Çürüme oranı. Bir skaler olmalı. |
epsilon | Ridge terimi. Bir skaler olmalı. |
mezun | Gradyan. |
endeksler | var, ms ve mom'un birinci boyutuna ait indekslerin bir vektörü. |
seçenekler | isteğe bağlı nitelik değerlerini taşır |
İadeler
- ResourceSparseApplyCenteredRmsProp'un yeni bir örneği
public static ResourceSparseApplyCenteredRmsProp.Options useLocking (Boolean useLocking)
Parametreler
KullanımKilitleme | 'Doğru' ise var, mg, ms ve mom tensörlerinin güncellenmesi bir kilitle korunur; aksi takdirde davranış tanımsızdır ancak daha az çekişme sergileyebilir. |
---|