RMSProp

klasa publiczna RMSProp

Optymalizator implementujący algorytm RMSProp.

Istotą RMSprop jest:

  • Utrzymuj średnią ruchomą (zdyskontowaną) kwadratu gradientów
  • Podziel gradient przez pierwiastek tej średniej

Ta implementacja RMSprop wykorzystuje zwykły pęd, a nie pęd Niestierowa.

Wersja wyśrodkowana dodatkowo utrzymuje średnią ruchomą gradientów i wykorzystuje tę średnią do oszacowania wariancji.

Stałe

wartość logiczna CENTERED_DEFAULT
platforma DECAY_DEFAULT
platforma EPSILON_DEFAULT
platforma LEARNING_RATE_DEFAULT
Strunowy mg
Strunowy PĘD
platforma MOMENTUM_DEFAULT
Strunowy RMS

Dziedziczone stałe

Konstruktorzy publiczni

RMSProp ( wykres graficzny )
Tworzy optymalizator RMSPRrop
RMSProp (wykres graficzny , współczynnik uczenia się typu float)
Tworzy optymalizator RMSPRrop
RMSProp (wykres wykresu , nauka floatRate, zanik float, pęd float, float epsilon, wartość logiczna wyśrodkowana)
Tworzy optymalizator RMSPRrop
RMSProp (wykres wykresu , nazwa ciągu, współczynnik uczenia się typu float)
Tworzy optymalizator RMSPRrop
RMSProp (wykres wykresu , nazwa ciągu, nauka floatRate, zanik float, pęd float, float epsilon, wartość logiczna wyśrodkowana)
Tworzy optymalizator RMSPRrop

Metody publiczne

Strunowy
getOptimizerName ()
Uzyskaj nazwę optymalizatora.
Strunowy

Metody dziedziczone

Stałe

publiczna statyczna końcowa wartość logiczna CENTERED_DEFAULT

Wartość stała: fałsz

publiczny statyczny końcowy float DECAY_DEFAULT

Wartość stała: 0,9

publiczny statyczny końcowy float EPSILON_DEFAULT

Wartość stała: 1,0E-10

publiczny statyczny końcowy float LEARNING_RATE_DEFAULT

Wartość stała: 0,001

publiczny statyczny końcowy ciąg MG

Wartość stała: „mg”

publiczny statyczny końcowy ciąg MOMENTUM

Wartość stała: „pęd”

publiczny statyczny końcowy float MOMENTUM_DEFAULT

Wartość stała: 0,0

publiczny statyczny końcowy ciąg RMS

Wartość stała: „rms”

Konstruktorzy publiczni

publiczny RMSProp (wykres graficzny )

Tworzy optymalizator RMSPRrop

Parametry
wykres wykres TensorFlow

public RMSProp (wykres wykresu , float learningRate)

Tworzy optymalizator RMSPRrop

Parametry
wykres wykres TensorFlow
Szybkość uczenia się tempo uczenia się

public RMSProp (wykres wykresu , nauka floatRate, zanik float, pęd float, float epsilon, wartość logiczna wyśrodkowana)

Tworzy optymalizator RMSPRrop

Parametry
wykres wykres TensorFlow
Szybkość uczenia się tempo uczenia się
rozkład Współczynnik dyskontujący dla gradientu historii/nadchodzącego. Domyślnie jest to 0,9.
pęd współczynnik przyspieszenia, domyślnie wynosi 0.
epsilon Mała stała zapewniająca stabilność numeryczną
wyśrodkowany Jeśli true , gradienty są normalizowane przez szacowaną wariancję gradientu; jeśli false , przez niecentryczny drugi moment. Ustawienie tej wartości na true może pomóc w szkoleniu, ale jest nieco droższe pod względem obliczeń i pamięci. Domyślnie jest to false .

publiczny RMSProp (wykres wykresu , nazwa ciągu, współczynnik uczenia się typu float)

Tworzy optymalizator RMSPRrop

Parametry
wykres wykres TensorFlow
nazwa nazwa tego Optymalizatora. Domyślnie jest to „RMSProp”.
Szybkość uczenia się tempo uczenia się

publiczny RMSProp (wykres wykresu , nazwa ciągu, nauka floatRate, zanik float, pęd float, float epsilon, wartość logiczna wyśrodkowana)

Tworzy optymalizator RMSPRrop

Parametry
wykres wykres TensorFlow
nazwa nazwa tego Optymalizatora. Domyślnie jest to „RMSProp”.
Szybkość uczenia się tempo uczenia się
rozkład Współczynnik dyskontujący dla gradientu historii/nadchodzącego. Domyślnie jest to 0,9.
pęd Współczynnik przyspieszenia, domyślnie wynosi 0.
epsilon Mała stała zapewniająca stabilność numeryczną
wyśrodkowany Jeśli true , gradienty są normalizowane przez szacowaną wariancję gradientu; jeśli false , przez niecentryczny drugi moment. Ustawienie tej wartości na true może pomóc w szkoleniu, ale jest nieco droższe pod względem obliczeń i pamięci. Domyślnie jest to false .

Metody publiczne

public String getOptimizerName ()

Uzyskaj nazwę optymalizatora.

Zwroty
  • Nazwa optymalizatora.

publiczny ciąg do ciągu ()