RMSProp

RMSProp kelas publik

Pengoptimal yang mengimplementasikan algoritma RMSProp.

Inti dari RMSprop adalah:

  • Pertahankan rata-rata pergerakan kuadrat gradien
  • Bagilah gradien dengan akar rata-rata ini

Implementasi RMSprop ini menggunakan momentum biasa, bukan momentum Nesterov.

Versi terpusat juga mempertahankan rata-rata pergerakan gradien, dan menggunakan rata-rata tersebut untuk memperkirakan variansnya.

Konstanta

boolean PUSAT_DEFAULT
mengambang DECAY_DEFAULT
mengambang EPSILON_DEFAULT
mengambang BELAJAR_RATE_DEFAULT
Rangkaian mg
Rangkaian MOMENTUM
mengambang MOMENTUM_DEFAULT
Rangkaian RMS

Konstanta yang Diwarisi

Konstruktor Publik

RMSProp ( Grafik grafik)
Membuat Pengoptimal RMSPRrop
RMSProp (Grafik grafik , kecepatan pembelajaran mengambang)
Membuat Pengoptimal RMSPRrop
RMSProp (Grafik grafik , kecepatan pembelajaran float, peluruhan float, momentum float, epsilon float, berpusat boolean)
Membuat Pengoptimal RMSPRrop
RMSProp (Grafik grafik , Nama string, Tingkat pembelajaran mengambang)
Membuat Pengoptimal RMSPRrop
RMSProp ( Grafik grafik , Nama string, Kecepatan pembelajaran float, peluruhan float, momentum float, epsilon float, berpusat boolean)
Membuat Pengoptimal RMSPRrop

Metode Publik

Rangkaian
dapatkan Nama Pengoptimal ()
Dapatkan Nama pengoptimal.
Rangkaian

Metode Warisan

Konstanta

boolean akhir statis publik CENTERED_DEFAULT

Nilai Konstan: salah

float akhir statis publik DECAY_DEFAULT

Nilai Konstan: 0,9

float akhir statis publik EPSILON_DEFAULT

Nilai Konstan: 1.0E-10

float akhir statis publik LEARNING_RATE_DEFAULT

Nilai Konstan: 0,001

String MG akhir statis publik

Nilai Konstan: "mg"

MOMENTUM String akhir statis publik

Nilai Konstan: "momentum"

float akhir statis publik MOMENTUM_DEFAULT

Nilai Konstan: 0,0

String RMS akhir statis publik

Nilai Konstan: "rms"

Konstruktor Publik

RMSProp publik ( Grafik grafik)

Membuat Pengoptimal RMSPRrop

Parameter
grafik Grafik TensorFlow

RMSProp publik (Grafik grafik , tingkat pembelajaran mengambang)

Membuat Pengoptimal RMSPRrop

Parameter
grafik Grafik TensorFlow
Tingkat pembelajaran kecepatan pembelajaran

RMSProp publik (Grafik grafik , kecepatan pembelajaran float, peluruhan float, momentum float, epsilon float, berpusat boolean)

Membuat Pengoptimal RMSPRrop

Parameter
grafik Grafik TensorFlow
Tingkat pembelajaran kecepatan pembelajaran
membusuk Faktor diskon untuk sejarah/gradien yang akan datang. Defaultnya adalah 0,9.
momentum faktor akselerasi, defaultnya adalah 0.
epsilon Konstanta kecil untuk stabilitas numerik
terpusat Jika true , gradien dinormalisasi dengan perkiraan varians gradien; jika false , pada momen kedua yang tidak terpusat. Menyetelnya ke true mungkin membantu pelatihan, namun sedikit lebih mahal dalam hal komputasi dan memori. Defaultnya adalah false .

RMSProp publik (Grafik grafik , Nama string, Tingkat pembelajaran mengambang)

Membuat Pengoptimal RMSPRrop

Parameter
grafik Grafik TensorFlow
nama nama Pengoptimal ini. Defaultnya adalah "RMSProp".
Tingkat pembelajaran kecepatan pembelajaran

RMSProp publik ( Grafik grafik, Nama string, Kecepatan pembelajaran float, peluruhan float, momentum float, epsilon float, berpusat boolean)

Membuat Pengoptimal RMSPRrop

Parameter
grafik Grafik TensorFlow
nama nama Pengoptimal ini. Defaultnya adalah "RMSProp".
Tingkat pembelajaran kecepatan pembelajaran
membusuk Faktor diskon untuk sejarah/gradien yang akan datang. Defaultnya adalah 0,9.
momentum Faktor akselerasi, defaultnya adalah 0.
epsilon Konstanta kecil untuk stabilitas numerik
terpusat Jika true , gradien dinormalisasi dengan perkiraan varians gradien; jika false , pada momen kedua yang tidak terpusat. Menyetelnya ke true mungkin membantu pelatihan, namun sedikit lebih mahal dalam hal komputasi dan memori. Defaultnya adalah false .

Metode Publik

String publik getOptimizerName ()

Dapatkan Nama pengoptimal.

Kembali
  • Nama pengoptimal.

String publik keString ()