RMSProp

публичный класс RMSProp

Оптимизатор, реализующий алгоритм RMSProp.

Суть RMSprop заключается в следующем:

  • Поддерживать скользящее (дисконтированное) среднее квадрата градиентов.
  • Разделите градиент на корень этого среднего значения.

Эта реализация RMSprop использует простой импульс, а не импульс Нестерова.

Центрированная версия дополнительно поддерживает скользящее среднее градиентов и использует это среднее значение для оценки дисперсии.

Константы

логическое значение CENTERED_DEFAULT
плавать DECAY_DEFAULT
плавать EPSILON_DEFAULT
плавать LEARNING_RATE_DEFAULT
Нить МГ
Нить МОМЕНТУМ
плавать MOMENTUM_DEFAULT
Нить среднеквадратичное значение

Унаследованные константы

Публичные конструкторы

RMSProp ( график )
Создает оптимизатор RMSPRrop.
RMSProp (график графика , скорость обучения с плавающей запятой)
Создает оптимизатор RMSPRrop.
RMSProp (график графика , скорость обучения с плавающей запятой, затухание с плавающей запятой, импульс с плавающей запятой, эпсилон с плавающей запятой, логическое центрирование)
Создает оптимизатор RMSPRrop.
RMSProp (график графика , имя строки, скорость обучения с плавающей запятой)
Создает оптимизатор RMSPRrop.
RMSProp (график графика , имя строки, скорость обучения с плавающей запятой, затухание с плавающей запятой, импульс с плавающей запятой, эпсилон с плавающей запятой, логическое центрирование)
Создает оптимизатор RMSPRrop.

Публичные методы

Нить
getOptimizerName ()
Получите имя оптимизатора.
Нить

Унаследованные методы

Константы

общедоступное статическое окончательное логическое значение CENTERED_DEFAULT

Постоянное значение: ложь

общедоступный статический финальный float DECAY_DEFAULT

Постоянное значение: 0,9

общедоступный статический финальный float EPSILON_DEFAULT

Постоянное значение: 1,0E-10

общедоступный статический финальный плавающий элемент LEARNING_RATE_DEFAULT

Постоянное значение: 0,001

общедоступная статическая финальная строка MG

Постоянное значение: «мг»

публичная статическая финальная строка MOMENTUM

Постоянное значение: «импульс».

общедоступный статический финальный float MOMENTUM_DEFAULT

Постоянное значение: 0,0

общедоступная статическая финальная строка RMS

Постоянное значение: «rms»

Публичные конструкторы

общедоступный RMSProp ( график )

Создает оптимизатор RMSPRrop.

Параметры
график граф TensorFlow

public RMSProp ( график , float LearningRate)

Создает оптимизатор RMSPRrop.

Параметры
график граф TensorFlow
Скорость обучения скорость обучения

public RMSProp (график графика , скорость обучения с плавающей запятой, затухание с плавающей запятой, импульс с плавающей запятой, эпсилон с плавающей запятой, логическое центрирование)

Создает оптимизатор RMSPRrop.

Параметры
график граф TensorFlow
Скорость обучения скорость обучения
разлагаться Коэффициент дисконтирования для исторического/предстоящего градиента. По умолчанию 0,9.
импульс коэффициент ускорения, по умолчанию равен 0.
эпсилон Небольшая константа для численной стабильности
центрированный Если true , градиенты нормализуются по предполагаемой дисперсии градиента; если false , то по нецентрированному второму моменту. Установка значения true может помочь в обучении, но требует немного больше затрат с точки зрения вычислений и памяти. По умолчанию установлено значение false .

public RMSProp (график графика , имя строки, скорость обучения с плавающей запятой)

Создает оптимизатор RMSPRrop.

Параметры
график граф TensorFlow
имя имя этого оптимизатора. По умолчанию «RMSProp».
Скорость обучения скорость обучения

public RMSProp (график графика , имя строки, скорость обучения с плавающей запятой, затухание с плавающей запятой, импульс с плавающей запятой, эпсилон с плавающей запятой, логическое центрирование)

Создает оптимизатор RMSPRrop.

Параметры
график граф TensorFlow
имя имя этого оптимизатора. По умолчанию «RMSProp».
Скорость обучения скорость обучения
разлагаться Коэффициент дисконтирования для исторического/предстоящего градиента. По умолчанию 0,9.
импульс Коэффициент ускорения, по умолчанию равен 0.
эпсилон Небольшая константа для численной стабильности
центрированный Если true , градиенты нормализуются по предполагаемой дисперсии градиента; если false , то по нецентрированному второму моменту. Установка значения true может помочь в обучении, но требует немного больше затрат с точки зрения вычислений и памяти. По умолчанию установлено значение false .

Публичные методы

общедоступная строка getOptimizerName ()

Получите имя оптимизатора.

Возврат
  • Имя оптимизатора.

публичная строка toString ()