AdaGradDA

публичный класс AdaGradDA

Оптимизатор, реализующий алгоритм двойного усреднения Adagrad.

Этот оптимизатор заботится о регуляризации невидимых функций в мини-пакете, обновляя их, когда они появляются, с помощью правила обновления закрытой формы, которое эквивалентно их обновлению в каждом мини-пакете.

AdagradDA обычно используется, когда требуется большая разреженность обученной модели. Этот оптимизатор гарантирует разреженность только для линейных моделей. Будьте осторожны при использовании AdagradDA для глубоких сетей, поскольку для обучения потребуется тщательная инициализация аккумуляторов градиента.

Смотрите также

• Дучи, Дж. и др., 2011, Адаптивные субградиентные методы для онлайн-обучения и стохастической оптимизации.

Константы

Нить	АККУМУЛЯТОР
плавать	INITIAL_ACCUMULATOR_DEFAULT
плавать	L1_STRENGTH_DEFAULT
плавать	L2_STRENGTH_DEFAULT
плавать	LEARNING_RATE_DEFAULT
Нить	SQUARED_ACCUMULATOR

Унаследованные константы

Из класса org.tensorflow.framework.optimizers.Optimizer

Нить

ПЕРЕМЕННАЯ_V2

Публичные конструкторы

	AdaGradDA ( График- график) Создает оптимизатор AdaGradDA.
	AdaGradDA (график графика , скорость обучения с плавающей запятой) Создает оптимизатор AdaGradDA.
	AdaGradDA (график графика , float LearningRate, float InitialAccumulatorValue, float l1Strength, float l2Strength) Создает оптимизатор AdaGradDA.
	AdaGradDA (график графика , имя строки, скорость обучения с плавающей запятой) Создает оптимизатор AdaGradDA.
	AdaGradDA ( график графика, имя строки, float LearningRate, float InitialAccumulatorValue, float l1Strength, float l2Strength) Создает оптимизатор AdaGradDA.

Публичные методы

Нить	getOptimizerName () Получите имя оптимизатора.
Нить	нанизывать ()

Унаследованные методы

Из класса org.tensorflow.framework.optimizers.Optimizer

Оп	applyGradients (List< GradAndVar <? расширяет TType >> gradsAndVars, имя строки) Применяет градиенты к переменным
<T расширяет TType > List< GradAndVar <?>>	ComputeGradients ( Операнд <?> потеря) Вычисляет градиенты на основе операнда потерь.
статическая строка	createName ( Вывод <? расширяет переменную TType >, String slotName) Создает имя путем объединения имени переменной и имени слота.
абстрактная строка	getOptimizerName () Получите имя оптимизатора.
<T расширяет TType > Необязательно< Переменная <T>>	getSlot ( Вывод <T> var, строка slotName) Получает слот, связанный с указанной переменной и именем слота.
финальная операция	получитьТФ () Получает экземпляр Ops оптимизатора.
Оп	минимизировать ( Операнд <?> потеря) Минимизирует потери за счет обновления переменных
Оп	минимизировать (потеря операнда <?>, имя строки) Минимизирует потери за счет обновления переменных

Из класса java.lang.Object

логическое значение	равно (Объект arg0)
последний класс<?>	получитьКласс ()
интервал	хэш-код ()
окончательная пустота	поставить в известность ()
окончательная пустота	уведомитьВсе ()
Нить	нанизывать ()
окончательная пустота	подождать (длинный arg0, int arg1)
окончательная пустота	подождите (длинный arg0)
окончательная пустота	ждать ()

Константы

общедоступный статический окончательный строковый аккумулятор

Постоянное значение: «gradient_accumulator»

общедоступный статический финальный float INITIAL_ACCUMULATOR_DEFAULT

Постоянное значение: 0,1

общедоступный статический финальный плавающий элемент L1_STRENGTH_DEFAULT

Постоянное значение: 0,0

общедоступный статический финальный плавающий элемент L2_STRENGTH_DEFAULT

Постоянное значение: 0,0

общедоступный статический финальный плавающий элемент LEARNING_RATE_DEFAULT

Постоянное значение: 0,001

общедоступная статическая финальная строка SQUARED_ACCUMULATOR

Постоянное значение: «gradient_squared_accumulator»

Публичные конструкторы

публичный AdaGradDA ( график )

Создает оптимизатор AdaGradDA.

Параметры

график	граф TensorFlow

public AdaGradDA ( график , float LearningRate)

Создает оптимизатор AdaGradDA.

Параметры

график	граф TensorFlow
Скорость обучения	скорость обучения

public AdaGradDA (график графика , float LearningRate, float InitialAccumulatorValue, float l1Strength, float l2Strength)

Создает оптимизатор AdaGradDA.

Параметры

график	граф TensorFlow
Скорость обучения	скорость обучения
начальное значение аккумулятора	Начальное значение аккумуляторов должно быть больше нуля.
l1Сила	Сила регуляризации l1 должна быть больше или равна нулю.
l2Сила	Сила регуляризации l2 должна быть больше или равна нулю.

Броски

IllegalArgumentException	если InitialAccumulatorValue не больше нуля или l1Strength или l2Strength меньше нуля

public AdaGradDA (график графика , имя строки, скорость обучения с плавающей запятой)

Создает оптимизатор AdaGradDA.

Параметры

график	граф TensorFlow
имя	имя этого оптимизатора (по умолчанию «adagrad-da»)
Скорость обучения	скорость обучения

public AdaGradDA (график графика , имя строки, float LearningRate, float InitialAccumulatorValue, float l1Strength, float l2Strength)

Создает оптимизатор AdaGradDA.

Параметры

график	граф TensorFlow
имя	имя этого оптимизатора (по умолчанию «adagrad-da»)
Скорость обучения	скорость обучения
начальное значение аккумулятора	Начальное значение аккумуляторов должно быть положительным.
l1Сила	Сила регуляризации l1 должна быть больше или равна нулю.
l2Сила	Сила регуляризации l2 должна быть больше или равна нулю.

Броски

IllegalArgumentException	если InitialAccumulatorValue не больше нуля или * l1Strength или l2Strength меньше нуля

Публичные методы

общедоступная строка getOptimizerName ()

Получите имя оптимизатора.

Возврат

• Имя оптимизатора.

публичная строка toString ()