Обновите '*var' по схеме Ftrl-proximal.
grad_with_shrinkage = grad + 2 * l2_shrinkage * var accum_new = accum + grad_with_shrinkage * grad_with_shrinkage линейный += grad_with_shrinkage + (accum_new^(-lr_power) - accum^(-lr_power)) / lr * var квадратичный = 1.0 / (accum_new^(lr_power) * lr) + 2 * l2 var = (знак(линейный) * l1 - линейный)/квадратичный, если |линейный| > l1 еще 0,0 аккум = аккум_новый
Вложенные классы
сорт | ResourceApplyFtrl.Options | Дополнительные атрибуты для ResourceApplyFtrl |
Константы
Нить | OP_NAME | Название этой операции, известное основному движку TensorFlow. |
Публичные методы
статический <T расширяет TType > ResourceApplyFtrl | create ( Область видимости , Операнд <?> var, Операнд <?> accum, Операнд <?> линейный, Операнд <T> grad, Операнд <T> lr, Операнд <T> l1, Операнд <T> l2, Операнд <T > l2Shrinkage, Операнд <T> lrPower, Опции... опции) Фабричный метод для создания класса, обертывающего новую операцию ResourceApplyFtrl. |
статический ResourceApplyFtrl.Options | MultipleLinearByLr (логическое значение MultipleLinearByLr) |
статический ResourceApplyFtrl.Options | useLocking (логическое значение useLocking) |
Унаследованные методы
Константы
общедоступная статическая финальная строка OP_NAME
Название этой операции, известное основному движку TensorFlow.
Публичные методы
public static ResourceApplyFtrl create ( Область действия, Операнд <?> var, Операнд <?> accum, Операнд <?> линейный, Операнд <T> grad, Операнд <T> lr, Операнд <T> l1, Операнд <T> l2, Операнд <T> l2Сжатие, Операнд <T> lrPower, Опции... опции)
Фабричный метод для создания класса, обертывающего новую операцию ResourceApplyFtrl.
Параметры
объем | текущий объем |
---|---|
вар | Должно быть из переменной(). |
накапливать | Должно быть из переменной(). |
линейный | Должно быть из переменной(). |
выпускник | Градиент. |
лр | Коэффициент масштабирования. Должно быть скаляр. |
л1 | Регуляризация L1. Должно быть скаляр. |
л2 | Регуляризация усадки L2. Должно быть скаляр. |
lrPower | Коэффициент масштабирования. Должно быть скаляр. |
параметры | содержит значения необязательных атрибутов |
Возврат
- новый экземпляр ResourceApplyFtrl
общедоступный статический ResourceApplyFtrl.Options MultipleLinearByLr (логическое значение MultipleLinearByLr)
общедоступный статический ResourceApplyFtrl.Options useLocking (логическое значение useLocking)
Параметры
использоватьLocking | Если `True`, обновление тензоров var и accum будет защищено блокировкой; в противном случае поведение не определено, но может вызывать меньше конфликтов. |
---|