텐서플로우:: 작전:: 신청아담

#include <training_ops.h>

Adam 알고리즘에 따라 '*var'를 업데이트합니다.

요약

$$lr_t := {learning_rate} * {1 - beta_2^t} / (1 - beta_1^t)$$
$$m_t := beta_1 * m_{t-1} + (1 - beta_1) * g$$
$$v_t := beta_2 * v_{t-1} + (1 - beta_2) * g * g$$
$$variable := variable - lr_t * m_t / ({v_t} + )$$

인수:

  • 범위: 범위 개체
  • var: Variable()에서 가져와야 합니다.
  • m: Variable()에서 가져와야 합니다.
  • v: Variable()에서 가져와야 합니다.
  • beta1_power: 스칼라여야 합니다.
  • beta2_power: 스칼라여야 합니다.
  • lr: 스케일링 팩터. 스칼라여야 합니다.
  • 베타1: 모멘텀 요인. 스칼라여야 합니다.
  • 베타2: 모멘텀 요인. 스칼라여야 합니다.
  • 엡실론: 능선 항. 스칼라여야 합니다.
  • grad: 그라데이션입니다.

선택적 속성( Attrs 참조):

  • use_locking: True 이면 var, m, v 텐서의 업데이트가 잠금으로 보호됩니다. 그렇지 않으면 동작이 정의되지 않지만 경합이 덜 나타날 수 있습니다.
  • use_nesterov: True 인 경우 네스테로프 업데이트를 사용합니다.

보고:

  • Output : "var"과 동일합니다.

생성자와 소멸자

ApplyAdam (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input m, :: tensorflow::Input v, :: tensorflow::Input beta1_power, :: tensorflow::Input beta2_power, :: tensorflow::Input lr, :: tensorflow::Input beta1, :: tensorflow::Input beta2, :: tensorflow::Input epsilon, :: tensorflow::Input grad)
ApplyAdam (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input m, :: tensorflow::Input v, :: tensorflow::Input beta1_power, :: tensorflow::Input beta2_power, :: tensorflow::Input lr, :: tensorflow::Input beta1, :: tensorflow::Input beta2, :: tensorflow::Input epsilon, :: tensorflow::Input grad, const ApplyAdam::Attrs & attrs)

공개 속성

operation
out

공공 기능

node () const
::tensorflow::Node *
operator::tensorflow::Input () const
operator::tensorflow::Output () const

공개 정적 함수

UseLocking (bool x)
UseNesterov (bool x)

구조체

텐서플로우:: ops:: ApplyAdam:: 속성

ApplyAdam 의 선택적 속성 설정자입니다.

공개 속성

작업 

Operation operation

밖으로 

::tensorflow::Output out

공공 기능

신청아담 

 ApplyAdam(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input m,
  ::tensorflow::Input v,
  ::tensorflow::Input beta1_power,
  ::tensorflow::Input beta2_power,
  ::tensorflow::Input lr,
  ::tensorflow::Input beta1,
  ::tensorflow::Input beta2,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad
)

신청아담 

 ApplyAdam(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input m,
  ::tensorflow::Input v,
  ::tensorflow::Input beta1_power,
  ::tensorflow::Input beta2_power,
  ::tensorflow::Input lr,
  ::tensorflow::Input beta1,
  ::tensorflow::Input beta2,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad,
  const ApplyAdam::Attrs & attrs
)

마디 

::tensorflow::Node * node() const

연산자::텐서플로우::입력 

 operator::tensorflow::Input() const

연산자::텐서플로우::출력 

 operator::tensorflow::Output() const

공개 정적 함수

사용잠금 

Attrs UseLocking(
  bool x
)

사용Nesterov 

Attrs UseNesterov(
  bool x
)