tensorflow::ops::SparseApplyFtrl
#include <training_ops.h>อัปเดตรายการที่เกี่ยวข้องใน '*var' ตามรูปแบบ Ftrl-proximal
สรุป
สำหรับแถวที่เรามีข้อมูลการไล่ระดับ เราจะอัปเดตค่าตัวแปร ค่าสะสม และค่าเชิงเส้นดังนี้:
$$accum_new = accum + grad * grad$$
$$linear += grad + (accum_{new}^{-lr_{power} } - accum^{-lr_{power} } / lr * var$$
$$quadratic = 1.0 / (accum_{new}^{lr_{power} } * lr) + 2 * l2$$
$$var = (sign(linear) * l1 - linear) / quadratic\ if\ |linear| > l1\ else\ 0.0$$
$$accum = accum_{new}$$
ข้อโต้แย้ง:
- ขอบเขต: วัตถุ ขอบเขต
- var: ควรมาจาก Variable()
- accum: ควรมาจาก Variable()
- เชิงเส้น: ควรมาจากตัวแปร (Variable())
- grad: ค่าความชัน
- ดัชนี: เวกเตอร์ของดัชนีในมิติแรกของ var และ accum
- lr: ตัวคูณปรับขนาด ต้องเป็นค่าคงที่
- l1: การปรับค่า L1 ต้องเป็นค่าสเกลาร์
- l2: การปรับค่า L2 ต้องเป็นค่าสเกลาร์
- lr_power: ตัวคูณปรับขนาด ต้องเป็นค่าคงที่
คุณลักษณะเสริม (ดูที่ Attrs ):
- use_locking: หากตั้งค่า
Trueการอัปเดตเทนเซอร์ var และ accum จะได้รับการป้องกันด้วยการล็อก มิเช่นนั้นพฤติกรรมจะไม่แน่นอน แต่การแย่งชิงทรัพยากรอาจน้อยลง
การส่งคืนสินค้า:
-
Output: เหมือนกับ "var"
ตัวสร้างและตัวทำลาย | |
|---|---|
SparseApplyFtrl (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input linear, :: tensorflow::Input grad, :: tensorflow::Input indices, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input lr_power) | |
SparseApplyFtrl (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input linear, :: tensorflow::Input grad, :: tensorflow::Input indices, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input lr_power, const SparseApplyFtrl::Attrs & attrs) |
คุณลักษณะสาธารณะ | |
|---|---|
operation | |
out | |
หน้าที่สาธารณะ | |
|---|---|
node () const | ::tensorflow::Node * |
operator::tensorflow::Input () const | |
operator::tensorflow::Output () const | |
ฟังก์ชันคงที่สาธารณะ | |
|---|---|
UseLocking (bool x) | |
โครงสร้าง | |
|---|---|
| tensorflow::ops::SparseApplyFtrl::Attrs | ตัวเลือกการตั้งค่าแอตทริบิวต์สำหรับ SparseApplyFtrl |
คุณลักษณะสาธารณะ
การดำเนินการ
Operation operation
ออก
::tensorflow::Output out
หน้าที่สาธารณะ
SparseApplyFtrl
SparseApplyFtrl( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input linear, ::tensorflow::Input grad, ::tensorflow::Input indices, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input lr_power )
SparseApplyFtrl
SparseApplyFtrl( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input linear, ::tensorflow::Input grad, ::tensorflow::Input indices, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input lr_power, const SparseApplyFtrl::Attrs & attrs )
โหนด
::tensorflow::Node * node() const
ตัวดำเนินการ::เทนเซอร์โฟลว์::อินพุต
operator::tensorflow::Input() const
ตัวดำเนินการ::เทนเซอร์โฟลว์::เอาต์พุต
operator::tensorflow::Output() const
ฟังก์ชันคงที่สาธารณะ
ใช้การล็อก
Attrs UseLocking( bool x )