dòng chảy :: hoạt động :: ResourceSparseApplyProximalAdagrad
#include <training_ops.h>
Các mục cập nhật thưa thớt trong '* var' và '* Accu' theo thuật toán FOBOS.
Tóm lược
Đó là đối với các hàng chúng ta có grad, chúng ta cập nhật var và tích lũy như sau: Accu + = grad * grad prox_v = var prox_v - = lr * grad * (1 / sqrt (Accu)) var = sign (prox_v) / (1 + lr * l2) * max {| prox_v | -lr * l1,0}
Tranh luận:
- phạm vi: Một đối tượng Phạm vi
- var: Phải từ một Biến ().
- Tích lũy: Phải từ một Biến ().
- lr: Tỷ lệ học tập. Phải là một vô hướng.
- l1: Chính quy hóa L1. Phải là một vô hướng.
- l2: Chính quy hóa L2. Phải là một vô hướng.
- grad: Độ dốc.
- chỉ số: Một vectơ của các chỉ số trong thứ nguyên đầu tiên của var và Accu.
Các thuộc tính tùy chọn (xem Phần Attrs
):
- use_locking: Nếu True, việc cập nhật các tenxơ var và tích lũy sẽ được bảo vệ bằng một khóa; nếu không thì hành vi không được xác định, nhưng có thể ít biểu hiện sự cạnh tranh hơn.
Lợi nhuận:
-
Operation
đã tạo
Người xây dựng và Người phá hủy | |
---|---|
ResourceSparseApplyProximalAdagrad (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad, :: tensorflow::Input indices) | |
ResourceSparseApplyProximalAdagrad (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad, :: tensorflow::Input indices, const ResourceSparseApplyProximalAdagrad::Attrs & attrs) |
Thuộc tính công khai | |
---|---|
operation |
Chức năng công cộng | |
---|---|
operator::tensorflow::Operation () const |
Các chức năng tĩnh công khai | |
---|---|
UseLocking (bool x) |
Cấu trúc | |
---|---|
tensorflow :: ops :: ResourceSparseApplyProximalAdagrad :: Attrs | Bộ thiết lập thuộc tính tùy chọn cho ResourceSparseApplyProximalAdagrad . |
Thuộc tính công khai
hoạt động
Operation operation
Chức năng công cộng
ResourceSparseApplyProximalAdagrad
ResourceSparseApplyProximalAdagrad( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input grad, ::tensorflow::Input indices )
ResourceSparseApplyProximalAdagrad
ResourceSparseApplyProximalAdagrad( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input grad, ::tensorflow::Input indices, const ResourceSparseApplyProximalAdagrad::Attrs & attrs )
toán tử :: tensorflow :: Hoạt động
operator::tensorflow::Operation() const
Các chức năng tĩnh công khai
UseLocking
Attrs UseLocking( bool x )