SparseApplyMomentum

lớp cuối cùng công khai SparseApplyMomentum

Cập nhật các mục nhập có liên quan trong '*var' và '*accum' theo sơ đồ động lượng.

Đặt use_nesterov = True nếu bạn muốn sử dụng đà Nesterov.

Đó là đối với các hàng chúng tôi có grad, chúng tôi cập nhật var và accum như sau:

$$accum = accum * momentum + grad$$$$var -= lr * accum$$

Các lớp lồng nhau

lớp học SparseApplyMomentum.Options Thuộc tính tùy chọn cho SparseApplyMomentum

Hằng số

Sợi dây OP_NAME Tên của op này, được biết đến bởi công cụ lõi TensorFlow

Phương pháp công khai

Đầu ra <T>
asOutput ()
Trả về tay cầm tượng trưng của tensor.
tĩnh <T mở rộng TType > SparseApplyMomentum <T>
tạo ( Phạm vi phạm vi, Toán hạng <T> var, Toán hạng <T> accum, Toán hạng <T> lr, Toán hạng <T> grad, Toán hạng <? mở rộng TNumber > chỉ số, Động lượng Toán hạng <T>, Tùy chọn... tùy chọn)
Phương thức xuất xưởng để tạo một lớp bao bọc một thao tác SparseApplyMomentum mới.
Đầu ra <T>
ngoài ()
Tương tự như "var".
tĩnh SparseApplyMomentum.Options
useLocking (Boolean useLocking)
tĩnh SparseApplyMomentum.Options
useNesterov (Sử dụng BooleanNesterov)

Phương pháp kế thừa

Hằng số

Chuỗi cuối cùng tĩnh công khai OP_NAME

Tên của op này, được biết đến bởi công cụ lõi TensorFlow

Giá trị không đổi: "SparseApplyMomentum"

Phương pháp công khai

Đầu ra công khai <T> asOutput ()

Trả về tay cầm tượng trưng của tensor.

Đầu vào của các hoạt động TensorFlow là đầu ra của một hoạt động TensorFlow khác. Phương pháp này được sử dụng để thu được một thẻ điều khiển mang tính biểu tượng đại diện cho việc tính toán đầu vào.

public static SparseApplyMomentum <T> create ( Phạm vi phạm vi, Toán hạng <T> var, Toán hạng <T> accum, Toán hạng <T> lr, Toán hạng <T> grad, Toán hạng <? mở rộng TNumber > chỉ số, Động lượng toán hạng <T>, Tùy chọn ... tùy chọn)

Phương thức xuất xưởng để tạo một lớp bao bọc một thao tác SparseApplyMomentum mới.

Thông số
phạm vi phạm vi hiện tại
var Phải từ một Biến().
tích lũy Phải từ một Biến().
lr Tỷ lệ học. Phải là một vô hướng.
tốt nghiệp Độ dốc.
chỉ số Một vectơ chỉ số theo chiều thứ nhất của var và accum.
Quán tính Quán tính. Phải là một vô hướng.
tùy chọn mang các giá trị thuộc tính tùy chọn
Trả lại
  • một phiên bản mới của SparseApplyMomentum

Đầu ra công khai <T> out ()

Tương tự như "var".

public static SparseApplyMomentum.Options useLocking (Boolean useLocking)

Thông số
sử dụngKhóa Nếu `True`, việc cập nhật các tensor var và accum sẽ được bảo vệ bằng khóa; mặt khác, hành vi không được xác định, nhưng có thể ít gây tranh cãi hơn.

public static SparseApplyMomentum.Options useNesterov (Boolean useNesterov)

Thông số
sử dụngNesterov Nếu `True`, tenxơ được truyền để tính grad sẽ là var - lr * đà * tích lũy, vì vậy cuối cùng, var bạn nhận được thực sự là var - lr * xung lượng * tích lũy.