SparseApplyRmsProp

lớp cuối cùng công khai SparseApplyRmsProp

Cập nhật '*var' theo thuật toán RMSProp.

Lưu ý rằng khi triển khai dày đặc thuật toán này, ms và mom sẽ cập nhật ngay cả khi grad bằng 0, nhưng trong cách triển khai thưa thớt này, ms và mom sẽ không cập nhật trong các lần lặp trong đó grad bằng 0.

trung bình_vuông = phân rã * trung bình_vuông + (1-phân rã) * gradient ** 2 Delta = tốc độ học tập * gradient / sqrt(mean_square + epsilon)

$$ms <- rho * ms_{t-1} + (1-rho) * grad * grad$$$$mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon)$$$$var <- var - mom$$

Các lớp lồng nhau

lớp học

SparseApplyRmsProp.Options

Thuộc tính tùy chọn cho SparseApplyRmsProp

Hằng số

Sợi dây

OP_NAME

Tên của op này, được biết đến bởi công cụ lõi TensorFlow

Phương pháp công cộng

Đầu ra <T>	asOutput () Trả về tay cầm tượng trưng của tensor.
tĩnh <T mở rộng TType > SparseApplyRmsProp <T>	tạo ( Phạm vi phạm vi, Toán hạng <T> var, Toán hạng <T> ms, Toán hạng <T> mẹ, Toán hạng <T> lr, Toán hạng <T> rho, Toán hạng <T> đà, Toán hạng <T> epsilon, Toán hạng <T > grad, Toán hạng <? mở rộng TNumber > chỉ mục, Tùy chọn... tùy chọn) Phương thức xuất xưởng để tạo một lớp bao bọc thao tác SparseApplyRmsProp mới.
Đầu ra <T>	ngoài () Tương tự như "var".
tĩnh SparseApplyRmsProp.Options	useLocking (Boolean useLocking)

Phương pháp kế thừa

Từ lớp org.tensorflow.op.RawOp

boolean cuối cùng	bằng (Đối tượng obj)
int cuối cùng	Mã Băm ()
Hoạt động	ồ () Trả về đơn vị tính toán này dưới dạng một Operation .
chuỗi cuối cùng	toString ()

Từ lớp java.lang.Object

boolean	bằng (Đối tượng arg0)
Lớp cuối cùng<?>	getClass ()
int	Mã Băm ()
khoảng trống cuối cùng	thông báo ()
khoảng trống cuối cùng	thông báoTất cả ()
Sợi dây	toString ()
khoảng trống cuối cùng	chờ đã (arg0 dài, int arg1)
khoảng trống cuối cùng	chờ đã (arg0 dài)
khoảng trống cuối cùng	Chờ đợi ()

Từ giao diện org.tensorflow.op.Op

môi trường thực thi trừu tượng	env () Trả về môi trường thực thi mà op này được tạo trong đó.
hoạt động trừu tượng	ồ () Trả về đơn vị tính toán này dưới dạng một Operation .

Từ giao diện org.tensorflow.Operand

Đầu ra trừu tượng <T>	asOutput () Trả về tay cầm tượng trưng của tensor.
trừu tượng T	asTensor () Trả về tensor ở toán hạng này.
hình dạng trừu tượng	hình dạng () Trả về hình dạng (có thể đã biết một phần) của tensor được tham chiếu bởi Output của toán hạng này.
Lớp trừu tượng<T>	kiểu () Trả về kiểu tensor của toán hạng này

Từ giao diện org.tensorflow.ndarray.Shaped

int trừu tượng	thứ hạng ()
hình dạng trừu tượng	hình dạng ()
trừu tượng dài	kích cỡ () Tính toán và trả về tổng kích thước của vùng chứa này, theo số lượng giá trị.

Hằng số

Chuỗi cuối cùng tĩnh công khai OP_NAME

Tên của op này, được biết đến bởi công cụ lõi TensorFlow

Giá trị không đổi: "SparseApplyRMSProp"

Phương pháp công cộng

Đầu ra công khai <T> asOutput ()

Trả về tay cầm tượng trưng của tensor.

Đầu vào của các hoạt động TensorFlow là đầu ra của một hoạt động TensorFlow khác. Phương pháp này được sử dụng để thu được một thẻ điều khiển mang tính biểu tượng đại diện cho việc tính toán đầu vào.

public static SparseApplyRmsProp <T> tạo ( Phạm vi phạm vi, Toán hạng <T> var, Toán hạng <T> ms, Toán hạng <T> mẹ, Toán hạng <T> lr, Toán hạng <T> rho, Toán hạng <T> đà, Toán hạng <T > epsilon, Toán hạng <T> grad, Toán hạng <? mở rộng TNumber > chỉ mục, Tùy chọn... tùy chọn)

Phương thức xuất xưởng để tạo một lớp bao bọc thao tác SparseApplyRmsProp mới.

Thông số

phạm vi	phạm vi hiện tại
var	Phải từ một Biến().
bệnh đa xơ cứng	Phải từ một Biến().
mẹ	Phải từ một Biến().
lr	Yếu tố nhân rộng. Phải là một vô hướng.
rho	Tốc độ phân hủy. Phải là một vô hướng.
epsilon	Thuật ngữ sườn núi. Phải là một vô hướng.
tốt nghiệp	Độ dốc.
chỉ số	Một vectơ chỉ số theo chiều thứ nhất của var, ms và mom.
tùy chọn	mang các giá trị thuộc tính tùy chọn

Trả lại

• một phiên bản mới của SparseApplyRmsProp

Đầu ra công khai <T> out ()

Tương tự như "var".

public static SparseApplyRmsProp.Options useLocking (Boolean useLocking)

Thông số

sử dụngKhóa	Nếu `True`, việc cập nhật các tensor var, ms và mom được bảo vệ bằng khóa; mặt khác, hành vi không được xác định, nhưng có thể ít gây tranh cãi hơn.