Chức năng kích hoạt Swish. swish(x) = x * sigmoid(x)
.
Hàm kích hoạt Swish trả về x*sigmoid(x)
. Đó là một chức năng mượt mà, không đơn điệu, luôn khớp hoặc vượt trội hơn ReLU
trên các mạng sâu, nó không bị giới hạn ở trên và bị giới hạn ở dưới.
Cách sử dụng ví dụ:
Operand<TFloat32> input = tf.constant(new float[] {-20, -1.0, 0.0, 1.0, 20}); Swish<TFloat32> swish = new Swish<>(tf); Operand<TFloat32> result = swish.call(input); // result = [-4.1223075e-08f, -2.6894143e-01f, 0.0000000e+00f, // 7.3105860e-01f, 2.0000000e+01f ]
Xem thêm
Nhà xây dựng công cộng
Swish (Ops tf) Tạo kích hoạt Swish, swish(x) = x * sigmoid(x) . |
Phương pháp công khai
Toán hạng <T> |
Phương pháp kế thừa
Nhà xây dựng công cộng
Swish công khai (Ops tf)
Tạo kích hoạt Swish, swish(x) = x * sigmoid(x)
.
Hàm kích hoạt Swish trả về x*sigmoid(x)
. Đó là một chức năng mượt mà, không đơn điệu, luôn khớp hoặc vượt trội hơn ReLU trên các mạng sâu, nó không bị giới hạn ở trên và bị giới hạn ở dưới.
Thông số
tf | hoạt động của TensorFlow |
---|