NcclAllReduce

lớp cuối cùng công khai NcclAllReduce

Xuất ra một tensor chứa mức giảm trên tất cả các tensor đầu vào.

Xuất ra một tensor chứa mức rút gọn trên tất cả các tensor đầu vào được chuyển đến các op trong cùng một `shared_name.

Biểu đồ phải được xây dựng để nếu một op chạy với giá trị Shared_name `c`, thì các op `num_devices` sẽ chạy với giá trị Shared_name `c`. Nếu không làm như vậy sẽ khiến việc thực thi biểu đồ không hoàn thành.

đầu vào: đầu vào của dữ liệu giảm: giá trị giảm trên tất cả các thiết bị `num_devices`. giảm: hoạt động giảm để thực hiện. num_devices: Số lượng thiết bị tham gia đợt giảm này. Shared_name: Mã định danh được chia sẻ giữa các hoạt động có cùng mức giảm.

Hằng số

Sợi dây OP_NAME Tên của op này, được biết đến bởi công cụ lõi TensorFlow

Phương pháp công khai

Đầu ra <T>
asOutput ()
Trả về tay cầm tượng trưng của tensor.
tĩnh <T mở rộng TNumber > NcclAllReduce <T>
tạo ( Phạm vi phạm vi, đầu vào Toán hạng <T>, Giảm chuỗi, Số thiết bị dài, Tên chia sẻ chuỗi)
Phương thức xuất xưởng để tạo một lớp bao bọc thao tác NcclAllReduce mới.
Đầu ra <T>

Phương pháp kế thừa

Hằng số

Chuỗi cuối cùng tĩnh công khai OP_NAME

Tên của op này, được biết đến bởi công cụ lõi TensorFlow

Giá trị không đổi: "NcclAllReduce"

Phương pháp công khai

Đầu ra công khai <T> asOutput ()

Trả về tay cầm tượng trưng của tensor.

Đầu vào của các hoạt động TensorFlow là đầu ra của một hoạt động TensorFlow khác. Phương pháp này được sử dụng để thu được một thẻ điều khiển mang tính biểu tượng đại diện cho việc tính toán đầu vào.

public static NcclAllReduce <T> tạo (Phạm vi phạm vi, đầu vào Toán hạng <T>, Giảm chuỗi, Số thiết bị dài, Tên chia sẻ chuỗi)

Phương thức xuất xưởng để tạo một lớp bao bọc thao tác NcclAllReduce mới.

Thông số
phạm vi phạm vi hiện tại
Trả lại
  • một phiên bản mới của NcclAllReduce

Dữ liệu đầu ra công khai <T> ()