Классы
NcclAllReduce <T расширяет TNumber > | Выводит тензор, содержащий сокращение всех входных тензоров. |
NcclBroadcast <T расширяет TNumber > | Отправляет вход всем устройствам, подключенным к выходу. |
NcclReduce <T расширяет TNumber > | Уменьшает «вход» из «num_devices», используя «сокращение» до одного устройства. |