Zajęcia
NcclAllReduce <T rozszerza TNumber > | Wysyła tensor zawierający redukcję we wszystkich tensorach wejściowych. |
NcclBroadcast <T rozszerza numer TNumber > | Wysyła dane wejściowe do wszystkich urządzeń podłączonych do wyjścia. |
NcclReduce <T rozszerza numer T > | Zmniejsza „wejście” z „liczby_urządzeń” za pomocą „redukcji” do jednego urządzenia. |