AllToAll

aula final pública AllToAll

Uma operação para trocar dados entre réplicas de TPU.

Em cada réplica, a entrada é dividida em blocos `split_count` ao longo de `split_dimension` e enviada para as outras réplicas, dado group_assignment. Depois de receber blocos `split_count` - 1 de outras réplicas, concatenamos os blocos junto com `concat_dimension` como saída.

Por exemplo, suponha que haja 2 réplicas de TPU: a réplica 0 recebe a entrada: `[[A, B]]` a réplica 1 recebe a entrada: `[[C, D]]`

group_assignment=`[[0, 1]]` concat_dimension=0 split_dimension=1 split_count=2

saída da réplica 0: `[[A], [C]]` saída da réplica 1: `[[B], [D]]`

Constantes

Corda OP_NAME O nome desta operação, conforme conhecido pelo mecanismo principal do TensorFlow

Métodos Públicos

Saída <T>
asOutput ()
Retorna o identificador simbólico do tensor.
estático <T estende TType > AllToAll <T>
create ( escopo do escopo , entrada do operando <T>, operando < TInt32 > groupAssignment, concatDimension longo, splitDimension longo, splitCount longo)
Método de fábrica para criar uma classe que envolve uma nova operação AllToAll.
Saída <T>
saída ()
O resultado trocado.

Métodos herdados

org.tensorflow.op.RawOp
booleano final
é igual (objeto obj)
int final
Operação
op ()
Retorne esta unidade de cálculo como uma única Operation .
sequência final
boleano
é igual (objeto arg0)
aula final<?>
getClass ()
interno
código hash ()
vazio final
notificar ()
vazio final
notificar todos ()
Corda
para sequenciar ()
vazio final
espere (long arg0, int arg1)
vazio final
espere (arg0 longo)
vazio final
espere ()
org.tensorflow.op.Op
ambiente de execução abstrato
env ()
Retorne o ambiente de execução em que esta operação foi criada.
operação abstrata
op ()
Retorne esta unidade de cálculo como uma única Operation .
org.tensorflow.Operand
Saída abstrata <T>
asOutput ()
Retorna o identificador simbólico do tensor.
abstrato T
comoTensor ()
Retorna o tensor neste operando.
forma abstrata
forma ()
Retorna a forma (possivelmente parcialmente conhecida) do tensor referido pela Output deste operando.
Classe abstrata<T>
tipo ()
Retorna o tipo de tensor deste operando
org.tensorflow.ndarray.Shaped
abstrato int
forma abstrata
forma ()
abstrato longo
tamanho ()
Calcula e retorna o tamanho total deste contêiner, em número de valores.

Constantes

String final estática pública OP_NAME

O nome desta operação, conforme conhecido pelo mecanismo principal do TensorFlow

Valor constante: "AllToAll"

Métodos Públicos

Saída pública <T> asOutput ()

Retorna o identificador simbólico do tensor.

As entradas para operações do TensorFlow são saídas de outra operação do TensorFlow. Este método é usado para obter um identificador simbólico que representa o cálculo da entrada.

public static AllToAll <T> create (Escopo escopo , Operando <T> entrada, Operando <TInt32> groupAssignment, Long concatDimension, Long splitDimension, Long splitCount)

Método de fábrica para criar uma classe que envolve uma nova operação AllToAll.

Parâmetros
escopo escopo atual
entrada A entrada local para a soma.
atribuição de grupo Um tensor int32 com forma [num_groups, num_replicas_per_group]. `group_assignment[i]` representa os IDs de réplica no i-ésimo subgrupo.
concatDimension O número da dimensão a ser concatenado.
splitDimension O número da dimensão a ser dividida.
contagem dividida O número de divisões, este número deve ser igual ao tamanho do subgrupo (group_assignment.get_shape()[1])
Devoluções
  • uma nova instância de AllToAll

Saída pública <T> saída ()

O resultado trocado.