InviaTPUEmbeddingGradients

classe finale pubblica SendTPUEmbeddingGradients

Esegue aggiornamenti gradienti delle tabelle di incorporamento.

Metodi pubblici

SendTPUEmbeddingGradients statici
create (ambito di applicazione , ingressi Iterable< operando <Float>>, iterable< operando <Float>> learningRates, configurazione stringa)
Metodo factory per creare una classe che racchiude una nuova operazione SendTPUEmbeddingGradients.

Metodi ereditati

Metodi pubblici

creazione di SendTPUEmbeddingGradients statici pubblici (ambito di applicazione , ingressi Iterable< operando <Float>>, iterable< operando <Float>> learningRates, configurazione stringa)

Metodo factory per creare una classe che racchiude una nuova operazione SendTPUEmbeddingGradients.

Parametri
scopo ambito attuale
input Un TensorList di gradienti con cui aggiornare le tabelle di incorporamento. Questo argomento ha la stessa lunghezza e forma del valore restituito di RecvTPUEmbeddingActivations, ma contiene gradienti di perdita del modello rispetto alle attivazioni di incorporamento. Le tabelle di incorporamento vengono aggiornate da questi gradienti tramite l'ottimizzatore specificato nella configurazione di incorporamento TPU fornita a tpu.initialize_system.
Tassi di apprendimento Un TensorList di scalari float32, uno per ogni tag di tasso di apprendimento dinamico: vedere i commenti in //third_party/tensorflow/core/protobuf/tpu/optimization_parameters.proto. Più tabelle possono condividere lo stesso tag di tasso di apprendimento dinamico come specificato nella configurazione. Se i tassi di apprendimento per tutte le tabelle sono costanti, questo elenco dovrebbe essere vuoto.
config Prototipo TPUEmbeddingConfiguration serializzato.
ritorna
  • una nuova istanza di SendTPUEmbeddingGradients