Calcola la propagazione in avanti della cella LSTM per 1 fase temporale.
Questa implementazione utilizza 1 matrice di peso e 1 vettore di polarizzazione ed è disponibile una connessione spioncino opzionale.
Questo kernel operativo implementa le seguenti equazioni matematiche:
xh = [x, h_prev]
[i, f, ci, o] = xh * w + b
f = f + forget_bias
if not use_peephole:
wci = wcf = wco = 0
i = sigmoid(cs_prev * wci + i)
f = sigmoid(cs_prev * wcf + f)
ci = tanh(ci)
cs = ci .* i + cs_prev .* f
cs = clip(cs, cell_clip)
o = sigmoid(cs * wco + o)
co = tanh(cs)
h = co .* o
Classi annidate
classe | LSTMBlockCell.Options | Attributi facoltativi per LSTMBlockCell |
Metodi pubblici
static LSTMBlockCell.Options | cellClip (Float cellClip) |
Uscita <T> | ci () L'input della cella. |
Uscita <T> | co () La cella dopo il tanh. |
static <T estende il numero> LSTMBlockCell <T> | |
Uscita <T> | cs () Lo stato cellulare prima del tanh. |
Uscita <T> | f () Il cancello del dimenticato. |
static LSTMBlockCell.Options | dimenticareBias (Float dimenticareBias) |
Uscita <T> | h () Il vettore h di output. |
Uscita <T> | io () Il cancello di ingresso. |
Uscita <T> | o () Il cancello di uscita. |
static LSTMBlockCell.Options | usePeephole (booleano usePeephole) |
Metodi ereditati
Metodi pubblici
public static LSTMBlockCell.Options cellClip (Float cellClip)
Parametri
cellClip | Valore su cui ritagliare il valore "cs". |
---|
public static LSTMBlockCell <T> create ( ambito ambito, operando <T> x, operando <T> csPrev, operando <T> hPrev, operando <T> w, operando <T> wci, operando <T> wcf, operando <T > wco, operando <T> b, opzioni ... opzioni)
Metodo Factory per creare una classe che avvolge una nuova operazione LSTMBlockCell.
Parametri
scopo | ambito attuale |
---|---|
X | L'input per la cella LSTM, shape (batch_size, num_inputs). |
csPrev | Valore dello stato della cella nella fase temporale precedente. |
hPrev | Output della cella precedente al passaggio temporale precedente. |
w | La matrice del peso. |
wci | La matrice del peso per la connessione dello spioncino del gate di ingresso. |
wcf | La matrice di peso per la connessione di spioncino dimenticare gate. |
wco | La matrice del peso per la connessione dello spioncino del gate di uscita. |
b | Il vettore di bias. |
opzioni | trasporta valori di attributi opzionali |
ritorna
- una nuova istanza di LSTMBlockCell
public static LSTMBlockCell.Options dimenticareBias (Float dimenticareBias)
Parametri
dimenticare Bias | Il pregiudizio del cancello del dimenticato. |
---|
public static LSTMBlockCell.Options usePeephole (Boolean usePeephole)
Parametri
usePeephole | Se usare pesi spioncino. |
---|