Il dialetto TensorFlow Lite.
Questo dialetto è mappato sulle operazioni di TensorFlow Lite.
Invarianti:
- Tutti i valori sono di tipo tensore (in particolare, gli scalari sono rappresentati utilizzando tensori a dimensione zero);
Operazioni
tfl.abs
(TFL::AbsOp)
Operatore di valore assoluto
Dato un tensore x
, questa operazione restituisce un tensore contenente il valore assoluto di ciascun elemento in x
. Ad esempio, se x è un elemento di input e y è un elemento di output, questa operazione calcola \(y = |x|\).
Tratti: AlwaysSpeculatableImplTrait
, QuantizableResult
, SameOperandsAndResultShape
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
x | tensore di valori interi senza segno a 16 bit o interi senza segno a 32 bit o float a 32 bit o di tipo QI8 o di tipo QI16 |
Risultati:
Risultato | Descrizione |
---|---|
y | tensore di valori interi senza segno a 16 bit o interi senza segno a 32 bit o float a 32 bit o di tipo QI8 o di tipo QI16 |
tfl.add
(TFL::AddOp)
Operatore di addizione
Operazione di addizione elemento per elemento.
Tratti: ::mlir::OpTrait::TFLRuntimeOpTrait
, AlwaysSpeculatableImplTrait
, Commutative
, QuantizableResult
, ResultsBroadcastableShape
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflArithmeticCountOpInterface
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
fused_activation_function | ::mlir::StringAttr | attributo stringa il cui valore è NONE, o RELU, o RELU_N1_TO_1, o RELU6, o TANH, o SIGN_BIT |
Operandi:
Operando | Descrizione |
---|---|
lhs | tensore di valori float a 32 bit o interi senza segno a 16 bit o interi senza segno a 32 bit o interi senza segno a 64 bit o valori di tipo QI8 o di tipo QUI8 o di tipo QI16 |
rhs | tensore di valori float a 32 bit o interi senza segno a 16 bit o interi senza segno a 32 bit o interi senza segno a 64 bit o valori di tipo QI8 o di tipo QUI8 o di tipo QI16 |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori float a 32 bit o interi senza segno a 16 bit o interi senza segno a 32 bit o interi senza segno a 64 bit o valori di tipo QI8 o di tipo QUI8 o di tipo QI16 |
tfl.add_n
(TFL::AddNOp)
Operatore _Add n
Aggiunge tutti i tensori di input elemento per elemento.
Tratti: AlwaysSpeculatableImplTrait
, Commutative
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflArithmeticCountOpInterface
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
inputs | variadica di tensori di qualsiasi tipo di valori |
Risultati:
Risultato | Descrizione |
---|---|
sum | tensore di valori float a 32 bit o interi senza segno a 32 bit |
tfl.arg_max
(TFL::ArgMaxOp)
Operatore ArgMax
Restituisce l'indice con il valore più grande tra le dimensioni di un tensore.
Tratti: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
output_type | ::mlir::Attributo | attributo derivato |
Operandi:
Operando | Descrizione |
---|---|
input | tensore di un intero senza segno a 1 bit o di un float a 32 bit o di un intero senza segno a 32 bit o di un intero senza segno a 8 bit o di un intero senza segno a 8 bit o di valori di tipo QI8 o di tipo QUI8 |
dim | tensore di valori interi senza segno a 32/64 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori interi senza segno a 32/64 bit |
tfl.arg_min
(TFL::ArgMinOp)
Operatore ArgMin
Restituisce l'indice con il valore più piccolo tra le dimensioni di un tensore. a = [1, 10, 26,9, 2,8, 166,32, 62,3] b = tf.math.argmin(input = a) c = tf.keras.backend.eval(b)
Tratti: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
output_type | ::mlir::Attributo | attributo derivato |
Operandi:
Operando | Descrizione |
---|---|
input | tensore di un intero senza segno a 1 bit o di un float a 32 bit o di un intero senza segno a 32 bit o di un intero senza segno a 8 bit o di un intero senza segno a 8 bit o di valori di tipo QI8 o di tipo QUI8 |
dim | tensore di valori interi senza segno a 32/64 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori interi senza segno a 32/64 bit |
tfl.assign_variable
(TFL::AssignVariableOp)
Assegna un nuovo valore a una variabile.
Qualsiasi ReadVariableOp con una dipendenza di controllo da questa op restituirà sicuramente questo valore o un valore successivo più recente della variabile.
Interfacce: TflRuntimeVerifyOpInterface
Operandi:
Operando | Descrizione |
---|---|
resource_id | tensore dei valori delle risorse |
value | tensore di un numero float a 32 bit o di un numero float a 64 bit o di un numero intero senza segno a 1 bit o di un numero intero senza segno a 8 bit o di un numero intero senza segno a 8 bit o di tipo QI8 o di tipo QUI8 o di un numero intero senza segno a 32 bit o di un numero intero senza segno a 64 bit o di tipo QI16 o di tipo complesso con elementi float a 32 bit o di tipo complesso con elementi float a 64 bit valori |
tfl.atan2
(TFL::Atan2Op)
Operazione Atan2
L'operazione "atan2" calcola l'arcotangente di y/x elemento per elemento, rispettando i segni degli argomenti.
Tratti: AlwaysSpeculatableImplTrait
, SameOperandsAndResultType
Interfacce: ConditionallySpeculatable
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
y | tensore di valori float a 32 bit o float a 64 bit |
x | tensore di valori float a 32 bit o float a 64 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori float a 32 bit o float a 64 bit |
tfl.average_pool_2d
(TFL::AveragePool2DOp)
Operatore 2d _Average_pool
Esegue un'operazione di pooling medio sull'input.
Tratti: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflArithmeticCountOpInterface
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
filter_height | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
filter_width | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
padding | ::mlir::StringAttr | attributo stringa il cui valore è UGUALE o VALIDO |
stride_h | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
stride_w | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
fused_activation_function | ::mlir::StringAttr | attributo stringa il cui valore è NONE, o RELU, o RELU_N1_TO_1, o RELU6, o TANH, o SIGN_BIT |
Operandi:
Operando | Descrizione |
---|---|
input | tensore di valori float a 32 bit o di tipo QI8 o di tipo QUI8 o di tipo QI16 |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori float a 32 bit o di tipo QI8 o di tipo QUI8 o di tipo QI16 |
tfl.basic_lstm
(TFL::BasicLSTMOp)
L'operatore lstm di base
Operatore di cella LSTM di base.
Tratti: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
fused_activation_function | ::mlir::StringAttr | attributo stringa il cui valore è NONE, o RELU, o RELU_N1_TO_1, o RELU6, o TANH, o SIGN_BIT |
cell_clip | ::mlir::FloatAttr | Attributo float a 32 bit il cui valore non è negativo |
proj_clip | ::mlir::FloatAttr | Attributo float a 32 bit il cui valore non è negativo |
kernel_type | ::mlir::TFL::LSTMKernelTypeAttr | lstm_kernel_type il cui valore è mlir::TFL::LSTMKernelType::BASIC |
Operandi:
Operando | Descrizione |
---|---|
data_input | tensore di valori di tipo float o QUI8 a 32 bit |
prev_activ_input | tensore di valori di tipo float o QUI8 a 32 bit |
weights_input | tensore di valori di tipo float o QUI8 a 32 bit |
biases_input | tensore di valori float o di tipo QI32 a 32 bit |
prev_state_input | tensore di valori float o di tipo QI16 a 32 bit |
Risultati:
Risultato | Descrizione |
---|---|
activ_output | Tensore 2D di qualsiasi tipo di valore |
state_output | Tensore 2D di qualsiasi tipo di valore |
concat_temp | Tensore 2D di qualsiasi tipo di valore |
activ_temp | Tensore 2D di qualsiasi tipo di valore |
tfl.batch_matmul
(TFL::BatchMatMulOp)
Operatore di moltiplicazione di matrice batch
Esegue una moltiplicazione di matrici batch sugli input. Segue le convenzioni di TensorFlow BatchMatMulV2, con supporto per dimensioni sconosciute nelle dimensioni batch e nella trasmissione.
Inputs:
`inputs[0]`: required: input LHS
`inputs[1]`: required: input RHS
`adjoint_lhs`: optional: Transpose LHS (default false)
`adjoint_rhs`: optional: Transpose RHS (default false)
Tratti: ::mlir::OpTrait::TFLRuntimeOpTrait
, AlwaysSpeculatableImplTrait
, QuantizableResult
Interfacce: ConditionallySpeculatable
, DynamicRangeQuantizedOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
adj_x | ::mlir::BoolAttr | attributo bool |
adj_y | ::mlir::BoolAttr | attributo bool |
asymmetric_quantize_inputs | ::mlir::BoolAttr | attributo bool |
Operandi:
Operando | Descrizione |
---|---|
x | tensore di tipo float a 32 bit o QI8 o QI16 o valori interi senza segno a 8 bit |
y | tensore di tipo float a 32 bit o QI8 o QI16 o valori interi senza segno a 8 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di tipo float a 32 bit o tipo QI8 o tipo QI16 o valori interi senza segno a 32 bit |
tfl.batch_to_space_nd
(TFL::BatchToSpaceNdOp)
Operatore BatchToSpaceNd
Questa operazione rimodella la dimensione "batch" 0 in dimensioni spaziali.
Tratti: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
input | tensore di un numero float a 32 bit o di un intero senza segno a 8 bit o di un intero senza segno a 32 bit o di un intero senza segno a 64 bit o di un intero senza segno a 8 bit o di valori di tipo QI8 o di tipo QUI8 o di tipo QI16 |
block_shape | tensore di valori interi senza segno a 32 bit |
indices | tensore di valori interi senza segno a 32 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di un numero float a 32 bit o di un intero senza segno a 16 bit o di un intero senza segno a 32 bit o di un intero senza segno a 64 bit o di un intero senza segno a 8 bit o di valori di tipo QI8 o di tipo QUI8 o di tipo QI16 |
tfl.bidirectional_sequence_lstm
(TFL::BidirectionalSequenceLSTMOp)
Operatore lstm di sequenza bidirezionale
Un lstm bidirezionale è essenzialmente costituito da due lstm, uno in avanti e l'altro all'indietro. L'output è la concatenazione dei due lstm.
Tratti: QuantizableResult
Interfacce: DynamicRangeQuantizedOpInterface
, TFL_StatefulOp
, TflRuntimeVerifyOpInterface
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
fused_activation_function | ::mlir::StringAttr | attributo stringa il cui valore è NONE, o RELU, o RELU_N1_TO_1, o RELU6, o TANH, o SIGN_BIT |
cell_clip | ::mlir::FloatAttr | Attributo float a 32 bit il cui valore non è negativo |
proj_clip | ::mlir::FloatAttr | Attributo float a 32 bit il cui valore non è negativo |
merge_outputs | ::mlir::BoolAttr | attributo bool |
time_major | ::mlir::BoolAttr | attributo bool |
asymmetric_quantize_inputs | ::mlir::BoolAttr | attributo bool |
Operandi:
Operando | Descrizione |
---|---|
input | tensore di valori float a 32 bit o interi senza segno a 8 bit |
fw_input_to_input_weights | tensore di qualsiasi tipo di valore o nessun tipo |
fw_input_to_forget_weights | tensore di valori float a 32 bit o interi senza segno a 8 bit |
fw_input_to_cell_weights | tensore di valori float a 32 bit o interi senza segno a 8 bit |
fw_input_to_output_weights | tensore di valori float a 32 bit o interi senza segno a 8 bit |
fw_recurrent_to_input_weights | tensore di qualsiasi tipo di valore o nessun tipo |
fw_recurrent_to_forget_weights | tensore di valori float a 32 bit o interi senza segno a 8 bit |
fw_recurrent_to_cell_weights | tensore di valori float a 32 bit o interi senza segno a 8 bit |
fw_recurrent_to_output_weights | tensore di valori float a 32 bit o interi senza segno a 8 bit |
fw_cell_to_input_weights | tensore di qualsiasi tipo di valore o nessun tipo |
fw_cell_to_forget_weights | tensore di qualsiasi tipo di valore o nessun tipo |
fw_cell_to_output_weights | tensore di qualsiasi tipo di valore o nessun tipo |
fw_input_gate_bias | tensore di qualsiasi tipo di valore o nessun tipo |
fw_forget_gate_bias | tensore di valori float a 32 bit |
fw_cell_bias | tensore di valori float a 32 bit |
fw_output_gate_bias | tensore di valori float a 32 bit |
fw_projection_weights | tensore di qualsiasi tipo di valore o nessun tipo |
fw_projection_bias | tensore di qualsiasi tipo di valore o nessun tipo |
bw_input_to_input_weights | tensore di qualsiasi tipo di valore o nessun tipo |
bw_input_to_forget_weights | tensore di valori float a 32 bit o interi senza segno a 8 bit |
bw_input_to_cell_weights | tensore di valori float a 32 bit o interi senza segno a 8 bit |
bw_input_to_output_weights | tensore di valori float a 32 bit o interi senza segno a 8 bit |
bw_recurrent_to_input_weights | tensore di qualsiasi tipo di valore o nessun tipo |
bw_recurrent_to_forget_weights | tensore di valori float a 32 bit o interi senza segno a 8 bit |
bw_recurrent_to_cell_weights | tensore di valori float a 32 bit o interi senza segno a 8 bit |
bw_recurrent_to_output_weights | tensore di valori float a 32 bit o interi senza segno a 8 bit |
bw_cell_to_input_weights | tensore di qualsiasi tipo di valore o nessun tipo |
bw_cell_to_forget_weights | tensore di qualsiasi tipo di valore o nessun tipo |
bw_cell_to_output_weights | tensore di qualsiasi tipo di valore o nessun tipo |
bw_input_gate_bias | tensore di qualsiasi tipo di valore o nessun tipo |
bw_forget_gate_bias | tensore di valori float a 32 bit |
bw_cell_bias | tensore di valori float a 32 bit |
bw_output_gate_bias | tensore di valori float a 32 bit |
bw_projection_weights | tensore di qualsiasi tipo di valore o nessun tipo |
bw_projection_bias | tensore di qualsiasi tipo di valore o nessun tipo |
fw_input_activation_state | tensore con stato |
fw_input_cell_state | tensore con stato |
bw_input_activation_state | tensore con stato |
bw_input_cell_state | tensore con stato |
aux_input | tensore di qualsiasi tipo di valore o nessun tipo |
fw_aux_input_to_input_weights | tensore di qualsiasi tipo di valore o nessun tipo |
fw_aux_input_to_forget_weights | tensore di qualsiasi tipo di valore o nessun tipo |
fw_aux_input_to_cell_weights | tensore di qualsiasi tipo di valore o nessun tipo |
fw_aux_input_to_output_weights | tensore di qualsiasi tipo di valore o nessun tipo |
bw_aux_input_to_input_weights | tensore di qualsiasi tipo di valore o nessun tipo |
bw_aux_input_to_forget_weights | tensore di qualsiasi tipo di valore o nessun tipo |
bw_aux_input_to_cell_weights | tensore di qualsiasi tipo di valore o nessun tipo |
bw_aux_input_to_output_weights | tensore di qualsiasi tipo di valore o nessun tipo |
Risultati:
Risultato | Descrizione |
---|---|
fw_output | tensore di qualsiasi tipo di valori |
bw_output | tensore di qualsiasi tipo di valori |
tfl.bitcast
(TFL::BitcastOp)
Operatore Bitcast
Trasmette in bitcast un tensore da un tipo a un altro.
Tratti: AlwaysSpeculatableImplTrait
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
input | tensore di qualsiasi tipo di valori |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di qualsiasi tipo di valori |
tfl.bitwise_xor
(TFL::BitwiseXorOp)
Operatore Xor bit a bit
Elementwise calcola l'XOR bit a bit di lhs
e rhs
.
Tratti: AlwaysSpeculatableImplTrait
, Commutative
, ResultsBroadcastableShape
, SameOperandsAndResultElementType
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
lhs | tensore di valori interi senza segno a 8 bit o interi senza segno a 8 bit o interi senza segno a 16 bit o interi senza segno a 16 bit o interi senza segno a 32 bit o valori interi senza segno a 32 bit |
rhs | tensore di valori interi senza segno a 8 bit o interi senza segno a 8 bit o interi senza segno a 16 bit o interi senza segno a 16 bit o interi senza segno a 32 bit o valori interi senza segno a 32 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori interi senza segno a 8 bit o interi senza segno a 8 bit o interi senza segno a 16 bit o interi senza segno a 16 bit o interi senza segno a 32 bit o valori interi senza segno a 32 bit |
tfl.broadcast_args
(TFL::BroadcastArgsOp)
Restituisce la forma di s0 op s1 con broadcast.
Dati s0
e s1
, tensori che rappresentano forme, calcola r0
, la forma trasmessa. s0
, s1
e r0
sono tutti vettori interi.
Tratti: AlwaysSpeculatableImplTrait
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
s0 | tensore di valori interi senza segno a 32/64 bit |
s1 | tensore di valori interi senza segno a 32/64 bit |
Risultati:
Risultato | Descrizione |
---|---|
r0 | tensore di valori interi senza segno a 32/64 bit |
tfl.broadcast_to
(TFL::BroadcastToOp)
Trasmetti un array per una forma compatibile.
Il broadcasting è il processo di creazione di array con forme compatibili per le operazioni aritmetiche. Due forme sono compatibili se per ogni coppia di dimensioni sono uguali o se una di esse è uguale a una. Quando si cerca di trasmettere un tensore a una forma, si inizia con le dimensioni finali e si procede in avanti.
Per esempio,
x = tf.constant([1, 2, 3]) y = tf.broadcast_to(x, [3, 3]) print(y) tf.Tensor( [[1 2 3] [1 2 3] [1 2 3]], shape=(3, 3), dtype=int32)
Nell'esempio sopra, il tensore di input con la forma di [1, 3]
viene trasmesso al tensore di output con la forma di [3, 3]
.
Quando si eseguono operazioni trasmesse, come la moltiplicazione di un tensore per uno scalare, la trasmissione (solitamente) conferisce un vantaggio in termini di tempo o spazio, poiché il tensore trasmesso non si materializza mai.
Tuttavia, broadcast_to
non offre tali vantaggi. Il tensore appena creato occupa l'intera memoria della forma trasmessa. (In un contesto grafico, broadcast_to
potrebbe tuttavia essere fuso con un'operazione successiva e quindi ottimizzato.)
Tratti: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
input | tensore di un numero float a 32 bit o di un intero senza segno a 32 bit o di un intero senza segno a 1 bit o di un intero senza segno a 4 bit o di un intero senza segno a 8 bit o di tipo QI8 o di un intero senza segno a 8 bit o di un intero senza segno a 32 bit o di tipo QUI8 o di un intero senza segno a 16 bit o di tipo QI16 o di un intero senza segno a 64 bit o di tipo complesso con valori di elementi float a 32 bit |
shape | tensore di valori interi senza segno a 32/64 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di un numero float a 32 bit o di un intero senza segno a 32 bit o di un intero senza segno a 1 bit o di un intero senza segno a 4 bit o di un intero senza segno a 8 bit o di tipo QI8 o di un intero senza segno a 8 bit o di un intero senza segno a 32 bit o di tipo QUI8 o di un intero senza segno a 16 bit o di tipo QI16 o di un intero senza segno a 64 bit o di tipo complesso con valori di elementi float a 32 bit |
tfl.bucketize
(TFL::BucketizeOp)
Suddivide gli "input" in base ai "confini".
Esempio:
Se gli input sono boundaries = [0, 10, 100]
e input = [[-5, 10000][150, 10][5, 100]]
, allora l'output sarà output = [[0, 3][3, 2][1, 3]]
.
Tratti: AlwaysSpeculatableImplTrait
, SameOperandsAndResultShape
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
boundaries | ::mlir::ArrayAttr | Attributo array float a 32 bit |
Operandi:
Operando | Descrizione |
---|---|
input | tensore di valori float a 32 bit o float a 64 bit o interi senza segno a 32 bit o interi senza segno a 64 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori interi senza segno a 32 bit |
tfl.call_once
(TFL::CallOnceOp)
Richiama una funzione di inizializzazione
Questa operazione richiama la funzione di inizializzazione specificata per l'inizializzatore di sessione nel dialetto del modello salvato tf.
Interfacce: TflRuntimeVerifyOpInterface
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
session_init_function | ::mlir::StringAttr | attributo stringa |
tfl.cast
(TFL::CastOp)
Operatore di cast
Converte l'input dal tipo di input al tipo di output.
Tratti: AlwaysSpeculatableImplTrait
, SameOperandsAndResultShape
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
input | tensore di tipo float a 16 bit o bfloat16 o float a 32 bit o float a 64 bit o intero senza segno a 1 bit o intero senza segno a 4 bit o intero senza segno a 16 bit o intero senza segno a 16 bit o intero senza segno a 32 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o tipo TFLite quint8 o intero senza segno a 8 bit o intero senza segno a 8 bit o tipo complesso con valori di elementi float a 32 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di tipo float a 16 bit o bfloat16 o float a 32 bit o float a 64 bit o intero senza segno a 1 bit o intero senza segno a 4 bit o intero senza segno a 16 bit o intero senza segno a 16 bit o intero senza segno a 32 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o tipo TFLite quint8 o intero senza segno a 8 bit o intero senza segno a 8 bit o tipo complesso con valori di elementi float a 32 bit |
tfl.ceil
(TFL::CeilOp)
Operatore del soffitto
Restituisce il valore ceil elemento per elemento dell'input.
Tratti: AlwaysSpeculatableImplTrait
, InferTensorType
, TF::SameOperandsAndResultTypeResolveRef
Interfacce: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
x | tensore di valori float a 32 bit |
Risultati:
Risultato | Descrizione |
---|---|
y | tensore di valori float a 32 bit |
tfl.complex_abs
(TFL::ComplexAbsOp)
Calcola il valore assoluto complesso di un tensore.
Dato un tensore x
di numeri complessi, questa operazione restituisce un tensore di tipo float
o double
che è il valore assoluto di ogni elemento in x
. Tutti gli elementi in x
devono essere numeri complessi della forma \(a + bj\)Il valore assoluto è calcolato come \( \sqrt{a^2 + b^2}\).
Tratti: AlwaysSpeculatableImplTrait
, SameOperandsAndResultShape
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
input | tensore di tipo complesso con elementi float a 32 bit o di tipo complesso con valori di elementi float a 64 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori float a 32 bit o float a 64 bit |
tfl.concatenation
(TFL::ConcatenationOp)
Operatore di concatenazione
Concatena i tensori lungo una dimensione
Tratti: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
axis | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
fused_activation_function | ::mlir::StringAttr | attributo stringa il cui valore è NONE, o RELU, o RELU_N1_TO_1, o RELU6, o TANH, o SIGN_BIT |
Operandi:
Operando | Descrizione |
---|---|
values | variadica di tensori di qualsiasi tipo di valori |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di un numero float a 32 bit o di un intero senza segno a 64 bit o di un intero senza segno a 32 bit o di un intero senza segno a 16 bit o di un intero senza segno a 8 bit o di tipo QI8 o di tipo QUI8 o di un intero senza segno a 8 bit o di un intero senza segno a 32 bit o di valori interi senza segno a 1 bit |
tfl.control_node
(TFL::ControlNodeOp)
L'operazione TFL.control_node
esegue il wrapping di operazioni a blocco singolo per collegare i bordi di controllo.
Questa operazione viene utilizzata per avvolgere le regioni e associarvi dipendenze di controllo. In genere, ciò avviene in uno degli ultimi passaggi prima dell'emissione del modello flatbuffer, per abilitare ottimizzazioni che si basano su un ordine fisso di operazioni (come la rimaterializzazione). L'esportatore flatbuffer estrarrà la regione avvolta e annoterà il modello generato con metadati in modo che qualsiasi riordinamento in fase di esecuzione rispetti l'ordine specificato dalle dipendenze di controllo.
Caratteristiche: HasParent<mlir::func::FuncOp>
, RecursiveMemoryEffects
, SingleBlockImplicitTerminator<YieldOp>
, SingleBlock
Operandi:
Operando | Descrizione |
---|---|
controlInputs | variadico di controllo |
Risultati:
Risultato | Descrizione |
---|---|
outputs | variadica di tensori di qualsiasi tipo di valori |
control | controllare |
tfl.conv_2d
(TFL::Conv2DOp)
Operatore di convoluzione
Esegue un'operazione di convoluzione sugli input.
Input: inputs[0]
: obbligatorio: il tensore di attivazione dell'input inputs[1]
: obbligatorio: il tensore del peso del filtro inputs[2]
: facoltativo: il tensore di polarizzazione
Tratti: AlwaysSpeculatableImplTrait
, QuantizableResult
, TFL::AccumulatorUniformScale<2, 0, 1>
, TFL::AffineOpCoefficient<0, 1>
Interfacce: AffineQuantizedOpInterface
, ConditionallySpeculatable
, DynamicRangeQuantizedOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
, RequiresQuantizedBiasInterface
, TFL_SparseOp
, TflArithmeticCountOpInterface
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
dilation_h_factor | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
dilation_w_factor | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
fused_activation_function | ::mlir::StringAttr | attributo stringa il cui valore è NONE, o RELU, o RELU_N1_TO_1, o RELU6, o TANH, o SIGN_BIT |
padding | ::mlir::StringAttr | attributo stringa il cui valore è UGUALE o VALIDO |
stride_h | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
stride_w | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
Operandi:
Operando | Descrizione |
---|---|
input | tensore di valori float a 32 bit o di tipo QI8 o di tipo QUI8 o di tipo QI16 |
filter | tensore di valori float a 32 bit o di tipo QI4 o QI8 o QUI8 |
bias | tensore di qualsiasi tipo di valore o nessun tipo |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori float a 32 bit o di tipo QI8 o di tipo QUI8 o di tipo QI16 |
tfl.conv_3d
(TFL::Conv3DOp)
Operatore di convoluzione 3D
Esegue l'operazione di convoluzione sugli input 3D. Input: inputs[0]
: obbligatorio: il tensore di attivazione dell'input inputs[1]
: obbligatorio: il tensore del peso del filtro inputs[2]
: facoltativo: il tensore di polarizzazione
Tratti: AlwaysSpeculatableImplTrait
, TFL::AccumulatorUniformScale<2, 0, 1>
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, RequiresQuantizedBiasInterface
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
dilation_d_factor | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
dilation_h_factor | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
dilation_w_factor | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
fused_activation_function | ::mlir::StringAttr | attributo stringa il cui valore è NONE, o RELU, o RELU_N1_TO_1, o RELU6, o TANH, o SIGN_BIT |
padding | ::mlir::StringAttr | attributo stringa il cui valore è UGUALE o VALIDO |
stride_d | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
stride_h | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
stride_w | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
Operandi:
Operando | Descrizione |
---|---|
input | tensore di valori float a 32 bit |
filter | tensore di valori float a 32 bit |
bias | tensore di qualsiasi tipo di valore o nessun tipo |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori float a 32 bit |
tfl.conv_3d_transpose
(TFL::Conv3DTransposeOp)
Operatore 3D di convoluzione trasposta
Esegue un'operazione di convoluzione trasposta su input 3D. Input: inputs[0]
: obbligatorio: la forma del tensore di output inputs[1]
: obbligatorio: il tensore del peso del filtro inputs[2]
: obbligatorio: il tensore di attivazione dell'input inputs[3]
: facoltativo: il tensore di polarizzazione
Tratti: AlwaysSpeculatableImplTrait
, TFL::AccumulatorUniformScale<2, 0, 1>
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, RequiresQuantizedBiasInterface
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
dilation_d_factor | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
dilation_h_factor | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
dilation_w_factor | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
fused_activation_function | ::mlir::StringAttr | attributo stringa il cui valore è NONE, o RELU, o RELU_N1_TO_1, o RELU6, o TANH, o SIGN_BIT |
padding | ::mlir::StringAttr | attributo stringa il cui valore è UGUALE o VALIDO |
stride_d | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
stride_h | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
stride_w | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
Operandi:
Operando | Descrizione |
---|---|
output_shape | tensore di valori interi senza segno a 32 bit |
filter | tensore di valori float a 32 bit |
input | tensore di valori float a 32 bit |
bias | tensore di qualsiasi tipo di valore o nessun tipo |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori float a 32 bit |
tfl.cos
(TFL::CosOp)
Operatore coseno
Calcola il coseno elemento per elemento dell'input
Tratti: AlwaysSpeculatableImplTrait
, InferTensorType
, TF::SameOperandsAndResultTypeResolveRef
Interfacce: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
x | tensore di valori float a 32 bit |
Risultati:
Risultato | Descrizione |
---|---|
y | tensore di valori float a 32 bit |
tfl.cumsum
(TFL::CumsumOp)
Operatore cumsum
Calcola la somma cumulativa del tensore x lungo l'asse.
Tratti: AlwaysSpeculatableImplTrait
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
exclusive | ::mlir::BoolAttr | attributo bool |
reverse | ::mlir::BoolAttr | attributo bool |
Operandi:
Operando | Descrizione |
---|---|
input | tensore di valori float a 32 bit o interi senza segno a 32 bit o interi senza segno a 64 bit |
axis | tensore di valori interi senza segno a 32 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori float a 32 bit o interi senza segno a 32 bit o interi senza segno a 64 bit |
tfl.custom
(TFL::CustomOp)
Operazione personalizzata
Un'operazione generica per qualsiasi operazione personalizzata TFLite.
input: un elenco di input nell'op originale. custom_code: una stringa utilizzata per identificare esattamente di quale op si tratta, che corrisponde a operator_codes.custom_code nel flatbuffer. custom_option: un contenitore per salvare gli attributi dell'op in byte. output: un elenco di output nell'op originale.
Interfacce: TflRuntimeVerifyOpInterface
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
custom_code | ::mlir::StringAttr | attributo stringa |
custom_option | ::mlir::TFL::ConstBytesAttr | Una rappresentazione di attributi stringa di byte compilati |
Operandi:
Operando | Descrizione |
---|---|
input | variadico del tensore di qualsiasi tipo di valore o di nessun tipo |
Risultati:
Risultato | Descrizione |
---|---|
output | variadica di tensori di qualsiasi tipo di valori |
tfl.custom_tf
(TFL::CustomTfOp)
Wrapper Op per operazioni personalizzate TF.
Un'operazione wrapper per qualsiasi operazione TF personalizzata. Queste includono operazioni definite utilizzando custom_opdef o collegate che non sono definite nel dialetto TF. Questa operazione si limita a racchiudere l'operazione personalizzata all'interno di una regione. Nota n. 1: questa operazione non includerà le operazioni personalizzate TF Lite definite utilizzando CustomOp. Nota n. 2: questa operazione è solo una rappresentazione interna al convertitore e non viene esposta/esportata quando il modello viene esportato in Flatbuffer.
Tratti: IsolatedFromAbove
, RecursiveMemoryEffects
, SingleBlockImplicitTerminator<YieldOp>
, SingleBlock
Interfacce: InferTypeOpInterface
, TflRuntimeVerifyOpInterface
Operandi:
Operando | Descrizione |
---|---|
input | variadico del tensore di qualsiasi tipo di valore o di nessun tipo |
Risultati:
Risultato | Descrizione |
---|---|
output | variadica di tensori di qualsiasi tipo di valori |
tfl.densify
(TFL::DensifyOp)
Operatore di densificazione
Converte il tensore sparso in formato denso.
Tratti: AlwaysSpeculatableImplTrait
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
input | tensore di valori float a 32 bit o interi senza segno a 8 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori float a 32 bit o interi senza segno a 8 bit |
tfl.depth_to_space
(TFL::DepthToSpaceOp)
Operatore DepthToSpace
Riorganizza i dati dalla profondità in blocchi di dati spaziali. Questa è la trasformazione inversa di SpaceToDepth. Più specificamente, questa operazione restituisce una copia del tensore di input in cui i valori dalla dimensione depth
vengono spostati in blocchi spaziali alle dimensioni di height
e width
. L'attributo block_size
indica la dimensione del blocco di input e come vengono spostati i dati.
Tratti: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
block_size | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit il cui valore è positivo |
Operandi:
Operando | Descrizione |
---|---|
input | tensore di un numero float a 32 bit o di un intero senza segno a 8 bit o di un intero senza segno a 32 bit o di un intero senza segno a 64 bit o di un tipo TFLite quint8 o di un intero senza segno a 8 bit o di un tipo QI8 o di valori di tipo QUI8 |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di un numero float a 32 bit o di un intero senza segno a 8 bit o di un intero senza segno a 32 bit o di un intero senza segno a 64 bit o di un tipo TFLite quint8 o di un intero senza segno a 8 bit o di un tipo QI8 o di valori di tipo QUI8 |
tfl.depthwise_conv_2d
(TFL::DepthwiseConv2DOp)
Operatore di convoluzione separabile in profondità
Esegue un'operazione di convoluzione sugli input.
Input: inputs[0]
: obbligatorio: il tensore di attivazione dell'input inputs[1]
: obbligatorio: il tensore del peso del filtro inputs[2]
: facoltativo: il tensore di polarizzazione
Tratti: AlwaysSpeculatableImplTrait
, QuantizableResult
, TFL::AccumulatorUniformScale<2, 0, 1>
, TFL::AffineOpCoefficient<3, 1>
Interfacce: AffineQuantizedOpInterface
, ConditionallySpeculatable
, DynamicRangeQuantizedOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
, RequiresQuantizedBiasInterface
, TFL_SparseOp
, TflArithmeticCountOpInterface
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
dilation_h_factor | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
dilation_w_factor | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
fused_activation_function | ::mlir::StringAttr | attributo stringa il cui valore è NONE, o RELU, o RELU_N1_TO_1, o RELU6, o TANH, o SIGN_BIT |
padding | ::mlir::StringAttr | attributo stringa il cui valore è UGUALE o VALIDO |
stride_h | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
stride_w | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
depth_multiplier | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
Operandi:
Operando | Descrizione |
---|---|
input | tensore di valori float a 32 bit o di tipo QI8 o di tipo QUI8 o di tipo QI16 |
filter | tensore di valori float a 32 bit o di tipo QI4 o QI8 o QUI8 |
bias | tensore di qualsiasi tipo di valore o nessun tipo |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori float a 32 bit o di tipo QI8 o di tipo QUI8 o di tipo QI16 |
tfl.dequantize
(TFL::DequantizeOp)
Operatore di dequantizzazione
Converte un array quantizzato di numeri interi in numeri in virgola mobile in base ai parametri di quantizzazione.
Interfacce: NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
input | tensore di tipo QI4 o tipo QI8 o tipo QUI8 o tipo QI16 o valori float a 16 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori float a 32 bit |
tfl.dilate
(TFL::DilateOp)
Operatore di dilatazione
Estende un tensore aggiungendo nuovi elementi tra quelli esistenti.
Tratti: AlwaysSpeculatableImplTrait
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
input | tensore di un intero senza segno a 8 bit o intero senza segno a 16 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o intero senza segno a 8 bit o intero senza segno a 16 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o valori float a 32 bit o float a 64 bit |
dilations | tensore di valori interi senza segno a 32 bit |
padding_value | Tensore 0D di qualsiasi tipo di valore |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di un intero senza segno a 8 bit o intero senza segno a 16 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o intero senza segno a 8 bit o intero senza segno a 16 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o valori float a 32 bit o float a 64 bit |
tfl.div
(TFL::DivOp)
Operatore di divisione
Operazione di divisione elemento per elemento.
Tratti: ::mlir::OpTrait::TFLRuntimeOpTrait
, AlwaysSpeculatableImplTrait
, QuantizableResult
, ResultsBroadcastableShape
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflArithmeticCountOpInterface
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
fused_activation_function | ::mlir::StringAttr | attributo stringa il cui valore è NONE, o RELU, o RELU_N1_TO_1, o RELU6, o TANH, o SIGN_BIT |
Operandi:
Operando | Descrizione |
---|---|
lhs | tensore di valori float a 32 bit o interi senza segno a 32 bit o di tipo QUI8 o di tipo QI8 o di tipo QI16 |
rhs | tensore di valori float a 32 bit o interi senza segno a 32 bit o di tipo QUI8 o di tipo QI8 o di tipo QI16 |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori float a 32 bit o interi senza segno a 32 bit o di tipo QUI8 o di tipo QI8 o di tipo QI16 |
tfl.dynamic_update_slice
(TFL::DynamicUpdateSliceOp)
DynamicUpdateSlice.
DynamicUpdateSlice op che hanno la stessa semantica di XLA DynamicUpdateSlice. Genera un risultato che è il valore dell'operando dell'array di input, con un aggiornamento della sezione sovrascritto in start_indices.
Vedere https://www.tensorflow.org/xla/Operation_semantics#dynamicupdateslice
Tratti: AlwaysSpeculatableImplTrait
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
operand | tensore di intero senza segno a 1 bit o intero senza segno a 8 bit o intero senza segno a 16 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o valori float a 32 bit o float a 16 bit |
update | tensore di intero senza segno a 1 bit o intero senza segno a 8 bit o intero senza segno a 16 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o valori float a 32 bit o float a 16 bit |
start_indices | tensore di valori interi senza segno a 32/64 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di intero senza segno a 1 bit o intero senza segno a 8 bit o intero senza segno a 16 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o valori float a 32 bit o float a 16 bit |
tfl.elu
(TFL::EluOp)
Operatore di unità lineare esponenziale
Calcola l'esponenziale lineare f(x) -> exp(x) - 1 per x < 0, x per x >= 0. a livello di elemento.
Caratteristiche: AlwaysSpeculatableImplTrait
, SameOperandsAndResultShape
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
x | tensore di valori in virgola mobile a 32 bit o interi senza segno a 8 bit |
Risultati:
Risultato | Descrizione |
---|---|
y | tensore di valori in virgola mobile a 32 bit o interi senza segno a 8 bit |
tfl.embedding_lookup
(TFL::EmbeddingLookupOp)
Incorporamento dell'operatore di ricerca
Cerca gli ID in un elenco di tensori di incorporamento.
Caratteristiche: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfacce: AffineQuantizedOpInterface
, ConditionallySpeculatable
, DynamicRangeQuantizedOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
lookup | tensore di valori interi senza segno a 32 bit |
value | tensore di valori in virgola mobile a 32 bit o intero senza segno a 8 bit o intero senza segno a 8 bit o tipo QI8 o tipo QUI8 o valori di tipo QI4 |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori in virgola mobile a 32 bit o numeri interi senza segno a 8 bit o valori interi senza segno a 8 bit |
tfl.equal
(TFL::EqualOp)
Operatore uguale
Restituisce l'elemento di verità di x == y in termini di elementi
Caratteristiche: ::mlir::OpTrait::TFLRuntimeOpTrait
, AlwaysSpeculatableImplTrait
, Commutative
, QuantizableResult
, ResultsBroadcastableShape
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
x | tensore di intero senza segno a 1 bit o virgola mobile a 32 bit o intero senza segno a 16 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o tipo QI8 o tipo QUI8 o tipo QI16 o intero senza segno a 8 bit o valori di tipo stringa TFLite |
y | tensore di intero senza segno a 1 bit o virgola mobile a 32 bit o intero senza segno a 16 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o tipo QI8 o tipo QUI8 o tipo QI16 o intero senza segno a 8 bit o valori di tipo stringa TFLite |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori interi senza segno a 1 bit |
tfl.exp
(TFL::ExpOp)
Operatore di esponenziazione naturale
Esegue l'operazione di esponenziazione naturale per elemento sull'input.
Caratteristiche: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
x | tensore di valori float a 32 bit o di tipo QI8 o di tipo QI16 |
Risultati:
Risultato | Descrizione |
---|---|
y | tensore di valori float a 32 bit o di tipo QI8 o di tipo QI16 |
tfl.expand_dims
(TFL::ExpandDimsOp)
Inserisce una dimensione pari a 1 nella forma di un tensore.
Dato un input
tensore, questa operazione inserisce una dimensione pari a 1 axis
dell'indice dimensionale della forma input
. L' axis
dell'indice delle dimensioni inizia da zero; se si specifica un numero negativo per axis
, verrà conteggiato all'indietro a partire dalla fine.
Questa operazione è utile se si desidera aggiungere una dimensione batch a un singolo elemento. Ad esempio, se hai una singola immagine di forma [height, width, channels]
, puoi renderla un batch di 1 immagine con expand_dims(image, 0)
, che creerà la forma [1, height, width, channels]
.
Altri esempi:
# 't' is a tensor of shape [2]
shape(expand_dims(t, 0)) ==> [1, 2]
shape(expand_dims(t, 1)) ==> [2, 1]
shape(expand_dims(t, -1)) ==> [2, 1]
# 't2' is a tensor of shape [2, 3, 5]
shape(expand_dims(t2, 0)) ==> [1, 2, 3, 5]
shape(expand_dims(t2, 2)) ==> [2, 3, 1, 5]
shape(expand_dims(t2, 3)) ==> [2, 3, 5, 1]
Questa operazione richiede che:
-1-input.dims() <= dim <= input.dims()
Questa operazione è correlata a squeeze()
, che rimuove le dimensioni di dimensione 1.
Caratteristiche: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
input | tensore di qualsiasi tipo di valore |
dim | tensore di valori interi senza segno a 32/64 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di qualsiasi tipo di valore |
tfl.external_const
(TFL::ExternalConstOp)
Const esterno op.
L'operazione const esterna contiene un buffer_index
che punta a una costante nel flatbuffer.
Caratteristiche: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
buffer_index | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di qualsiasi tipo di valore |
tfl.fake_quant
(TFL::FakeQuantOp)
Operatore FakeQuant
Quantizzare in modo falso il tensore degli "ingressi" di tipo float tramite gli scalari float min e max sul tensore delle "uscite" della stessa forma degli input.
Caratteristiche: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
min | ::mlir::FloatAttr | Attributo float a 32 bit |
max | ::mlir::FloatAttr | Attributo float a 32 bit |
num_bits | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit il cui valore minimo è 2 e il cui valore massimo è 16 |
narrow_range | ::mlir::BoolAttr | attributo bool il cui valore è false |
Operandi:
Operando | Descrizione |
---|---|
input | tensore di valori float a 32 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori float a 32 bit |
tfl.fill
(TFL::FillOp)
Riempi il tensore con il valore specificato.
Riempi il tensore con il valore specificato.
Caratteristiche: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
dims | tensore di valori interi senza segno a 32/64 bit |
input | tensore di valore in virgola mobile a 32 bit o virgola mobile a 16 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o intero senza segno a 1 bit o tipo QI8 o tipo QI16 o valori di tipo stringa TFLite |
Risultati:
Risultato | Descrizione |
---|---|
result | tensore di valore in virgola mobile a 32 bit o virgola mobile a 16 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o intero senza segno a 1 bit o tipo QI8 o tipo QI16 o valori di tipo stringa TFLite |
tfl.floor
(TFL::FloorOp)
Operatore di piano
Restituisce il valore minimo dell'input per elemento.
Caratteristiche: AlwaysSpeculatableImplTrait
, InferTensorType
, TF::SameOperandsAndResultTypeResolveRef
Interfacce: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
x | tensore di valori float a 32 bit |
Risultati:
Risultato | Descrizione |
---|---|
y | tensore di valori float a 32 bit |
tfl.floor_div
(TFL::FloorDivOp)
Operatore div di piano
Operazione di divisione del pavimento in base agli elementi.
Tratti: ::mlir::OpTrait::TFLRuntimeOpTrait
, AlwaysSpeculatableImplTrait
, ResultsBroadcastableShape
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
lhs | tensore di valori in virgola mobile a 32 bit o intero senza segno a 8 bit o intero senza segno a 16 bit o intero senza segno a 32 bit |
rhs | tensore di valori in virgola mobile a 32 bit o intero senza segno a 8 bit o intero senza segno a 16 bit o intero senza segno a 32 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori in virgola mobile a 32 bit o intero senza segno a 8 bit o intero senza segno a 16 bit o intero senza segno a 32 bit |
tfl.floor_mod
(TFL::FloorModOp)
Promemoria della divisione
Operazione di promemoria della divisione per elemento.
Tratti: ::mlir::OpTrait::TFLRuntimeOpTrait
, AlwaysSpeculatableImplTrait
, ResultsBroadcastableShape
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
lhs | tensore di intero senza segno a 8 bit o intero senza segno a 16 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o valori float a 32 bit |
rhs | tensore di intero senza segno a 8 bit o intero senza segno a 16 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o valori float a 32 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di intero senza segno a 8 bit o intero senza segno a 16 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o valori float a 32 bit |
tfl.fully_connected
(TFL::FullyConnectedOp)
Completamente connesso op
Caratteristiche: AlwaysSpeculatableImplTrait
, QuantizableResult
, TFL::AccumulatorUniformScale<2, 0, 1>
, TFL::AffineOpCoefficient<0, 1>
Interfacce: AffineQuantizedOpInterface
, ConditionallySpeculatable
, DynamicRangeQuantizedOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
, RequiresQuantizedBiasInterface
, TFL_SparseOp
, TflArithmeticCountOpInterface
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
fused_activation_function | ::mlir::StringAttr | attributo stringa il cui valore è NONE, o RELU, o RELU_N1_TO_1, o RELU6, o TANH, o SIGN_BIT |
weights_format | ::mlir::StringAttr | attributo stringa il cui valore è DEFAULT o SHUFFLED4x16INT8 |
keep_num_dims | ::mlir::BoolAttr | attributo bool |
asymmetric_quantize_inputs | ::mlir::BoolAttr | attributo bool |
Operandi:
Operando | Descrizione |
---|---|
input | tensore di valori float a 32 bit o tipo QI8 o tipo QUI8 o tipo QI16 o tipo QUI16 |
filter | tensore di valori float a 32 bit o tipo QI4 o tipo QI8 o tipo QUI8 o tipo QI16 |
bias | tensore di qualsiasi tipo valori o nessun tipo |
Risultati:
Risultato | Descrizione |
---|---|
output | variadica del tensore di qualsiasi tipo di valore |
tfl.gather
(TFL::GatherOp)
Operatore di raccolta
Raccogli le sezioni axis
dei params
secondo indices
.
Caratteristiche: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfacce: ConditionallySpeculatable
, DynamicRangeQuantizedOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
axis | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
batch_dims | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
Operandi:
Operando | Descrizione |
---|---|
params | tensore di valore in virgola mobile a 32 bit o intero senza segno a 1 bit o intero senza segno a 4 bit o intero senza segno a 8 bit o intero senza segno a 16 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o tipo stringa TFLite o intero senza segno a 8 bit o tipo QI8 o tipo QUI8 o valori di tipo QI16 |
indices | tensore di valori interi senza segno a 16 bit o interi senza segno a 32 bit o interi senza segno a 64 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valore in virgola mobile a 32 bit o intero senza segno a 1 bit o intero senza segno a 4 bit o intero senza segno a 8 bit o intero senza segno a 16 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o tipo stringa TFLite o intero senza segno a 8 bit o tipo QI8 o tipo QUI8 o valori di tipo QI16 |
tfl.gather_nd
(TFL::GatherNdOp)
_Raccogli e operatore
Raccogli le fette dai params
in un tensore con la forma specificata dagli indices
.
Caratteristiche: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
params | tensore di numero in virgola mobile a 32 bit o intero senza segno a 1 bit o intero senza segno a 8 bit o intero senza segno a 16 bit o intero senza segno a 64 bit o intero senza segno a 32 bit o intero senza segno a 8 bit o tipo QI8 o valori di tipo stringa TFLite |
indices | tensore di valori interi senza segno a 16 bit o interi senza segno a 32 bit o interi senza segno a 64 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di numero in virgola mobile a 32 bit o intero senza segno a 1 bit o intero senza segno a 8 bit o intero senza segno a 16 bit o intero senza segno a 64 bit o intero senza segno a 32 bit o intero senza segno a 8 bit o tipo QI8 o valori di tipo stringa TFLite |
tfl.gelu
(TFL::GeluOp)
Funzione di attivazione GELU.
Calcola la funzione di attivazione GELU a livello di elemento.
Caratteristiche: AlwaysSpeculatableImplTrait
, QuantizableResult
, SameOperandsAndResultShape
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
approximate | ::mlir::BoolAttr | attributo bool |
Operandi:
Operando | Descrizione |
---|---|
input | tensore di valori float a 32 bit o di tipo QI8 o di tipo QUI8 |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori float a 32 bit o di tipo QI8 o di tipo QUI8 |
tfl.greater
(TFL::GreaterOp)
Operatore maggiore
Operazione maggiore dal punto di vista degli elementi.
Tratti: ::mlir::OpTrait::TFLRuntimeOpTrait
, AlwaysSpeculatableImplTrait
, QuantizableResult
, ResultsBroadcastableShape
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
lhs | tensore di valori in virgola mobile a 32 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o tipo QUI8 o tipo QI8 o valori di tipo TFLite quint8 |
rhs | tensore di valori in virgola mobile a 32 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o tipo QUI8 o tipo QI8 o valori di tipo TFLite quint8 |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori interi senza segno a 1 bit |
tfl.greater_equal
(TFL::GreaterEqualOp)
_Operatore uguale maggiore
Operazione maggiore_equal a livello di elemento.
Tratti: ::mlir::OpTrait::TFLRuntimeOpTrait
, AlwaysSpeculatableImplTrait
, QuantizableResult
, ResultsBroadcastableShape
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
lhs | tensore di valore in virgola mobile a 32 bit o intero senza segno a 16 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o valori di tipo QUI8 o di tipo QI8 |
rhs | tensore di valore in virgola mobile a 32 bit o intero senza segno a 16 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o valori di tipo QUI8 o di tipo QI8 |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori interi senza segno a 1 bit |
tfl.hard_swish
(TFL::HardSwishOp)
Funzione di attivazione Hardswish.
Calcola la funzione di attivazione hard-swish f(x) -> (x * relu6(x+3))/6 in termini di elementi.
Caratteristiche: AlwaysSpeculatableImplTrait
, QuantizableResult
, SameOperandsAndResultShape
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
input | tensore di valori float a 32 bit o di tipo QUI8 o di tipo QI8 |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori float a 32 bit o di tipo QUI8 o di tipo QI8 |
tfl.hashtable
(TFL::HashtableOp)
Crea una tabella hash non inizializzata.
Questa operazione crea una tabella hash, specificando il tipo delle sue chiavi e valori. Prima di utilizzare la tabella dovrai inizializzarla. Dopo l'inizializzazione la tabella sarà immutabile.
Interfacce: TflRuntimeVerifyOpInterface
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
table_id | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
key_dtype | ::mlir::TypeAttr | qualsiasi attributo di tipo |
value_dtype | ::mlir::TypeAttr | qualsiasi attributo di tipo |
Risultati:
Risultato | Descrizione |
---|---|
out | tensore dei valori delle risorse |
tfl.hashtable_find
(TFL::HashtableFindOp)
Cerca le chiavi in una tabella e restituisce i valori corrispondenti.
Le keys
tensori devono essere dello stesso tipo delle chiavi della tavola. I values
di output sono del tipo dei valori della tabella.
Il default_value
scalare è il valore di output per le chiavi non presenti nella tabella. Deve inoltre essere dello stesso tipo dei valori della tabella.
Interfacce: TflRuntimeVerifyOpInterface
Operandi:
Operando | Descrizione |
---|---|
hash_table | tensore dei valori delle risorse |
keys | tensore di valori interi senza segno a 32 bit o tipo stringa TFLite o valori interi senza segno a 64 bit |
default_value | tensore di valori in virgola mobile a 32 bit o interi senza segno a 32 bit o tipo stringa TFLite o valori interi senza segno a 64 bit |
Risultati:
Risultato | Descrizione |
---|---|
out | tensore di valori in virgola mobile a 32 bit o interi senza segno a 32 bit o tipo stringa TFLite o valori interi senza segno a 64 bit |
tfl.hashtable_import
(TFL::HashtableImportOp)
Sostituisce il contenuto della tabella con le chiavi e i valori specificati.
Le keys
tensori devono essere dello stesso tipo delle chiavi della tabella. I values
del tensore devono essere del tipo dei valori della tabella.
Interfacce: TflRuntimeVerifyOpInterface
Operandi:
Operando | Descrizione |
---|---|
hash_table | tensore dei valori delle risorse |
keys | tensore di valori interi senza segno a 32 bit o tipo stringa TFLite o valori interi senza segno a 64 bit |
values | tensore di valori in virgola mobile a 32 bit o interi senza segno a 32 bit o tipo stringa TFLite o valori interi senza segno a 64 bit |
tfl.hashtable_size
(TFL::HashtableSizeOp)
Calcola il numero di elementi nella tabella data.
Interfacce: TflRuntimeVerifyOpInterface
Operandi:
Operando | Descrizione |
---|---|
hash_table | tensore dei valori delle risorse |
Risultati:
Risultato | Descrizione |
---|---|
out | tensore di valori interi senza segno a 64 bit |
tfl.if
(TFL::IfOp)
Operazione "Se-allora-altro".
L'operazione tfl.if
rappresenta un costrutto if-then-else per l'esecuzione condizionale di due regioni di codice. L'operando di un'operazione if è un valore booleano. Ad esempio:
tfl.if %b {
...
} else {
...
}
tfl.if
può anche restituire risultati definiti nelle sue regioni. I valori definiti sono determinati dal percorso di esecuzione intrapreso.
Esempio:
%x, %y = tfl.if %b -> (tensor<f32>, tensor<f32>) {
%x_true = ...
%y_true = ...
tfl.yield %x_true, %y_true : tensor<f32>, tensor<f32>
} else {
%x_false = ...
%y_false = ...
tfl.yield %x_false, %y_false : tensor<f32>, tensor<f32>
}
Le regioni tfl.if
terminano sempre con "tfl.yield". Se "tfl.if" non definisce valori, "tfl.yield" può essere tralasciato e verrà inserito implicitamente. Altrimenti deve essere esplicito. Inoltre, se "tfl.if" definisce uno o più valori, il blocco "else" non può essere omesso.
Esempio:
tfl.if %b {
...
}
Caratteristiche: NoRegionArguments
, RecursiveMemoryEffects
, SingleBlockImplicitTerminator<YieldOp>
, SingleBlock
Interfacce: RegionBranchOpInterface
, TflRuntimeVerifyOpInterface
Operandi:
Operando | Descrizione |
---|---|
cond | tensore di valori interi senza segno a 1 bit |
Risultati:
Risultato | Descrizione |
---|---|
results | variadica del tensore di qualsiasi tipo di valore |
tfl.imag
(TFL::ImagOp)
Restituisce la parte immaginaria di un numero complesso.
Dato un tensore input
di numeri complessi, questa operazione restituisce un tensore di tipo float
che è la parte immaginaria di ciascun elemento in input
. Tutti gli elementi in input
devono essere numeri complessi del modulo \(a + bj\), dove a è la parte reale e b è la parte immaginaria restituita da questa operazione.
Caratteristiche: AlwaysSpeculatableImplTrait
, SameOperandsAndResultShape
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
input | tensore di tipo complesso con elementi float a 32 bit o tipo complesso con valori di elementi float a 64 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori float a 32 bit o float a 64 bit |
tfl.l2_normalization
(TFL::L2NormalizationOp)
L2 Operatore Normalizza
L2Normalizzazione Op
Caratteristiche: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfacce: ConditionallySpeculatable
, FixedOutputRangeInterface
, NoMemoryEffect (MemoryEffectOpInterface)
, TflArithmeticCountOpInterface
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
fused_activation_function | ::mlir::StringAttr | attributo stringa il cui valore è NONE, o RELU, o RELU_N1_TO_1, o RELU6, o TANH, o SIGN_BIT |
Operandi:
Operando | Descrizione |
---|---|
input | tensore di tipo float a 32 bit o tipo QUI8 o tipo QI8 o tipo QUI16 o tipo QI16 o valori interi senza segno a 8 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di tipo float a 32 bit o tipo QUI8 o tipo QI8 o tipo QUI16 o tipo QI16 o valori interi senza segno a 8 bit |
tfl.leaky_relu
(TFL::LeakyReluOp)
Operatore Relu che perde
Operatore Leaky ReLU a livello di elemento x -> x >= 0 ? x : (alfa * x)
Caratteristiche: AlwaysSpeculatableImplTrait
, QuantizableResult
, SameOperandsAndResultShape
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
alpha | ::mlir::FloatAttr | Attributo float a 32 bit |
Operandi:
Operando | Descrizione |
---|---|
input | tensore di valori float a 32 bit o tipo QUI8 o tipo QI8 o tipo TFLite quint8 o tipo QI16 |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori float a 32 bit o tipo QUI8 o tipo QI8 o tipo TFLite quint8 o tipo QI16 |
tfl.less
(TFL::LessOp)
Meno operatore
Meno operazioni in termini di elementi.
Tratti: ::mlir::OpTrait::TFLRuntimeOpTrait
, AlwaysSpeculatableImplTrait
, QuantizableResult
, ResultsBroadcastableShape
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
lhs | tensore di valori in virgola mobile a 32 bit o intero senza segno a 16 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o tipo QUI8 o tipo QI8 o valori di tipo TFLite quint8 |
rhs | tensore di valori in virgola mobile a 32 bit o intero senza segno a 16 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o tipo QUI8 o tipo QI8 o valori di tipo TFLite quint8 |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori interi senza segno a 1 bit |
tfl.less_equal
(TFL::LessEqualOp)
_Operatore meno uguale
Operazione less_equal a livello di elemento.
Tratti: ::mlir::OpTrait::TFLRuntimeOpTrait
, AlwaysSpeculatableImplTrait
, QuantizableResult
, ResultsBroadcastableShape
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
lhs | tensore di valori in virgola mobile a 32 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o valori di tipo QI8 o di tipo QUI8 |
rhs | tensore di valori in virgola mobile a 32 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o valori di tipo QI8 o di tipo QUI8 |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori interi senza segno a 1 bit |
tfl.local_response_normalization
(TFL::LocalResponseNormalizationOp)
Normalizzazione della risposta locale.
Il tensore input
4-D viene trattato come una matrice 3-D di vettori 1-D (lungo l'ultima dimensione) e ciascun vettore viene normalizzato in modo indipendente. All'interno di un dato vettore, ogni componente viene diviso per la somma ponderata e quadrata degli input all'interno di depth_radius
. Nel dettaglio,
sqr_sum[a, b, c, d] =
sum(input[a, b, c, d - depth_radius : d + depth_radius + 1] ** 2)
output = input / (bias + alpha * sqr_sum) ** beta
Per i dettagli, vedere Krizhevsky et al., Classificazione ImageNet con reti neurali convoluzionali profonde (NIPS 2012) .
Caratteristiche: AlwaysSpeculatableImplTrait
, InferTensorType
, TF::SameOperandsAndResultTypeResolveRef
Interfacce: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
radius | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
bias | ::mlir::FloatAttr | Attributo float a 32 bit |
alpha | ::mlir::FloatAttr | Attributo float a 32 bit |
beta | ::mlir::FloatAttr | Attributo float a 32 bit |
Operandi:
Operando | Descrizione |
---|---|
input | tensore di valori float a 32 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori float a 32 bit |
tfl.log
(TFL::LogOp)
Operatore del logaritmo naturale
Esegue l'operazione del logaritmo naturale per elemento sull'input.
Caratteristiche: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
x | tensore di valori di tipo float o QI8 a 32 bit |
Risultati:
Risultato | Descrizione |
---|---|
y | tensore di valori di tipo float o QI8 a 32 bit |
tfl.log_softmax
(TFL::LogSoftmaxOp)
Registra l'operatore softmax
Calcola le attivazioni softmax del registro per elemento con la seguente formula
input - log(ridurre_sum(exp(input), dim))
Caratteristiche: AlwaysSpeculatableImplTrait
, QuantizableResult
, SameOperandsAndResultShape
Interfacce: ConditionallySpeculatable
, FixedOutputRangeInterface
, NoMemoryEffect (MemoryEffectOpInterface)
, TflArithmeticCountOpInterface
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
input | tensore di valori float a 32 bit o tipo QUI8 o tipo QI8 o tipo TFLite quint8 |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori float a 32 bit o tipo QUI8 o tipo QI8 o tipo TFLite quint8 |
tfl.logical_and
(TFL::LogicalAndOp)
Operatore logico AND
Operazione AND logica a livello di elemento.
Caratteristiche: AlwaysSpeculatableImplTrait
, ResultsBroadcastableShape
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
lhs | tensore di valori interi senza segno a 1 bit |
rhs | tensore di valori interi senza segno a 1 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori interi senza segno a 1 bit |
tfl.logical_not
(TFL::LogicalNotOp)
Operatore logico NOT
Operazione NOT logica a livello di elemento.
Caratteristiche: AlwaysSpeculatableImplTrait
, SameOperandsAndResultType
Interfacce: ConditionallySpeculatable
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
lhs | tensore di valori interi senza segno a 1 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori interi senza segno a 1 bit |
tfl.logical_or
(TFL::LogicalOrOp)
Operatore logico OR
Operazione OR logica a livello di elemento.
Caratteristiche: AlwaysSpeculatableImplTrait
, ResultsBroadcastableShape
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
lhs | tensore di valori interi senza segno a 1 bit |
rhs | tensore di valori interi senza segno a 1 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori interi senza segno a 1 bit |
tfl.logistic
(TFL::LogisticOp)
Operatore logistico
Calcola il sigmoide dell'input in termini di elementi
Caratteristiche: AlwaysSpeculatableImplTrait
, QuantizableResult
, SameOperandsAndResultShape
Interfacce: ConditionallySpeculatable
, FixedOutputRangeInterface
, NoMemoryEffect (MemoryEffectOpInterface)
, TflArithmeticCountOpInterface
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
x | tensore di valori float a 32 bit o tipo QI8 o tipo QUI8 o tipo QI16 o tipo TFLite quint8 |
Risultati:
Risultato | Descrizione |
---|---|
y | tensore di valori float a 32 bit o tipo QI8 o tipo QUI8 o tipo QI16 o tipo TFLite quint8 |
tfl.lstm
(TFL::LSTMOp)
L'operatore lstm completo
Livello di rete ricorrente dell'unità di memoria a breve termine (LSTM). L'implementazione predefinita senza spioncino si basa su: http://deeplearning.cs.cmu.edu/pdfs/Hochreiter97_lstm.pdf S. Hochreiter e J. Schmidhuber. "Memoria a lungo termine". Neural Computation, 9(8):1735-1780, 1997. L'implementazione dello spioncino è basata su: https://research.google.com/pubs/archive/43905.pdf Hasim Sak, Andrew Senior e Francoise Beaufays. "Architetture di reti neurali ricorrenti con memoria a breve termine per la modellazione acustica su larga scala." INTERSPEECH, 2014. L'accoppiamento tra input e dimenticare gate (CIFG) si basa su: http://arxiv.org/pdf/1503.04069.pdf Greff et al. 'LSTM: A Search Space Odyssey' La normalizzazione dei livelli si basa su: https://arxiv.org/pdf/1607.06450.pdf Ba et al. 'Normalizzazione dei livelli'
Caratteristiche: QuantizableResult
Interfacce: DynamicRangeQuantizedOpInterface
, TFL_StatefulOp
, TflRuntimeVerifyOpInterface
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
fused_activation_function | ::mlir::StringAttr | attributo stringa il cui valore è NONE, o RELU, o RELU_N1_TO_1, o RELU6, o TANH, o SIGN_BIT |
cell_clip | ::mlir::FloatAttr | Attributo float a 32 bit il cui valore non è negativo |
proj_clip | ::mlir::FloatAttr | Attributo float a 32 bit il cui valore non è negativo |
kernel_type | ::mlir::TFL::LSTMKernelTypeAttr | lstm_kernel_type il cui valore è mlir::TFL::LSTMKernelType::FULL |
asymmetric_quantize_inputs | ::mlir::BoolAttr | attributo bool |
input_to_input_intermediate | ::mlir::TypeAttr | qualsiasi attributo di tipo |
input_to_forget_intermediate | ::mlir::TypeAttr | qualsiasi attributo di tipo |
input_to_cell_intermediate | ::mlir::TypeAttr | qualsiasi attributo di tipo |
input_to_output_intermediate | ::mlir::TypeAttr | qualsiasi attributo di tipo |
effective_hidden_scale_intermediate | ::mlir::TypeAttr | qualsiasi attributo di tipo |
Operandi:
Operando | Descrizione |
---|---|
input | tensore di valori float a 32 bit o di tipo QI8 o di tipo QI16 |
input_to_input_weights | tensore di qualsiasi tipo valori o nessun tipo |
input_to_forget_weights | tensore di valori di tipo float o QI8 a 32 bit |
input_to_cell_weights | tensore di valori di tipo float o QI8 a 32 bit |
input_to_output_weights | tensore di valori di tipo float o QI8 a 32 bit |
recurrent_to_input_weights | tensore di qualsiasi tipo valori o nessun tipo |
recurrent_to_forget_weights | tensore di valori di tipo float o QI8 a 32 bit |
recurrent_to_cell_weights | tensore di valori di tipo float o QI8 a 32 bit |
recurrent_to_output_weights | tensore di valori di tipo float o QI8 a 32 bit |
cell_to_input_weights | tensore di qualsiasi tipo valori o nessun tipo |
cell_to_forget_weights | tensore di qualsiasi tipo valori o nessun tipo |
cell_to_output_weights | tensore di qualsiasi tipo valori o nessun tipo |
input_gate_bias | tensore di qualsiasi tipo valori o nessun tipo |
forget_gate_bias | tensore di valori di tipo float a 32 bit o QI32 |
cell_bias | tensore di valori di tipo float a 32 bit o QI32 |
output_gate_bias | tensore di valori di tipo float a 32 bit o QI32 |
projection_weights | tensore di qualsiasi tipo valori o nessun tipo |
projection_bias | tensore di qualsiasi tipo valori o nessun tipo |
input_activation_state | tensore con stato |
input_cell_state | tensore con stato |
input_layer_norm_coefficients | tensore di qualsiasi tipo valori o nessun tipo |
forget_layer_norm_coefficients | tensore di qualsiasi tipo valori o nessun tipo |
cell_layer_norm_coefficients | tensore di qualsiasi tipo valori o nessun tipo |
output_layer_norm_coefficients | tensore di qualsiasi tipo valori o nessun tipo |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di qualsiasi tipo di valore |
tfl.matrix_diag
(TFL::MatrixDiagOp)
Restituisce un tensore con la diagonale fornita e tutto il resto riempito con zeri.
Data una diagonale, restituisce un tensore con la diagonale e tutto il resto riempito con zeri. Supponiamo che la diagonale abbia k dimensioni [I, J, K, ..., N]
, quindi l'output è un tensore di rango k+1
con dimensioni [I, J, K, ..., N, N]
dove: output[i, j, k, ..., m, n] = 1{m=n} * diagonal[i, j, k, ..., n].
Caratteristiche: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
diagonal | tensore di valori in virgola mobile a 32 bit o intero senza segno a 8 bit o intero senza segno a 16 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o intero senza segno a 8 bit o tipo QUI8 o tipo QI8 o valori di tipo TFLite quint8 |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori in virgola mobile a 32 bit o intero senza segno a 8 bit o intero senza segno a 16 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o intero senza segno a 8 bit o tipo QUI8 o tipo QI8 o valori di tipo TFLite quint8 |
tfl.matrix_set_diag
(TFL::MatrixSetDiagOp)
Restituisce un tensore di matrice in batch con nuovi valori diagonali in batch.
Dati input
e diagonal
, questa operazione restituisce un tensore con la stessa forma e gli stessi valori di input
, ad eccezione della diagonale principale delle matrici più interne. Questi verranno sovrascritti dai valori in diagonal
.
Caratteristiche: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
input | tensore di valori in virgola mobile a 32 bit o intero senza segno a 8 bit o intero senza segno a 16 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o intero senza segno a 8 bit o tipo QI8 o tipo QI16 o tipo QUI8 o valori di tipo TFLite quint8 |
diagonal | tensore di valori in virgola mobile a 32 bit o intero senza segno a 8 bit o intero senza segno a 16 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o intero senza segno a 8 bit o tipo QI8 o tipo QI16 o tipo QUI8 o valori di tipo TFLite quint8 |
Risultati:
Risultato | Descrizione |
---|---|
result | tensore di valori in virgola mobile a 32 bit o intero senza segno a 8 bit o intero senza segno a 16 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o intero senza segno a 8 bit o tipo QI8 o tipo QI16 o tipo QUI8 o valori di tipo TFLite quint8 |
tfl.max_pool_2d
(TFL::MaxPool2DOp)
Piscina Max 2D op
Esegue il pool 2D massimo in input.
Ingressi: inputs[0]
: richiesto: il tensore di input
Caratteristiche: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflArithmeticCountOpInterface
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
padding | ::mlir::StringAttr | attributo stringa il cui valore è SAME o VALID |
stride_w | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
stride_h | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
filter_width | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
filter_height | ::mlir::IntegerAttr | Attributo intero senza segno a 32 bit |
fused_activation_function | ::mlir::StringAttr | attributo stringa il cui valore è NONE, o RELU, o RELU_N1_TO_1, o RELU6, o TANH, o SIGN_BIT |
Operandi:
Operando | Descrizione |
---|---|
input | tensore di valori float a 32 bit o tipo QUI8 o tipo QI8 o tipo QI16 o tipo TFLite quint8 |
Risultati:
Risultato | Descrizione |
---|---|
output | tensore di valori float a 32 bit o tipo QUI8 o tipo QI8 o tipo QI16 o tipo TFLite quint8 |
tfl.maximum
(TFL::Opzionemassima)
Operatore massimo
Funzionamento massimo in termini di elementi.
Caratteristiche: ::mlir::OpTrait::TFLRuntimeOpTrait
, AlwaysSpeculatableImplTrait
, Commutative
, QuantizableResult
, ResultsBroadcastableShape
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Operandi:
Operando | Descrizione |
---|---|
lhs | tensore di valori in virgola mobile a 32 bit o intero senza segno a 32/64 bit o valori di tipo QI8 o di tipo QUI8 o di tipo QI16 |
rhs | tensore di valori in virgola mobile a 32 bit o intero senza segno a 32/64 bit o valori di tipo QI8 o di tipo QUI8 o di tipo QI16 |
Risultati:
Risultato | Descrizione |
---|---|
max | tensore di valori in virgola mobile a 32 bit o intero senza segno a 32/64 bit o valori di tipo QI8 o di tipo QUI8 o di tipo QI16 |
tfl.mean
(TFL::MeanOp)
Operatore medio
Calcola la media degli elementi attraverso le dimensioni di un tensore. Riduce input_tensor lungo le dimensioni indicate nell'asse. A meno che keepdims non sia vero, il rango del tensore viene ridotto di 1 per ogni voce nell'asse. Se keepdims è true, le dimensioni ridotte vengono mantenute con lunghezza 1.
Caratteristiche: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfacce: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effetti: MemoryEffects::Effect{}
Attributi:
Attributo | Tipo MLIR | Descrizione |
---|---|---|
keep_dims | ::mlir::BoolAttr | attributo bool |
Operandi:
Operando | Descrizione |
---|---|
input | tensore di valore in virgola mobile a 32 bit o intero senza segno a 32 bit o intero senza segno a 64 bit o tipo QI8 o tipo QUI8 o intero senza segno a 8 bit o valori di tipo QI16 |
axis | tensore di valori interi senza segno a 32 bit |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or QI8 type or QUI8 type or 8-bit unsigned integer or QI16 type values |
tfl.minimum
(TFL::MinimumOp)
Min operator
Element-wise min operation.
Traits: ::mlir::OpTrait::TFLRuntimeOpTrait
, AlwaysSpeculatableImplTrait
, Commutative
, QuantizableResult
, ResultsBroadcastableShape
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
lhs | tensor of 32-bit float or 32/64-bit signless integer or QI8 type or QUI8 type or QI16 type values |
rhs | tensor of 32-bit float or 32/64-bit signless integer or QI8 type or QUI8 type or QI16 type values |
Risultati:
Risultato | Descrizione |
---|---|
min | tensor of 32-bit float or 32/64-bit signless integer or QI8 type or QUI8 type or QI16 type values |
tfl.mirror_pad
(TFL::MirrorPadOp)
MirrorPad Operator. Pads a tensor with mirrored values.
This operation pads a input with mirrored values according to the paddings you specify. paddings is an integer tensor with shape [n, 2], where n is the rank of input. For each dimension D of input, paddings[D, 0] indicates how many values to add before the contents of input in that dimension, and paddings[D, 1] indicates how many values to add after the contents of input in that dimension.
Both paddings[D, 0] and paddings[D, 1] must be no greater than input.dim_size(D) (or input.dim_size(D) - 1) if copy_border is true (if false, respectively).
The padded size of each dimension D of the output is:
paddings(D, 0) + input.dim_size(D) + paddings(D, 1)
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
mode | ::mlir::TFL::MirrorPaddingTypeAttr | mirror_pad_enum |
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or 8-bit signless integer or 8-bit unsigned integer or QI8 type or QUI8 type or QI16 type values |
pad | tensor of 32-bit signless integer or 64-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or 8-bit signless integer or 8-bit unsigned integer or QI8 type or QUI8 type or QI16 type values |
tfl.mul
(TFL::MulOp)
Multiplication operator
Element-wise multiplication operation.
Traits: ::mlir::OpTrait::TFLRuntimeOpTrait
, AlwaysSpeculatableImplTrait
, Commutative
, QuantizableResult
, ResultsBroadcastableShape
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflArithmeticCountOpInterface
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
fused_activation_function | ::mlir::StringAttr | string attribute whose value is NONE, or RELU, or RELU_N1_TO_1, or RELU6, or TANH, or SIGN_BIT |
Operands:
Operand | Descrizione |
---|---|
lhs | tensor of 32-bit float or 32-bit signless integer or 32-bit unsigned integer or 64-bit signless integer or QI8 type or QUI8 type or QI16 type or 16-bit signless integer or complex type with 32-bit float elements values |
rhs | tensor of 32-bit float or 32-bit signless integer or 32-bit unsigned integer or 64-bit signless integer or QI8 type or QUI8 type or QI16 type or 16-bit signless integer or complex type with 32-bit float elements values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 32-bit signless integer or 32-bit unsigned integer or 64-bit signless integer or QI8 type or QUI8 type or QI16 type or 16-bit signless integer or complex type with 32-bit float elements values |
tfl.multinomial
(TFL::MultinomialOp)
Draws samples from a categorical distribution.
The generated values will have a categorical distribution based on the logits
or unnormalized log-probabilities provided for all classes.
Interfaces: TflRuntimeVerifyOpInterface
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
seed | ::mlir::IntegerAttr | 64-bit signless integer attribute |
seed2 | ::mlir::IntegerAttr | 64-bit signless integer attribute |
Operands:
Operand | Descrizione |
---|---|
logits | tensor of 32-bit float values |
num_samples | tensor of 32-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
out | tensor of 32-bit signless integer or 64-bit signless integer values |
tfl.neg
(TFL::NegOp)
Negation operator
Computes element-wise negation of input
Traits: AlwaysSpeculatableImplTrait
, InferTensorType
, TF::SameOperandsAndResultTypeResolveRef
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
x | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
y | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer values |
tfl.no_value
(TFL::NoValueOp)
Constant representing no value.
No value constant op.
Traits: AlwaysSpeculatableImplTrait
, ConstantLike
Interfaces: ConditionallySpeculatable
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
value | ::mlir::UnitAttr | unit attribute |
Risultati:
Risultato | Descrizione |
---|---|
none_val | none type |
tfl.non_max_suppression_v4
(TFL::NonMaxSuppressionV4Op)
Greedily selects a subset of bounding boxes in descending order of score,
pruning away boxes that have high intersection-over-union (IOU) overlap with previously selected boxes. Bounding boxes with score less than score_threshold
are removed. Bounding boxes are supplied as [y1, x1, y2, x2], where (y1, x1) and (y2, x2) are the coordinates of any diagonal pair of box corners and the coordinates can be provided as normalized (ie, lying in the interval [0, 1]) or absolute. Note that this algorithm is agnostic to where the origin is in the coordinate system and more generally is invariant to orthogonal transformations and translations of the coordinate system; thus translating or reflections of the coordinate system result in the same boxes being selected by the algorithm. The output of this operation is a set of integers indexing into the input collection of bounding boxes representing the selected boxes. The bounding box coordinates corresponding to the selected indices can then be obtained using the tf.gather operation
. For example: selected_indices = tf.image.non_max_suppression_v2( boxes, scores, max_output_size, iou_threshold, score_threshold) selected_boxes = tf.gather(boxes, selected_indices)
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
boxes | tensor of 32-bit float values |
scores | tensor of 32-bit float values |
max_output_size | tensor of 32-bit signless integer values |
iou_threshold | tensor of 32-bit float values |
score_threshold | tensor of 32-bit float values |
Risultati:
Risultato | Descrizione |
---|---|
selected_indices | tensor of 32-bit signless integer values |
valid_outputs | tensor of 32-bit signless integer values |
tfl.non_max_suppression_v5
(TFL::NonMaxSuppressionV5Op)
Greedily selects a subset of bounding boxes in descending order of score,
pruning away boxes that have high intersection-over-union (IOU) overlap with previously selected boxes. Bounding boxes with score less than score_threshold
are removed. Bounding boxes are supplied as [y1, x1, y2, x2], where (y1, x1) and (y2, x2) are the coordinates of any diagonal pair of box corners and the coordinates can be provided as normalized (ie, lying in the interval [0, 1]) or absolute. Note that this algorithm is agnostic to where the origin is in the coordinate system and more generally is invariant to orthogonal transformations and translations of the coordinate system; thus translating or reflections of the coordinate system result in the same boxes being selected by the algorithm. The output of this operation is a set of integers indexing into the input collection of bounding boxes representing the selected boxes. The bounding box coordinates corresponding to the selected indices can then be obtained using the tf.gather operation
. For example: selected_indices = tf.image.non_max_suppression_v2( boxes, scores, max_output_size, iou_threshold, score_threshold) selected_boxes = tf.gather(boxes, selected_indices) This op also supports a Soft-NMS (with Gaussian weighting) mode (cf Bodla et al, https://arxiv.org/abs/1704.04503 ) where boxes reduce the score of other overlapping boxes instead of directly causing them to be pruned. To enable this Soft-NMS mode, set the soft_nms_sigma
parameter to be larger than 0.
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
boxes | tensor of 32-bit float values |
scores | tensor of 32-bit float values |
max_output_size | tensor of 32-bit signless integer values |
iou_threshold | tensor of 32-bit float values |
score_threshold | tensor of 32-bit float values |
soft_nms_sigma | tensor of 32-bit float values |
Risultati:
Risultato | Descrizione |
---|---|
selected_indices | tensor of 32-bit signless integer values |
selected_scores | tensor of 32-bit float values |
valid_outputs | tensor of 32-bit signless integer values |
tfl.not_equal
(TFL::NotEqualOp)
_Not equal operator
Element-wise not_equal operation.
Traits: ::mlir::OpTrait::TFLRuntimeOpTrait
, AlwaysSpeculatableImplTrait
, Commutative
, ResultsBroadcastableShape
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
lhs | tensor of 1-bit signless integer or 32-bit float or 32-bit signless integer or 64-bit signless integer or QUI8 type or QI8 type or QI16 type or TFLite quint8 type or TFLite string type values |
rhs | tensor of 1-bit signless integer or 32-bit float or 32-bit signless integer or 64-bit signless integer or QUI8 type or QI8 type or QI16 type or TFLite quint8 type or TFLite string type values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 1-bit signless integer values |
tfl.NumericVerify
(TFL::NumericVerifyOp)
Verifies the numericals of the two operands
The NumericVerify op is a debugging op to verify the numericals of the two activations. It is a custom op in TFLite. If log_if_failed is true, the NumericVerify op calculates statistics on differences between float and quantized activations, output logs, set differences to the output tensors, and throws an error if errors above tolerance exist. If log_if_failed = false, then it doesn't care about errors.
Traits: QuantizableResult
, SameOperandsShape
Interfaces: TflRuntimeVerifyOpInterface
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
tolerance | ::mlir::FloatAttr | 32-bit float attribute |
log_if_failed | ::mlir::BoolAttr | bool attribute |
Operands:
Operand | Descrizione |
---|---|
input | tensor of QI8 type or QUI8 type or QI16 type or 16-bit float or TFLite quint8 type values |
ref | tensor of 32-bit float values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float values |
tfl.one_hot
(TFL::OneHotOp)
OneHot operator
Returns a one-hot tensor.The locations represented by indices in indices
take value on_value
, while all other locations take value off_value
.
If the input indices
is rank N
, the output will have rank N+1
, The new axis is created at dimension axis
(default: the new axis is appended at the end).
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
axis | ::mlir::IntegerAttr | 32-bit signless integer attribute |
Operands:
Operand | Descrizione |
---|---|
indices | tensor of 32-bit signless integer or 64-bit signless integer values |
depth | tensor of 32-bit signless integer values |
on_value | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or 1-bit signless integer or 8-bit signless integer or 8-bit unsigned integer values |
off_value | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or 1-bit signless integer or 8-bit signless integer or 8-bit unsigned integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or 1-bit signless integer or 8-bit signless integer or 8-bit unsigned integer values |
tfl.pack
(TFL::PackOp)
Packs a list of tensors along a dimension into one tensor
Packs a list of values_count
rank- R
tensors into one rank- (R+1)
tensor.
Packs the values_count
tensors in values
into a tensor with rank one higher than each tensor in values
, by packing them along the axis
dimension.
Given a list of tensors of shape (A, B, C)
;
if axis == 0
then the output
tensor will have the shape (N, A, B, C)
. if axis == 1
then the output
tensor will have the shape (A, N, B, C)
. Etc.
Per esempio:
# 'x' is [1, 4]
# 'y' is [2, 5]
# 'z' is [3, 6]
pack([x, y, z]) => [[1, 4], [2, 5], [3, 6]] # Pack along first dim.
pack([x, y, z], axis=1) => [[1, 2, 3], [4, 5, 6]]
This is the opposite of unpack
.
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
values_count | ::mlir::IntegerAttr | 32-bit signless integer attribute whose value is positive |
axis | ::mlir::IntegerAttr | 32-bit signless integer attribute |
Operands:
Operand | Descrizione |
---|---|
values | variadic of tensor of any type values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 8-bit signless integer or 16-bit signless integer or 32-bit signless integer or 64-bit signless integer or 8-bit unsigned integer or 32-bit unsigned integer or QI8 type or QUI8 type or QI16 type or TFLite quint8 type values |
tfl.pad
(TFL::PadOp)
Padding operator
This operation pads a input
with zeros according to the paddings
you specify. paddings
is an integer tensor with shape [Dn, 2]
, where n is the rank of input
. For each dimension D of input
, paddings[D, 0]
indicates how many zeros to add before the contents of input
in that dimension, and paddings[D, 1]
indicates how many zeros to add after the contents of input
in that dimension.
The padded size of each dimension D of the output is:
paddings(D, 0) + input.dim_size(D) + paddings(D, 1)
Per esempio:
# 't' is [[1, 1], [2, 2]]
# 'paddings' is [[1, 1], [2, 2]]
# rank of 't' is 2
pad(t, paddings) ==> [[0, 0, 0, 0, 0, 0]
[0, 0, 1, 1, 0, 0]
[0, 0, 2, 2, 0, 0]
[0, 0, 0, 0, 0, 0]]
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or 1-bit signless integer or 32-bit signless integer or 64-bit signless integer or QI8 type or QUI8 type or TFLite quint8 type or QI16 type values |
padding | tensor of 32/64-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 1-bit signless integer or 32-bit signless integer or 64-bit signless integer or QI8 type or QUI8 type or TFLite quint8 type or QI16 type values |
tfl.padv2
(TFL::PadV2Op)
Padding operator v2
This operation pads a input
according to the paddings
and constant_values
you specify. paddings
is an integer tensor with shape [Dn, 2]
, where n is the rank of input
. For each dimension D of input
, paddings[D, 0]
indicates how many zeros to add before the contents of input
in that dimension, and paddings[D, 1]
indicates how many zeros to add after the contents of input
in that dimension. constant_values
is a scalar tensor of the same type as input
that indicates the value to use for padding input
.
The padded size of each dimension D of the output is:
paddings(D, 0) + input.dim_size(D) + paddings(D, 1)
Per esempio:
# 't' is [[1, 1], [2, 2]]
# 'paddings' is [[1, 1], [2, 2]]
# rank of 't' is 2
pad(t, paddings) ==> [[0, 0, 0, 0, 0, 0]
[0, 0, 1, 1, 0, 0]
[0, 0, 2, 2, 0, 0]
[0, 0, 0, 0, 0, 0]]
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or 1-bit signless integer or 32-bit signless integer or 64-bit signless integer or 8-bit unsigned integer or QI8 type or QUI8 type or TFLite quint8 type values |
padding | tensor of 32/64-bit signless integer values |
constant_values | tensor of 32-bit float or 1-bit signless integer or 32-bit signless integer or 64-bit signless integer or 8-bit unsigned integer or QI8 type or QUI8 type or TFLite quint8 type values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 1-bit signless integer or 32-bit signless integer or 64-bit signless integer or 8-bit unsigned integer or QI8 type or QUI8 type or TFLite quint8 type values |
tfl.poly_call
(TFL::PolyCallOp)
Poly call
Have multiple function bodies for the same computation. This allows a program compiler/interpreter to choose one of the available options to execute the program based on which one is most suitable for the target backend.
input: A list of input tensors whose types are T. output: A list of output tensors whose types are T.
call: Multiple regions, each of which encapsulates the same semantic computation but in different forms.
Traits: SingleBlockImplicitTerminator<YieldOp>
, SingleBlock
Interfaces: RegionBranchOpInterface
Operands:
Operand | Descrizione |
---|---|
input | variadic of tensor of any type values |
Risultati:
Risultato | Descrizione |
---|---|
output | variadic of tensor of any type values |
tfl.pow
(TFL::PowOp)
Power operator
Element-wise power operation.
Traits: ::mlir::OpTrait::TFLRuntimeOpTrait
, AlwaysSpeculatableImplTrait
, ResultsBroadcastableShape
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
lhs | tensor of 32-bit float or 32-bit signless integer values |
rhs | tensor of 32-bit float or 32-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 32-bit signless integer values |
tfl.prelu
(TFL::PReluOp)
Parameterized Relu operator
Parameterized Relu operator x -> x >= 0 ? x : (alpha * x) where alpha is a trainable tensor. input and alpha should be the same size as input or be broadcastable.
Traits: ::mlir::OpTrait::TFLRuntimeOpTrait
, AlwaysSpeculatableImplTrait
, QuantizableResult
, ResultsBroadcastableShape
, TFL::AffineOpCoefficient<-1, 1>
Interfaces: AffineQuantizedOpInterface
, ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or QI8 type or QUI8 type or TFLite quint8 type values |
alpha | tensor of 32-bit float or QI8 type or QUI8 type or TFLite quint8 type values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or QI8 type or QUI8 type or TFLite quint8 type values |
tfl.pseudo_const
(TFL::ConstOp)
Constant pseudo op.
Represents a constant value in TensorFlow Lite dialect. This is not an actual operation and it will be lowered to buffer instead.
The op is allowed to have all the same type of attributes as tf.Const does (eg, opaque TF attributes are allowed).
Traits: AlwaysSpeculatableImplTrait
, ConstantLike
, FirstAttrDerivedResultType
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
value | ::mlir::ElementsAttr | constant vector/tensor attribute |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of any type values |
tfl.pseudo_qconst
(TFL::QConstOp)
Quantized constant pseudo op
Represents a quantized constant value in TensorFlow Lite dialect. This is not an actual operation and it will be lowered to buffer instead. The quantization parameters are stored as a type attribute in this constant.
Traits: AlwaysSpeculatableImplTrait
, FirstAttrDerivedResultType
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
qtype | ::mlir::TypeAttr | Tensor type attribute |
value | ::mlir::ElementsAttr | constant vector/tensor attribute |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of QUI8 type or QI8 type or QI16 type or QUI16 type or TFLite quint8 type values |
tfl.pseudo_sparse_const
(TFL::SparseConstOp)
Sparse constant pseudo op.
Represents a sparse constant value in TensorFlow Lite dialect. This is not an actual operation and it will be lowered to buffer instead.
Traits: AlwaysSpeculatableImplTrait
, FirstAttrDerivedResultType
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
value | ::mlir::ElementsAttr | constant vector/tensor attribute |
s_param | ::mlir::TFL::SparsityParameterAttr | Sparsity parameter. |
compressed_data | ::mlir::ElementsAttr | constant vector/tensor attribute |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of any type values |
tfl.pseudo_sparse_qconst
(TFL::SparseQConstOp)
Sparse quantized constant pseudo op
Represents a sparse quantized constant value in TensorFlow Lite dialect. This is not an actual operation and it will be lowered to buffer instead. The quantization parameters are stored as a type attribute in this constant.
Traits: AlwaysSpeculatableImplTrait
, FirstAttrDerivedResultType
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
qtype | ::mlir::TypeAttr | Tensor type attribute |
value | ::mlir::ElementsAttr | constant vector/tensor attribute |
s_param | ::mlir::TFL::SparsityParameterAttr | Sparsity parameter. |
compressed_data | ::mlir::ElementsAttr | constant vector/tensor attribute |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of QUI8 type or QI8 type or QI16 type or QUI16 type or TFLite quint8 type values |
tfl.quantize
(TFL::QuantizeOp)
Quantize operator
Converts floating point tensors to quantized integer tensors according to the quantization parameters defined in the type attribute.
Traits: FirstAttrDerivedResultType
, SameOperandsAndResultShape
Interfaces: NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
qtype | ::mlir::TypeAttr | Tensor type attribute |
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or QI4 type or QI8 type or QUI8 type or QI16 type or TFLite quint8 type values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of QI4 type or QI8 type or QUI8 type or QI16 type or TFLite quint8 type values |
tfl.random_standard_normal
(TFL::RandomStandardNormalOp)
Outputs random values from a normal distribution.
The generated values will have mean 0 and standard deviation 1.
Interfaces: TflRuntimeVerifyOpInterface
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
seed | ::mlir::IntegerAttr | 64-bit signless integer attribute |
seed2 | ::mlir::IntegerAttr | 64-bit signless integer attribute |
Operands:
Operand | Descrizione |
---|---|
shape | tensor of 32-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
out | tensor of 32-bit float values |
tfl.random_uniform
(TFL::RandomUniformOp)
Outputs random values from a uniform distribution.
The generated values follow a uniform distribution in the range [0, 1)
. The lower bound 0 is included in the range, while the upper bound 1 is excluded.
Interfaces: TflRuntimeVerifyOpInterface
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
seed | ::mlir::IntegerAttr | 64-bit signless integer attribute |
seed2 | ::mlir::IntegerAttr | 64-bit signless integer attribute |
Operands:
Operand | Descrizione |
---|---|
shape | tensor of 32-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
out | tensor of 32-bit float values |
tfl.range
(TFL::RangeOp)
Range operator
Returns a 1D tensor defined by a sequence from start
to limit
with a given delta
.
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
start | tensor of 32-bit signless integer or 32-bit float or 64-bit signless integer values |
limit | tensor of 32-bit signless integer or 32-bit float or 64-bit signless integer values |
delta | tensor of 32-bit signless integer or 32-bit float or 64-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
result | tensor of 32-bit signless integer or 32-bit float or 64-bit signless integer values |
tfl.rank
(TFL::RankOp)
Rank operator.
Returns the rank of a tensor.
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
input | tensor of any type values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of any integer type |
tfl.read_variable
(TFL::ReadVariableOp)
Reads variable value.
Read variable data identified by 'resource_id'.
Interfaces: TflRuntimeVerifyOpInterface
Operands:
Operand | Descrizione |
---|---|
resource_id | tensor of resource values |
Risultati:
Risultato | Descrizione |
---|---|
result | tensor of 32-bit float or 64-bit float or 1-bit signless integer or 8-bit unsigned integer or 8-bit signless integer or QI8 type or QUI8 type or 32-bit signless integer or 64-bit signless integer or QI16 type or complex type with 32-bit float elements or complex type with 64-bit float elements values |
tfl.real
(TFL::RealOp)
Returns the real part of a complex number.
Given a tensor input
of complex numbers, this operation returns a tensor of type float
that is the real part of each element in input
. All elements in input
must be complex numbers of the form \(a + bj\), where a is the real part returned by this operation and b is the imaginary part.
Traits: AlwaysSpeculatableImplTrait
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
input | tensor of complex type with 32-bit float elements or complex type with 64-bit float elements values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 64-bit float values |
tfl.reduce_all
(TFL::ReduceAllOp)
Computes the "logical and" of elements across dimensions of a tensor.
Reduces input
along the dimensions given in axis
. Unless keep_dims
is true, the rank of the tensor is reduced by 1 for each entry in axis
. If keep_dims
is true, the reduced dimensions are retained with length 1.
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
keep_dims | ::mlir::BoolAttr | bool attribute |
Operands:
Operand | Descrizione |
---|---|
input | tensor of 1-bit signless integer values |
reduction_indices | tensor of 32-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 1-bit signless integer values |
tfl.reduce_any
(TFL::ReduceAnyOp)
Computes the "logical or" of elements across dimensions of a tensor.
Reduces input
along the dimensions given in axis
. Unless keep_dims
is true, the rank of the tensor is reduced by 1 for each entry in axis
. If keep_dims
is true, the reduced dimensions are retained with length 1.
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
keep_dims | ::mlir::BoolAttr | bool attribute |
Operands:
Operand | Descrizione |
---|---|
input | tensor of 1-bit signless integer values |
reduction_indices | tensor of 32-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 1-bit signless integer values |
tfl.reduce_max
(TFL::ReduceMaxOp)
Max-reduction operator
Computes the max reduction along the specified axes
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
keep_dims | ::mlir::BoolAttr | bool attribute |
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or QI8 type or QUI8 type or TFLite quint8 type or QI16 type values |
axes | tensor of 32-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or QI8 type or QUI8 type or TFLite quint8 type or QI16 type values |
tfl.reduce_min
(TFL::ReduceMinOp)
Min-reduction operator
Computes the min reduction along the specified axes
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
keep_dims | ::mlir::BoolAttr | bool attribute |
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or QI8 type or QUI8 type or TFLite quint8 type or QI16 type values |
axes | tensor of 32-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or QI8 type or QUI8 type or TFLite quint8 type or QI16 type values |
tfl.reduce_prod
(TFL::ReduceProdOp)
Prod-reduction operator
Computes the product along the specified axes
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
keep_dims | ::mlir::BoolAttr | bool attribute |
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or QI8 type or QUI8 type or TFLite quint8 type or QI16 type values |
axes | tensor of 32-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or QI8 type or QUI8 type or TFLite quint8 type or QI16 type values |
tfl.relu
(TFL::ReluOp)
Relu operator
Element-wise Relu operator x -> max(0, x)
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
x | tensor of 32-bit float or QUI8 type or QI8 type or QI16 type values |
Risultati:
Risultato | Descrizione |
---|---|
y | tensor of 32-bit float or QUI8 type or QI8 type or QI16 type values |
tfl.relu6
(TFL::Relu6Op)
Relu6 operator
Element-wise Relu6 operator x -> max(0, min(6, x))
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
x | tensor of 32-bit float or QUI8 type or QI8 type values |
Risultati:
Risultato | Descrizione |
---|---|
y | tensor of 32-bit float or QUI8 type or QI8 type values |
tfl.relu_0_to_1
(TFL::Relu0To1Op)
Relu0To1 operator
Element-wise Relu0To1 operator x -> max(0, min(1, x))
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
x | tensor of 32-bit float or QUI8 type or QI8 type values |
Risultati:
Risultato | Descrizione |
---|---|
y | tensor of 32-bit float or QUI8 type or QI8 type values |
tfl.relu_n1_to_1
(TFL::Relu1Op)
Relu1 operator
Element-wise Relu1 operator x -> max(-1, min(1, x))
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
x | tensor of 32-bit float or QUI8 type or QI8 type values |
Risultati:
Risultato | Descrizione |
---|---|
y | tensor of 32-bit float or QUI8 type or QI8 type values |
tfl.reshape
(TFL::ReshapeOp)
Reshape operator
Produces a tensor with the same values but different static shape defined by the output type.
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
input | tensor of any type values |
shape | tensor of 32-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of any type values |
tfl.resize_bilinear
(TFL::ResizeBilinearOp)
ResizeBilinear Op
Resize images
to size
using bilinear interpolation.
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
align_corners | ::mlir::BoolAttr | bool attribute |
half_pixel_centers | ::mlir::BoolAttr | bool attribute |
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or TFLite quint8 type or QUI8 type or QI8 type or QI16 type values |
size | tensor of 32-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or TFLite quint8 type or QUI8 type or QI8 type or QI16 type values |
tfl.resize_nearest_neighbor
(TFL::ResizeNearestNeighborOp)
ResizeNearestNeighbor Op
Resize images
to size
using nearest neighbor interpolation.
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
align_corners | ::mlir::BoolAttr | bool attribute |
half_pixel_centers | ::mlir::BoolAttr | bool attribute |
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or TFLite quint8 type or QUI8 type or QI8 type or QI16 type values |
size | tensor of 32-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or TFLite quint8 type or QUI8 type or QI8 type or QI16 type values |
tfl.reverse_sequence
(TFL::ReverseSequenceOp)
Reverses variable length slices.
This op first slices input
along the dimension batch_dim
, and for each slice i
, reverses the first seq_lengths[i]
elements along the dimension seq_dim
.
The elements of seq_lengths
must obey seq_lengths[i] <= input.dims[seq_dim]
, and seq_lengths
must be a vector of length input.dims[batch_dim]
.
The output slice i
along dimension batch_dim
is then given by input slice i
, with the first seq_lengths[i]
slices along dimension seq_dim
reversed.
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
seq_dim | ::mlir::IntegerAttr | 32-bit signless integer attribute whose value is non-negative |
batch_dim | ::mlir::IntegerAttr | 32-bit signless integer attribute whose value is non-negative |
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or QI16 type or QUI8 type or TFLite quint8 type values |
seq_lengths | tensor of 32/64-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or QI16 type or QUI8 type or TFLite quint8 type values |
tfl.reverse_v2
(TFL::ReverseV2Op)
ReverseV2 Operator
Reverses specific dimensions of a tensor.
Given a tensor, and a int32/int64 tensor axis representing the set of dimensions of tensor to reverse. This operation reverses each dimension i for which there exists j st axis[j] == i.
Args: tensor: A Tensor. Must be one of the following types: uint8, int8, int16, int32, int64, float32, bool Up to 8-D.
axis: A Tensor. Must be one of the following types: int32, int64. with only 1 element which is the axis index. TODO: Add support for multiple elements.
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or 8-bit unsigned integer or 16-bit signless integer or 32-bit signless integer or 64-bit signless integer or QI16 type or QUI8 type or QI8 type or TFLite quint8 type or 1-bit signless integer values |
axis | tensor of 32-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 8-bit unsigned integer or 16-bit signless integer or 32-bit signless integer or 64-bit signless integer or QI16 type or QUI8 type or QI8 type or TFLite quint8 type or 1-bit signless integer values |
tfl.rfft2d
(TFL::RFFT2dOp)
2D real-valued fast Fourier transform.
Computes the 2-dimensional discrete Fourier transform of a real-valued signal over the inner-most 2 dimensions of input
.
Since the DFT of a real signal is Hermitian-symmetric, RFFT2D
only returns the fft_length / 2 + 1
unique components of the FFT for the inner-most dimension of output
: the zero-frequency term, followed by the fft_length / 2
positive-frequency terms.
Along each axis RFFT2D
is computed on, if fft_length
is smaller than the corresponding dimension of input
, the dimension is cropped. If it is larger, the dimension is padded with zeros.
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float values |
fft_length | tensor of 32-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of complex type with 32-bit float elements values |
tfl.right_shift
(TFL::RightShiftOp)
Right Shift operator
Elementwise computes the bitwise right-shift of lhs
by rhs
.
Traits: AlwaysSpeculatableImplTrait
, SameOperandsAndResultElementType
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
lhs | tensor of 8-bit signless integer or 8-bit unsigned integer or 16-bit signless integer or 16-bit unsigned integer or 32-bit signless integer or 32-bit unsigned integer values |
rhs | tensor of 8-bit signless integer or 8-bit unsigned integer or 16-bit signless integer or 16-bit unsigned integer or 32-bit signless integer or 32-bit unsigned integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 8-bit signless integer or 8-bit unsigned integer or 16-bit signless integer or 16-bit unsigned integer or 32-bit signless integer or 32-bit unsigned integer values |
tfl.round
(TFL::RoundOp)
Round operator
Rounds the values of a tensor to the nearest integer, element-wise.
Traits: AlwaysSpeculatableImplTrait
, InferTensorType
, TF::SameOperandsAndResultTypeResolveRef
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
x | tensor of 32-bit float values |
Risultati:
Risultato | Descrizione |
---|---|
y | tensor of 32-bit float values |
tfl.rsqrt
(TFL::RsqrtOp)
Reciprocal of square root operator
Computes element-wise reverse square root of input
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
x | tensor of 32-bit float or QI8 type or QI16 type values |
Risultati:
Risultato | Descrizione |
---|---|
y | tensor of 32-bit float or QI8 type or QI16 type values |
tfl.scatter_nd
(TFL::ScatterNdOp)
_Scatter nd operator
Scatter updates
into a new tensor according to indices
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
indices | tensor of 32-bit signless integer values |
updates | tensor of 32-bit float or 8-bit signless integer or 64-bit signless integer or 32-bit signless integer or 8-bit unsigned integer or 1-bit signless integer values |
shape | 1D tensor of any type values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 8-bit signless integer or 64-bit signless integer or 32-bit signless integer or 8-bit unsigned integer or 1-bit signless integer values |
tfl.segment_sum
(TFL::SegmentSumOp)
SegmentSum operator
Computes the sum along segments of a tensor.
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or 32-bit signless integer values |
segment_ids | tensor of 32-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 32-bit signless integer values |
tfl.select
(TFL::SelectOp)
Select operator
Select values of 'x' if the corresponding value of 'condition' is true or the value of 'y' if false. There are valid condition input sizes:
- Either the same shape (in which case the select is elementwise), or
- condition must be Rank 1 and match over the first dimension.
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
condition | tensor of 1-bit signless integer values |
x | tensor of 32-bit float or 1-bit signless integer or 8-bit signless integer or 16-bit signless integer or 32-bit signless integer or 64-bit signless integer or 32-bit unsigned integer or QI8 type or QUI8 type or QI16 type or TFLite quint8 type values |
y | tensor of 32-bit float or 1-bit signless integer or 8-bit signless integer or 16-bit signless integer or 32-bit signless integer or 64-bit signless integer or 32-bit unsigned integer or QI8 type or QUI8 type or QI16 type or TFLite quint8 type values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 1-bit signless integer or 8-bit signless integer or 16-bit signless integer or 32-bit signless integer or 64-bit signless integer or 32-bit unsigned integer or QI8 type or QUI8 type or QI16 type or TFLite quint8 type values |
tfl.select_v2
(TFL::SelectV2Op)
SelectV2 operator
Select values of 'x' if the corresponding value of 'condition' is true or the value of 'y' if false. There are valid condition input sizes:
- Either the same shape (in which case the select is elementwise), or
- Broadcastable shapes between 'condition', 'x' and 'y'.
Traits: ::mlir::OpTrait::TFLRuntimeOpTrait
, AlwaysSpeculatableImplTrait
, QuantizableResult
, ResultsBroadcastableShape
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
condition | tensor of 1-bit signless integer values |
x | tensor of 32-bit float or 1-bit signless integer or 8-bit signless integer or 16-bit signless integer or 32-bit signless integer or 64-bit signless integer or 32-bit unsigned integer or QI8 type or QUI8 type or QI16 type or TFLite quint8 type values |
y | tensor of 32-bit float or 1-bit signless integer or 8-bit signless integer or 16-bit signless integer or 32-bit signless integer or 64-bit signless integer or 32-bit unsigned integer or QI8 type or QUI8 type or QI16 type or TFLite quint8 type values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 1-bit signless integer or 8-bit signless integer or 16-bit signless integer or 32-bit signless integer or 64-bit signless integer or 32-bit unsigned integer or QI8 type or QUI8 type or QI16 type or TFLite quint8 type values |
tfl.shape
(TFL::ShapeOp)
Shape operator
Returns the shape of a tensor.
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
out_type | ::mlir::Attribute | derived attribute |
Operands:
Operand | Descrizione |
---|---|
input | tensor of any type values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit signless integer or 64-bit signless integer values |
tfl.sign
(TFL::SignOp)
Sign operation
Returns NaN if x is NaN, 0 if x is 0, -1 if x < 0 and 1 if x > 0.
Traits: AlwaysSpeculatableImplTrait
, SameOperandsAndResultType
Interfaces: ConditionallySpeculatable
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
x | tensor of 32-bit float or 64-bit float or 32-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 64-bit float or 32-bit signless integer values |
tfl.sin
(TFL::SinOp)
Sine operator
Computes element-wise Sine of input
Traits: AlwaysSpeculatableImplTrait
, InferTensorType
, TF::SameOperandsAndResultTypeResolveRef
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
x | tensor of 32-bit float values |
Risultati:
Risultato | Descrizione |
---|---|
y | tensor of 32-bit float values |
tfl.slice
(TFL::SliceOp)
Return a slice from 'input'.
The output tensor is a tensor with dimensions described by 'size' whose values are extracted from 'input' starting at the offsets in 'begin'.
begin
is zero-based; size
is one-based. If size[i] is -1, all remaining elements in dimension i are included in the slice. In other words, this is equivalent to setting: size[i] = input.dim_size(i) - begin[i]
Requirements : 0 <= begin[i] <= begin[i] + size[i] <= Di for i in [0, n)
Traits: ::mlir::OpTrait::TFLRuntimeOpTrait
, AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or 8-bit signless integer or 8-bit unsigned integer or 32-bit unsigned integer or 1-bit signless integer or TFLite string type or QI8 type or QUI8 type or TFLite quint8 type or QI16 type values |
begin | tensor of 32/64-bit signless integer values |
size | tensor of 32/64-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or 8-bit signless integer or 8-bit unsigned integer or 32-bit unsigned integer or 1-bit signless integer or TFLite string type or QI8 type or QUI8 type or TFLite quint8 type or QI16 type values |
tfl.softmax
(TFL::SoftmaxOp)
Softmax operator
Computes element-wise softmax activations with the following formula
exp(input * beta) / tf.reduce_sum(exp(input * beta), dim)
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, FixedOutputRangeInterface
, NoMemoryEffect (MemoryEffectOpInterface)
, TflArithmeticCountOpInterface
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
beta | ::mlir::FloatAttr | 32-bit float attribute |
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or QI8 type or QUI8 type or TFLite quint8 type or QI16 type values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or QI8 type or QUI8 type or TFLite quint8 type or QI16 type values |
tfl.space_to_batch_nd
(TFL::SpaceToBatchNdOp)
SpaceToBatchNd operator
This operation reshapes space dimensions into the "batch" dimension 0
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or QI8 type or QUI8 type or TFLite quint8 type or QI16 type values |
block_shape | tensor of 32-bit signless integer values |
paddings | tensor of 32-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or QI8 type or QUI8 type or TFLite quint8 type or QI16 type values |
tfl.space_to_depth
(TFL::SpaceToDepthOp)
SpaceToDepth operator
Rearranges blocks of spatial data, into depth. More specifically, this op outputs a copy of the input tensor where values from the height
and width
dimensions are moved to the depth
dimension. block_size
indicates the input block size.
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
block_size | ::mlir::IntegerAttr | 32-bit signless integer attribute whose value is positive |
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or QI8 type or QUI8 type or TFLite quint8 type values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or QI8 type or QUI8 type or TFLite quint8 type values |
tfl.sparse_to_dense
(TFL::SparseToDenseOp)
Converts a sparse representation into a dense tensor.
Builds an array dense
with shape output_shape
such that
# If sparse_indices is scalar
dense[i] = (i == sparse_indices ? sparse_values : default_value)
# If sparse_indices is a vector, then for each i
dense[sparse_indices[i]] = sparse_values[i]
# If sparse_indices is an n by d matrix, then for each i in [0, n)
dense[sparse_indices[i][0], ..., sparse_indices[i][d-1]] = sparse_values[i]
All other values in dense
are set to default_value
. If sparse_values
is a scalar, all sparse indices are set to this single value.
Indices should be sorted in lexicographic order, and indices must not contain any repeats. If validate_indices
is true, these properties are checked during execution.
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
sparse_indices | tensor of 32/64-bit signless integer values |
output_shape | tensor of 32/64-bit signless integer values |
sparse_values | tensor of 32-bit signless integer or 64-bit signless integer or 8-bit signless integer or QI8 type or 8-bit unsigned integer or QUI8 type or TFLite quint8 type or 32-bit float values |
default_value | tensor of 32-bit signless integer or 64-bit signless integer or 8-bit signless integer or QI8 type or 8-bit unsigned integer or QUI8 type or TFLite quint8 type or 32-bit float values |
Risultati:
Risultato | Descrizione |
---|---|
dense | tensor of 32-bit signless integer or 64-bit signless integer or 8-bit signless integer or QI8 type or 8-bit unsigned integer or QUI8 type or TFLite quint8 type or 32-bit float values |
tfl.split
(TFL::SplitOp)
Splits a tensor into num_split
tensors along one dimension.
Splits the value
tensor along split_dim
into a number of sub-tensors with same shape as the original one, except for split_dim
. Same as tf.Split.
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
num_splits | ::mlir::IntegerAttr | 32-bit signless integer attribute whose value is positive |
Operands:
Operand | Descrizione |
---|---|
split_dim | tensor of 32-bit signless integer values |
value | tensor of 32-bit float or 16-bit signless integer or 32-bit signless integer or 8-bit signless integer or 8-bit unsigned integer or QI8 type or QUI8 type or QI16 type values |
Risultati:
Risultato | Descrizione |
---|---|
outputs | variadic of tensor of any type values |
tfl.split_v
(TFL::SplitVOp)
Splits a tensor into num_split
tensors along one dimension.
Splits the value
tensor along split_dim
into a number of sub-tensors with same shape as the original one, except for split_dim
. The grouping of the resultant sub-tensors is decided by size-splits
. Same as tf.SplitV.
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
num_splits | ::mlir::IntegerAttr | 32-bit signless integer attribute whose value is positive |
Operands:
Operand | Descrizione |
---|---|
value | tensor of 32-bit float or 16-bit signless integer or 32-bit signless integer or 64-bit signless integer or 8-bit signless integer or 8-bit unsigned integer or QI8 type or QUI8 type or QI16 type values |
size_splits | 1D tensor of 32-bit signless integer values |
split_dim | 0D tensor of 32-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
outputs | variadic of tensor of any type values |
tfl.sqrt
(TFL::SqrtOp)
Square root operator
Computes element-wise Square root of input
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
x | tensor of 32-bit float or QI8 type or QI16 type values |
Risultati:
Risultato | Descrizione |
---|---|
y | tensor of 32-bit float or QI8 type or QI16 type values |
tfl.square
(TFL::SquareOp)
Square operator
Computes element-wise Square of input
Traits: AlwaysSpeculatableImplTrait
, InferTensorType
, TF::SameOperandsAndResultTypeResolveRef
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
x | tensor of 32-bit float values |
Risultati:
Risultato | Descrizione |
---|---|
y | tensor of 32-bit float values |
tfl.squared_difference
(TFL::SquaredDifferenceOp)
Squared difference operator
Element-wise squared difference operation.
Traits: ::mlir::OpTrait::TFLRuntimeOpTrait
, AlwaysSpeculatableImplTrait
, QuantizableResult
, ResultsBroadcastableShape
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
lhs | tensor of 32-bit float or 32-bit signless integer or QI8 type values |
rhs | tensor of 32-bit float or 32-bit signless integer or QI8 type values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 32-bit signless integer or QI8 type values |
tfl.squeeze
(TFL::SqueezeOp)
Removes dimensions of size 1 from the shape of a tensor.
Given a tensor input
, this operation returns a tensor of the same type with all dimensions of size 1 removed. If you don't want to remove all size 1 dimensions, you can remove specific size 1 dimensions by specifying squeeze_dims
.
Per esempio:
# 't' is a tensor of shape [1, 2, 1, 3, 1, 1]
shape(squeeze(t)) ==> [2, 3]
Or, to remove specific size 1 dimensions:
# 't' is a tensor of shape [1, 2, 1, 3, 1, 1]
shape(squeeze(t, [2, 4])) ==> [1, 2, 3, 1]
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
squeeze_dims | ::mlir::ArrayAttr | 64-bit integer array attribute whose size is at most 8 |
Operands:
Operand | Descrizione |
---|---|
input | tensor of any type values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of any type values |
tfl.strided_slice
(TFL::StridedSliceOp)
StridedSlice Op
Return a strided slice from input
.
Traits: ::mlir::OpTrait::TFLRuntimeOpTrait
, AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
begin_mask | ::mlir::IntegerAttr | 32-bit signless integer attribute |
end_mask | ::mlir::IntegerAttr | 32-bit signless integer attribute |
ellipsis_mask | ::mlir::IntegerAttr | 32-bit signless integer attribute |
new_axis_mask | ::mlir::IntegerAttr | 32-bit signless integer attribute |
shrink_axis_mask | ::mlir::IntegerAttr | 32-bit signless integer attribute |
offset | ::mlir::BoolAttr | bool attribute |
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or 8-bit signless integer or 8-bit unsigned integer or 32-bit unsigned integer or QI8 type or QUI8 type or 1-bit signless integer or 16-bit signless integer or QI16 type or TFLite quint8 type or TFLite string type values |
begin | tensor of 32-bit signless integer values |
end | tensor of 32-bit signless integer values |
strides | tensor of 32-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or 8-bit signless integer or 8-bit unsigned integer or 32-bit unsigned integer or QI8 type or QUI8 type or 1-bit signless integer or 16-bit signless integer or QI16 type or TFLite quint8 type or TFLite string type values |
tfl.sub
(TFL::SubOp)
Subtraction operator
Element-wise subtraction operation.
Traits: ::mlir::OpTrait::TFLRuntimeOpTrait
, AlwaysSpeculatableImplTrait
, QuantizableResult
, ResultsBroadcastableShape
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflArithmeticCountOpInterface
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
fused_activation_function | ::mlir::StringAttr | string attribute whose value is NONE, or RELU, or RELU_N1_TO_1, or RELU6, or TANH, or SIGN_BIT |
Operands:
Operand | Descrizione |
---|---|
lhs | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or QI8 type or QUI8 type or QI16 type values |
rhs | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or QI8 type or QUI8 type or QI16 type values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or QI8 type or QUI8 type or QI16 type values |
tfl.sum
(TFL::SumOp)
Sum operator
Computes the sum reduction along the specified axes
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
keep_dims | ::mlir::BoolAttr | bool attribute |
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or QI8 type or QUI8 type or TFLite quint8 type or QI16 type values |
axes | tensor of 32-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 32-bit signless integer or 64-bit signless integer or QI8 type or QUI8 type or TFLite quint8 type or QI16 type values |
tfl.svdf
(TFL::SVDFOp)
Single value decomposition filter operator
The SVDF op is a decomposition of a densely connected op into low rank filters. For details: https://research.google.com/pubs/pub43813.html https://arxiv.org/abs/1812.02802
Traits: QuantizableResult
, TFL::AccumulatorUniformScale<3, 2, 4>
Interfaces: DynamicRangeQuantizedOpInterface
, RequiresQuantizedBiasInterface
, TFL_StatefulOp
, TflRuntimeVerifyOpInterface
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
rank | ::mlir::IntegerAttr | 32-bit signless integer attribute whose value is positive |
fused_activation_function | ::mlir::StringAttr | string attribute whose value is NONE, or RELU, or RELU_N1_TO_1, or RELU6, or TANH, or SIGN_BIT |
asymmetric_quantize_inputs | ::mlir::BoolAttr | bool attribute |
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or QI8 type values |
feature_weights | tensor of 32-bit float or QI8 type or QUI8 type values |
time_weights | tensor of 32-bit float or QI16 type values |
input_gate_bias | tensor of any type values or none type |
activation_state | stateful tensor |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or QI8 type values |
tfl.tanh
(TFL::TanhOp)
Hyperbolic tangent operator
Computes element-wise Hyperbolic tangent of input
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, FixedOutputRangeInterface
, NoMemoryEffect (MemoryEffectOpInterface)
, TflArithmeticCountOpInterface
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or QI8 type or QUI8 type or QI16 type or TFLite quint8 type values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or QI8 type or QUI8 type or QI16 type or TFLite quint8 type values |
tfl.tile
(TFL::TileOp)
Tile operator.
Constructs a tensor by tiling a given tensor.
This operation creates a new tensor by replicating input multiples times. The output tensor's i'th dimension has input.dims(i) * multiples[i] elements, and the values of input are replicated multiples[i] times along the 'i'th dimension. For example, tiling [abcd] by [2] produces [abcdabcd].
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or 1-bit signless integer or 32-bit signless integer or 64-bit signless integer or 8-bit unsigned integer or QI8 type or QUI8 type or TFLite string type values |
multiples | tensor of 32/64-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 1-bit signless integer or 32-bit signless integer or 64-bit signless integer or 8-bit unsigned integer or QI8 type or QUI8 type or TFLite string type values |
tfl.topk_v2
(TFL::TopKV2Op)
TopK operator
Returns the top k
largest element along each last dimensional slice of input
and the indices of values within the last dimension of the input tensor.
Results are always sorted in the descending order.
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or 8-bit signless integer or 16-bit signless integer or 32-bit signless integer or 64-bit signless integer or 8-bit unsigned integer or QI8 type or QUI8 type values |
k | tensor of 16-bit signless integer or 32-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
values | tensor of 32-bit float or 8-bit signless integer or 16-bit signless integer or 32-bit signless integer or 64-bit signless integer or 8-bit unsigned integer or QI8 type or QUI8 type values |
indices | tensor of 16-bit signless integer or 32-bit signless integer values |
tfl.transpose
(TFL::TransposeOp)
Transpose operator
Returns the Transpose of x
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit signless integer or 32-bit float or 8-bit signless integer or 8-bit unsigned integer or QI8 type or QUI8 type or 4-bit signless integer or QI4 type or TFLite quint8 type or 1-bit signless integer or 64-bit signless integer or QI16 type values |
perm | tensor of 32-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit signless integer or 32-bit float or 8-bit signless integer or 8-bit unsigned integer or QI8 type or QUI8 type or 4-bit signless integer or QI4 type or TFLite quint8 type or 1-bit signless integer or 64-bit signless integer or QI16 type values |
tfl.transpose_conv
(TFL::TransposeConvOp)
Transpose convolution operator
Performs transpose convolution operation on input.
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
, TFL::AccumulatorUniformScale<3, 1, 2>
, TFL::AffineOpCoefficient<0, 1>
Interfaces: AffineQuantizedOpInterface
, ConditionallySpeculatable
, DynamicRangeQuantizedOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
, RequiresQuantizedBiasInterface
, TFL_SparseOp
, TflArithmeticCountOpInterface
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
padding | ::mlir::StringAttr | string attribute whose value is SAME, or VALID |
stride_h | ::mlir::IntegerAttr | 32-bit signless integer attribute whose value is positive |
stride_w | ::mlir::IntegerAttr | 32-bit signless integer attribute whose value is positive |
fused_activation_function | ::mlir::StringAttr | string attribute whose value is NONE, or RELU, or RELU_N1_TO_1, or RELU6, or TANH, or SIGN_BIT |
Operands:
Operand | Descrizione |
---|---|
output_shape | tensor of 32-bit signless integer values |
weights | tensor of 32-bit float or QI8 type or QUI8 type or QI16 type values |
input | tensor of 32-bit float or QI8 type or QUI8 type or QI16 type values |
bias | tensor of any type values or none type |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or QI8 type or QUI8 type or QI16 type values |
tfl.unidirectional_sequence_lstm
(TFL::UnidirectionalSequenceLSTMOp)
Unidirectional sequence lstm operator
A recurrent neural network specified by an LSTM cell. This Op supports unrolling the input along the time or batch dimensions, and implements the following operation for each element in the sequence s = 1...sequence_length: outputs[s] = state = activation(LSTMOp(inputs[s]))
where LSTMOp is LSTM TF Lite Op and the “activation” is the function passed as the “fused_activation_function” argument (if not “NONE”).
Traits: QuantizableResult
Interfaces: DynamicRangeQuantizedOpInterface
, InferTypeOpInterface
, TFL_StatefulOp
, TflRuntimeVerifyOpInterface
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
fused_activation_function | ::mlir::StringAttr | string attribute whose value is NONE, or RELU, or RELU_N1_TO_1, or RELU6, or TANH, or SIGN_BIT |
cell_clip | ::mlir::FloatAttr | 32-bit float attribute whose value is non-negative |
proj_clip | ::mlir::FloatAttr | 32-bit float attribute whose value is non-negative |
time_major | ::mlir::BoolAttr | bool attribute |
asymmetric_quantize_inputs | ::mlir::BoolAttr | bool attribute |
diagonal_recurrent_tensors | ::mlir::BoolAttr | bool attribute |
input_to_input_intermediate | ::mlir::TypeAttr | any type attribute |
input_to_forget_intermediate | ::mlir::TypeAttr | any type attribute |
input_to_cell_intermediate | ::mlir::TypeAttr | any type attribute |
input_to_output_intermediate | ::mlir::TypeAttr | any type attribute |
effective_hidden_scale_intermediate | ::mlir::TypeAttr | any type attribute |
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float values |
input_to_input_weights | tensor of any type values or none type |
input_to_forget_weights | tensor of 32-bit float or QI8 type values |
input_to_cell_weights | tensor of 32-bit float or QI8 type values |
input_to_output_weights | tensor of 32-bit float or QI8 type values |
recurrent_to_input_weights | tensor of any type values or none type |
recurrent_to_forget_weights | tensor of 32-bit float or QI8 type values |
recurrent_to_cell_weights | tensor of 32-bit float or QI8 type values |
recurrent_to_output_weights | tensor of 32-bit float or QI8 type values |
cell_to_input_weights | tensor of any type values or none type |
cell_to_forget_weights | tensor of any type values or none type |
cell_to_output_weights | tensor of any type values or none type |
input_gate_bias | tensor of any type values or none type |
forget_gate_bias | tensor of 32-bit float values |
cell_bias | tensor of 32-bit float values |
output_gate_bias | tensor of 32-bit float values |
projection_weights | tensor of any type values or none type |
projection_bias | tensor of any type values or none type |
input_activation_state | stateful tensor |
input_cell_state | stateful tensor |
input_layer_norm_coefficients | tensor of any type values or none type |
forget_layer_norm_coefficients | tensor of any type values or none type |
cell_layer_norm_coefficients | tensor of any type values or none type |
output_layer_norm_coefficients | tensor of any type values or none type |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or QI8 type values |
tfl.unidirectional_sequence_rnn
(TFL::UnidirectionalSequenceRNNOp)
Unidirectional sequence rnn operator
A recurrent neural network specified by an RNN cell. This Op takes in input in a format {batch_size, seq_len, input_size} or {seq_len, batch_size, input_size} if it's time-majored.
It implements the following operation for each element in the sequence s = 1...sequence_length: outputs[s] = state = activation(RNNOp(inputs[s]))
where RNNOp is RNNOp TF Lite Op and the “activation” is the function passed as the “fused_activation_function” argument (if not “NONE”).
Traits: QuantizableResult
Interfaces: DynamicRangeQuantizedOpInterface
, TFL_StatefulOp
, TflRuntimeVerifyOpInterface
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
time_major | ::mlir::BoolAttr | bool attribute |
fused_activation_function | ::mlir::StringAttr | string attribute whose value is NONE, or RELU, or RELU_N1_TO_1, or RELU6, or TANH, or SIGN_BIT |
asymmetric_quantize_inputs | ::mlir::BoolAttr | bool attribute |
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float values |
input_to_input_weights | tensor of 32-bit float or QI8 type values |
recurrent_to_input_weights | tensor of 32-bit float or QI8 type values |
input_gate_bias | tensor of 32-bit float values |
hidden_state | stateful tensor |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float values |
tfl.unique
(TFL::UniqueOp)
Unique Op.
This operation returns a tensor output
containing all of the unique elements of input
sorted in the same order that they occur in input
. This operation also returns a tensor idx
the same size as x
that contains the index of each value of input
in the unique output output
. In other words:
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
idx_out_type | ::mlir::Attribute | derived attribute |
Operands:
Operand | Descrizione |
---|---|
input | tensor of 8-bit signless integer or QI8 type or 8-bit unsigned integer or QUI8 type or 16-bit signless integer or QI16 type or 32-bit signless integer or 64-bit signless integer or 32-bit float values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 8-bit signless integer or QI8 type or 8-bit unsigned integer or QUI8 type or 16-bit signless integer or QI16 type or 32-bit signless integer or 64-bit signless integer or 32-bit float values |
idx | tensor of 32/64-bit signless integer values |
tfl.unpack
(TFL::UnpackOp)
Unpacks a tensor along a dimension into multiple tensors
Unpacks a given dimension of a rank- R
tensor into num
rank- (R-1)
tensors.
Unpacks num
tensors from value
by chipping it along the axis
dimension. For example, given a tensor of shape (A, B, C, D)
;
If axis == 0
then the i'th tensor in output
is the slice value[i, :, :, :]
and each tensor in output
will have shape (B, C, D)
. (Note that the dimension unpacked along is gone, unlike split
).
If axis == 1
then the i'th tensor in output
is the slice value[:, i, :, :]
and each tensor in output
will have shape (A, C, D)
. Etc.
This is the opposite of pack
.
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
, SameOperandsAndResultElementType
Interfaces: ConditionallySpeculatable
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
, SameOperandsAndResultsScale
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
num | ::mlir::IntegerAttr | 32-bit signless integer attribute whose value is non-negative |
axis | ::mlir::IntegerAttr | 32-bit signless integer attribute |
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or 1-bit signless integer or 8-bit signless integer or 8-bit unsigned integer or 32-bit signless integer or QI8 type or QUI8 type or 16-bit signless integer or QI16 type values |
Risultati:
Risultato | Descrizione |
---|---|
outputs | variadic of tensor of any type values |
tfl.unsorted_segment_max
(TFL::UnsortedSegmentMaxOp)
UnsortedSegmentMax operator
Computes the maximum value along segments of a tensor such that output[i] = max(data[j....]) where segment_ids[j...] = i if the maximum is empty for a given segment ID i, it outputs the smallest possible value for the specific numeric type, output[i] = numeric_limits::lowest(). Note the values of segment_ids are always validated to be less than num_segments and an error is thrown for out-of-bound indices.
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or 32-bit signless integer values |
segment_ids | tensor of 32-bit signless integer values |
num_segments | tensor of 32-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 32-bit signless integer values |
tfl.unsorted_segment_min
(TFL::UnsortedSegmentMinOp)
UnsortedSegmentMin operator
Computes the minimum value along segments of a tensor such that output[i] = min(data[j....]) where segment_ids[j...] = i if the minimum is empty for a given segment ID i, it outputs the largest possible value for the specific numeric type, output[i] = numeric_limits::max(). Note the values of segment_ids are always validated to be less than num_segments and an error is thrown for out-of-bound indices.
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or 32-bit signless integer values |
segment_ids | tensor of 32-bit signless integer values |
num_segments | tensor of 32-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 32-bit signless integer values |
tfl.unsorted_segment_prod
(TFL::UnsortedSegmentProdOp)
UnsortedSegmentProd operator
Computes the product along segments of a tensor.
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or 32-bit signless integer values |
segment_ids | tensor of 32-bit signless integer values |
num_segments | tensor of 32-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 32-bit signless integer values |
tfl.unsorted_segment_sum
(TFL::UnsortedSegmentSumOp)
UnsortedSegmentSum operator
From a tensor segmentation, computes the output
resulting from summing together elements mapped to the same segment_id. Ie output[i]
is equal to the tensor sum of all elements from the input tensor mapped to segment_id i
. If no tensors are mapped to a particular included segment_id, the output at that indice will be a zero tensor with the appropriate shape. Note the values of segment_ids are always validated to be less than num_segments and an error is thrown for out-of-bound indices
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
input | tensor of 32-bit float or 32-bit signless integer values |
segment_ids | tensor of 32-bit signless integer values |
num_segments | tensor of 32-bit signless integer values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 32-bit float or 32-bit signless integer values |
tfl.var_handle
(TFL::VarHandleOp)
Returns a handle to a variable resource from its name.
Returns a handle for a variable resource from its name. container: the container this variable is placed in. shared_name: the name by which this variable is referred to.
Interfaces: TflRuntimeVerifyOpInterface
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
container | ::mlir::StringAttr | string attribute |
shared_name | ::mlir::StringAttr | string attribute |
Risultati:
Risultato | Descrizione |
---|---|
resource_handle | tensor of resource values |
tfl.where
(TFL::WhereOp)
Returns locations of nonzero / true values in a tensor.
This operation returns the coordinates of true elements in condition
. The coordinates are returned in a 2-D tensor where the first dimension (rows) represents the number of true elements, and the second dimension (columns) represents the coordinates of the true elements. Keep in mind, the shape of the output tensor can vary depending on how many true values there are in condition
. Indices are output in row-major order.
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
condition | tensor of 1-bit signless integer or 32-bit float or 32/64-bit signless integer or 8-bit signless integer or 8-bit unsigned integer or 32-bit unsigned integer values |
Risultati:
Risultato | Descrizione |
---|---|
index | tensor of 64-bit signless integer values |
tfl.while
(TFL::WhileOp)
While loop
output = input; while (cond(output)) { output = body(output) }
While loop where all values are passes through arguments with implicit capture.
input: A list of input tensors whose types are T. output: A list of output tensors whose types are T. cond: A region that takes 'input' and returns a boolean scalar tensor. body: A region that takes a list of tensors and returns another list of tensors. Both lists have the same types.
Traits: SingleBlockImplicitTerminator<YieldOp>
, SingleBlock
Interfaces: LoopLikeOpInterface
, TflRuntimeVerifyOpInterface
Attributes:
Attributo | MLIR Type | Descrizione |
---|---|---|
is_stateless | ::mlir::BoolAttr | bool attribute |
Operands:
Operand | Descrizione |
---|---|
input | variadic of tensor of any type values |
Risultati:
Risultato | Descrizione |
---|---|
output | variadic of tensor of any type values |
tfl.yield
(TFL::YieldOp)
Yield operation
The "yield" operation represents a return operation within the conditional and body of structured control flow (eg, while), and a terminator for ControlNodeOp. The operation takes a variable number of operands and produces no results. The operand number and types must match the signature of the region that contains the operation.
Traits: AlwaysSpeculatableImplTrait
, QuantizableResult
, Terminator
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
«unnamed» | variadic of any type |
tfl.zeros_like
(TFL::ZerosLikeOp)
ZerosLike operator
Returns a tensor of zeros with the same shape and type as the input tensor.
Traits: AlwaysSpeculatableImplTrait
, SameOperandsAndResultType
Interfaces: ConditionallySpeculatable
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
, TflRuntimeVerifyOpInterface
Effects: MemoryEffects::Effect{}
Operands:
Operand | Descrizione |
---|---|
input | tensor of 64-bit signless integer or 32-bit signless integer or 32-bit float values |
Risultati:
Risultato | Descrizione |
---|---|
output | tensor of 64-bit signless integer or 32-bit signless integer or 32-bit float values |
Attributi
DimensionMetadataAttr
Dimension metadata.
Sintassi:
#tfl.dimension_metadata<
::mlir::TFL::DimensionTypeAttr, # format
int32_t, # dense_size
::llvm::ArrayRef<int32_t>, # segments
::llvm::ArrayRef<int32_t> # indices
>
Parametri:
Parametro | C++ type | Descrizione |
---|---|---|
formato | ::mlir::TFL::DimensionTypeAttr | dimension_type |
dense_size | int32_t | |
segmenti | ::llvm::ArrayRef<int32_t> | |
indici | ::llvm::ArrayRef<int32_t> |
SparsityParameterAttr
Sparsity parameter.
Sintassi:
#tfl.sparsity_parameter<
::llvm::ArrayRef<int32_t>, # traversal_order
::llvm::ArrayRef<int32_t>, # block_map
::llvm::ArrayRef<DimensionMetadataAttr> # dim_metadata
>
Parametri:
Parametro | C++ type | Descrizione |
---|---|---|
traversal_order | ::llvm::ArrayRef<int32_t> | |
block_map | ::llvm::ArrayRef<int32_t> | |
dim_metadata | ::llvm::ArrayRef<DimensionMetadataAttr> |
ConstBytesAttr
A string attribute representation of compiled bytes
Syntax Examples:
#tfl<const_bytes : "0xDEADBEEF">
Parametri:
Parametro | C++ type | Descrizione |
---|---|---|
valore | ::llvm::StringRef |
DimensionTypeAttr
_Dimension type
Sintassi:
#tfl.dimension_type_attr<
::mlir::TFL::DimensionType # value
>
Parametri:
Parametro | C++ type | Descrizione |
---|---|---|
valore | ::mlir::TFL::DimensionType | an enum of type DimensionType |
LSTMKernelTypeAttr
_Lstm_kernel type
Sintassi:
#tfl.lstm_kernel_type_attr<
::mlir::TFL::LSTMKernelType # value
>
Parametri:
Parametro | C++ type | Descrizione |
---|---|---|
valore | ::mlir::TFL::LSTMKernelType | an enum of type LSTMKernelType |
MirrorPaddingTypeAttr
_Mirror_pad enum
Sintassi:
#tfl.mirror_pad_attr<
::mlir::TFL::MirrorPaddingType # value
>
Parametri:
Parametro | C++ type | Descrizione |
---|---|---|
valore | ::mlir::TFL::MirrorPaddingType | an enum of type MirrorPaddingType |
Enumerazioni
DimensionType
_Dimension type
Cases:
Simbolo | Valore | Corda |
---|---|---|
DENSE | 0 | DENSE |
SPARSE_CSR | 1 | SPARSE_CSR |
LSTMKernelType
_Lstm_kernel type
Cases:
Simbolo | Valore | Corda |
---|---|---|
PIENO | 0 | PIENO |
DI BASE | 1 | DI BASE |
MirrorPaddingType
_Mirror_pad enum
Cases:
Simbolo | Valore | Corda |
---|---|---|
RIFLETTERE | 0 | RIFLETTERE |
SYMMETRIC | 1 | SYMMETRIC |