Opérations
mhlo.abs
(mhlo::AbsOp)
Fonctionnement des abdominaux
Syntaxe:
operation ::= `mhlo.abs` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Effectue une opération abs élément par élément sur le tenseur operand
et produit un tenseur result
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#abs
Exemple:
%result = mhlo.abs %operand : tensor<3xi32>
Traits : AlwaysSpeculatableImplTrait
, Elementwise
, SameOperandsAndResultShape
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Opérandes:
Opérande | Description |
---|---|
operand | Tenseur classé de type entier sans signe 2/4/8/16/32/64 bits ou flottant 4/6/8/16/32/64 bits ou complexe avec éléments flottants 32/64 bits ou entier signé quantifié uniforme 2/4/8/16/32 bits ou entier signé quantifié uniforme par axe 2/4/8/16/32 bits ou entier non signé quantifié uniforme 2/4/8/16/32 bits ou entier non signé quantifié uniforme par axe 2/4/8/16/32 bits |
Résultats:
Résultat | Description |
---|---|
result | Tenseur classé de valeurs entières sans signe 2/4/8/16/32/64 bits ou de valeurs flottantes 4/6/8/16/32/64 bits ou de valeurs entières signées quantifiées uniformément 2/4/8/16/32 bits ou de valeurs entières signées quantifiées uniformément par axe 2/4/8/16/32 bits ou de valeurs entières non signées quantifiées uniformément par axe 2/4/8/16/32 bits ou de valeurs entières non signées quantifiées uniformément par axe 2/4/8/16/32 bits |
mhlo.acos
(mhlo::AcosOp)
Opération Acos
Syntaxe:
operation ::= `mhlo.acos` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Exécute une opération acos élément par élément sur le tenseur operand
et produit un tenseur result
.
Exemple:
%result = mhlo.acos %operand : tensor<2x2xf32>
Traits : CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces : InferShapedTypeOpInterface
, InferTypeOpInterface
Opérandes:
Opérande | Description |
---|---|
operand | tenseur de type flottant ou complexe 4/6/8/16/32/64 bits avec des valeurs d'éléments flottants 32/64 bits |
Résultats:
Résultat | Description |
---|---|
result | tenseur de type flottant ou complexe 4/6/8/16/32/64 bits avec des valeurs d'éléments flottants 32/64 bits |
mhlo.acosh
(mhlo::AcoshOp)
Opération Acosh
Syntaxe:
operation ::= `mhlo.acosh` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Exécute une opération acosh élément par élément sur le tenseur operand
et produit un tenseur result
.
Exemple:
%result = mhlo.acosh %operand : tensor<2x2xf32>
Traits : CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces : InferShapedTypeOpInterface
, InferTypeOpInterface
Opérandes:
Opérande | Description |
---|---|
operand | tenseur de type flottant ou complexe 4/6/8/16/32/64 bits avec des valeurs d'éléments flottants 32/64 bits |
Résultats:
Résultat | Description |
---|---|
result | tenseur de type flottant ou complexe 4/6/8/16/32/64 bits avec des valeurs d'éléments flottants 32/64 bits |
mhlo.add
(mhlo::AddOp)
Opération d'ajout
Syntaxe:
operation ::= `mhlo.add` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
Effectue l'addition élément par élément de deux tenseurs lhs
et rhs
et produit un tenseur result
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#add
Exemple:
%result = mhlo.add %lhs, %rhs : tensor<2x2xi32>
Traits : AlwaysSpeculatableImplTrait
, Commutative
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Opérandes:
Opérande | Description |
---|---|
lhs | Tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou par axe |
rhs | Tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou par axe |
Résultats:
Résultat | Description |
---|---|
result | Tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou par axe |
mhlo.add_dependency
(mhlo::AddDependencyOp)
Opération AddDependency
Syntaxe:
operation ::= `mhlo.add_dependency` operands attr-dict `:` functional-type(operands, results)
Cette opération est privée pour le compilateur XLA, elle n'a donc pas encore de spécification.
De manière informelle, cette opération comporte deux opérandes : un opérande de données et un jeton. Le résultat de l'opération est l'opérande de données. Utilisée avec AfterAll, cette opération permet de classer les opérations sans effets secondaires (celles qui ne produisent pas de valeurs de jeton).
Exemple:
%1 = mhlo.add_dependency %arg0, %0 : (tensor<3x4xf32>, !mhlo.token) -> tensor<3x4xf32>
Traits : AlwaysSpeculatableImplTrait
Interfaces : ConditionallySpeculatable
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Opérandes:
Opérande | Description |
---|---|
operand | Tenseur classé de type float ou bool ou entier 4/6/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou tenseur classé de valeurs entières quantifiées par axe ou jeton ou jeton stablehlo |
token | jeton ou jeton stablehlo |
Résultats:
Résultat | Description |
---|---|
output | Tenseur classé de type float ou bool ou entier 4/6/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou tenseur classé de valeurs entières quantifiées par axe ou jeton ou jeton stablehlo |
mhlo.after_all
(mhlo::AfterAllOp)
Opération AfterAll
Syntaxe:
operation ::= `mhlo.after_all` $inputs attr-dict
`:` custom<VariadicSameOperandsAndResultType>(ref($inputs), type($inputs), type($result))
Garantit que les opérations produisant les inputs
sont exécutées avant toute opération qui dépend du result
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#after_all
Exemple:
%result = mhlo.after_all %input0, %input1 : !mhlo.token
Traits : AlwaysSpeculatableImplTrait
Interfaces : ConditionallySpeculatable
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Opérandes:
Opérande | Description |
---|---|
inputs | variadique du jeton |
Résultats:
Résultat | Description |
---|---|
result | jeton |
mhlo.all_gather
(mhlo::AllGatherOp)
Opération AllGather
Au sein de chaque groupe de processus de la grille, concatène les valeurs du tenseur d'opérandes de chaque processus selon all_gather_dim
et produit un tenseur de résultats. Le computation
est appliqué séparément pour chaque opérande de operands
, produisant un résultat par opérande.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#all_gather
Exemple:
%result = "mhlo.all_gather"(%operand) {
all_gather_dim = 1 : i64,
replica_groups = dense<[[0, 1]]> : tensor<1x2xi64>
// channel_id = 0
channel_handle = #mhlo.channel_handle<handle = 0, type = 0>,
// use_global_device_ids = false
} : (tensor<2x2xf32>) -> tensor<2x4xf32>
Traits : SameOperandsAndResultElementType
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
all_gather_dim | ::mlir::IntegerAttr | Attribut entier sans signe de 64 bits dont la valeur est non négative |
replica_groups | ::mlir::DenseIntElementsAttr | Attribut d'éléments entiers sans signe 64 bits |
channel_handle | ::mlir::mhlo::ChannelHandleAttr | deux entiers de 64 bits « handle » et « type » |
use_global_device_ids | ::mlir::UnitAttr | attribut d'unité |
Opérandes:
Opérande | Description |
---|---|
operands | variadique d'un tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec des éléments float 32/64 bits ou des valeurs entières quantifiées par tenseur ou par axe |
Résultats:
Résultat | Description |
---|---|
"anonyme" | variadique d'un tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec des éléments float 32/64 bits ou des valeurs entières quantifiées par tenseur ou par axe |
mhlo.all_reduce
(mhlo::AllReduceOp)
Opération AllReduce
Au sein de chaque groupe de processus de la grille de processus, un computation
de fonction de réduction est appliqué aux valeurs d'un tenseur d'opérandes de chaque processus et produit un tenseur de résultats. Le computation
est appliqué séparément pour chaque opérande de operands
, produisant un résultat par opérande.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#all_reduce
Exemple:
%result = "mhlo.all_reduce"(%operand) ({
^bb0(%arg0: tensor<f32>, %arg1: tensor<f32>):
%0 = mhlo.add %arg1, %arg2 : tensor<f32>
mhlo.return %0 : tensor<f32>
}) {
replica_groups = dense<[[0, 1]]> : tensor<1x2xi64>
// channel_id = 0
channel_handle = #mhlo.channel_handle<handle = 0, type = 0>
// use_global_device_ids = false
} : (tensor<4xf32>) -> tensor<4xf32>
Traits : InferTensorType
, SingleBlockImplicitTerminator<ReturnOp>
, SingleBlock
Interfaces : InferShapedTypeOpInterface
, InferTypeOpInterface
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
replica_groups | ::mlir::DenseIntElementsAttr | Attribut d'éléments entiers sans signe 64 bits |
channel_handle | ::mlir::mhlo::ChannelHandleAttr | deux entiers de 64 bits « handle » et « type » |
use_global_device_ids | ::mlir::UnitAttr | attribut d'unité |
Opérandes:
Opérande | Description |
---|---|
operands | variadique d'un tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec des éléments float 32/64 bits ou des valeurs entières quantifiées par tenseur ou par axe |
Résultats:
Résultat | Description |
---|---|
"anonyme" | variadique d'un tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec des éléments float 32/64 bits ou des valeurs entières quantifiées par tenseur ou par axe |
mhlo.all_to_all
(mhlo::AllToAllOp)
Opération AllToAll
Dans chaque groupe de processus de la grille de processus, divise les valeurs du tenseur d' operand
le long split_dimension
en parties, disperse les parties divisées entre les processus, concatène les parties dispersées le long concat_dimension
et produit un tenseur result
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#all_to_all
Exemple:
%result = "mhlo.all_to_all"(%operand) {
split_dimension = 1 : i64,
concat_dimension = 0 : i64,
split_count = 2 : i64,
replica_groups = dense<[[0, 1]]> : tensor<1x2xi64>
} : (tensor<2x4xf32>) -> tensor<4x2xf32>
Traits : AlwaysSpeculatableImplTrait
, InferTensorType
, SameOperandsElementType
, SameOperandsShape
, SameVariadicOperandSize
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
split_dimension | ::mlir::IntegerAttr | Attribut entier sans signe de 64 bits dont la valeur est non négative |
concat_dimension | ::mlir::IntegerAttr | Attribut entier sans signe de 64 bits dont la valeur est non négative |
split_count | ::mlir::IntegerAttr | Attribut entier sans signe de 64 bits dont la valeur est positive |
replica_groups | ::mlir::DenseIntElementsAttr | Attribut d'éléments entiers sans signe 64 bits |
channel_handle | ::mlir::mhlo::ChannelHandleAttr | deux entiers de 64 bits « handle » et « type » |
Opérandes:
Opérande | Description |
---|---|
operand | variadique d'un tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec des éléments float 32/64 bits ou des valeurs entières quantifiées par tenseur ou par axe |
Résultats:
Résultat | Description |
---|---|
"anonyme" | variadique d'un tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec des éléments float 32/64 bits ou des valeurs entières quantifiées par tenseur ou par axe |
mhlo.and
(mhlo::AndOp)
Et l'opération
Syntaxe:
operation ::= `mhlo.and` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
Effectue un ET élément par élément de deux tenseurs lhs
et rhs
et produit un tenseur result
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#and
Exemple:
%result = mhlo.and %lhs, %rhs : tensor<2x2xi32>
Traits : AlwaysSpeculatableImplTrait
, Commutative
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Opérandes:
Opérande | Description |
---|---|
lhs | tenseur classé de valeurs booléennes ou entières de 2/4/8/16/32/64 bits |
rhs | tenseur classé de valeurs booléennes ou entières de 2/4/8/16/32/64 bits |
Résultats:
Résultat | Description |
---|---|
result | Tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou par axe |
mhlo.asin
(mhlo::AsinOp)
Opération Asin
Syntaxe:
operation ::= `mhlo.asin` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Effectue une opération asin élément par élément sur le tenseur operand
et produit un tenseur result
.
Exemple:
%result = mhlo.asin %operand : tensor<2x2xf32>
Traits : CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces : InferShapedTypeOpInterface
, InferTypeOpInterface
Opérandes:
Opérande | Description |
---|---|
operand | tenseur de type flottant ou complexe 4/6/8/16/32/64 bits avec des valeurs d'éléments flottants 32/64 bits |
Résultats:
Résultat | Description |
---|---|
result | tenseur de type flottant ou complexe 4/6/8/16/32/64 bits avec des valeurs d'éléments flottants 32/64 bits |
mhlo.async_done
(mhlo::AsyncDoneOp)
Opération AsyncDone
Cette opération est privée pour le compilateur XLA, elle n'a donc pas encore de spécification.
De manière informelle, cette opération se bloque jusqu'à la fin d'un calcul asynchrone. Elle renvoie le résultat final du calcul asynchrone.
Consultez la documentation d'AsyncStart pour plus d'informations.
Interfaces : InferTypeOpInterface
Opérandes:
Opérande | Description |
---|---|
bundle | async_bundle avec n'importe quelle combinaison de tenseurs classés de type float ou bool 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec des éléments float 32/64 bits ou des valeurs quantifiées entières par tenseur ou par axe ou des valeurs de jeton ou de jeton stablehlo |
Résultats:
Résultat | Description |
---|---|
"anonyme" | variadique de tenseur classé de type float ou bool 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou par axe ou jeton ou stablehlo jeton ou tuple imbriqué avec toute combinaison de tenseur classé de type float ou bool 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou memref de type float ou bool 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou tenseur classé de type entier par axe quantifié valeurs ou valeurs symboliques |
mhlo.async_start
(mhlo::AsyncStartOp)
Opération AsyncStart
Cette opération est privée pour le compilateur XLA, elle n'a donc pas encore de spécification.
De manière informelle, cette opération déclenche un calcul asynchrone.
Ceci est utilisé lorsque des fonctions contiennent à la fois des attentes asynchrones (comme les DMA) et des calculs sur thread. Par exemple, une fonction peut être composée d'un calcul, d'un DMA, d'un autre calcul, d'un second DMA et d'un calcul final. Ceci est représenté par un async_start suivi d'un async_update et d'un async_done. L'async_start effectue le premier calcul sur thread, puis démarre le DMA. L'async_update attend la fin du DMA s'il n'est pas encore terminé, puis exécute le second calcul de la fonction et démarre le second DMA. Enfin, l'async_done attend ce dernier DMA, puis exécute le dernier calcul à exécuter sur thread et renvoie le résultat de ce dernier calcul.
operands
sont transmis directement au calcul. called_computation
désigne la fonction qui sera exécutée de manière asynchrone. execution_thread
désigne le nom du thread dans lequel elle sera exécutée. Le thread principal est appelé « main ». Tous les threads ont un nom.
Cela renvoie tous les états nécessaires entre les opérations asynchrones. Après l'affectation du tampon, les valeurs de retour représentent l'espace nécessaire pour stocker les entrées, les résultats et les blocs-notes nécessaires ou modifiés par l'opération asynchrone.
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
called_computation | ::mlir::FlatSymbolRefAttr | attribut de référence de symbole plat |
execution_thread | ::mlir::StringAttr | attribut de chaîne |
Opérandes:
Opérande | Description |
---|---|
inputs | variadique de tenseur classé de type float ou bool 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou par axe ou jeton ou stablehlo jeton ou tuple imbriqué avec toute combinaison de tenseur classé de type float ou bool 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou memref de type float ou bool 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou tenseur classé de type entier par axe quantifié valeurs ou valeurs symboliques |
Résultats:
Résultat | Description |
---|---|
"anonyme" | async_bundle avec n'importe quelle combinaison de tenseurs classés de type float ou bool 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec des éléments float 32/64 bits ou des valeurs quantifiées entières par tenseur ou par axe ou des valeurs de jeton ou de jeton stablehlo |
mhlo.async_update
(mhlo::AsyncUpdateOp)
Opération AsyncUpdate
Cette opération est privée pour le compilateur XLA, elle n'a donc pas encore de spécification.
De manière informelle, cette opération bloque un calcul asynchrone jusqu'à une barrière de synchronisation. Elle renvoie bundle
après l'opération.
Consultez la documentation d'AsyncStart pour plus d'informations.
Interfaces : InferTypeOpInterface
Opérandes:
Opérande | Description |
---|---|
bundle | async_bundle avec n'importe quelle combinaison de tenseurs classés de type float ou bool 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec des éléments float 32/64 bits ou des valeurs quantifiées entières par tenseur ou par axe ou des valeurs de jeton ou de jeton stablehlo |
Résultats:
Résultat | Description |
---|---|
"anonyme" | async_bundle avec n'importe quelle combinaison de tenseurs classés de type float ou bool 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec des éléments float 32/64 bits ou des valeurs quantifiées entières par tenseur ou par axe ou des valeurs de jeton ou de jeton stablehlo |
mhlo.atan2
(mhlo::Atan2Op)
Fonctionnement d'Atan2
Syntaxe:
operation ::= `mhlo.atan2` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
Exécute l'opération atan2 élément par élément sur le tenseur lhs
et rhs
et produit un tenseur result
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#atan2
Exemple:
%result = mhlo.atan2 %lhs, %rhs : tensor<3xf32>
Traits : AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Opérandes:
Opérande | Description |
---|---|
lhs | Tenseur classé de type flottant ou complexe 4/6/8/16/32/64 bits avec éléments flottants 32/64 bits ou valeurs quantifiées entières par tenseur |
rhs | Tenseur classé de type flottant ou complexe 4/6/8/16/32/64 bits avec éléments flottants 32/64 bits ou valeurs quantifiées entières par tenseur |
Résultats:
Résultat | Description |
---|---|
result | Tenseur classé de type flottant ou complexe 4/6/8/16/32/64 bits avec éléments flottants 32/64 bits ou valeurs quantifiées entières par tenseur |
mhlo.atanh
(mhlo::AtanhOp)
Opération Atanh
Syntaxe:
operation ::= `mhlo.atanh` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Exécute une opération atanh élément par élément sur le tenseur operand
et produit un tenseur result
.
Exemple:
%result = mhlo.atanh %operand : tensor<2x2xf32>
Traits : CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces : InferShapedTypeOpInterface
, InferTypeOpInterface
Opérandes:
Opérande | Description |
---|---|
operand | tenseur de type flottant ou complexe 4/6/8/16/32/64 bits avec des valeurs d'éléments flottants 32/64 bits |
Résultats:
Résultat | Description |
---|---|
result | tenseur de type flottant ou complexe 4/6/8/16/32/64 bits avec des valeurs d'éléments flottants 32/64 bits |
mhlo.batch_norm_grad
(mhlo :: BatchNormGradOp)
Opération BatchNormGrad
Calcule les gradients de plusieurs entrées de BatchNormTrainingOp rétropropagées à partir de grad_output
et produit les tenseurs grad_operand
, grad_scale
et grad_offset
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#batch_norm_grad
Exemple:
%grad_operand, %grad_scale, %grad_offset =
"mhlo.batch_norm_grad"(%operand, %scale, %mean, %variance, %grad_output) {
epsilon = 0.0 : f32,
feature_index = 2 : i64
} : (tensor<2x2x2xf32>, tensor<2xf32>, tensor<2xf32>, tensor<2xf32>,
tensor<2x2x2xf32>) -> (tensor<2x2x2xf32>, tensor<2xf32>, tensor<2xf32>)
Traits : AlwaysSpeculatableImplTrait
, InferTensorType
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
epsilon | ::mlir::FloatAttr | Attribut flottant 32 bits |
feature_index | ::mlir::IntegerAttr | Attribut entier sans signe de 64 bits dont la valeur est non négative |
Opérandes:
Opérande | Description |
---|---|
operand | tenseur classé de valeurs flottantes 4/6/8/16/32/64 bits |
scale | Tenseur 1D de valeurs flottantes 4/6/8/16/32/64 bits |
mean | Tenseur 1D de valeurs flottantes 4/6/8/16/32/64 bits |
variance | Tenseur 1D de valeurs flottantes 4/6/8/16/32/64 bits |
grad_output | tenseur classé de valeurs flottantes 4/6/8/16/32/64 bits |
Résultats:
Résultat | Description |
---|---|
grad_operand | tenseur classé de valeurs flottantes 4/6/8/16/32/64 bits |
grad_scale | Tenseur 1D de valeurs flottantes 4/6/8/16/32/64 bits |
grad_offset | Tenseur 1D de valeurs flottantes 4/6/8/16/32/64 bits |
mhlo.batch_norm_inference
(mhlo::BatchNormInferenceOp)
Opération BatchNormInference
Normalise le tenseur operand
sur toutes les dimensions à l'exception de la dimension feature_index
et produit un tenseur result
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#batch_norm_inference
Exemple:
%result = "mhlo.batch_norm_inference"(%operand, %scale, %offset, %mean, %variance) {
epsilon = 0.0 : f32,
feature_index = 2 : i64
} : (tensor<2x2x2xf32>, tensor<2xf32>, tensor<2xf32>, tensor<2xf32>, tensor<2xf32>) -> tensor<2x2x2xf32>
Traits : AlwaysSpeculatableImplTrait
, InferTensorType
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
epsilon | ::mlir::FloatAttr | Attribut flottant 32 bits |
feature_index | ::mlir::IntegerAttr | Attribut entier sans signe de 64 bits dont la valeur est non négative |
Opérandes:
Opérande | Description |
---|---|
operand | tenseur classé de valeurs flottantes 4/6/8/16/32/64 bits |
scale | Tenseur 1D de valeurs flottantes 4/6/8/16/32/64 bits |
offset | Tenseur 1D de valeurs flottantes 4/6/8/16/32/64 bits |
mean | Tenseur 1D de valeurs flottantes 4/6/8/16/32/64 bits |
variance | Tenseur 1D de valeurs flottantes 4/6/8/16/32/64 bits |
Résultats:
Résultat | Description |
---|---|
result | tenseur classé de valeurs flottantes 4/6/8/16/32/64 bits |
mhlo.batch_norm_training
(mhlo::BatchNormTrainingOp)
Opération BatchNormTraining
Calcule la moyenne et la variance sur les dimensions de lot et spatiales et normalise le tenseur operand
, pour chaque fonctionnalité de la dimension feature_index
et produit des tenseurs output
, batch_mean
et batch_var
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#batch_norm_training
Exemple:
%output, %batch_mean, %batch_var = "mhlo.batch_norm_training"(%operand, %scale, %offset) {
epsilon = 0.0 : f32,
feature_index = 2 : i64
} : (tensor<2x2x2xf32>, tensor<2xf32>, tensor<2xf32>) -> (tensor<2x2x2xf32>, tensor<2xf32>, tensor<2xf32>)
Traits : AlwaysSpeculatableImplTrait
, InferTensorType
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
epsilon | ::mlir::FloatAttr | Attribut flottant 32 bits |
feature_index | ::mlir::IntegerAttr | Attribut entier sans signe de 64 bits dont la valeur est non négative |
Opérandes:
Opérande | Description |
---|---|
operand | tenseur classé de valeurs flottantes 4/6/8/16/32/64 bits |
scale | Tenseur 1D de valeurs flottantes 4/6/8/16/32/64 bits |
offset | Tenseur 1D de valeurs flottantes 4/6/8/16/32/64 bits |
Résultats:
Résultat | Description |
---|---|
output | tenseur classé de valeurs flottantes 4/6/8/16/32/64 bits |
batch_mean | Tenseur 1D de valeurs flottantes 4/6/8/16/32/64 bits |
batch_var | Tenseur 1D de valeurs flottantes 4/6/8/16/32/64 bits |
mhlo.bitcast
(mhlo::BitcastOp)
Opération Bitcast
Syntaxe:
operation ::= `mhlo.bitcast` operands attr-dict `:` functional-type(operands, results)
Cette opération est privée pour le compilateur XLA, elle n'a donc pas encore de spécification.
De manière informelle, cette opération modifie la forme de l’entrée de telle sorte que la disposition physique des éléments reste inchangée.
Cette opération nécessite des informations de mise en page pour donner un sens à la « disposition physique des éléments », et la prise en charge de la mise en page dans MHLO est actuellement en cours de développement.
Exemple:
%0 = mhlo.bitcast %arg0 : (tensor<3x4xf32>) -> tensor<3x4x1xf32>
Traits : AlwaysSpeculatableImplTrait
Interfaces : ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Opérandes:
Opérande | Description |
---|---|
operand | Tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou par axe |
Résultats:
Résultat | Description |
---|---|
"anonyme" | Tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou par axe |
mhlo.bitcast_convert
(mhlo::BitcastConvertOp)
Opération BitcastConvert
Syntaxe:
operation ::= `mhlo.bitcast_convert` operands attr-dict `:` functional-type(operands, results)
Exécute une opération de conversion de bits sur le tenseur operand
et produit un tenseur result
où les bits de l'ensemble du tenseur operand
sont réinterprétés à l'aide du type du tenseur result
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#bitcast_convert
Exemple:
%result = mhlo.bitcast_convert %operand : (tensor<2xf32>) -> tensor<2x4xi8>
Traits : AlwaysSpeculatableImplTrait
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Opérandes:
Opérande | Description |
---|---|
operand | Tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou par axe |
Résultats:
Résultat | Description |
---|---|
"anonyme" | Tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou par axe |
mhlo.broadcast
(mhlo::BroadcastOp)
Opération de diffusion
Cette opération est sur le point de quitter StableHLO, elle n'est donc pas incluse dans la spécification : https://github.com/openxla/stablehlo/issues/3
De manière informelle, cette opération fait la même chose que la diffusion de XLA : https://www.tensorflow.org/xla/operation_semantics#broadcast
Exemple:
%result = mhlo.broadcast %operand, sizes = [1, 2] : (tensor<3xi32>) -> tensor<1x2x3xi32>
Traits : AlwaysSpeculatableImplTrait
, InferTensorType
, SameOperandsAndResultElementType
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
broadcast_sizes | ::mlir::DenseIntElementsAttr | Attribut d'éléments entiers sans signe 64 bits |
Opérandes:
Opérande | Description |
---|---|
operand | Tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou par axe |
Résultats:
Résultat | Description |
---|---|
"anonyme" | Tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou par axe |
mhlo.broadcast_in_dim
(mhlo :: BroadcastInDimOp)
Fonctionnement BroadcastInDim
Étend les dimensions et/ou le rang d'un tenseur d'entrée en dupliquant les données dans le tenseur operand
et produit un tenseur result
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#broadcast_in_dim
Exemple:
%result = mhlo.broadcast_in_dim %operand, dims = [2, 1] : (tensor<1x3xi32>) -> tensor<2x3x2xi32>
Traits : AlwaysSpeculatableImplTrait
, HLO_CompatibleOperandsAndResultElementType
Interfaces : ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
broadcast_dimensions | ::mlir::DenseIntElementsAttr | Attribut d'éléments entiers sans signe 64 bits |
Opérandes:
Opérande | Description |
---|---|
operand | Tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou par axe |
Résultats:
Résultat | Description |
---|---|
"anonyme" | Tenseur de forme statique ou à dimension bornée unique de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou par axe |
mhlo.case
(mhlo::CaseOp)
Opération de cas
Produit la sortie de l'exécution d'une seule function
à partir branches
en fonction de la valeur de index
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#case
Exemple:
%result0, %result1 = "mhlo.case"(%index) ({
mhlo.return %result_branch0, %result_branch0 : tensor<2xi64>, tensor<2xi64>
}, {
mhlo.return %result_branch1, %result_branch1 : tensor<2xi64>, tensor<2xi64>
}) : (tensor<i32>) -> (tensor<2xi64>, tensor<2xi64>)
Traits : RecursiveMemoryEffects
, SingleBlockImplicitTerminator<ReturnOp>
, SingleBlock
Interfaces : InferTypeOpInterface
Opérandes:
Opérande | Description |
---|---|
index | tenseur de valeurs entières sans signe de 32 bits |
Résultats:
Résultat | Description |
---|---|
"anonyme" | variadique de tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou tenseur classé de valeurs entières quantifiées par axe ou jeton |
mhlo.cbrt
(mhlo::CbrtOp)
Opération CBRT
Syntaxe:
operation ::= `mhlo.cbrt` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Effectue une opération de racine cubique élément par élément sur le tenseur operand
et produit un tenseur result
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#cbrt
Exemple:
%result = mhlo.cbrt %operand : tensor<4xf32>
Traits : AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
result_accuracy | ::mlir::mhlo::ResultAccuracyAttr | La précision demandée pour les opérations unaires. |
Opérandes:
Opérande | Description |
---|---|
operand | Tenseur classé de type flottant ou complexe 4/6/8/16/32/64 bits avec éléments flottants 32/64 bits ou valeurs quantifiées entières par tenseur |
Résultats:
Résultat | Description |
---|---|
result | Tenseur classé de type flottant ou complexe 4/6/8/16/32/64 bits avec éléments flottants 32/64 bits ou valeurs quantifiées entières par tenseur |
mhlo.ceil
(mhlo::CeilOp)
Opération de plafond
Syntaxe:
operation ::= `mhlo.ceil` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Effectue une cellule élément par élément du tenseur operand
et produit un tenseur result
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#ceil
Exemple:
%result = mhlo.ceil %operand : tensor<5xf32>
Traits : AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Opérandes:
Opérande | Description |
---|---|
operand | tenseur classé de valeurs flottantes ou entières quantifiées par tenseur de 4/6/8/16/32/64 bits |
Résultats:
Résultat | Description |
---|---|
result | tenseur classé de valeurs flottantes ou entières quantifiées par tenseur de 4/6/8/16/32/64 bits |
mhlo.cholesky
(mhlo::CholeskyOp)
Opération Cholesky
Calcule la décomposition de Cholesky d'un lot de matrices.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#cholesky
Exemple:
%result = mhlo.cholesky %a, lower = true : tensor<3x3xf32>
Traits : AlwaysSpeculatableImplTrait
, InferTensorType
, SameOperandsAndResultElementType
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
lower | ::mlir::BoolAttr | attribut booléen |
Opérandes:
Opérande | Description |
---|---|
a | tenseur classé de type flottant ou complexe 4/6/8/16/32/64 bits avec des valeurs d'éléments flottants 32/64 bits |
Résultats:
Résultat | Description |
---|---|
"anonyme" | tenseur classé de type flottant ou complexe 4/6/8/16/32/64 bits avec des valeurs d'éléments flottants 32/64 bits |
mhlo.clamp
(mhlo::ClampOp)
Fonctionnement de la pince
Syntaxe:
operation ::= `mhlo.clamp` $min `,` $operand `,` $max attr-dict
`:` custom<SameOperandsAndResultType>(type($min), type($operand), type($max), type($result))
Fixe chaque élément du tenseur operand
entre une valeur minimale et maximale et produit un tenseur result
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#clamp
Exemple:
%result = mhlo.clamp %min, %operand, %max : tensor<3xi32>
Traits : AlwaysSpeculatableImplTrait
, HLO_BroadcastingElementwise
, InferTensorType
, SameOperandsAndResultElementType
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Opérandes:
Opérande | Description |
---|---|
min | Tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou par axe |
operand | Tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou par axe |
max | Tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou par axe |
Résultats:
Résultat | Description |
---|---|
result | Tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou par axe |
mhlo.collective_broadcast
(mhlo::CollectiveBroadcastOp)
Opération de diffusion collective
Dans chaque groupe de processus de la grille de processus, envoyez la valeur du tenseur d' operand
du processus source aux processus cibles et produisez un tenseur result
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#collective_broadcast
Exemple:
%result = "mhlo.collective_broadcast"(%operand) {
replica_groups = dense<[[0, 1]]> : tensor<1x2xi64>,
channel_handle = #mhlo.channel_handle<handle = 0, type = 0>
} : (tensor<1x2xi64>) -> tensor<1x2xi64>
Traits : CompatibleOperandsAndResultType
Interfaces : InferShapedTypeOpInterface
, InferTypeOpInterface
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
replica_groups | ::mlir::DenseIntElementsAttr | Attribut d'éléments entiers sans signe 64 bits |
channel_handle | ::mlir::mhlo::ChannelHandleAttr | deux entiers de 64 bits « handle » et « type » |
Opérandes:
Opérande | Description |
---|---|
operand | Tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou par axe |
Résultats:
Résultat | Description |
---|---|
"anonyme" | Tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou par axe |
mhlo.collective_permute
(mhlo::CollectivePermuteOp)
Opération CollectivePermute
Dans chaque groupe de processus de la grille de processus, envoie la valeur du tenseur d' operand
du processus source au processus cible et produit un tenseur result
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#collective_permute
Exemple:
%result = "mhlo.collective_permute"(%operand) {
source_target_pairs = dense<[[0, 1], [1, 2]]> : tensor<2x2xi64>,
// channel_id = 0
channel_handle = #mhlo.channel_handle<handle = 0, type = 0>
} : (tensor<4x2xf32>) -> tensor<4x2xf32>
Traits : AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
source_target_pairs | ::mlir::DenseIntElementsAttr | Attribut d'éléments entiers sans signe 64 bits |
channel_handle | ::mlir::mhlo::ChannelHandleAttr | deux entiers de 64 bits « handle » et « type » |
Opérandes:
Opérande | Description |
---|---|
operand | Tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou par axe |
Résultats:
Résultat | Description |
---|---|
"anonyme" | Tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou par axe |
mhlo.compare
(mhlo :: CompareOp)
Comparer les opérations
Syntaxe:
operation ::= `mhlo.compare` $comparison_direction `,` $lhs `,` $rhs (`,` $compare_type^)?
attr-dict `:` functional-type(operands, results)
Effectue une comparaison élément par élément des tenseurs lhs
et rhs
selon comparison_direction
et compare_type
, et produit un tenseur result
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#compare
Exemple:
%result = mhlo.compare LT, %lhs, %rhs, FLOAT : (tensor<2xf32>, tensor<2xf32>) -> tensor<2xi1>
Traits : AlwaysSpeculatableImplTrait
, Elementwise
, InferTensorType
, SameOperandsAndResultShape
, SameOperandsElementType
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
comparison_direction | ::mlir::mhlo::ComparisonDirectionAttr | Quelle opération de comparaison effectuer. |
compare_type | ::mlir::mhlo::ComparisonTypeAttr | Quel type de comparaison utiliser. |
Opérandes:
Opérande | Description |
---|---|
lhs | Tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou par axe |
rhs | Tenseur classé de type float ou booléen 4/6/8/16/32/64 bits ou entier 2/4/8/16/32/64 bits ou complexe avec éléments float 32/64 bits ou valeurs entières quantifiées par tenseur ou par axe |
Résultats:
Résultat | Description |
---|---|
"anonyme" | tenseur classé de valeurs booléennes |
mhlo.complex
(mhlo::ComplexOp)
Opération complexe
Syntaxe:
operation ::= `mhlo.complex` operands attr-dict
`:` custom<ComplexOpType>(type($lhs), type($rhs), type($result))
Effectue une conversion élément par élément en une valeur complexe à partir d'une paire de valeurs réelles et imaginaires, lhs
et rhs
, et produit un tenseur result
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#complex
Exemple:
%result = mhlo.complex %lhs, %rhs : tensor<2xcomplex<f32>>
Traits : AlwaysSpeculatableImplTrait
, Elementwise
, SameOperandsAndResultShape
, SameOperandsElementType
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Opérandes:
Opérande | Description |
---|---|
lhs | tenseur classé de valeurs flottantes 32/64 bits |
rhs | tenseur classé de valeurs flottantes 32/64 bits |
Résultats:
Résultat | Description |
---|---|
result | tenseur classé de type complexe avec des valeurs d'éléments flottants 32/64 bits |
mhlo.composite
(mhlo::CompositeOp)
Opération composite
Syntaxe:
operation ::= `mhlo.composite` $name $inputs attr-dict `:` functional-type(operands, results)
Encapsule une opération composée d'autres opérations StableHLO, prenant en charge inputs
et composite_attributes
et produisant results
. La sémantique de l'opération est implémentée par l'attribut decomposition
. L'opération composite
peut être remplacée par sa décomposition sans modifier la sémantique du programme. Si l'intégration de la décomposition ne fournit pas la même sémantique d'opération, privilégiez l' custom_call
.
Le champ version
(par défaut 0
) est utilisé pour indiquer le moment où la sémantique d'un composite change.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#composite
Exemple:
%results = mhlo.composite "my.op" %arg0, %arg1 {
decomposition = @my_op,
composite_attributes = { my_attribute = "my_value" },
version = 1 : i32
} : (tensor<f32>, tensor<f32>) -> tensor<f32>
Interfaces : SymbolUserOpInterface
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
name | ::mlir::StringAttr | attribut de chaîne |
composite_attributes | ::mlir::DictionaryAttr | dictionnaire de valeurs d'attributs nommés |
decomposition | ::mlir::FlatSymbolRefAttr | attribut de référence de symbole plat |
version | ::mlir::IntegerAttr | Attribut entier sans signe de 32 bits |
Opérandes :
Opérande | Description |
---|---|
inputs | variadique de tenseur classé de 4/6/8/16/32/64 bits flottant ou booléen ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe ou un jeton ou un tuple imbriqué avec toute combinaison de tenseurs classés de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits entier ou type complexe avec des éléments flottants 32/64 bits ou des valeurs quantifiées entières par tenseur ou memref de 4/6/8/16/32/64 bits flottant ou booléen ou 2/4/8/16/32/64 bits entier ou type complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou un tenseur classé de valeurs quantifiées entières par axe ou des valeurs de jeton |
Résultats:
Résultat | Description |
---|---|
"anonyme" | variadique de tenseur classé de 4/6/8/16/32/64 bits flottant ou booléen ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe ou un jeton ou un tuple imbriqué avec toute combinaison de tenseurs classés de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits entier ou type complexe avec des éléments flottants 32/64 bits ou des valeurs quantifiées entières par tenseur ou memref de 4/6/8/16/32/64 bits flottant ou booléen ou 2/4/8/16/32/64 bits entier ou type complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou un tenseur classé de valeurs quantifiées entières par axe ou des valeurs de jeton |
mhlo.concatenate
(mhlo::ConcatenateOp)
Opération de concaténation
Concatène un nombre variadique de tenseurs dans inputs
le long dimension
dans le même ordre que les arguments donnés et produit un tenseur result
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#concatenate
Exemple:
%result = mhlo.concatenate %input0, %input1, dim = 0 : (tensor<3x2xi64>, tensor<1x2xi64>) -> tensor<4x2xi64>
Traits : AlwaysSpeculatableImplTrait
, SameOperandsAndResultElementType
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
dimension | ::mlir::IntegerAttr | Attribut entier sans signe de 64 bits dont la valeur n'est pas négative |
Opérandes :
Opérande | Description |
---|---|
val | variadique de tenseur classé de 4/6/8/16/32/64 bits flottant ou booléen ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
Résultats:
Résultat | Description |
---|---|
"anonyme" | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
mhlo.constant
(mhlo::ConstantOp)
Fonctionnement constant
Produit un tenseur output
à partir d'une value
constante.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#constant
Exemple:
%output = mhlo.constant dense<[[0.0, 1.0], [2.0, 3.0]]> : tensor<2x2xf32>
Traits : AlwaysSpeculatableImplTrait
, ConstantLike
Interfaces : ConditionallySpeculatable
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
value | ::mlir::ElementsAttr | attribut vecteur/tenseur constant |
Résultats:
Résultat | Description |
---|---|
output | Tenseur de forme statique de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
mhlo.convert
(mhlo :: ConvertOp)
Opération de conversion
Syntaxe:
operation ::= `mhlo.convert` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Effectue une conversion élément par élément d'un type d'élément à un autre sur le tenseur operand
et produit un tenseur result
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#convert
Exemple:
%result = mhlo.convert %operand : (tensor<3xi32>) -> tensor<3xcomplex<f32>>
Traits : AlwaysSpeculatableImplTrait
, Elementwise
, SameOperandsAndResultShape
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Opérandes :
Opérande | Description |
---|---|
operand | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
Résultats:
Résultat | Description |
---|---|
result | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
mhlo.convolution
(mhlo :: ConvolutionOp)
Opération de convolution
Syntaxe:
operation ::= `mhlo.convolution` `(`operands`)`
`dim_numbers` `=` custom<ConvolutionDimensions>($dimension_numbers) `,`
`window` `=` `{` custom<WindowAttributes>($window_strides, $padding,
$lhs_dilation, $rhs_dilation,
$window_reversal) `}`
attr-dict `:` functional-type(operands, results)
Calcule les produits scalaires entre les fenêtres de lhs
et les tranches de rhs
et produit result
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#convolution
Exemple:
%result = "mhlo.convolution"(%lhs, %rhs) {
window_strides = dense<4> : tensor<2xi64>,
padding = dense<0> : tensor<2x2xi64>,
lhs_dilation = dense<2> : tensor<2xi64>,
rhs_dilation = dense<1> : tensor<2xi64>,
window_reversal = dense<false> : tensor<2xi1>,
dimension_numbers = #mhlo.conv<[b, 0, 1, f]x[0, 1, i, o]->[b, 0, 1, f]>,
feature_group_count = 1 : i64,
batch_group_count = 1 : i64,
precision_config = [#stablehlo<precision DEFAULT>, #stablehlo<precision DEFAULT>]
} : (tensor<1x4x4x1xi32>, tensor<3x3x1x1xi32>) -> tensor<1x2x2x1xi32>
Traits : AlwaysSpeculatableImplTrait
Interfaces : ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
window_strides | ::mlir::DenseIntElementsAttr | Attribut d'éléments entiers sans signe de 64 bits |
padding | ::mlir::DenseIntElementsAttr | Attribut d'éléments entiers sans signe de 64 bits |
lhs_dilation | ::mlir::DenseIntElementsAttr | Attribut d'éléments entiers sans signe de 64 bits |
rhs_dilation | ::mlir::DenseIntElementsAttr | Attribut d'éléments entiers sans signe de 64 bits |
window_reversal | ::mlir::DenseElementsAttr | attribut vecteur/tenseur booléen constant |
dimension_numbers | ::mlir::mhlo::ConvDimensionNumbersAttr | Structure des informations sur les dimensions pour l'opération de conversion |
feature_group_count | ::mlir::IntegerAttr | Attribut entier sans signe de 64 bits dont la valeur est positive |
batch_group_count | ::mlir::IntegerAttr | Attribut entier sans signe de 64 bits dont la valeur est positive |
precision_config | ::mlir::ArrayAttr | Attribut de configuration de précision |
Opérandes :
Opérande | Description |
---|---|
lhs | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
rhs | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
Résultats:
Résultat | Description |
---|---|
"anonyme" | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
mhlo.copy
(mhlo :: CopyOp)
Opération de copie
Syntaxe:
operation ::= `mhlo.copy` operands attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Cette opération est privée au compilateur XLA, elle n'a donc pas encore de spécification.
De manière informelle, cette opération est une copie de operand
. En fonction des métadonnées attachées à l'opération, celle-ci peut se comporter très différemment d'une opération sans opération.
Exemple:
%0 = mhlo.copy %arg0 : tensor<f32>
Traits : AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
cross_program_prefetch_index | ::mlir::IntegerAttr | Attribut entier sans signe de 32 bits |
Opérandes :
Opérande | Description |
---|---|
operand | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe ou un jeton ou un tuple imbriqué avec toute combinaison de tenseurs classés de 4/6/8/16/32/64 bits flottants ou bool ou entier 2/4/8/16/32/64 bits ou type complexe avec éléments flottants 32/64 bits ou valeurs quantifiées entières par tenseur ou memref de 4/6/8/16/32/64 bits flottant ou booléen ou entier 2/4/8/16/32/64 bits ou type complexe avec éléments flottants 32/64 bits ou entier par tenseur valeurs quantifiées ou tenseur classé de valeurs quantifiées entières par axe ou de valeurs symboliques |
Résultats:
Résultat | Description |
---|---|
result | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe ou un jeton ou un tuple imbriqué avec toute combinaison de tenseurs classés de 4/6/8/16/32/64 bits flottants ou bool ou entier 2/4/8/16/32/64 bits ou type complexe avec éléments flottants 32/64 bits ou valeurs quantifiées entières par tenseur ou memref de 4/6/8/16/32/64 bits flottant ou booléen ou entier 2/4/8/16/32/64 bits ou type complexe avec éléments flottants 32/64 bits ou entier par tenseur valeurs quantifiées ou tenseur classé de valeurs quantifiées entières par axe ou de valeurs symboliques |
mhlo.cosh
(mhlo::CoshOp)
Opération Cosh
Syntaxe:
operation ::= `mhlo.cosh` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Effectue une opération cosh par élément sur le tenseur operand
et produit un tenseur result
.
Exemple:
%result = mhlo.cosh %operand : tensor<2x2xf32>
Traits : CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces : InferShapedTypeOpInterface
, InferTypeOpInterface
Opérandes :
Opérande | Description |
---|---|
operand | tenseur de type flottant ou complexe 4/6/8/16/32/64 bits avec des valeurs d'éléments flottants de 32/64 bits |
Résultats:
Résultat | Description |
---|---|
result | tenseur de type flottant ou complexe 4/6/8/16/32/64 bits avec des valeurs d'éléments flottants de 32/64 bits |
mhlo.cosine
(mhlo :: CosineOp)
Opération cosinus
Syntaxe:
operation ::= `mhlo.cosine` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Effectue une opération cosinus par élément sur le tenseur operand
et produit un tenseur result
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#cosine
Exemple:
%result = mhlo.cosine %operand : tensor<2xf32>
Traits : AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
result_accuracy | ::mlir::mhlo::ResultAccuracyAttr | La précision demandée pour les opérations unaires. |
Opérandes :
Opérande | Description |
---|---|
operand | Tenseur classé de type flottant ou complexe 4/6/8/16/32/64 bits avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur |
Résultats:
Résultat | Description |
---|---|
result | Tenseur classé de type flottant ou complexe 4/6/8/16/32/64 bits avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur |
mhlo.count_leading_zeros
(mhlo :: ClzOp)
Opération Clz
Syntaxe:
operation ::= `mhlo.count_leading_zeros` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Effectue un décompte élément par élément du nombre de bits zéro en tête dans le tenseur operand
et produit un tenseur result
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#count_leading_zeros
Exemple:
%result = mhlo.count_leading_zeros %operand : tensor<2x2xi8>
Traits : AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Opérandes :
Opérande | Description |
---|---|
operand | Tenseur classé de valeurs entières 2/4/8/16/32/64 bits |
Résultats:
Résultat | Description |
---|---|
result | Tenseur classé de valeurs entières 2/4/8/16/32/64 bits |
mhlo.create_token
(mhlo::CreateTokenOp)
Opération CreateToken
Syntaxe:
operation ::= `mhlo.create_token` attr-dict `:` type(results)
Cette opération est en train de sortir de StableHLO, elle n'est donc pas incluse dans la spécification : https://github.com/openxla/stablehlo/issues/3
De manière informelle, cette opération fait la même chose qu'AfterAllOp avec 0 entrée : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#after_all
Exemple:
%output = mhlo.create_token : !mhlo.token
Traits : AlwaysSpeculatableImplTrait
Interfaces : ConditionallySpeculatable
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Résultats:
Résultat | Description |
---|---|
output | jeton |
mhlo.cross-replica-sum
(mhlo::CrossReplicaSumOp)
Opération CrossReplicaSum
Cette opération est en train de sortir de StableHLO, elle n'est donc pas incluse dans la spécification : https://github.com/openxla/stablehlo/issues/3
De manière informelle, cette opération fait la même chose que AllReduceOp avec channel_id = 0
, use_global_device_ids = false
et computation
implémentant l'ajout : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#all_reduce
Exemple:
%result = "mhlo.cross-replica-sum"(%operand) {
replica_groups = dense<[[0, 1]]> : tensor<1x2xi64>
} : (tensor<4xf32>) -> tensor<4xf32>
Traits : AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
replica_groups | ::mlir::DenseIntElementsAttr | Attribut d'éléments entiers sans signe de 64 bits |
Opérandes :
Opérande | Description |
---|---|
operand | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
Résultats:
Résultat | Description |
---|---|
"anonyme" | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
mhlo.custom_call
(mhlo :: CustomCallOp)
Opération CustomCall
Syntaxe:
operation ::= `mhlo.custom_call` custom<CustomCallTarget>($call_target_name) `(` $inputs `)`
attr-dict `:` functional-type(operands, results)
Encapsule une opération définie par l'implémentation call_target_name
qui prend inputs
et called_computations
et produit results
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#custom_call
Exemple:
%results = "mhlo.custom_call"(%input0) {
call_target_name = "foo",
has_side_effect = false,
backend_config = "bar",
api_version = 1 : i32,
called_computations = [@foo]
} : (tensor<f32>) -> tensor<f32>
A custom call invokes code external to XLA. The `inputs` are passed to the
external code, and the external code is expected to produce a result of the
given type. The exact mechanism is backend-specific. For example, in the CPU
backend, a call instruction is emitted which targets a symbol with the name
`call_target_name`.
If XLA runtime is enabled for a backend, then custom calls use the runtime
custom call calling convention to call into the external functions. This
calling convention defines an ABI for encoding arguments, attributes and
results.
Depending on the API version there are two ways to pass extra bits of static
information to the external function:
1. For `API_VERSION_TYPED_FFI` custom calls `backend_config` must be a
dictionary attribute, that will be encoded according to the custom call
calling convention and passed to the external function as the attributes
argument. External code is expected to use declarative bindings (see
`xla/runtime/custom_call.h`) to decode them at run time. These custom
calls are only supported if XLA uses XLA runtime.
2. For previous API versions it is the user responsibility to encode extra
bits of static information as a string `backend_config` attribute, and
decode it at run time.
Interfaces : MemoryEffectOpInterface
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
call_target_name | ::mlir::StringAttr | attribut de chaîne |
has_side_effect | ::mlir::BoolAttr | attribut booléen |
backend_config | ::mlir::Attribut | attribut de chaîne ou dictionnaire de valeurs d'attribut nommé |
api_version | ::mlir::mhlo::CustomCallApiVersionAttr | Version de l'API d'appel personnalisé |
called_computations | ::mlir::ArrayAttr | attribut de tableau de référence de symbole plat |
custom_call_schedule | ::mlir::mhlo::CustomCallScheduleAttr | Spécifie le calendrier souhaité pour l’appel personnalisé. |
operand_layouts | ::mlir::ArrayAttr | Tableau d'attributs de mise en page (tenseur 1D de type index) |
result_layouts | ::mlir::ArrayAttr | Tableau d'attributs de mise en page (tenseur 1D de type index) |
output_operand_aliases | ::mlir::ArrayAttr | Attribut d'alias pour les sorties et les opérandes de CustomCall |
Opérandes :
Opérande | Description |
---|---|
inputs | variadique de tenseur de 4/6/8/16/32/64 bits float ou bool ou 2/4/8/16/32/64 bits entier ou de type complexe avec des éléments float 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe ou memref de 4/6/8/16/32/64 bits float ou bool ou Type entier ou complexe 2/4/8/16/32/64 bits avec éléments flottants 32/64 bits ou valeurs quantifiées entières par tenseur ou jeton ou tuple imbriqué avec toute combinaison de tenseurs de 4/6/8/16/32/64 bits flottants ou booléens ou type entier ou complexe 2/4/8/16/32/64 bits avec éléments flottants 32/64 bits ou valeurs quantifiées entières par tenseur ou valeurs quantifiées entières par axe ou référence mémoire de 4/6/8/16/32/64 bits flottant ou booléen ou 2/4/8/16/32/64 bits entier ou type complexe avec des éléments flottants 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs de jeton |
Résultats:
Résultat | Description |
---|---|
"anonyme" | variadique de tenseur de 4/6/8/16/32/64 bits float ou bool ou 2/4/8/16/32/64 bits entier ou de type complexe avec des éléments float 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe ou memref de 4/6/8/16/32/64 bits float ou bool ou Type entier ou complexe 2/4/8/16/32/64 bits avec éléments flottants 32/64 bits ou valeurs quantifiées entières par tenseur ou jeton ou tuple imbriqué avec toute combinaison de tenseurs de 4/6/8/16/32/64 bits flottants ou booléens ou type entier ou complexe 2/4/8/16/32/64 bits avec éléments flottants 32/64 bits ou valeurs quantifiées entières par tenseur ou valeurs quantifiées entières par axe ou référence mémoire de 4/6/8/16/32/64 bits flottant ou booléen ou 2/4/8/16/32/64 bits entier ou type complexe avec des éléments flottants 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs de jeton |
mhlo.divide
(mhlo :: DivOp)
Opération Div
Syntaxe:
operation ::= `mhlo.divide` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
Effectue une division par éléments des tenseurs de dividende lhs
et de diviseur rhs
et produit un tenseur result
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#divide
Exemple:
%result = mhlo.divide %lhs, %rhs : tensor<4xf32>
Traits : AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Opérandes :
Opérande | Description |
---|---|
lhs | Tenseur classé de type entier 2/4/8/16/32/64 bits ou flottant 4/6/8/16/32/64 bits ou de type complexe avec éléments flottants 32/64 bits ou valeurs quantifiées entières par tenseur ou valeurs quantifiées entières par axe |
rhs | Tenseur classé de type entier 2/4/8/16/32/64 bits ou flottant 4/6/8/16/32/64 bits ou de type complexe avec éléments flottants 32/64 bits ou valeurs quantifiées entières par tenseur ou valeurs quantifiées entières par axe |
Résultats:
Résultat | Description |
---|---|
result | Tenseur classé de type entier 2/4/8/16/32/64 bits ou flottant 4/6/8/16/32/64 bits ou de type complexe avec éléments flottants 32/64 bits ou valeurs quantifiées entières par tenseur ou valeurs quantifiées entières par axe |
mhlo.domain
(mhlo :: DomainOp)
Opération de domaine
Cette opération est privée au compilateur XLA, elle n'a donc pas encore de spécification.
De manière informelle, ces opérations sont utilisées pour regrouper les instructions avec la même propriété DomainMetadata. ShardingMetadata est aujourd’hui le principal cas d’utilisation pour regrouper des instructions sur le même appareil. Les instructions de domaine offrent deux avantages majeurs :
- Empêchez l’optimisation involontaire des instructions dans tous les domaines.
- Attribuez automatiquement les métadonnées des instructions créées dans le domaine. Sans instructions de domaine, chaque passe d'optimisation HLO devrait vérifier et propager les métadonnées, ce qui serait facile à manquer et ajouterait également de la complexité au compilateur. Étant donné que les instructions de domaine connectent deux domaines différents, chaque instruction de domaine est associée à deux DomainMetadata : une du côté opérande et une du côté utilisateur du domaine.
Traits : AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
kind | ::mlir::mhlo::DomainKindAttr | Type de métadonnées de domaine attachées à un domaine HLO. |
entry_metadata | ::mlir::StringAttr | attribut de chaîne |
exit_metadata | ::mlir::StringAttr | attribut de chaîne |
Opérandes :
Opérande | Description |
---|---|
operand | Tenseur classé de 4/6/8/16/32/64 bits flottant ou booléen ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou un tenseur classé de valeurs quantifiées entières par axe ou un jeton |
Résultats:
Résultat | Description |
---|---|
result | Tenseur classé de 4/6/8/16/32/64 bits flottant ou booléen ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou un tenseur classé de valeurs quantifiées entières par axe ou un jeton |
mhlo.dot
(mhlo :: DotOp)
Opération de point
Cette opération est en train de sortir de StableHLO, elle n'est donc pas incluse dans la spécification : https://github.com/openxla/stablehlo/issues/3
De manière informelle, cette opération fait la même chose que Dot de XLA : https://www.tensorflow.org/xla/operation_semantics#dot
Exemple:
%0 = mhlo.dot %arg0, %arg1 : (tensor<1x2xi32>, tensor<2x1xi32>) -> tensor<1x1xi32>
Traits : AlwaysSpeculatableImplTrait
Interfaces : ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
precision_config | ::mlir::ArrayAttr | Attribut de configuration de précision |
Opérandes :
Opérande | Description |
---|---|
lhs | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
rhs | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
Résultats:
Résultat | Description |
---|---|
"anonyme" | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
mhlo.dot_general
(mhlo::DotGeneralOp)
DotFonctionnement général
Calcule les produits scalaires entre les tranches de lhs
et les tranches de rhs
et produit un tenseur result
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#dot_general
Exemple:
%result = "mhlo.dot_general"(%lhs, %rhs) {
dot_dimension_numbers = #mhlo.dot<
lhs_batching_dimensions = [0],
rhs_batching_dimensions = [0],
lhs_contracting_dimensions = [2],
rhs_contracting_dimensions = [1]
>,
precision_config = [#stablehlo<precision DEFAULT>, #stablehlo<precision DEFAULT>]
} : (tensor<2x2x2xi32>, tensor<2x2x2xi32>) -> tensor<2x2x2xi32>
Traits : AlwaysSpeculatableImplTrait
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
dot_dimension_numbers | ::mlir::mhlo::DotDimensionNumbersAttr | Attribut qui modélise les informations de dimension pour dot. |
precision_config | ::mlir::ArrayAttr | Attribut de configuration de précision |
algorithm | ::mlir::mhlo::DotAlgorithmAttr | Attribut qui modélise les contraintes de l'algorithme à utiliser pour le calcul du point. |
Opérandes :
Opérande | Description |
---|---|
lhs | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
rhs | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
Résultats:
Résultat | Description |
---|---|
"anonyme" | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
mhlo.dynamic_broadcast_in_dim
(mhlo :: DynamicBroadcastInDimOp)
Opération DynamicBroadcastInDim
Cette opération est fonctionnellement identique à l'opération Broadcast_in_dim , mais la forme du résultat est spécifiée dynamiquement via output_dimensions
.
Il accepte également des attributs facultatifs pour exprimer des connaissances statiques sur le comportement d'expansion des dimensions. Si cela n’est pas spécifié, toutes les dimensions sont supposées être éventuellement en expansion. Les ensembles de dimensions connues pour être en expansion et l'ensemble de dimensions connues pour ne pas être en expansion doivent être disjoints et doivent constituer un sous-ensemble des dimensions de l'opérande.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#dynamic_broadcast_in_dim
Exemple:
%operand = mhlo.constant dense<[[1, 2, 3]]> : tensor<1x3xi64>
%output_dimensions = mhlo.constant dense<[2, 3, 2]> : tensor<3xi64>
%result = "mhlo.dynamic_broadcast_in_dim"(%operand, %output_dimensions) {
broadcast_dimensions = array<i64: 2, 1>,
known_expanding_dimensions = array<i64: 0>,
known_nonexpanding_dimensions = array<i64: 1>
} : (tensor<1x3xi64>, tensor<3xi64>) -> tensor<2x3x2xi64>
Traits : AlwaysSpeculatableImplTrait
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
broadcast_dimensions | ::mlir::DenseIntElementsAttr | Attribut d'éléments entiers sans signe de 64 bits |
known_expanding_dimensions | ::mlir::DenseIntElementsAttr | Attribut d'éléments entiers sans signe de 64 bits |
known_nonexpanding_dimensions | ::mlir::DenseIntElementsAttr | Attribut d'éléments entiers sans signe de 64 bits |
Opérandes :
Opérande | Description |
---|---|
operand | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
output_dimensions | Tenseur 1D d'index ou valeurs entières 2/4/8/16/32/64 bits |
Résultats:
Résultat | Description |
---|---|
"anonyme" | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
mhlo.dynamic_conv
(mhlo :: DynamicConvOp)
Opération DynamicConv
Cette opération est un travail en cours, elle n'est donc pas encore incluse dans la spécification : https://github.com/openxla/stablehlo/issues/8
De manière informelle, cette opération fait la même chose que ConvolutionOp sauf que le padding
est spécifié dynamiquement via d_padding
: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#convolution
Exemple:
%result = "mhlo.dynamic_conv"(%lhs, %rhs, %d_padding) {
window_strides = dense<4> : tensor<2xi64>,
lhs_dilation = dense<2> : tensor<2xi64>,
rhs_dilation = dense<1> : tensor<2xi64>,
window_reversal = dense<false> : tensor<2xi1>,
dimension_numbers = #mhlo.conv<[b, 0, 1, f]x[0, 1, i, o]->[b, 0, 1, f]>,
feature_group_count = 1 : i64,
batch_group_count = 1 : i64,
precision_config = [#stablehlo<precision DEFAULT>, #stablehlo<precision DEFAULT>]
} : (tensor<1x4x4x1xi32>, tensor<3x3x1x1xi32>, tensor<2x2xi64>) -> tensor<1x2x2x1xi32>
Traits : AlwaysSpeculatableImplTrait
Interfaces : ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
window_strides | ::mlir::DenseIntElementsAttr | Attribut d'éléments entiers sans signe de 64 bits |
padding | ::mlir::DenseIntElementsAttr | Attribut d'éléments entiers sans signe de 64 bits |
lhs_dilation | ::mlir::DenseIntElementsAttr | Attribut d'éléments entiers sans signe de 64 bits |
rhs_dilation | ::mlir::DenseIntElementsAttr | Attribut d'éléments entiers sans signe de 64 bits |
window_reversal | ::mlir::DenseElementsAttr | attribut vecteur/tenseur booléen constant |
dimension_numbers | ::mlir::mhlo::ConvDimensionNumbersAttr | Structure des informations sur les dimensions pour l'opération de conversion |
feature_group_count | ::mlir::IntegerAttr | Attribut entier sans signe de 64 bits dont la valeur est positive |
batch_group_count | ::mlir::IntegerAttr | Attribut entier sans signe de 64 bits dont la valeur est positive |
precision_config | ::mlir::ArrayAttr | Attribut de configuration de précision |
Opérandes :
Opérande | Description |
---|---|
lhs | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
rhs | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
d_padding | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
Résultats:
Résultat | Description |
---|---|
"anonyme" | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
mhlo.dynamic_gather
(mhlo :: DynamicGatherOp)
Opération DynamicGather
Cette opération est un travail en cours, elle n'est donc pas encore incluse dans la spécification : https://github.com/openxla/stablehlo/issues/8
De manière informelle, cette opération fait la même chose que GatherOp sauf que slice_sizes
sont spécifiés dynamiquement : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#gather
Exemple:
%result = "mhlo.dynamic_gather"(%operand, %start_indices, %slice_sizes) {
dimension_numbers = #mhlo.gather<
offset_dims = [2, 3],
collapsed_slice_dims = [0],
start_index_map = [0, 2],
index_vector_dim = 2>,
indices_are_sorted = false
} : (tensor<3x4x2xi32>, tensor<2x3x2xi64>, tensor<3xi64>) -> tensor<2x3x2x2xi32>
Traits : AlwaysSpeculatableImplTrait
, InferTensorType
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
dimension_numbers | ::mlir::mhlo::GatherDimensionNumbersAttr | Attribut qui modélise les informations de dimension pour la collecte |
indices_are_sorted | ::mlir::BoolAttr | attribut booléen |
Opérandes :
Opérande | Description |
---|---|
operand | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
start_indices | Tenseur classé de valeurs entières 2/4/8/16/32/64 bits |
slice_sizes | Tenseur entier unidimensionnel de forme statique de valeurs entières 2/4/8/16/32/64 bits |
Résultats:
Résultat | Description |
---|---|
"anonyme" | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
mhlo.dynamic_iota
(mhlo::DynamicIotaOp)
Opération DynamicIota
Cette opération est fonctionnellement identique à iota op, mais la forme du résultat est spécifiée dynamiquement via output_shape
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#dynamic_iota
Exemple:
%0 = mhlo.dynamic_iota %arg0, dim = 0 : (tensor<1xindex>) -> tensor<4xi32>
Traits : AlwaysSpeculatableImplTrait
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
iota_dimension | ::mlir::IntegerAttr | Attribut entier sans signe de 64 bits dont la valeur n'est pas négative |
Opérandes :
Opérande | Description |
---|---|
output_shape | Tenseur 1D d'index ou valeurs entières 2/4/8/16/32/64 bits |
Résultats:
Résultat | Description |
---|---|
result | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
mhlo.dynamic_pad
(mhlo :: DynamicPadOp)
Fonctionnement du DynamicPad
Syntaxe:
operation ::= `mhlo.dynamic_pad` operands attr-dict `:` functional-type(operands, results)
Remplit dynamiquement l' operand
, avec la quantité de remplissage ajoutée aux niveaux bas de gamme/haut de gamme/intérieur, transmise via les tenseurs d'entrée.
Traits : AlwaysSpeculatableImplTrait
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Opérandes :
Opérande | Description |
---|---|
operand | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
padding_value | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
edge_padding_low | Tenseur 1D d'index ou valeurs entières 2/4/8/16/32/64 bits |
edge_padding_high | Tenseur 1D d'index ou valeurs entières 2/4/8/16/32/64 bits |
interior_padding | Tenseur 1D d'index ou valeurs entières 2/4/8/16/32/64 bits |
Résultats:
Résultat | Description |
---|---|
result | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
mhlo.dynamic_reshape
(mhlo :: DynamicReshapeOp)
Opération DynamicReshape
Syntaxe:
operation ::= `mhlo.dynamic_reshape` operands attr-dict `:` functional-type(operands, results)
Cette opération est fonctionnellement identique à l'opération reshape , mais la forme du résultat est spécifiée dynamiquement via output_shape
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#dynamic_reshape
Exemple:
%output_shape = mhlo.constant dense<[3, 2]> : tensor<2xi64>
%result = mhlo.dynamic_reshape %operand, %output_shape : (tensor<2x3xi64>, tensor<2xi64>) -> tensor<3x2xi64>
Traits : AlwaysSpeculatableImplTrait
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Opérandes :
Opérande | Description |
---|---|
operand | tenseur de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
output_shape | Tenseur 1D d'index ou valeurs entières 2/4/8/16/32/64 bits |
Résultats:
Résultat | Description |
---|---|
result | tenseur de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
mhlo.dynamic_slice
(mhlo :: DynamicSliceOp)
Opération DynamicSlice
Extrait une tranche de l' operand
à l'aide d'indices de départ calculés dynamiquement et produit un tenseur result
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#dynamic_slice
Exemple:
%result = mhlo.dynamic_slice %operand, %start_indices0, %start_indices1, sizes = [2, 2]
: (tensor<4x4xi32>, tensor<i64>, tensor<i64>) -> tensor<2x2xi32>
Traits : AlwaysSpeculatableImplTrait
, InferTensorType
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
slice_sizes | ::mlir::DenseIntElementsAttr | Attribut d'éléments entiers sans signe de 64 bits |
Opérandes :
Opérande | Description |
---|---|
operand | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
start_indices | variadique du tenseur 0D de valeurs entières 2/4/8/16/32/64 bits |
Résultats:
Résultat | Description |
---|---|
result | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
mhlo.dynamic_update_slice
(mhlo :: DynamicUpdateSliceOp)
Opération DynamicUpdateSlice
Syntaxe:
operation ::= `mhlo.dynamic_update_slice` operands attr-dict `:` functional-type(operands, results)
Produit un tenseur result
qui est égal au tenseur operand
sauf que la tranche commençant à start_indices
est mise à jour avec les valeurs de update
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#dynamic_update_slice
Exemple:
%result = mhlo.dynamic_update_slice %operand, %update, %start_indices0, %start_indices1
: (tensor<4x4xi32>, tensor<2x2xi32>, tensor<i64>, tensor<i64>) -> tensor<4x4xi32>
Traits : AlwaysSpeculatableImplTrait
, InferTensorType
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Opérandes :
Opérande | Description |
---|---|
operand | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
update | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
start_indices | variadique du tenseur 0D de valeurs entières 2/4/8/16/32/64 bits |
Résultats:
Résultat | Description |
---|---|
result | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
mhlo.einsum
(mhlo::EinsumOp)
Opération simple
Cette opération est en train de sortir de StableHLO, elle n'est donc pas incluse dans la spécification : https://github.com/openxla/stablehlo/issues/3
De manière informelle, cette opération fait la même chose que l'einsum de TF : https://www.tensorflow.org/api_docs/python/tf/einsum
Exemple:
%result = "mhlo.einsum"(%lhs, %rhs) {
einsum_config = "ab,bc->ac"
} : (tensor<4x16xf32>, tensor<16x4xf32>) -> tensor<4x4xf32>
Traits : AlwaysSpeculatableImplTrait
Interfaces : ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
einsum_config | ::mlir::StringAttr | attribut de chaîne |
Opérandes :
Opérande | Description |
---|---|
lhs | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
rhs | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
Résultats:
Résultat | Description |
---|---|
"anonyme" | Tenseur classé de 4/6/8/16/32/64 bits flottant ou bool ou 2/4/8/16/32/64 bits de type entier ou complexe avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur ou des valeurs quantifiées entières par axe |
mhlo.erf
(mhlo::ErfOp)
Opération Erf
Syntaxe:
operation ::= `mhlo.erf` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Effectue une opération erf par élément sur le tenseur operand
et produit un tenseur result
.
Exemple:
%result = mhlo.erf %operand : tensor<2x2xf32>
Traits : AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Opérandes :
Opérande | Description |
---|---|
operand | Tenseur classé de valeurs flottantes 4/6/8/16/32/64 bits |
Résultats:
Résultat | Description |
---|---|
result | Tenseur classé de valeurs flottantes 4/6/8/16/32/64 bits |
mhlo.exponential
(mhlo :: ExpOp)
Opération exp.
Syntaxe:
operation ::= `mhlo.exponential` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Effectue une opération exponentielle par élément sur le tenseur operand
et produit un tenseur result
.
Voir : https://github.com/openxla/stablehlo/blob/main/docs/spec.md#exponential
Exemple:
%result = mhlo.exponential %operand : tensor<2x2xf64>
Traits : AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces : ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effets : MemoryEffects::Effect{}
Attributs:
Attribut | Type MLIR | Description |
---|---|---|
result_accuracy | ::mlir::mhlo::ResultAccuracyAttr | La précision demandée pour les opérations unaires. |
Opérandes :
Opérande | Description |
---|---|
operand | Tenseur classé de type flottant ou complexe 4/6/8/16/32/64 bits avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur |
Résultats:
Résultat | Description |
---|---|
result | Tenseur classé de type flottant ou complexe 4/6/8/16/32/64 bits avec des éléments flottants de 32/64 bits ou des valeurs quantifiées entières par tenseur |
mhlo.exponential_minus_one
(mhlo::Expm1Op)
Opération Expm1
Syntaxe:
operation ::= `mhlo.exponential_minus_one` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise exponential minus one operation on operand
tensor and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#exponential_minus_one
Exemple:
%result = mhlo.exponential_minus_one %operand : tensor<2xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
result_accuracy | ::mlir::mhlo::ResultAccuracyAttr | The requested accuracy for unary ops. |
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
mhlo.fft
(mhlo::FftOp)
Fft operation
Performs the forward and inverse Fourier transforms for real and complex inputs/outputs.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#fft
Exemple:
%result = mhlo.fft %operand, type = FFT, length = [4] : (tensor<4xcomplex<f32>>) -> tensor<4xcomplex<f32>>
Traits: AlwaysSpeculatableImplTrait
, InferTensorType
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
fft_type | ::mlir::mhlo::FftTypeAttr | XLA fast fourier transform type. |
fft_length | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
Résultats:
Résultat | Description |
---|---|
"anonyme" | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.floor
(mhlo::FloorOp)
Floor operation
Syntaxe:
operation ::= `mhlo.floor` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise floor of operand
tensor and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#floor
Exemple:
%result = mhlo.floor %operand : tensor<2xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or per-tensor integer quantized values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or per-tensor integer quantized values |
mhlo.fusion
(mhlo::FusionOp)
Fusion operation
This operation is private to the XLA compiler, so it is does not yet have a specification.
Informally, this operation consists of a group of basic ops (represented as a region attached to it). It serves as a hint to the backend that it is beneficial to emit the contained ops into a single loop nest or kernel.
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
fusion_kind | ::mlir::mhlo::FusionKindAttr | fusion kind |
output_operand_aliases | ::mlir::ArrayAttr | Aliasing attribute for outputs and operands of Fusion |
Operands:
Opérande | Description |
---|---|
inputs | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or ranked tensor of per-axis integer quantized values or token |
Résultats:
Résultat | Description |
---|---|
results | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values or nested tuple with any combination of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or memref of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or ranked tensor of per-axis integer quantized values or token values |
mhlo.gather
(mhlo::GatherOp)
Gather operation
Gathers slices from operand
tensor from offsets specified in start_indices
and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#gather
Exemple:
%result = "mhlo.gather"(%operand, %start_indices) {
dimension_numbers = #stablehlo.gather<
offset_dims = [3, 4],
collapsed_slice_dims = [1],
operand_batching_dims = [0],
start_indices_batching_dims = [1],
start_index_map = [2, 1],
index_vector_dim = 3>,
slice_sizes = dense<[0, 2, 2]> : tensor<3xi64>,
indices_are_sorted = false
} : (tensor<2x3x4x2xi64>, tensor<2x2x3x2xi64>) -> tensor<2x2x3x2x2xi64>
Traits: AlwaysSpeculatableImplTrait
, InferTensorType
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
dimension_numbers | ::mlir::mhlo::GatherDimensionNumbersAttr | Attribute that models the dimension information for gather |
slice_sizes | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
indices_are_sorted | ::mlir::BoolAttr | bool attribute |
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
start_indices | ranked tensor of 2/4/8/16/32/64-bit integer values |
Résultats:
Résultat | Description |
---|---|
"anonyme" | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.get_dimension_size
(mhlo::GetDimensionSizeOp)
GetDimensionSize operation
Produces the size of the given dimension
of the operand
.
See https://github.com/openxla/stablehlo/blob/main/docs/spec.md#get_dimension_size
Exemple:
%result = mhlo.get_dimension_size %operand, dim = 1 : (tensor<2x3xf32>) -> tensor<i32>
Traits: AlwaysSpeculatableImplTrait
, InferTensorType
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
dimension | ::mlir::IntegerAttr | 64-bit signless integer attribute whose value is non-negative |
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
Résultats:
Résultat | Description |
---|---|
"anonyme" | tensor of 32-bit signless integer values |
mhlo.get_tuple_element
(mhlo::GetTupleElementOp)
GetTupleElement operation
Syntaxe:
operation ::= `mhlo.get_tuple_element` $operand `[` $index `]` attr-dict `:` functional-type(operands, results)
Extracts element at index
position of the operand
tuple and produces a result
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#get_tuple_element
Exemple:
%result = mhlo.get_tuple_element %operand[0] : (tuple<tensor<2xf32>, tuple<tensor<i32>>>) -> tensor<2xf32>
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
index | ::mlir::IntegerAttr | 32-bit signless integer attribute whose value is non-negative |
Operands:
Opérande | Description |
---|---|
operand | nested tuple with any combination of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or memref of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or ranked tensor of per-axis integer quantized values or token values |
Résultats:
Résultat | Description |
---|---|
"anonyme" | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values or token or nested tuple with any combination of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or memref of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or ranked tensor of per-axis integer quantized values or token values or memref of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values |
mhlo.if
(mhlo::IfOp)
If operation
Produces the output from executing exactly one branch from true_branch
or false_branch
depending on the value of pred
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#if
Example: %result = "mhlo.if"(%pred) ({ "mhlo.return"(%result_true_branch) : (tensor
Traits: RecursiveMemoryEffects
, SingleBlockImplicitTerminator<ReturnOp>
, SingleBlock
Interfaces: InferTypeOpInterface
Operands:
Opérande | Description |
---|---|
pred | ranked tensor of bool values |
Résultats:
Résultat | Description |
---|---|
"anonyme" | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or ranked tensor of per-axis integer quantized values or token |
mhlo.imag
(mhlo::ImagOp)
Imag operation
Syntaxe:
operation ::= `mhlo.imag` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Extracts the imaginary part, element-wise, from the operand
and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#imag
Exemple:
%result = mhlo.imag %operand : (tensor<2xcomplex<f32>>) -> tensor<2xf32>
Traits: AlwaysSpeculatableImplTrait
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float values |
mhlo.infeed
(mhlo::InfeedOp)
Infeed operation
Reads data from the infeed and produces results
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#infeed
Exemple:
%results:2 = "mhlo.infeed"(%token) {
infeed_config = ""
} : (!mhlo.token) -> (tensor<3x3x3xi32>, !mhlo.token)
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
infeed_config | ::mlir::StringAttr | string attribute |
layout | ::mlir::ArrayAttr | array attribute |
Operands:
Opérande | Description |
---|---|
token | jeton |
Résultats:
Résultat | Description |
---|---|
"anonyme" | variadic of statically shaped tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or statically shaped tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values or token |
mhlo.iota
(mhlo::IotaOp)
Iota operation
Fills an output
tensor with values in increasing order starting from zero along the iota_dimension
dimension.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#iota
Exemple:
%output = mhlo.iota dim = 0 : tensor<4x5xi32>
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
iota_dimension | ::mlir::IntegerAttr | 64-bit signless integer attribute whose value is non-negative |
Résultats:
Résultat | Description |
---|---|
output | statically shaped tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements values |
mhlo.is_finite
(mhlo::IsFiniteOp)
IsFinite operation
Syntaxe:
operation ::= `mhlo.is_finite` $x attr-dict `:` functional-type(operands, results)
Performs element-wise check whether the value in x
is finite (ie is neither +Inf, -Inf, nor NaN) and produces a y
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#is_finite
Exemple:
%y = mhlo.is_finite %x : (tensor<7xf32>) -> tensor<7xi1>
Traits: AlwaysSpeculatableImplTrait
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
x | ranked tensor of 4/6/8/16/32/64-bit float values |
Résultats:
Résultat | Description |
---|---|
y | ranked tensor of bool values |
mhlo.log
(mhlo::LogOp)
Log operation
Syntaxe:
operation ::= `mhlo.log` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise logarithm operation on operand
tensor and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#log
Exemple:
%result = mhlo.log %operand : tensor<2x2xf64>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
result_accuracy | ::mlir::mhlo::ResultAccuracyAttr | The requested accuracy for unary ops. |
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
mhlo.log_plus_one
(mhlo::Log1pOp)
Log1p operation
Syntaxe:
operation ::= `mhlo.log_plus_one` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise logarithm plus one operation on operand
tensor and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#log_plus_one
Exemple:
%result = mhlo.log_plus_one %operand : tensor<6xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
result_accuracy | ::mlir::mhlo::ResultAccuracyAttr | The requested accuracy for unary ops. |
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
mhlo.logistic
(mhlo::LogisticOp)
Logistic operation
Syntaxe:
operation ::= `mhlo.logistic` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise logistic operation on operand
tensor and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#logistic
Exemple:
%result = mhlo.logistic %operand : tensor<2x2xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
result_accuracy | ::mlir::mhlo::ResultAccuracyAttr | The requested accuracy for unary ops. |
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
mhlo.map
(mhlo::MapOp)
Map operation
Applies a map function computation
to inputs
along the dimensions
and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#map
Exemple:
%result = "mhlo.map"(%input0, %input1) ({
^bb0(%arg0: tensor<i32>, %arg1: tensor<i32>):
%0 = mhlo.multiply %arg0, %arg1 : tensor<i32>
mhlo.return %0 : tensor<i32>
}) {
dimensions = dense<[0, 1]> : tensor<2xi64>
} : (tensor<2x2xi32>, tensor<2x2xi32>) -> tensor<2x2xi32>
Traits: InferTensorType
, RecursiveMemoryEffects
, SameOperandsAndResultShape
, SingleBlockImplicitTerminator<ReturnOp>
, SingleBlock
Interfaces: InferShapedTypeOpInterface
, InferTypeOpInterface
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
dimensions | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
Operands:
Opérande | Description |
---|---|
inputs | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
Résultats:
Résultat | Description |
---|---|
"anonyme" | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.maximum
(mhlo::MaxOp)
Max operation
Syntaxe:
operation ::= `mhlo.maximum` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
Performs element-wise max operation on tensors lhs
and rhs
and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#maximum
Exemple:
%result = mhlo.maximum %lhs, %rhs : tensor<4xf32>
Traits: AlwaysSpeculatableImplTrait
, Commutative
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
lhs | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
rhs | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.minimum
(mhlo::MinOp)
Min operation
Syntaxe:
operation ::= `mhlo.minimum` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
Performs element-wise min operation on tensors lhs
and rhs
and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#minimum
Exemple:
%result = mhlo.minimum %lhs, %rhs : tensor<4xf32>
Traits: AlwaysSpeculatableImplTrait
, Commutative
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
lhs | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
rhs | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.minimum_broadcast_shapes
(mhlo::MinimumBroadcastShapesOp)
Minimizes the rank of two or more shapes to be broadcasted
Syntaxe:
operation ::= `mhlo.minimum_broadcast_shapes` $shapes attr-dict `:` type($shapes) `->` type($results)
Given two or more 1D tensors representing shapes, returns one 1D tensor for each operand, where operand i
corresponds to output i
.
The returned tensors have the property that they specify a shape which is a reshape of the corresponding input shape, and the broadcasted output shape (using shape::BroadcastOp) of the returned shapes is a reshape of the broadcasted output shape of the input shapes. Among all possibilities with this property, the one is chosen which minimizes the rank of each returned shape.
The general idea of this op is that it can be used for ops which have a broadcasting semantic to operate on shapes with a possibly smaller rank while preserving equivalence of the computed values. After computing the result of the op using reshaped operands, the result can be reshaped to the result that would have been originally computed.
Here is an example with two input shapes:
mhlo.minimum_broadcast_shapes [1, 2, 3, 1, 2, 1],
[1, 1, 1, 2, 3] -> [6, 2, 1], [2, 3]
The broadcasted output shape of the operands is [1, 2, 3, 1, 2, 3], the broadcasted output shape of the outputs is [6, 2, 3]. These two shapes are reshapes of each other, and also each output is a reshape of the corresponding input.
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
shapes | variadic of 1D tensor of index values |
Résultats:
Résultat | Description |
---|---|
results | variadic of 1D tensor of index values |
mhlo.multiply
(mhlo::MulOp)
Mul operation
Syntaxe:
operation ::= `mhlo.multiply` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
Performs element-wise product of two tensors lhs
and rhs
and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#multiply
Exemple:
%result = mhlo.multiply %lhs, %rhs : tensor<2xi32>
Traits: AlwaysSpeculatableImplTrait
, Commutative
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
lhs | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
rhs | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.negate
(mhlo::NegOp)
Neg operation
Syntaxe:
operation ::= `mhlo.negate` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise negation of operand
tensor and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#negate
Exemple:
%result = mhlo.negate %operand : tensor<2x3xi32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.not
(mhlo::NotOp)
Not operation
Syntaxe:
operation ::= `mhlo.not` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise NOT of tensor operand
of type integer and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#not
Exemple:
%result = mhlo.not %operand : tensor<5x3x1xi1>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of bool or 2/4/8/16/32/64-bit integer values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of bool or 2/4/8/16/32/64-bit integer values |
mhlo.optimization_barrier
(mhlo::OptimizationBarrierOp)
OptimizationBarrier operation
Syntaxe:
operation ::= `mhlo.optimization_barrier` attr-dict ($operand^ `:` custom<PairwiseOpType>(type($operand), type($result))):(`(` `)`)?
Ensures that the operations that produce the operand
are executed before any operations that depend on the result
and prevents compiler transformations from moving operations across the barrier. Other than that, the operation is an identity, ie result
= operand
.
See https://github.com/openxla/stablehlo/blob/main/docs/spec.md#optimization_barrier
Exemple:
%result0, %result1 = mhlo.optimization_barrier %operand0, %operand1 : tensor<f32>, tensor<f32>
Traits: AlwaysSpeculatableImplTrait
, HLO_PairwiseSameOperandAndResultType
Interfaces: ConditionallySpeculatable
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
operand | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or ranked tensor of per-axis integer quantized values or token |
Résultats:
Résultat | Description |
---|---|
result | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or ranked tensor of per-axis integer quantized values or token |
mhlo.or
(mhlo::OrOp)
Or operation
Syntaxe:
operation ::= `mhlo.or` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
Performs element-wise OR of two tensors lhs
and rhs
and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#or
Exemple:
%result = mhlo.or %lhs, %rhs : tensor<2xi1>
Traits: AlwaysSpeculatableImplTrait
, Commutative
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
lhs | ranked tensor of bool or 2/4/8/16/32/64-bit integer values |
rhs | ranked tensor of bool or 2/4/8/16/32/64-bit integer values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.outfeed
(mhlo::OutfeedOp)
Outfeed operation
Writes inputs
to the outfeed and produces a result
token.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#outfeed
Exemple:
%result = "mhlo.outfeed"(%input0, %token) {
outfeed_config = ""
} : (tensor<3x3x3xi32>, !mhlo.token) -> !mhlo.token
Interfaces: InferTypeOpInterface
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
outfeed_config | ::mlir::StringAttr | string attribute |
Operands:
Opérande | Description |
---|---|
inputs | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
token | jeton |
Résultats:
Résultat | Description |
---|---|
"anonyme" | jeton |
mhlo.pad
(mhlo::PadOp)
Pad operation
Expands operand
by padding around the tensor as well as between the elements of the tensor with the given padding_value
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#pad
Exemple:
%0 = mhlo.pad %arg0, %arg1, low = [0, 1], high = [2, 1], interior = [1, 2]
: (tensor<2x3xi32>, tensor<i32>) -> tensor<5x9xi32>
Traits: AlwaysSpeculatableImplTrait
, SameOperandsAndResultElementType
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
edge_padding_low | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
edge_padding_high | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
interior_padding | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
padding_value | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
Résultats:
Résultat | Description |
---|---|
"anonyme" | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.partition_id
(mhlo::PartitionIdOp)
PartitionId operation
Syntaxe:
operation ::= `mhlo.partition_id` attr-dict `:` type(results)
Produces partition_id
of the current process.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#partition_id
Exemple:
%result = mhlo.partition_id : tensor<ui32>
Interfaces: InferTypeOpInterface
Résultats:
Résultat | Description |
---|---|
"anonyme" | ranked tensor of 32-bit unsigned integer values |
mhlo.popcnt
(mhlo::PopulationCountOp)
PopulationCount operation
Syntaxe:
operation ::= `mhlo.popcnt` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise count of the number of bits set in the operand
tensor and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#popcnt
Exemple:
%result = mhlo.popcnt %operand : tensor<4xi8>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 2/4/8/16/32/64-bit integer values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 2/4/8/16/32/64-bit integer values |
mhlo.power
(mhlo::PowOp)
Pow operation
Syntaxe:
operation ::= `mhlo.power` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
Performs element-wise exponentiation of lhs
tensor by rhs
tensor and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#power
Exemple:
%result = mhlo.power %lhs, %rhs : tensor<6xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
lhs | ranked tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
rhs | ranked tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.ragged_dot
(mhlo::RaggedDotOp)
Ragged matrix multiplication over a single ragged dimension
This operation takes three tensor args---lhs, rhs, and group_sizes---and a "ragged_dot_dimension_numbers" attribute. Like dot_general, the lhs and rhs are allowed arbitrary batch and contracting dimensions. Additionally, the lhs is required to have one ragged dimension, and the rhs may have at most one group dimension. The op has three modes, depending on the kind of the lhs ragged dimension.
In mode 1, the shape-signature is [b,m,k], [g,b,k,n], [b,g] -> [b,m,n]
. Here the ragged dimension is an lhs non-contracting dimension ( m
). The dimensions b
and k
represent batch and contracting dimensions respectively. The rhs is required to have a group dimension ( g
).
In mode 2, the shape-signature is [b,m,k], [b,k,n], [b,g] -> [g,b,m,n]
. Here the ragged dimension is an lhs/rhs contracting dimension ( k
).
In mode 3, the shape-signature is [b,m,k], [b,k,n], [g] -> [b,m,n]
. Here the ragged dimension is an lhs/rhs batch dimension ( b
).
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
ragged_dot_dimension_numbers | ::mlir::mhlo::RaggedDotDimensionNumbersAttr | Attribute that models the dimension information for ragged dot. |
precision_config | ::mlir::ArrayAttr | Precision Config attribute |
Operands:
Opérande | Description |
---|---|
lhs | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
rhs | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
group_sizes | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values |
mhlo.real
(mhlo::RealOp)
Real operation
Syntaxe:
operation ::= `mhlo.real` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Extracts the real part, element-wise, from the operand
and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#real
Exemple:
%result = mhlo.real %operand : (tensor<2xcomplex<f32>>) -> tensor<2xf32>
Traits: AlwaysSpeculatableImplTrait
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float values |
mhlo.real_dynamic_slice
(mhlo::RealDynamicSliceOp)
RealDynamicSlice operation
Syntaxe:
operation ::= `mhlo.real_dynamic_slice` operands attr-dict `:` functional-type(operands, results)
This operation is a work in progress, so it is not yet included in the specification: https://github.com/openxla/stablehlo/issues/8
Informally, this operation does the same thing as SliceOp except that start_indices
, limit_indices
and strides
are specified dynamically: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#slice
Exemple:
%result = mhlo.real_dynamic_slice %operand,
%start_indices, %limit_indices, %strides
: (tensor<256x?xf32>, tensor<2xindex>, tensor<2xindex>, tensor<2xindex>) -> tensor<256x?xf32>
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
start_indices | 1D tensor of index or 2/4/8/16/32/64-bit integer values |
limit_indices | 1D tensor of index or 2/4/8/16/32/64-bit integer values |
strides | 1D tensor of index or 2/4/8/16/32/64-bit integer values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.recv
(mhlo::RecvOp)
Recv operation
Receives data from a channel with channel_id
and produces results
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#recv
Exemple:
%results:2 = "mhlo.recv"(%token) {
// channel_id = 5 : i64,
// channel_type = #stablehlo<channel_type DEVICE_TO_DEVICE>,
channel_handle = #mhlo.channel_handle<handle = 5, type = 1>,
is_host_transfer = false,
source_target_pairs = dense<[[0, 1], [1, 2]]> : tensor<2x2xi64>
} : (!mhlo.token) -> (tensor<3x4xi32>, !mhlo.token)
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
channel_handle | ::mlir::mhlo::ChannelHandleAttr | two 64-bit integers 'handle' and 'type' |
is_host_transfer | ::mlir::BoolAttr | bool attribute |
source_target_pairs | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
Operands:
Opérande | Description |
---|---|
token | jeton |
Résultats:
Résultat | Description |
---|---|
"anonyme" | variadic of statically shaped tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or statically shaped tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values or token |
mhlo.reduce
(mhlo::ReduceOp)
Reduce operation
Applies a reduction function body
to inputs
and init_values
along the dimensions
and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#reduce
Exemple:
%result = "mhlo.reduce"(%input, %init_value) ({
^bb0(%arg0: tensor<i32>, %arg1: tensor<i32>):
%0 = "mhlo.add"(%arg0, %arg1) : (tensor<i32>, tensor<i32>) -> tensor<i32>
"mhlo.return"(%0) : (tensor<i32>) -> ()
}) {
dimensions = dense<1> : tensor<1xi64>
} : (tensor<1x6xi32>, tensor<i32>) -> tensor<1xi32>
Traits: InferTensorType
, RecursiveMemoryEffects
, SameVariadicOperandSize
, SingleBlockImplicitTerminator<ReturnOp>
, SingleBlock
Interfaces: InferShapedTypeOpInterface
, InferTypeOpInterface
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
dimensions | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
Operands:
Opérande | Description |
---|---|
inputs | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
init_values | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
Résultats:
Résultat | Description |
---|---|
"anonyme" | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.reduce_precision
(mhlo::ReducePrecisionOp)
ReducePrecision operation
Syntaxe:
operation ::= `mhlo.reduce_precision` $operand `,` `format` `=` custom<ExponentMantissa>($exponent_bits, $mantissa_bits)
attr-dict `:` custom<SameOperandsAndResultType>(type($operand), type($output))
Performs element-wise conversion of operand
to another floating-point type that uses exponent_bits
and mantissa_bits
and back to the original floating-point type and produces an output
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#reduce_precision
Exemple:
%output = mhlo.reduce_precision %operand, format = e5m2 : tensor<6xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
exponent_bits | ::mlir::IntegerAttr | 32-bit signless integer attribute whose value is positive |
mantissa_bits | ::mlir::IntegerAttr | 32-bit signless integer attribute whose value is non-negative |
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float values |
Résultats:
Résultat | Description |
---|---|
output | ranked tensor of 4/6/8/16/32/64-bit float values |
mhlo.reduce_scatter
(mhlo::ReduceScatterOp)
ReduceScatter operation
Within each process group in the process grid, performs reduction, using computations
, over the values of the operand
tensor from each process, splits the reduction result along scatter_dimension
into parts, and scatters the split parts between the processes to produce the result
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#reduce_scatter
Exemple:
%result = "mhlo.reduce_scatter"(%operand) ({
^bb0(%arg0: tensor<f32>, %arg1: tensor<f32>):
%0 = mhlo.add %arg0, %arg1 : tensor<f32>
mhlo.return %0 : tensor<f32>
}) {
scatter_dimension = 1 : i64,
replica_groups = dense<[[0, 1]]> : tensor<1x2xi64>,
// channel_id = 0
channel_handle = #mhlo.channel_handle<handle = 0, type = 0>
// use_global_device_ids = false
} : (tensor<2x4xf32>) -> tensor<2x2xf32>
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
scatter_dimension | ::mlir::IntegerAttr | 64-bit signless integer attribute whose value is non-negative |
replica_groups | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
channel_handle | ::mlir::mhlo::ChannelHandleAttr | two 64-bit integers 'handle' and 'type' |
use_global_device_ids | ::mlir::UnitAttr | unit attribute |
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
Résultats:
Résultat | Description |
---|---|
"anonyme" | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.reduce_window
(mhlo::ReduceWindowOp)
ReduceWindow operation
Applies a reduction function body
to windows of inputs
and init_values
and produces results
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#reduce_window
Exemple:
%result = "mhlo.reduce_window"(%input, %init_value) ({
^bb0(%arg0: tensor<i32>, %arg1: tensor<i32>):
%0 = mhlo.add %arg0, %arg1 : tensor<i32>
mhlo.return %0 : tensor<i32>
}) {
window_dimensions = dense<[2, 1]> : tensor<2xi64>,
window_strides = dense<[4, 1]> : tensor<2xi64>,
base_dilations = dense<[2, 1]> : tensor<2xi64>,
window_dilations = dense<[3, 1]> : tensor<2xi64>,
padding = dense<[[2, 1], [0, 0]]> : tensor<2x2xi64>
} : (tensor<3x2xi32>, tensor<i32>) -> tensor<2x2xi32>
Traits: InferTensorType
, RecursiveMemoryEffects
, SameVariadicOperandSize
, SingleBlockImplicitTerminator<ReturnOp>
, SingleBlock
Interfaces: InferShapedTypeOpInterface
, InferTypeOpInterface
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
window_dimensions | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
window_strides | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
base_dilations | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
window_dilations | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
padding | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
Operands:
Opérande | Description |
---|---|
inputs | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
init_values | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
Résultats:
Résultat | Description |
---|---|
"anonyme" | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.remainder
(mhlo::RemOp)
Rem operation
Syntaxe:
operation ::= `mhlo.remainder` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
Performs element-wise remainder of dividend lhs
and divisor rhs
tensors and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#remainder
Exemple:
%result = mhlo.remainder %lhs, %rhs : tensor<4xi64>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
lhs | ranked tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
rhs | ranked tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.replica_id
(mhlo::ReplicaIdOp)
ReplicaId operation
Syntaxe:
operation ::= `mhlo.replica_id` attr-dict `:` type(results)
Produces replica_id
of the current process.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#replica_id
Exemple:
%result = mhlo.replica_id : tensor<ui32>
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Résultats:
Résultat | Description |
---|---|
"anonyme" | ranked tensor of 32-bit unsigned integer values |
mhlo.reshape
(mhlo::ReshapeOp)
Reshape operation
Syntaxe:
operation ::= `mhlo.reshape` operands attr-dict `:` functional-type(operands, results)
Performs reshape of operand
tensor to a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#reshape
Exemple:
%result = mhlo.reshape %operand : (tensor<2xf32>) -> tensor<1x2xf32>
Traits: AlwaysSpeculatableImplTrait
, HLO_CompatibleOperandsAndResultElementType
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
operand | tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
Résultats:
Résultat | Description |
---|---|
"anonyme" | statically shaped or single bounded dimension tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.return
(mhlo::ReturnOp)
_This operation is a work in progress, so it is not yet included in the specification: https://github.com/openxla/stablehlo/issues/425
Informally, this operation serves as a terminator for regions defined by
the StableHLO ops. Non-StableHLO ops, e.g. `func.func`, have their own
terminators, e.g. `func.return`.
Example:
```mlir
%result = "mhlo.reduce"(%input, %init_value) ({
^bb0(%arg0: tensor<i32>, %arg1: tensor<i32>):
%0 = "mhlo.add"(%arg0, %arg1) : (tensor<i32>, tensor<i32>) -> tensor<i32>
"mhlo.return"(%0) : (tensor<i32>) -> ()
}) {
dimensions = dense<1> : tensor<1xi64>
} : (tensor<1x6xi32>, tensor<i32>) -> tensor<1xi32>
```_
Syntax:
```
operation ::= mhlo.return
$results attr-dict ( :
type($results)^)?
Traits: `AlwaysSpeculatableImplTrait`, `Terminator`
Interfaces: `ConditionallySpeculatable`, `NoMemoryEffect (MemoryEffectOpInterface)`
Effects: `MemoryEffects::Effect{}`
#### Operands:
| Operand | Description |
| :-----: | ----------- |
| `results` | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values or token or nested tuple with any combination of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or memref of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or ranked tensor of per-axis integer quantized values or token values or memref of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values |
### `mhlo.reverse` (mhlo::ReverseOp)
_Reverse operation_
Reverses the order of elements in the `operand` along the specified
`dimensions` and produces a `result` tensor.
See:
<a href="https://github.com/openxla/stablehlo/blob/main/docs/spec.md#reverse">https://github.com/openxla/stablehlo/blob/main/docs/spec.md#reverse</a>
Example:
```mlir
%result = mhlo.reverse %operand, dims = [1] : tensor<3x2xi32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
dimensions | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
Résultats:
Résultat | Description |
---|---|
"anonyme" | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.rng
(mhlo::RngOp)
Rng operation
Generates random numbers using the rng_distribution
algorithm and produces a result
tensor of a given shape shape
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#rng
Exemple:
%result = mhlo.rng %a, %b, %shape, distribution = NORMAL : (tensor<i32>, tensor<i32>, tensor<2xi64>) -> tensor<3x3xi32>
Traits: InferTensorType
Interfaces: InferShapedTypeOpInterface
, InferTypeOpInterface
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
rng_distribution | ::mlir::mhlo::RngDistributionAttr | XLA PRNG distribution to be used. |
Operands:
Opérande | Description |
---|---|
a | 0D tensor of bool or 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float values |
b | 0D tensor of bool or 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float values |
shape | 1D tensor of index or 2/4/8/16/32/64-bit integer values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of bool or 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float values |
mhlo.rng_bit_generator
(mhlo::RngBitGeneratorOp)
RngBitGenerator operation
Returns an output
filled with uniform random data and an updated output state output_state
given an initial state initial_state
using the pseudorandom number generator algorithm rng_algorithm
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#rng_bit_generator
Exemple:
%output_state, %output = mhlo.rng_bit_generator %initial_state, algorithm = THREE_FRY : (tensor<2xui64>) -> (tensor<2xui64>, tensor<2x2xui64>)
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
rng_algorithm | ::mlir::mhlo::RngAlgorithmAttr | XLA PRNG algorithm to be used. |
Operands:
Opérande | Description |
---|---|
initial_state | ranked tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float values |
Résultats:
Résultat | Description |
---|---|
output_state | ranked tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float values |
output | statically shaped tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float values |
mhlo.round_nearest_afz
(mhlo::RoundOp)
Round operation
Syntaxe:
operation ::= `mhlo.round_nearest_afz` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise rounding towards the nearest integer, breaking ties away from zero, on the operand
tensor and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#round_nearest_afz
Exemple:
%result = mhlo.round_nearest_afz %operand : tensor<5xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float values |
mhlo.round_nearest_even
(mhlo::RoundNearestEvenOp)
RoundNearestEven operation
Syntaxe:
operation ::= `mhlo.round_nearest_even` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise rounding towards the nearest integer, breaking ties towards the even integer, on the operand
tensor and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#round_nearest_even
Exemple:
%result = mhlo.round_nearest_even %operand : tensor<5xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float values |
mhlo.rsqrt
(mhlo::RsqrtOp)
Rsqrt operation
Syntaxe:
operation ::= `mhlo.rsqrt` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise reciprocal square root operation on operand
tensor and produces a result
tensor, implementing the rSqrt
operation from the IEEE-754 specification.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#rsqrt
Exemple:
%result = mhlo.rsqrt %operand : tensor<2x2xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
result_accuracy | ::mlir::mhlo::ResultAccuracyAttr | The requested accuracy for unary ops. |
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
mhlo.scatter
(mhlo::ScatterOp)
Scatter operation
Produces results
tensors which are equal to inputs
tensors except that several slices specified by scatter_indices
are updated with the values updates
using update_computation
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#scatter
Exemple:
%result = "mhlo.scatter"(%input, %scatter_indices, %update) ({
^bb0(%arg0: tensor<i32>, %arg1: tensor<i32>):
%0 = mhlo.add %arg0, %arg1 : tensor<i32>
mhlo.return %0 : tensor<i32>
}) {
scatter_dimension_numbers = #mhlo.scatter<
update_window_dims = [3, 4],
inserted_window_dims = [1],
input_batching_dims = [0],
scatter_indices_batching_dims = [1],
scatter_dims_to_operand_dims = [2, 1],
index_vector_dim = 3>,
indices_are_sorted = false,
unique_indices = false
} : (tensor<2x3x4x2xi64>, tensor<2x2x3x2xi64>, tensor<2x2x3x2x2xi64>) -> tensor<2x3x4x2xi64>
Traits: RecursiveMemoryEffects
, SameVariadicOperandSize
Interfaces: InferTypeOpInterface
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
scatter_dimension_numbers | ::mlir::mhlo::ScatterDimensionNumbersAttr | Attribute that models the dimension information for scatter |
indices_are_sorted | ::mlir::BoolAttr | bool attribute |
unique_indices | ::mlir::BoolAttr | bool attribute |
Operands:
Opérande | Description |
---|---|
inputs | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
scatter_indices | ranked tensor of integer or index values |
updates | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
Résultats:
Résultat | Description |
---|---|
"anonyme" | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.select
(mhlo::SelectOp)
Select operation
Syntaxe:
operation ::= `mhlo.select` operands attr-dict `:`
custom<SelectOpType>(type($pred), type($on_true), type($on_false), type($result))
Produces a result
tensor where each element is selected from on_true
or on_false
tensor based on the value of the corresponding element of pred
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#select
Exemple:
%result = mhlo.select %pred, %on_true, %on_false : tensor<2x2xi1>, tensor<2x2xi32>
Traits: AlwaysSpeculatableImplTrait
, HLO_BroadcastingElementwise
, InferTensorType
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
pred | ranked tensor of bool values |
on_true | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
on_false | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.select_and_scatter
(mhlo::SelectAndScatterOp)
SelectAndScatter operation
Scatters the values from the source
tensor using scatter
based on the outcome of reduce_window
of the input
tensor using select
and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#select_and_scatter
Exemple:
%result = "mhlo.select_and_scatter"(%operand, %source, %init_value) ({
^bb0(%arg0: tensor<i32>, %arg1: tensor<i32>):
%0 = "mhlo.compare"(%arg0, %arg1) {
comparison_direction = #stablehlo<comparison_direction GE>
} : (tensor<i32>, tensor<i32>) -> tensor<i1>
"mhlo.return"(%0) : (tensor<i1>) -> ()
}, {
^bb0(%arg0: tensor<i32>, %arg1: tensor<i32>):
%0 = "mhlo.add"(%arg0, %arg1) : (tensor<i32>, tensor<i32>) -> tensor<i32>
"mhlo.return"(%0) : (tensor<i32>) -> ()
}) {
window_dimensions = dense<[3, 1]> : tensor<2xi64>,
window_strides = dense<[2, 1]> : tensor<2xi64>,
padding = dense<[[0, 1], [0, 0]]> : tensor<2x2xi64>
} : (tensor<4x2xi32>, tensor<2x2xi32>, tensor<i32>) -> tensor<4x2xi32>
Traits: RecursiveMemoryEffects
Interfaces: InferTypeOpInterface
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
window_dimensions | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
window_strides | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
padding | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
source | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
init_value | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
Résultats:
Résultat | Description |
---|---|
"anonyme" | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.send
(mhlo::SendOp)
Send operation
Sends inputs
to a channel channel_id
and produces a result
token.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#send
Exemple:
%result = "mhlo.send"(%operand, %token) {
// channel_id = 5 : i64,
// channel_type = #stablehlo<channel_type DEVICE_TO_DEVICE>,
channel_handle = #mhlo.channel_handle<handle = 5, type = 1>,
is_host_transfer = false,
source_target_pairs = dense<[[0, 1], [1, 2]]> : tensor<2x2xi64>
} : (tensor<3x4xi32>, !mhlo.token) -> !mhlo.token
Interfaces: InferTypeOpInterface
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
channel_handle | ::mlir::mhlo::ChannelHandleAttr | two 64-bit integers 'handle' and 'type' |
is_host_transfer | ::mlir::BoolAttr | bool attribute |
source_target_pairs | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
Operands:
Opérande | Description |
---|---|
inputs | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
token | jeton |
Résultats:
Résultat | Description |
---|---|
"anonyme" | jeton |
mhlo.set_dimension_size
(mhlo::SetDimensionSizeOp)
SetDimensionSize operation
This operation is a work in progress, so it is not yet included in the specification: https://github.com/openxla/stablehlo/issues/8
Informally, this operation does the same thing as XLA's SetDimensionSize: https://www.tensorflow.org/xla/operation_semantics#setdimensionsize
Exemple:
%0 = mhlo.set_dimension_size %arg0, %arg1, dim = 1 : (tensor<4x2xf32>, tensor<i32>) -> tensor<4x2xf32>
Traits: AlwaysSpeculatableImplTrait
, InferTensorType
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
dimension | ::mlir::IntegerAttr | 64-bit signless integer attribute whose value is non-negative |
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
size | tensor of 32-bit signless integer values |
Résultats:
Résultat | Description |
---|---|
"anonyme" | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.shift_left
(mhlo::ShiftLeftOp)
ShiftLeft operation
Syntaxe:
operation ::= `mhlo.shift_left` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
Performs element-wise left-shift operation on the lhs
tensor by rhs
number of bits and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#shift_left
Exemple:
%result = mhlo.shift_left %lhs, %rhs : tensor<6xi8>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
lhs | ranked tensor of 2/4/8/16/32/64-bit integer values |
rhs | ranked tensor of 2/4/8/16/32/64-bit integer values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 2/4/8/16/32/64-bit integer values |
mhlo.shift_right_arithmetic
(mhlo::ShiftRightArithmeticOp)
ShiftRightArithmetic operation
Syntaxe:
operation ::= `mhlo.shift_right_arithmetic` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
Performs element-wise arithmetic right-shift operation on the lhs
tensor by rhs
number of bits and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#shift_right_arithmetic
Exemple:
%result = mhlo.shift_right_arithmetic %lhs, %rhs : tensor<6xi8>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
lhs | ranked tensor of 2/4/8/16/32/64-bit integer values |
rhs | ranked tensor of 2/4/8/16/32/64-bit integer values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 2/4/8/16/32/64-bit integer values |
mhlo.shift_right_logical
(mhlo::ShiftRightLogicalOp)
ShiftRightLogical operation
Syntaxe:
operation ::= `mhlo.shift_right_logical` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
Performs element-wise logical right-shift operation on the lhs
tensor by rhs
number of bits and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#shift_right_logical
Exemple:
%result = mhlo.shift_right_logical %lhs, %rhs : tensor<6xi8>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
lhs | ranked tensor of 2/4/8/16/32/64-bit integer values |
rhs | ranked tensor of 2/4/8/16/32/64-bit integer values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 2/4/8/16/32/64-bit integer values |
mhlo.sign
(mhlo::SignOp)
Sign operation
Syntaxe:
operation ::= `mhlo.sign` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Returns the sign of the operand
element-wise and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#sign
Exemple:
%result = mhlo.sign %operand : tensor<7xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 2/4/8/16/32/64-bit signless integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 2/4/8/16/32/64-bit signless integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
mhlo.sine
(mhlo::SineOp)
Sine operation
Syntaxe:
operation ::= `mhlo.sine` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise sine operation on operand
tensor and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#sine
Exemple:
%result = mhlo.sine %operand : tensor<2xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
result_accuracy | ::mlir::mhlo::ResultAccuracyAttr | The requested accuracy for unary ops. |
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
mhlo.sinh
(mhlo::SinhOp)
Sinh operation
Syntaxe:
operation ::= `mhlo.sinh` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise sinh operation on operand
tensor and produces a result
tensor.
Exemple:
%result = mhlo.sinh %operand : tensor<2x2xf32>
Traits: CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: InferShapedTypeOpInterface
, InferTypeOpInterface
Operands:
Opérande | Description |
---|---|
operand | tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements values |
Résultats:
Résultat | Description |
---|---|
result | tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements values |
mhlo.slice
(mhlo::SliceOp)
Slice operation
Extracts a slice from the operand
using statically-computed starting indices and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#slice
Exemple:
%result = "mhlo.slice" (%operand) {
start_indices = dense<[1, 2]> : tensor<2xi64>,
limit_indices = dense<[3, 4]> : tensor<2xi64>,
strides = dense<1> : tensor<2xi64>
} : (tensor<3x4xi64>) -> tensor<2x2xi64>
Traits: AlwaysSpeculatableImplTrait
, SameOperandsAndResultElementType
Interfaces: ConditionallySpeculatable
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
start_indices | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
limit_indices | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
strides | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
Résultats:
Résultat | Description |
---|---|
"anonyme" | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.sort
(mhlo::SortOp)
Sort operation
Sorts a variadic number of tensors in inputs
together, according to a custom comparator
, along the given dimension
and produces a variadic number of tensors as results
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#sort
Exemple:
%result0, %result1 = "mhlo.sort"(%input0, %input1) ({
^bb0(%arg0: tensor<i32>, %arg1: tensor<i32>, %arg2: tensor<i32>, %arg3: tensor<i32>):
%predicate = "mhlo.compare"(%arg0, %arg1) {
comparison_direction = #stablehlo<comparison_direction GT>
} : (tensor<i32>, tensor<i32>) -> tensor<i1>
"mhlo.return"(%predicate) : (tensor<i1>) -> ()
}) {
dimension = 0 : i64,
is_stable = true
} : (tensor<2x3xi32>, tensor<2x3xi32>) -> (tensor<2x3xi32>, tensor<2x3xi32>)
Traits: InferTensorType
, RecursiveMemoryEffects
, SameOperandsAndResultShape
Interfaces: InferShapedTypeOpInterface
, InferTypeOpInterface
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
dimension | ::mlir::IntegerAttr | 64-bit signless integer attribute |
is_stable | ::mlir::BoolAttr | bool attribute |
Operands:
Opérande | Description |
---|---|
inputs | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
Résultats:
Résultat | Description |
---|---|
"anonyme" | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.sqrt
(mhlo::SqrtOp)
Sqrt operation
Syntaxe:
operation ::= `mhlo.sqrt` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise square root operation on operand
tensor and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#sqrt
Exemple:
%result = mhlo.sqrt %operand : tensor<2x2xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
result_accuracy | ::mlir::mhlo::ResultAccuracyAttr | The requested accuracy for unary ops. |
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
mhlo.stochastic_convert
(mhlo::StochasticConvertOp)
StochasticConvert operation
This operation is a work in progress, so it is not yet included in the specification: https://github.com/openxla/stablehlo/issues/295
Informally, this operation performs element-wise conversion of values from a bigger type to a smaller one with stochastic rounding using the random number passed in.
Traits: AlwaysSpeculatableImplTrait
, Elementwise
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float values |
random | ranked tensor of 2/4/8/16/32/64-bit unsigned integer values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.subtract
(mhlo::SubtractOp)
Subtract operation
Syntaxe:
operation ::= `mhlo.subtract` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
Performs element-wise subtraction of two tensors lhs
and rhs
and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#subtract
Exemple:
%result = mhlo.subtract %lhs, %rhs : tensor<2xi32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
lhs | ranked tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
rhs | ranked tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.tan
(mhlo::TanOp)
Tan operation
Syntaxe:
operation ::= `mhlo.tan` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
This operation is a work in progress, so it is not yet included in the specification: https://github.com/openxla/stablehlo/issues/954
Informally, this operation returns Tan(operand)
element-wise.
Exemple:
%0 = mhlo.tan %arg0 : tensor<2xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
result_accuracy | ::mlir::mhlo::ResultAccuracyAttr | The requested accuracy for unary ops. |
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
mhlo.tanh
(mhlo::TanhOp)
Tanh operation
Syntaxe:
operation ::= `mhlo.tanh` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise hyperbolic tangent operation on operand
tensor and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#tanh
Exemple:
%result = mhlo.tanh %operand : tensor<2xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
result_accuracy | ::mlir::mhlo::ResultAccuracyAttr | The requested accuracy for unary ops. |
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
mhlo.topk
(mhlo::TopKOp)
TopK operation
Syntaxe:
operation ::= `mhlo.topk` `(`$operand `,` `k` `=` $k (`,` `largest` `=` $largest^)? `)` attr-dict `:`
type($operand) `->` `(`type($values)`,` type($indices)`)`
Returns top k
values and their indices, along the last dimension of the operand if largest=true
or the bottom k
values if largest=false
.
See: https://www.tensorflow.org/xla/operation_semantics#top-k
Exemple:
%values, %indices = mhlo.topk(%operand, k=5, largest=true)
: tensor<100xf32> -> (tensor<5xf32>, tensor<5xi32>)
Traits: InferTensorType
, RecursiveMemoryEffects
Interfaces: InferShapedTypeOpInterface
, InferTypeOpInterface
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
k | ::mlir::IntegerAttr | 64-bit signless integer attribute |
largest | ::mlir::BoolAttr | bool attribute |
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
Résultats:
Résultat | Description |
---|---|
values | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
indices | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.torch_index_select
(mhlo::TorchIndexSelectOp)
TorchIndexSelect operation
This operation is on its way out of StableHLO, so it is not included in the specification: https://github.com/openxla/stablehlo/issues/3
Informally, this operation does the same thing as PyTorch's index_select, augmented with support for batch dimensions: https://pytorch.org/docs/stable/generated/torch.index_select.html
The batch_dims
attribute specifies the number of major batch dimensions (0 or more) that act like a multidimensional loop over both the operand and the index.
Exemple:
%result = "mhlo.torch_index_select"(%operand, %index) {
dim = 2 : i64,
batch_dims = 1 : i64
} : (tensor<8x128x3072x64xf32>, tensor<8x16x1024xi32>) -> tensor<8x128x16x1024x64xf32>
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
dim | ::mlir::IntegerAttr | 64-bit signless integer attribute |
batch_dims | ::mlir::IntegerAttr | 64-bit signless integer attribute |
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
index | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
Résultats:
Résultat | Description |
---|---|
"anonyme" | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.trace
(mhlo::TraceOp)
Trace operation
Syntaxe:
operation ::= `mhlo.trace` $operand `,` $tag attr-dict `:` type($operand)
This operation is on its way out of StableHLO, so it is not included in the specification: https://github.com/openxla/stablehlo/issues/604
It is not used by JAX, PyTorch or TensorFlow, so it looks like we should've classified it as "Private to XLA" and not included it in StableHLO in the first place. With that in mind, its semantics will not be documented here.
Exemple:
mhlo.trace %arg0, "In test code." : tensor<5x1x5xi32>
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
tag | ::mlir::StringAttr | string attribute |
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.transpose
(mhlo::TransposeOp)
Transpose operation
Permutes the dimensions of operand
tensor using permutation
and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#transpose
Exemple:
%0 = mhlo.transpose %arg0, dims = [2, 1, 0] : (tensor<1x2x3xi32>) -> tensor<3x2x1xi32>
Traits: AlwaysSpeculatableImplTrait
, HLO_CompatibleOperandsAndResultElementType
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
permutation | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
Résultats:
Résultat | Description |
---|---|
"anonyme" | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.triangular_solve
(mhlo::TriangularSolveOp)
TriangularSolve operation
Solves batches of systems of linear equations with lower or upper triangular coefficient matrices.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#triangular_solve
Exemple:
%result = "mhlo.triangular_solve"(%a, %b) {
left_side = true,
lower = true,
unit_diagonal = false,
transpose_a = #stablehlo<transpose NO_TRANSPOSE>
} : (tensor<3x3xf32>, tensor<3x3xf32>) -> tensor<3x3xf32>
Traits: AlwaysSpeculatableImplTrait
, InferTensorType
, SameOperandsAndResultElementType
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
left_side | ::mlir::BoolAttr | bool attribute |
lower | ::mlir::BoolAttr | bool attribute |
unit_diagonal | ::mlir::BoolAttr | bool attribute |
transpose_a | ::mlir::mhlo::TransposeAttr | Transpose options |
Operands:
Opérande | Description |
---|---|
a | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements values |
b | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements values |
Résultats:
Résultat | Description |
---|---|
"anonyme" | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements values |
mhlo.tuple
(mhlo::TupleOp)
Tuple operation
Syntaxe:
operation ::= `mhlo.tuple` $val attr-dict `:` custom<TupleOpType>(type($val), type($result))
Produces a result
tuple from values val
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#tuple
Exemple:
%result = mhlo.tuple %val0, %val1 : tuple<tensor<2xf32>, tuple<tensor<i32>>>
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
val | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values or token or nested tuple with any combination of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or memref of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or ranked tensor of per-axis integer quantized values or token values or memref of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values |
Résultats:
Résultat | Description |
---|---|
result | nested tuple with any combination of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or memref of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or ranked tensor of per-axis integer quantized values or token values |
mhlo.uniform_dequantize
(mhlo::UniformDequantizeOp)
UniformDequantize operation
Syntaxe:
operation ::= `mhlo.uniform_dequantize` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise conversion of quantized tensor operand
to a floating-point tensor result
according to the quantization parameters defined by the operand
type.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#uniform_dequantize
Exemple:
%result = mhlo.uniform_dequantize %operand : (tensor<16x16x!quant.uniform<i8:f32, 34.0:16>>) -> tensor<16x16xf32>
Traits: AlwaysSpeculatableImplTrait
, Elementwise
, InferTensorType
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of per-tensor integer quantized or per-axis integer quantized values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float values |
mhlo.uniform_quantize
(mhlo::UniformQuantizeOp)
UniformQuantize operation
Syntaxe:
operation ::= `mhlo.uniform_quantize` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise conversion of floating-point tensor or quantized tensor operand
to a quantized tensor result
according to the quantization parameters defined by the result
type.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#uniform_quantize
Exemple:
%result = mhlo.uniform_quantize %operand : (tensor<16x16xf32>) -> tensor<16x16x!quant.uniform<ui8:f32, 34.0:16>>
Traits: AlwaysSpeculatableImplTrait
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or 2/4/8/16/32-bit uniform quantized signed integer or 2/4/8/16/32-bit uniform quantized per axis signed integer or 2/4/8/16/32-bit uniform quantized unsigned integer or 2/4/8/16/32-bit uniform quantized per axis unsigned integer values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of per-tensor integer quantized or per-axis integer quantized values |
mhlo.while
(mhlo::WhileOp)
While operation
Produces the output from executing body
function 0 or more times while the cond
function outputs true
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#while
Exemple:
%results0, %results1 = "mhlo.while"(%operand0, %operand1) ({
^bb0(%arg0: tensor<i32>, %arg1: tensor<i32>):
%0 = "mhlo.compare"(%arg0, %arg1) {
comparison_direction = #stablehlo<comparison_direction LT>
} : (tensor<i32>, tensor<i32>) -> tensor<i1>
"mhlo.return"(%0) : (tensor<i1>) -> ()
}, {
^bb0(%arg0: tensor<i32>, %arg1: tensor<i32>):
%0 = "mhlo.add"(%arg0, %constant0) : (tensor<i32>, tensor<i32>) -> tensor<i32>
"mhlo.return"(%0, %arg1) : (tensor<i32>, tensor<i32>) -> ()
}) : (tensor<i32>, tensor<i32>) -> (tensor<i32>, tensor<i32>)
Traits: RecursiveMemoryEffects
, SingleBlockImplicitTerminator<ReturnOp>
, SingleBlock
Interfaces: InferTypeOpInterface
, OpAsmOpInterface
Operands:
Opérande | Description |
---|---|
operand | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or ranked tensor of per-axis integer quantized values or token or memref of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values |
Résultats:
Résultat | Description |
---|---|
"anonyme" | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or ranked tensor of per-axis integer quantized values or token or memref of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values |
mhlo.xla.rng_get_and_update_state
(mhlo::XlaRngGetAndUpdateStateOp)
XlaRngGetAndUpdateState operation
Syntaxe:
operation ::= `mhlo.xla.rng_get_and_update_state` attr-dict
This operation is private to the XLA compiler, so it is does not yet have a specification.
Informally, this operation represents the change of the global random number generator state for rng instructions. The global state is incremented by delta and the old state is returned.
The output is currently defined for a single output type. If this changes in the future to support multiple types, lowering to use of a global memref must ensure that a single memref is still used and updated appropriately.
Interfaces: InferTypeOpInterface
Attributs:
Attribut | MLIR Type | Description |
---|---|---|
delta | ::mlir::IntegerAttr | 64-bit signless integer attribute |
Résultats:
Résultat | Description |
---|---|
"anonyme" | statically shaped tensor of 64-bit unsigned integer values |
mhlo.xor
(mhlo::XorOp)
Xor operation
Syntaxe:
operation ::= `mhlo.xor` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
Performs element-wise XOR of two tensors lhs
and rhs
and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#xor
Exemple:
%result = mhlo.xor %lhs, %rhs : tensor<2xi32>
Traits: AlwaysSpeculatableImplTrait
, Commutative
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
Operands:
Opérande | Description |
---|---|
lhs | ranked tensor of bool or 2/4/8/16/32/64-bit integer values |
rhs | ranked tensor of bool or 2/4/8/16/32/64-bit integer values |
Résultats:
Résultat | Description |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
Attributs
ArgResultAliasAttr
Attribute that models the alias relationship of entry function argument
This attribute captures the alias relationship of an MHLO main function argument to one of the results, denoted by resultIndex
. The argTupleIndices
and resultTupleIndices
are used to index into nested tuples in operand and result respectively. If isMustAlias
is true then the operand-result pair must alias.
This is meant to be used as an attribute on a function argument in MHLO. For example, in the following code it expresses that %arg1
may alias 0-th result.
func @main(%arg0: tensor<2xf32>, %arg1: tensor<3xf32> {mhlo.result_alias =
mhlo.result_alias<result_index = [2], ...>}
) -> tensor<2xf32>, tensor<3xf32> {
// function body ...
}
Paramètres:
Paramètre | C++ type | Description |
---|---|---|
argTupleIndices | ::llvm::ArrayRef<int64_t> | Dimension |
resultIndex | int64_t | |
resultTupleIndices | ::llvm::ArrayRef<int64_t> | Dimension |
isMustAlias | bool |
ChannelHandleAttr
Two 64-bit integers 'handle' and 'type'
Syntaxe:
#mhlo.channel_handle<
int64_t, # handle
int64_t # type
>
Paramètres:
Paramètre | C++ type | Description |
---|---|---|
poignée | int64_t | |
taper | int64_t |
ComparisonDirectionAttr
Which comparison operation to perform.
Syntaxe:
#mhlo.comparison_direction<
::mlir::mhlo::ComparisonDirection # value
>
Paramètres:
Paramètre | C++ type | Description |
---|---|---|
valeur | ::mlir::mhlo::ComparisonDirection | an enum of type ComparisonDirection |
ComparisonTypeAttr
Which comparison type to use.
Syntaxe:
#mhlo.comparison_type<
::mlir::mhlo::ComparisonType # value
>
Paramètres:
Paramètre | C++ type | Description |
---|---|---|
valeur | ::mlir::mhlo::ComparisonType | an enum of type ComparisonType |
ConvDimensionNumbersAttr
Structure of dimension information for conv op
Paramètres:
Paramètre | C++ type | Description |
---|---|---|
inputBatchDimension | int64_t | |
inputFeatureDimension | int64_t | |
inputSpatialDimensions | ::llvm::ArrayRef<int64_t> | Dimension |
kernelInputFeatureDimension | int64_t | |
kernelOutputFeatureDimension | int64_t | |
kernelSpatialDimensions | ::llvm::ArrayRef<int64_t> | Dimension |
outputBatchDimension | int64_t | |
outputFeatureDimension | int64_t | |
outputSpatialDimensions | ::llvm::ArrayRef<int64_t> | Dimension |
CrossProgramPrefetchAttr
Argument that is prefetched from another program
Syntaxe:
#mhlo.cross_program_prefetch<
int64_t, # parameter
::llvm::ArrayRef<int64_t>, # indices
std::optional<int64_t> # offset
>
This attribute captures an argument that is prefetched from another program. For a given CrossProgramPrefetchAttr
, parameter
tells us which argument of the main
function of the module is prefetched, and indices
is a shape index telling us what subshape of that argument is prefetched.
A shape has a subshape iff it is a tuple. In that case, the subshape of the tuple by indices
is the shape achieved after indexing by each element of indices
in turn. For example, the [1,0] subshape of tuple<tuple<token, token>, tuple<tensor<i32>, token>>
is tensor<i32>
.
An empty value for indices
means the whole shape is prefetched.
Par exemple,
module attributes { mhlo.cross_program_prefetch = [ #mhlo.cross_program_prefetch< parameter = 0, indices = [0]> ]} {
func.func @copy(%arg0 : tuple<tensor<2x3xi32>, tensor<i32>>) -> tuple<tensor<2x3xi32>, tensor<i32>> {
%0 = "mhlo.copy"(%arg0) {is_cross_program_prefetch}
return %0 : tuple<tensor<2x3xi32>, tensor<i32>>
}
func.func @main(%arg0 : tuple<tensor<2x3xi32>, tensor<i32>>) -> tuple<tensor<2x3xi32>, tensor<i32>> {
%1 = "mhlo.async_start"(%arg0) {called_computation=@copy}
%2 = "mhlo.async_done"(%1) {called_computation=@copy}
return %2 : tuple<tensor<2x3xi32>, tensor<i32>>
}
}
The parameter = 0
tells us that the async copy of the 0
th parameter is a cross_program_prefetch
, while the index
of [0]
tells us that the 0
th element of the tuple is prefetched while the other element of the tuple is not.
Paramètres:
Paramètre | C++ type | Description |
---|---|---|
paramètre | int64_t | |
indices | ::llvm::ArrayRef<int64_t> | Dimension |
compenser | std::optional<int64_t> |
CustomCallScheduleAttr
Specifies the desired schedule for the custom-call.
Syntaxe:
#mhlo.custom_call_schedule<
::mlir::mhlo::CustomCallSchedule # value
>
Paramètres:
Paramètre | C++ type | Description |
---|---|---|
valeur | ::mlir::mhlo::CustomCallSchedule | an enum of type CustomCallSchedule |
DequantizeModeAttr
_Dequantization mode. Only MIN COMBINED is supported.
Syntaxe:
#mhlo.dequantize_mode<
::mlir::mhlo::DequantizeMode # value
>
Paramètres:
Paramètre | C++ type | Description |
---|---|---|
valeur | ::mlir::mhlo::DequantizeMode | an enum of type DequantizeMode |
DomainKindAttr
Kind of domain metatdata attached to an HLO domain.
Syntaxe:
#mhlo.kind<
::mlir::mhlo::DomainKind # value
>
Paramètres:
Paramètre | C++ type | Description |
---|---|---|
valeur | ::mlir::mhlo::DomainKind | an enum of type DomainKind |
DotAlgorithmAttr
Attribute that models the algorithm constraints to use for computing dot.
Syntaxe:
#mhlo.dot_algorithm<
Type, # lhsPrecisionType
Type, # rhsPrecisionType
Type, # accumulationType
int64_t, # lhsComponentCount
int64_t, # rhsComponentCount
int64_t, # numPrimitiveOperations
bool # allowImpreciseAccumulation
>
Paramètres:
Paramètre | C++ type | Description |
---|---|---|
lhsPrecisionType | Type | |
rhsPrecisionType | Type | |
accumulationType | Type | |
lhsComponentCount | int64_t | |
rhsComponentCount | int64_t | |
numPrimitiveOperations | int64_t | |
allowImpreciseAccumulation | bool |
DotDimensionNumbersAttr
Attribute that models the dimension information for dot.
Paramètres:
Paramètre | C++ type | Description |
---|---|---|
lhsBatchingDimensions | ::llvm::ArrayRef<int64_t> | Dimension |
rhsBatchingDimensions | ::llvm::ArrayRef<int64_t> | Dimension |
lhsContractingDimensions | ::llvm::ArrayRef<int64_t> | Dimension |
rhsContractingDimensions | ::llvm::ArrayRef<int64_t> | Dimension |
FftTypeAttr
XLA fast fourier transform type.
Syntaxe:
#mhlo.fft_type<
::mlir::mhlo::FftType # value
>
Paramètres:
Paramètre | C++ type | Description |
---|---|---|
valeur | ::mlir::mhlo::FftType | an enum of type FftType |
FusionKindAttr
Fusion kind
Syntaxe:
#mhlo.fusion_kind<
::mlir::mhlo::FusionKind # value
>
Paramètres:
Paramètre | C++ type | Description |
---|---|---|
valeur | ::mlir::mhlo::FusionKind | an enum of type FusionKind |
GatherDimensionNumbersAttr
Attribute that models the dimension information for gather
Paramètres:
Paramètre | C++ type | Description |
---|---|---|
offsetDims | ::llvm::ArrayRef<int64_t> | Dimension |
collapsedSliceDims | ::llvm::ArrayRef<int64_t> | Dimension |
operandBatchingDims | ::llvm::ArrayRef<int64_t> | Dimension |
startIndicesBatchingDims | ::llvm::ArrayRef<int64_t> | Dimension |
startIndexMap | ::llvm::ArrayRef<int64_t> | Dimension |
indexVectorDim | int64_t |
OutputOperandAliasAttr
Attribute that models the alias relationship of output and operand of a CustomCall op
Syntaxe:
#mhlo.output_operand_alias<
::llvm::ArrayRef<int64_t>, # outputTupleIndices
int64_t, # operandIndex
::llvm::ArrayRef<int64_t> # operandTupleIndices
>
This attribute captures the alias relationship of the output to one of the operands for a CustomCall op, denoted by operand_index
. The output_tuple_indices
and operand_tuple_indices
are used to index into output and operand types. These indices lists are empty if the corresponding types are not tuple types, and can be arbitrarily long in case of arbitrarily nested tuple types.
See https://www.tensorflow.org/xla/aliasing
Example when used as array with in mhlo.custom-call:
%0 = "mhlo.custom_call"(%arg0, %arg1) {
// other attributes
output_operand_alias = [
#mhlo.output_operand_alias<output_tuple_indices = [0],
operand_index = 0,
operand_tuple_indices = [1]>
]
} : (tuple<tensor<1x1xf32>, tensor<2x3xf32>>, tensor<5x5xf32>) -> tuple<tensor<2x3xf32>>
The output and the 0th operand are both tuples. The aliasing shows the
relationship between the 0th element in output tuple with the 1st element in
the 0th operand. And both of them are of the same type: tensor<2x3xf32>.
Paramètres:
Paramètre | C++ type | Description |
---|---|---|
outputTupleIndices | ::llvm::ArrayRef<int64_t> | Dimension |
operandIndex | int64_t | |
operandTupleIndices | ::llvm::ArrayRef<int64_t> | Dimension |
PrecisionAttr
XLA precision for an operand. Has backend specific meaning.
Syntaxe:
#mhlo.precision<
::mlir::mhlo::Precision # value
>
Paramètres:
Paramètre | C++ type | Description |
---|---|---|
valeur | ::mlir::mhlo::Precision | an enum of type Precision |
RaggedDotDimensionNumbersAttr
Attribute that models the dimension information for ragged dot.
Paramètres:
Paramètre | C++ type | Description |
---|---|---|
dotDimensionNumbers | ::mlir::mhlo::DotDimensionNumbersAttr | Attribute that models the dimension information for dot. |
lhsRaggedDimensions | ::llvm::ArrayRef<int64_t> | Dimension |
rhsGroupDimensions | ::llvm::ArrayRef<int64_t> | Dimension |
ResultAccuracyAttr
The requested accuracy for unary ops.
Paramètres:
Paramètre | C++ type | Description |
---|---|---|
atol | APFloat | |
rtol | APFloat | |
ulps | int64_t | |
mode | ::mlir::mhlo::ResultAccuracyModeAttr | XLA result accuracy mode. |
ResultAccuracyModeAttr
XLA result accuracy mode.
Syntaxe:
#mhlo.result_accuracy_mode<
::mlir::mhlo::ResultAccuracyMode # value
>
Paramètres:
Paramètre | C++ type | Description |
---|---|---|
valeur | ::mlir::mhlo::ResultAccuracyMode | an enum of type ResultAccuracyMode |
RngAlgorithmAttr
XLA PRNG algorithm to be used.
Syntaxe:
#mhlo.rng_algorithm<
::mlir::mhlo::RngAlgorithm # value
>
Paramètres:
Paramètre | C++ type | Description |
---|---|---|
valeur | ::mlir::mhlo::RngAlgorithm | an enum of type RngAlgorithm |
RngDistributionAttr
XLA PRNG distribution to be used.
Syntaxe:
#mhlo.rng_distribution<
::mlir::mhlo::RngDistribution # value
>
Paramètres:
Paramètre | C++ type | Description |
---|---|---|
valeur | ::mlir::mhlo::RngDistribution | an enum of type RngDistribution |
ScatterDimensionNumbersAttr
Attribute that models the dimension information for scatter
Paramètres:
Paramètre | C++ type | Description |
---|---|---|
updateWindowDims | ::llvm::ArrayRef<int64_t> | Dimension |
insertedWindowDims | ::llvm::ArrayRef<int64_t> | Dimension |
inputBatchingDims | ::llvm::ArrayRef<int64_t> | Dimension |
scatterIndicesBatchingDims | ::llvm::ArrayRef<int64_t> | Dimension |
scatterDimsToOperandDims | ::llvm::ArrayRef<int64_t> | Dimension |
indexVectorDim | int64_t |
TransposeAttr
Transpose options
Syntaxe:
#mhlo.transpose<
::mlir::mhlo::Transpose # value
>
Paramètres:
Paramètre | C++ type | Description |
---|---|---|
valeur | ::mlir::mhlo::Transpose | an enum of type Transpose |
TypeExtensionsAttr
Attribute that extends tensor type with MHLO type properties.
Syntaxe:
#mhlo.type_extensions<
::llvm::ArrayRef<int64_t> # bounds
>
This attribute is used to extend MLIR tensor type with MHLO tensor specific properties. These properties aren't modeled in the MLIR type. This attribute is set in the encoding
field of the tensor type.
See HLO_BoundedAttrInterface
for documentation for bounds
.
Paramètres:
Paramètre | C++ type | Description |
---|---|---|
bornes | ::llvm::ArrayRef<int64_t> |
Types
AsyncBundleType
Opaque collection of other types
Syntaxe:
!mhlo.async_bundle<
::llvm::ArrayRef<Type> # types
>
Paramètres:
Paramètre | C++ type | Description |
---|---|---|
types | ::llvm::ArrayRef<Type> |
Enums
ComparisonDirection
Which comparison operation to perform.
Cases:
Symbole | Valeur | Chaîne |
---|---|---|
EQ | 0 | EQ |
NE | 1 | NE |
GE | 2 | GE |
GT | 3 | GT |
LE | 4 | LE |
LT | 5 | LT |
ComparisonType
Which comparison type to use.
Cases:
Symbole | Valeur | Chaîne |
---|---|---|
NOTYPE | 0 | NOTYPE |
FLOTTER | 1 | FLOTTER |
TOTALORDER | 2 | TOTALORDER |
SIGNED | 3 | SIGNED |
UNSIGNED | 4 | UNSIGNED |
CustomCallApiVersion
Custom call API version
Cases:
Symbole | Valeur | Chaîne |
---|---|---|
API_VERSION_UNSPECIFIED | 0 | API_VERSION_UNSPECIFIED |
API_VERSION_ORIGINAL | 1 | API_VERSION_ORIGINAL |
API_VERSION_STATUS_RETURNING | 2 | API_VERSION_STATUS_RETURNING |
API_VERSION_STATUS_RETURNING_UNIFIED | 3 | API_VERSION_STATUS_RETURNING_UNIFIED |
API_VERSION_TYPED_FFI | 4 | API_VERSION_TYPED_FFI |
CustomCallSchedule
Specifies the desired schedule for the custom-call.
Cases:
Symbole | Valeur | Chaîne |
---|---|---|
AUCUN | 0 | AUCUN |
DERNIER | 1 | DERNIER |
EARLIEST | 2 | EARLIEST |
DequantizeMode
_Dequantization mode. Only MIN COMBINED is supported.
Cases:
Symbole | Valeur | Chaîne |
---|---|---|
MIN_COMBINED | 0 | MIN_COMBINED |
DomainKind
Kind of domain metatdata attached to an HLO domain.
Cases:
Symbole | Valeur | Chaîne |
---|---|---|
sharding | 0 | sharding |
FftType
XLA fast fourier transform type.
Cases:
Symbole | Valeur | Chaîne |
---|---|---|
FFT | 0 | FFT |
IFFT | 1 | IFFT |
RFFT | 2 | RFFT |
IRFFT | 3 | IRFFT |
FusionKind
Fusion kind
Cases:
Symbole | Valeur | Chaîne |
---|---|---|
kLoop | 0 | kLoop |
kInput | 1 | kInput |
kOutput | 2 | kOutput |
kCustom | 3 | kCustom |
Précision
XLA precision for an operand. Has backend specific meaning.
Cases:
Symbole | Valeur | Chaîne |
---|---|---|
DÉFAUT | 0 | DÉFAUT |
HAUT | 1 | HAUT |
HIGHEST | 2 | HIGHEST |
ResultAccuracyMode
XLA result accuracy mode.
Cases:
Symbole | Valeur | Chaîne |
---|---|---|
DÉFAUT | 0 | DÉFAUT |
HIGHEST | 1 | HIGHEST |
TOLÉRANCE | 2 | TOLÉRANCE |
RngAlgorithm
XLA PRNG algorithm to be used.
Cases:
Symbole | Valeur | Chaîne |
---|---|---|
DÉFAUT | 0 | DÉFAUT |
THREE_FRY | 1 | THREE_FRY |
PHILOX | 2 | PHILOX |
RngDistribution
XLA PRNG distribution to be used.
Cases:
Symbole | Valeur | Chaîne |
---|---|---|
UNIFORME | 1 | UNIFORME |
NORMALE | 2 | NORMALE |
Transposer
Transpose options
Cases:
Symbole | Valeur | Chaîne |
---|---|---|
TRANSPOSE_INVALID | 0 | TRANSPOSE_INVALID |
NO_TRANSPOSE | 1 | NO_TRANSPOSE |
TRANSPOSER | 2 | TRANSPOSER |
ADJOINT | 3 | ADJOINT |