العمليات
mhlo.abs
(mhlo::AbsOp)
عملية عضلات البطن
بناء الجملة:
operation ::= `mhlo.abs` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
يقوم بإجراء عملية abs على كل عنصر على موتر operand
وينتج موتر result
.
انظر: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#abs
مثال:
%result = mhlo.abs %operand : tensor<3xi32>
السمات: AlwaysSpeculatableImplTrait
، Elementwise
، SameOperandsAndResultShape
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر مرتب لعدد صحيح بدون إشارة 2/4/8/16/32/64 بت أو عدد عشري أو مركب 4/6/8/16/32/64 بت مع عناصر عدد عشري 32/64 بت أو عدد صحيح موحد مكمّم بإشارة 2/4/8/16/32 بت أو عدد صحيح موحد مكمّم بإشارة 2/4/8/16/32 بت أو عدد صحيح موحد مكمّم بدون إشارة 2/4/8/16/32 بت أو قيم عدد صحيح موحد مكمّم بدون إشارة 2/4/8/16/32 بت لكل محور |
نتائج:
نتيجة | وصف |
---|---|
result | موتر مرتب لعدد صحيح بدون إشارة 2/4/8/16/32/64 بت أو عدد عشري 4/6/8/16/32/64 بت أو عدد صحيح موحد مكمّم بإشارة 2/4/8/16/32 بت أو عدد صحيح موحد مكمّم بإشارة 2/4/8/16/32 بت لكل محور أو عدد صحيح موحد مكمّم بدون إشارة 2/4/8/16/32 بت أو عدد صحيح موحد مكمّم بإشارة 2/4/8/16/32 بت لكل محور بدون إشارة 2/4/8/16/32 بت |
mhlo.acos
(mhlo::AcosOp)
عملية أكوس
بناء الجملة:
operation ::= `mhlo.acos` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
يقوم بإجراء عملية acos لكل عنصر على موتر operand
وينتج موتر result
.
مثال:
%result = mhlo.acos %operand : tensor<2x2xf32>
السمات: CompatibleOperandsAndResultType
، Elementwise
، SameOperandsAndResultShape
الواجهات: InferShapedTypeOpInterface
، InferTypeOpInterface
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر من نوع عائم أو معقد 4/6/8/16/32/64 بت مع قيم عناصر عائمة 32/64 بت |
نتائج:
نتيجة | وصف |
---|---|
result | موتر من نوع عائم أو معقد 4/6/8/16/32/64 بت مع قيم عناصر عائمة 32/64 بت |
mhlo.acosh
(mhlo::AcoshOp)
عملية أكوش
بناء الجملة:
operation ::= `mhlo.acosh` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
يقوم بإجراء عملية acosh على كل عنصر على موتر operand
وينتج موتر result
.
مثال:
%result = mhlo.acosh %operand : tensor<2x2xf32>
السمات: CompatibleOperandsAndResultType
، Elementwise
، SameOperandsAndResultShape
الواجهات: InferShapedTypeOpInterface
، InferTypeOpInterface
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر من نوع عائم أو معقد 4/6/8/16/32/64 بت مع قيم عناصر عائمة 32/64 بت |
نتائج:
نتيجة | وصف |
---|---|
result | موتر من نوع عائم أو معقد 4/6/8/16/32/64 بت مع قيم عناصر عائمة 32/64 بت |
mhlo.add
(mhlo::AddOp)
إضافة عملية
بناء الجملة:
operation ::= `mhlo.add` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
يقوم بإجراء عملية إضافة عنصرية لموترين lhs
rhs
وينتج موتر result
.
انظر: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#add
مثال:
%result = mhlo.add %lhs, %rhs : tensor<2x2xi32>
السمات: AlwaysSpeculatableImplTrait
، Commutative
، CompatibleOperandsAndResultType
، Elementwise
، SameOperandsAndResultShape
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
lhs | موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
rhs | موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
نتائج:
نتيجة | وصف |
---|---|
result | موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
mhlo.add_dependency
(mhlo::AddDependencyOp)
عملية إضافة التبعية
بناء الجملة:
operation ::= `mhlo.add_dependency` operands attr-dict `:` functional-type(operands, results)
هذه العملية خاصة بمترجم XLA، لذا فهي لا تحتوي على مواصفات محددة حتى الآن.
بشكل غير رسمي، هذه العملية تحتوي على عاملين: عامل بيانات ورمز. ناتج العملية هو عامل البيانات. عند استخدامها مع AfterAll، تُمكّن هذه العملية من ترتيب العمليات غير ذات التأثير الجانبي (التي لا تُنتج قيمًا رمزية).
مثال:
%1 = mhlo.add_dependency %arg0, %0 : (tensor<3x4xf32>, !mhlo.token) -> tensor<3x4xf32>
السمات: AlwaysSpeculatableImplTrait
الواجهات: ConditionallySpeculatable
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو موتر مرتب لقيم كمية صحيحة لكل محور أو رمز أو رمز ثابت |
token | الرمز المميز أو رمز stablehlo |
نتائج:
نتيجة | وصف |
---|---|
output | موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو موتر مرتب لقيم كمية صحيحة لكل محور أو رمز أو رمز ثابت |
mhlo.after_all
(mhlo::AfterAllOp)
بعد كل العملية
بناء الجملة:
operation ::= `mhlo.after_all` $inputs attr-dict
`:` custom<VariadicSameOperandsAndResultType>(ref($inputs), type($inputs), type($result))
يتأكد من أن العمليات التي تنتج inputs
يتم تنفيذها قبل أي عمليات تعتمد على result
.
انظر: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#after_all
مثال:
%result = mhlo.after_all %input0, %input1 : !mhlo.token
السمات: AlwaysSpeculatableImplTrait
الواجهات: ConditionallySpeculatable
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
inputs | متغير الرمز |
نتائج:
نتيجة | وصف |
---|---|
result | الرمز المميز |
mhlo.all_gather
(mhlo::AllGatherOp)
عملية AllGather
ضمن كل مجموعة عمليات في شبكة العمليات، تُجمع قيم موتر المتعامل من كل عملية على طول all_gather_dim
، وتُنتج موتر النتيجة. تُطبق computation
بشكل منفصل لكل متعامل في operands
، مما يُنتج نتيجة واحدة لكل متعامل.
انظر: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#all_gather
مثال:
%result = "mhlo.all_gather"(%operand) {
all_gather_dim = 1 : i64,
replica_groups = dense<[[0, 1]]> : tensor<1x2xi64>
// channel_id = 0
channel_handle = #mhlo.channel_handle<handle = 0, type = 0>,
// use_global_device_ids = false
} : (tensor<2x2xf32>) -> tensor<2x4xf32>
السمات: SameOperandsAndResultElementType
صفات:
يصف | نوع MLIR | وصف |
---|---|---|
all_gather_dim | ::mlir::IntegerAttr | سمة عدد صحيح بدون إشارة مكونة من 64 بت وقيمتها غير سلبية |
replica_groups | ::mlir::DenseIntElementsAttr | سمة عناصر الأعداد الصحيحة بدون إشارة 64 بت |
channel_handle | ::mlir::mhlo::ChannelHandleAttr | عددين صحيحين مكونين من 64 بت 'handle' و'type' |
use_global_device_ids | ::mlir::UnitAttr | سمة الوحدة |
المتعاملات:
المتعامل | وصف |
---|---|
operands | متغير من موتر رتب من نوع عدد عشري أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عدد عشري 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
نتائج:
نتيجة | وصف |
---|---|
«غير مسمى» | متغير من موتر رتب من نوع عدد عشري أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عدد عشري 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
mhlo.all_reduce
(mhlo::AllReduceOp)
عملية AllReduce
ضمن كل مجموعة عمليات في شبكة العمليات، تُطبّق computation
الاختزال على قيم موتر المتعامل من كل عملية، ويُنتج موتر النتيجة. يُطبّق computation
بشكل منفصل لكل متعامل في operands
، مما يُنتج نتيجة واحدة لكل متعامل.
انظر: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#all_reduce
مثال:
%result = "mhlo.all_reduce"(%operand) ({
^bb0(%arg0: tensor<f32>, %arg1: tensor<f32>):
%0 = mhlo.add %arg1, %arg2 : tensor<f32>
mhlo.return %0 : tensor<f32>
}) {
replica_groups = dense<[[0, 1]]> : tensor<1x2xi64>
// channel_id = 0
channel_handle = #mhlo.channel_handle<handle = 0, type = 0>
// use_global_device_ids = false
} : (tensor<4xf32>) -> tensor<4xf32>
السمات: InferTensorType
، SingleBlockImplicitTerminator<ReturnOp>
، SingleBlock
الواجهات: InferShapedTypeOpInterface
، InferTypeOpInterface
صفات:
يصف | نوع MLIR | وصف |
---|---|---|
replica_groups | ::mlir::DenseIntElementsAttr | سمة عناصر الأعداد الصحيحة بدون إشارة 64 بت |
channel_handle | ::mlir::mhlo::ChannelHandleAttr | عددين صحيحين مكونين من 64 بت 'handle' و'type' |
use_global_device_ids | ::mlir::UnitAttr | سمة الوحدة |
المتعاملات:
المتعامل | وصف |
---|---|
operands | متغير من موتر رتب من نوع عدد عشري أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عدد عشري 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
نتائج:
نتيجة | وصف |
---|---|
«غير مسمى» | متغير من موتر رتب من نوع عدد عشري أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عدد عشري 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
mhlo.all_to_all
(mhlo::AllToAllOp)
عملية AllToAll
داخل كل مجموعة عملية في شبكة العملية، يتم تقسيم قيم موتر operand
على طول split_dimension
إلى أجزاء، ويتم توزيع الأجزاء المنقسمة بين العمليات، ويتم ربط الأجزاء المتناثرة على طول concat_dimension
وإنتاج موتر result
.
انظر: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#all_to_all
مثال:
%result = "mhlo.all_to_all"(%operand) {
split_dimension = 1 : i64,
concat_dimension = 0 : i64,
split_count = 2 : i64,
replica_groups = dense<[[0, 1]]> : tensor<1x2xi64>
} : (tensor<2x4xf32>) -> tensor<4x2xf32>
السمات: AlwaysSpeculatableImplTrait
و InferTensorType
و SameOperandsElementType
و SameOperandsShape
و SameVariadicOperandSize
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
صفات:
يصف | نوع MLIR | وصف |
---|---|---|
split_dimension | ::mlir::IntegerAttr | سمة عدد صحيح بدون إشارة مكونة من 64 بت وقيمتها غير سلبية |
concat_dimension | ::mlir::IntegerAttr | سمة عدد صحيح بدون إشارة مكونة من 64 بت وقيمتها غير سلبية |
split_count | ::mlir::IntegerAttr | سمة عدد صحيح بدون إشارة مكونة من 64 بت وقيمتها موجبة |
replica_groups | ::mlir::DenseIntElementsAttr | سمة عناصر الأعداد الصحيحة بدون إشارة 64 بت |
channel_handle | ::mlir::mhlo::ChannelHandleAttr | عددين صحيحين مكونين من 64 بت 'handle' و'type' |
المتعاملات:
المتعامل | وصف |
---|---|
operand | متغير من موتر رتب من نوع عدد عشري أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عدد عشري 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
نتائج:
نتيجة | وصف |
---|---|
«غير مسمى» | متغير من موتر رتب من نوع عدد عشري أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عدد عشري 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
mhlo.and
(mhlo::AndOp)
والعملية
بناء الجملة:
operation ::= `mhlo.and` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
ينفذ عملية AND على أساس عنصرين من الموترين lhs
rhs
وينتج موتر result
انظر: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#and
مثال:
%result = mhlo.and %lhs, %rhs : tensor<2x2xi32>
السمات: AlwaysSpeculatableImplTrait
، Commutative
، CompatibleOperandsAndResultType
، Elementwise
، SameOperandsAndResultShape
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
lhs | موتر مرتب من نوع bool أو قيم عددية صحيحة 2/4/8/16/32/64 بت |
rhs | موتر مرتب من نوع bool أو قيم عددية صحيحة 2/4/8/16/32/64 بت |
نتائج:
نتيجة | وصف |
---|---|
result | موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
mhlo.asin
(mhlo::AsinOp)
عملية أسين
بناء الجملة:
operation ::= `mhlo.asin` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
يقوم بإجراء عملية asin على كل عنصر على موتر operand
وينتج موتر result
.
مثال:
%result = mhlo.asin %operand : tensor<2x2xf32>
السمات: CompatibleOperandsAndResultType
، Elementwise
، SameOperandsAndResultShape
الواجهات: InferShapedTypeOpInterface
، InferTypeOpInterface
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر من نوع عائم أو معقد 4/6/8/16/32/64 بت مع قيم عناصر عائمة 32/64 بت |
نتائج:
نتيجة | وصف |
---|---|
result | موتر من نوع عائم أو معقد 4/6/8/16/32/64 بت مع قيم عناصر عائمة 32/64 بت |
mhlo.async_done
(mhlo::AsyncDoneOp)
عملية AsyncDone
هذه العملية خاصة بمترجم XLA، لذا فهي لا تحتوي على مواصفات محددة حتى الآن.
بشكل غير رسمي، تُوقف هذه العملية حتى نهاية عملية حسابية غير متزامنة. تُرجع النتيجة النهائية لهذه العملية.
راجع وثائق AsyncStart للحصول على مزيد من المعلومات.
الواجهات: InferTypeOpInterface
المتعاملات:
المتعامل | وصف |
---|---|
bundle | async_bundle مع أي مجموعة من موتر مرتب من نوع 4/6/8/16/32/64 بت عائم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع مركب مع عناصر عائمة 32/64 بت أو عدد صحيح مكمّم لكل موتر أو عدد صحيح مكمّم لكل محور أو قيم رمزية أو رمزية مستقرة |
نتائج:
نتيجة | وصف |
---|---|
«غير مسمى» | متغير من موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو عدد صحيح مكمم لكل موتر أو قيم عدد صحيح مكمم لكل محور أو رمز أو رمز ثابت أو مجموعة متداخلة مع أي مجموعة من موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم عدد صحيح مكمم لكل موتر أو مرجع ذاكرة من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو موتر مرتب لقيم كمية صحيحة لكل محور أو قيم رمزية |
mhlo.async_start
(mhlo::AsyncStartOp)
عملية AsyncStart
هذه العملية خاصة بمترجم XLA، لذا فهي لا تحتوي على مواصفات محددة حتى الآن.
بشكل غير رسمي، تعمل هذه العملية على بدء عملية حسابية غير متزامنة.
يُستخدم هذا عند وجود دوال تحتوي على كلٍّ من الانتظارات غير المتزامنة (مثل DMAs) والحسابات على خيط التنفيذ. على سبيل المثال، قد تتكون الدالة من عملية حسابية، وDMA، وحساب آخر، وDMA ثانٍ، وحساب نهائي. يُمثَّل هذا بـ async_start متبوعًا بـ async_update وasync_done. يُجري async_start الحساب الأول على خيط التنفيذ، ثم يُشغِّل DMA. ينتظر async_update اكتمال DMA إذا لم يكن قد اكتمل بعد، ثم يُنفِّذ الحساب الثاني في الدالة، ويبدأ DMA الثاني. وأخيرًا، ينتظر async_done على DMA الأخير، ثم يُشغِّل الحساب الأخير المطلوب تنفيذه على خيط التنفيذ، ويُعيد نتيجة الحساب النهائي.
تُمرَّر operands
إلى العملية الحسابية مباشرةً. الدالة التي ستُشغَّل بشكل غير متزامن هي الدالة called_computation
execution_thread
هو اسم الخيط الذي سيُشغَّل فيه. يُسمَّى الخيط الرئيسي "main". جميع السلاسل لها أسماء.
يُرجع هذا جميع الحالات المطلوبة بين العمليات غير المتزامنة. بعد تعيين المخزن المؤقت، تُمثل قيم الإرجاع المساحة اللازمة لحفظ المُدخلات والنتائج وأي سجلات مطلوبة أو مُحررة بواسطة العملية غير المتزامنة.
صفات:
يصف | نوع MLIR | وصف |
---|---|---|
called_computation | ::mlir::FlatSymbolRefAttr | سمة مرجعية للرمز المسطح |
execution_thread | ::mlir::StringAttr | سمة السلسلة |
المتعاملات:
المتعامل | وصف |
---|---|
inputs | متغير من موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو عدد صحيح مكمم لكل موتر أو قيم عدد صحيح مكمم لكل محور أو رمز أو رمز ثابت أو مجموعة متداخلة مع أي مجموعة من موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم عدد صحيح مكمم لكل موتر أو مرجع ذاكرة من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو موتر مرتب لقيم كمية صحيحة لكل محور أو قيم رمزية |
نتائج:
نتيجة | وصف |
---|---|
«غير مسمى» | async_bundle مع أي مجموعة من موتر مرتب من نوع 4/6/8/16/32/64 بت عائم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع مركب مع عناصر عائمة 32/64 بت أو عدد صحيح مكمّم لكل موتر أو عدد صحيح مكمّم لكل محور أو قيم رمزية أو رمزية مستقرة |
mhlo.async_update
(mhlo::AsyncUpdateOp)
عملية التحديث غير المتزامن
هذه العملية خاصة بمترجم XLA، لذا فهي لا تحتوي على مواصفات محددة حتى الآن.
بشكل غير رسمي، تمنع هذه العملية الحوسبة غير المتزامنة حتى يتم الوصول إلى حاجز مزامنة. تُرجع هذه العملية bundle
بعد تنفيذها.
راجع وثائق AsyncStart للحصول على مزيد من المعلومات.
الواجهات: InferTypeOpInterface
المتعاملات:
المتعامل | وصف |
---|---|
bundle | async_bundle مع أي مجموعة من موتر مرتب من نوع 4/6/8/16/32/64 بت عائم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع مركب مع عناصر عائمة 32/64 بت أو عدد صحيح مكمّم لكل موتر أو عدد صحيح مكمّم لكل محور أو قيم رمزية أو رمزية مستقرة |
نتائج:
نتيجة | وصف |
---|---|
«غير مسمى» | async_bundle مع أي مجموعة من موتر مرتب من نوع 4/6/8/16/32/64 بت عائم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع مركب مع عناصر عائمة 32/64 بت أو عدد صحيح مكمّم لكل موتر أو عدد صحيح مكمّم لكل محور أو قيم رمزية أو رمزية مستقرة |
mhlo.atan2
(mhlo::Atan2Op)
عملية أتان2
بناء الجملة:
operation ::= `mhlo.atan2` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
يقوم بإجراء عملية atan2 على كل عنصر على موتر الجانب lhs
rhs
وينتج موتر result
.
انظر: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#atan2
مثال:
%result = mhlo.atan2 %lhs, %rhs : tensor<3xf32>
السمات: AlwaysSpeculatableImplTrait
، CompatibleOperandsAndResultType
، Elementwise
، SameOperandsAndResultShape
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
lhs | موتر مرتب من نوع عائم أو مركب 4/6/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر |
rhs | موتر مرتب من نوع عائم أو مركب 4/6/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر |
نتائج:
نتيجة | وصف |
---|---|
result | موتر مرتب من نوع عائم أو مركب 4/6/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر |
mhlo.atanh
(mhlo::AtanhOp)
عملية أتانه
بناء الجملة:
operation ::= `mhlo.atanh` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
يقوم بإجراء عملية atanh على كل عنصر على موتر operand
وينتج موتر result
.
مثال:
%result = mhlo.atanh %operand : tensor<2x2xf32>
السمات: CompatibleOperandsAndResultType
، Elementwise
، SameOperandsAndResultShape
الواجهات: InferShapedTypeOpInterface
، InferTypeOpInterface
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر من نوع عائم أو معقد 4/6/8/16/32/64 بت مع قيم عناصر عائمة 32/64 بت |
نتائج:
نتيجة | وصف |
---|---|
result | موتر من نوع عائم أو معقد 4/6/8/16/32/64 بت مع قيم عناصر عائمة 32/64 بت |
mhlo.batch_norm_grad
(mhlo::BatchNormGradOp)
عملية BatchNormGrad
يحسب تدرجات العديد من مدخلات BatchNormTrainingOp التي تنتشر للخلف من grad_output
، وينتج متجهات grad_operand
و grad_scale
و grad_offset
.
انظر: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#batch_norm_grad
مثال:
%grad_operand, %grad_scale, %grad_offset =
"mhlo.batch_norm_grad"(%operand, %scale, %mean, %variance, %grad_output) {
epsilon = 0.0 : f32,
feature_index = 2 : i64
} : (tensor<2x2x2xf32>, tensor<2xf32>, tensor<2xf32>, tensor<2xf32>,
tensor<2x2x2xf32>) -> (tensor<2x2x2xf32>, tensor<2xf32>, tensor<2xf32>)
السمات: AlwaysSpeculatableImplTrait
و InferTensorType
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
صفات:
يصف | نوع MLIR | وصف |
---|---|---|
epsilon | ::mlir::FloatAttr | سمة تعويم 32 بت |
feature_index | ::mlir::IntegerAttr | سمة عدد صحيح بدون إشارة مكونة من 64 بت وقيمتها غير سلبية |
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر مرتب لقيم عائمة 4/6/8/16/32/64 بت |
scale | موتر أحادي الأبعاد لقيم عائمة 4/6/8/16/32/64 بت |
mean | موتر أحادي الأبعاد لقيم عائمة 4/6/8/16/32/64 بت |
variance | موتر أحادي الأبعاد لقيم عائمة 4/6/8/16/32/64 بت |
grad_output | موتر مرتب لقيم عائمة 4/6/8/16/32/64 بت |
نتائج:
نتيجة | وصف |
---|---|
grad_operand | موتر مرتب لقيم عائمة 4/6/8/16/32/64 بت |
grad_scale | موتر أحادي الأبعاد لقيم عائمة 4/6/8/16/32/64 بت |
grad_offset | موتر أحادي الأبعاد لقيم عائمة 4/6/8/16/32/64 بت |
mhlo.batch_norm_inference
(mhlo::BatchNormInferenceOp)
عملية BatchNormInference
يقوم بتطبيع موتر operand
عبر جميع الأبعاد باستثناء بُعد feature_index
وينتج موتر result
.
انظر: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#batch_norm_inference
مثال:
%result = "mhlo.batch_norm_inference"(%operand, %scale, %offset, %mean, %variance) {
epsilon = 0.0 : f32,
feature_index = 2 : i64
} : (tensor<2x2x2xf32>, tensor<2xf32>, tensor<2xf32>, tensor<2xf32>, tensor<2xf32>) -> tensor<2x2x2xf32>
السمات: AlwaysSpeculatableImplTrait
و InferTensorType
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
صفات:
يصف | نوع MLIR | وصف |
---|---|---|
epsilon | ::mlir::FloatAttr | سمة تعويم 32 بت |
feature_index | ::mlir::IntegerAttr | سمة عدد صحيح بدون إشارة مكونة من 64 بت وقيمتها غير سلبية |
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر مرتب لقيم عائمة 4/6/8/16/32/64 بت |
scale | موتر أحادي الأبعاد لقيم عائمة 4/6/8/16/32/64 بت |
offset | موتر أحادي الأبعاد لقيم عائمة 4/6/8/16/32/64 بت |
mean | موتر أحادي الأبعاد لقيم عائمة 4/6/8/16/32/64 بت |
variance | موتر أحادي الأبعاد لقيم عائمة 4/6/8/16/32/64 بت |
نتائج:
نتيجة | وصف |
---|---|
result | موتر مرتب لقيم عائمة 4/6/8/16/32/64 بت |
mhlo.batch_norm_training
(mhlo::BatchNormTrainingOp)
عملية BatchNormTraining
يحسب المتوسط والتباين عبر أبعاد الدفعة والأبعاد المكانية ويقوم بتطبيع موتر operand
، لكل ميزة في بُعد feature_index
وينتج output
و batch_mean
و batch_var
.
انظر: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#batch_norm_training
مثال:
%output, %batch_mean, %batch_var = "mhlo.batch_norm_training"(%operand, %scale, %offset) {
epsilon = 0.0 : f32,
feature_index = 2 : i64
} : (tensor<2x2x2xf32>, tensor<2xf32>, tensor<2xf32>) -> (tensor<2x2x2xf32>, tensor<2xf32>, tensor<2xf32>)
السمات: AlwaysSpeculatableImplTrait
و InferTensorType
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
صفات:
يصف | نوع MLIR | وصف |
---|---|---|
epsilon | ::mlir::FloatAttr | سمة تعويم 32 بت |
feature_index | ::mlir::IntegerAttr | سمة عدد صحيح بدون إشارة مكونة من 64 بت وقيمتها غير سلبية |
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر مرتب لقيم عائمة 4/6/8/16/32/64 بت |
scale | موتر أحادي الأبعاد لقيم عائمة 4/6/8/16/32/64 بت |
offset | موتر أحادي الأبعاد لقيم عائمة 4/6/8/16/32/64 بت |
نتائج:
نتيجة | وصف |
---|---|
output | موتر مرتب لقيم عائمة 4/6/8/16/32/64 بت |
batch_mean | موتر أحادي الأبعاد لقيم عائمة 4/6/8/16/32/64 بت |
batch_var | موتر أحادي الأبعاد لقيم عائمة 4/6/8/16/32/64 بت |
mhlo.bitcast
(mhlo::BitcastOp)
عملية البث المباشر
بناء الجملة:
operation ::= `mhlo.bitcast` operands attr-dict `:` functional-type(operands, results)
هذه العملية خاصة بمترجم XLA، لذا فهي لا تحتوي على مواصفات محددة حتى الآن.
بشكل غير رسمي، تقوم هذه العملية بتغيير شكل المدخلات بالطريقة التي يظل بها الترتيب المادي للعناصر دون تغيير.
تحتاج هذه العملية إلى معلومات التخطيط لفهم "الترتيب المادي للعناصر"، ودعم التخطيط في MHLO هو حاليًا عمل قيد التقدم.
مثال:
%0 = mhlo.bitcast %arg0 : (tensor<3x4xf32>) -> tensor<3x4x1xf32>
السمات: AlwaysSpeculatableImplTrait
الواجهات: ConditionallySpeculatable
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
نتائج:
نتيجة | وصف |
---|---|
«غير مسمى» | موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
mhlo.bitcast_convert
(mhlo::BitcastConvertOp)
عملية BitcastConvert
بناء الجملة:
operation ::= `mhlo.bitcast_convert` operands attr-dict `:` functional-type(operands, results)
يقوم بإجراء عملية بث بتات على موتر operand
وينتج موتر result
حيث يتم إعادة تفسير بتات موتر operand
بأكمله باستخدام نوع موتر result
.
انظر: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#bitcast_convert
مثال:
%result = mhlo.bitcast_convert %operand : (tensor<2xf32>) -> tensor<2x4xi8>
السمات: AlwaysSpeculatableImplTrait
الواجهات: ConditionallySpeculatable
و InferShapedTypeOpInterface
و NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
نتائج:
نتيجة | وصف |
---|---|
«غير مسمى» | موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
mhlo.broadcast
(mhlo::BroadcastOp)
عملية البث
هذه العملية في طريقها للخروج من StableHLO، لذا فهي غير مدرجة في المواصفات: https://github.com/openxla/stablehlo/issues/3
بشكل غير رسمي، تقوم هذه العملية بنفس الشيء الذي تقوم به عملية البث الخاصة بـ XLA: https://www.tensorflow.org/xla/operation_semantics#broadcast
مثال:
%result = mhlo.broadcast %operand, sizes = [1, 2] : (tensor<3xi32>) -> tensor<1x2x3xi32>
السمات: AlwaysSpeculatableImplTrait
و InferTensorType
و SameOperandsAndResultElementType
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
صفات:
يصف | نوع MLIR | وصف |
---|---|---|
broadcast_sizes | ::mlir::DenseIntElementsAttr | سمة عناصر الأعداد الصحيحة بدون إشارة 64 بت |
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
نتائج:
نتيجة | وصف |
---|---|
«غير مسمى» | موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
mhlo.broadcast_in_dim
(mhlo::BroadcastInDimOp)
عملية BroadcastInDim
يقوم بتوسيع أبعاد و/أو رتبة موتر الإدخال عن طريق تكرار البيانات في موتر operand
وينتج موتر result
.
انظر: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#broadcast_in_dim
مثال:
%result = mhlo.broadcast_in_dim %operand, dims = [2, 1] : (tensor<1x3xi32>) -> tensor<2x3x2xi32>
السمات: AlwaysSpeculatableImplTrait
و HLO_CompatibleOperandsAndResultElementType
الواجهات: ConditionallySpeculatable
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
صفات:
يصف | نوع MLIR | وصف |
---|---|---|
broadcast_dimensions | ::mlir::DenseIntElementsAttr | سمة عناصر الأعداد الصحيحة بدون إشارة 64 بت |
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
نتائج:
نتيجة | وصف |
---|---|
«غير مسمى» | موتر ذو شكل ثابت أو ذو بُعد محدود واحد من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
mhlo.case
(mhlo::CaseOp)
عملية الحالة
ينتج الناتج عن تنفيذ function
واحدة فقط من branches
اعتمادًا على قيمة index
.
انظر: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#case
مثال:
%result0, %result1 = "mhlo.case"(%index) ({
mhlo.return %result_branch0, %result_branch0 : tensor<2xi64>, tensor<2xi64>
}, {
mhlo.return %result_branch1, %result_branch1 : tensor<2xi64>, tensor<2xi64>
}) : (tensor<i32>) -> (tensor<2xi64>, tensor<2xi64>)
السمات: RecursiveMemoryEffects
، SingleBlockImplicitTerminator<ReturnOp>
، SingleBlock
الواجهات: InferTypeOpInterface
المتعاملات:
المتعامل | وصف |
---|---|
index | موتر لقيم الأعداد الصحيحة بدون إشارة المكونة من 32 بت |
نتائج:
نتيجة | وصف |
---|---|
«غير مسمى» | متغير من موتر مرتب من نوع عدد عشري أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عدد عشري 32/64 بت أو قيم كمية صحيحة لكل موتر أو موتر مرتب من قيم كمية صحيحة لكل محور أو رمز |
mhlo.cbrt
(mhlo::CbrtOp)
عملية Cbrt
بناء الجملة:
operation ::= `mhlo.cbrt` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
يقوم بإجراء عملية الجذر التكعيبي لكل عنصر على موتر operand
وينتج موتر result
.
انظر: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#cbrt
مثال:
%result = mhlo.cbrt %operand : tensor<4xf32>
السمات: AlwaysSpeculatableImplTrait
، CompatibleOperandsAndResultType
، Elementwise
، SameOperandsAndResultShape
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
صفات:
يصف | نوع MLIR | وصف |
---|---|---|
result_accuracy | ::mlir::mhlo::ResultAccuracyAttr | الدقة المطلوبة للعمليات الأحادية. |
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر مرتب من نوع عائم أو مركب 4/6/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر |
نتائج:
نتيجة | وصف |
---|---|
result | موتر مرتب من نوع عائم أو مركب 4/6/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر |
mhlo.ceil
(mhlo::CeilOp)
عملية السقف
بناء الجملة:
operation ::= `mhlo.ceil` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
يقوم بتنفيذ سقف عنصر الموتر operand
وينتج موتر result
.
انظر: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#ceil
مثال:
%result = mhlo.ceil %operand : tensor<5xf32>
السمات: AlwaysSpeculatableImplTrait
، CompatibleOperandsAndResultType
، Elementwise
، SameOperandsAndResultShape
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر مرتب من 4/6/8/16/32/64 بت من القيم الكمية الصحيحة أو لكل موتر |
نتائج:
نتيجة | وصف |
---|---|
result | موتر مرتب من 4/6/8/16/32/64 بت من القيم الكمية الصحيحة أو لكل موتر |
mhlo.cholesky
(mhlo::CholeskyOp)
عملية تشوليسكي
يحسب تحلل تشوليسكي لمجموعة من المصفوفات.
انظر: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#cholesky
مثال:
%result = mhlo.cholesky %a, lower = true : tensor<3x3xf32>
السمات: AlwaysSpeculatableImplTrait
و InferTensorType
و SameOperandsAndResultElementType
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
صفات:
يصف | نوع MLIR | وصف |
---|---|---|
lower | ::mlir::BoolAttr | سمة منطقية |
المتعاملات:
المتعامل | وصف |
---|---|
a | موتر مرتب من نوع عائم أو معقد 4/6/8/16/32/64 بت مع قيم عناصر عائمة 32/64 بت |
نتائج:
نتيجة | وصف |
---|---|
«غير مسمى» | موتر مرتب من نوع عائم أو معقد 4/6/8/16/32/64 بت مع قيم عناصر عائمة 32/64 بت |
mhlo.clamp
(mhlo::ClampOp)
عملية المشبك
بناء الجملة:
operation ::= `mhlo.clamp` $min `,` $operand `,` $max attr-dict
`:` custom<SameOperandsAndResultType>(type($min), type($operand), type($max), type($result))
يقوم بتثبيت كل عنصر من عناصر موتر operand
بين الحد الأدنى والحد الأقصى للقيمة وينتج موتر result
.
انظر: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#clamp
مثال:
%result = mhlo.clamp %min, %operand, %max : tensor<3xi32>
السمات: AlwaysSpeculatableImplTrait
، HLO_BroadcastingElementwise
، InferTensorType
، SameOperandsAndResultElementType
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
min | موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
operand | موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
max | موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
نتائج:
نتيجة | وصف |
---|---|
result | موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
mhlo.collective_broadcast
(mhlo::CollectiveBroadcastOp)
عملية البث الجماعي
في كل مجموعة عملية في شبكة العملية، قم بإرسال قيمة موتر operand
من العملية المصدر إلى العمليات المستهدفة وإنتاج موتر result
.
انظر: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#collective_broadcast
مثال:
%result = "mhlo.collective_broadcast"(%operand) {
replica_groups = dense<[[0, 1]]> : tensor<1x2xi64>,
channel_handle = #mhlo.channel_handle<handle = 0, type = 0>
} : (tensor<1x2xi64>) -> tensor<1x2xi64>
السمات: CompatibleOperandsAndResultType
الواجهات: InferShapedTypeOpInterface
، InferTypeOpInterface
صفات:
يصف | نوع MLIR | وصف |
---|---|---|
replica_groups | ::mlir::DenseIntElementsAttr | سمة عناصر الأعداد الصحيحة بدون إشارة 64 بت |
channel_handle | ::mlir::mhlo::ChannelHandleAttr | عددين صحيحين مكونين من 64 بت 'handle' و'type' |
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
نتائج:
نتيجة | وصف |
---|---|
«غير مسمى» | موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
mhlo.collective_permute
(mhlo::CollectivePermuteOp)
عملية CollectivePermute
داخل كل مجموعة عمليات في شبكة العمليات، يتم إرسال قيمة موتر operand
من عملية المصدر إلى عملية الهدف وإنتاج موتر result
.
انظر: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#collective_permute
مثال:
%result = "mhlo.collective_permute"(%operand) {
source_target_pairs = dense<[[0, 1], [1, 2]]> : tensor<2x2xi64>,
// channel_id = 0
channel_handle = #mhlo.channel_handle<handle = 0, type = 0>
} : (tensor<4x2xf32>) -> tensor<4x2xf32>
السمات: AlwaysSpeculatableImplTrait
و CompatibleOperandsAndResultType
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
صفات:
يصف | نوع MLIR | وصف |
---|---|---|
source_target_pairs | ::mlir::DenseIntElementsAttr | سمة عناصر الأعداد الصحيحة بدون إشارة 64 بت |
channel_handle | ::mlir::mhlo::ChannelHandleAttr | عددين صحيحين مكونين من 64 بت 'handle' و'type' |
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
نتائج:
نتيجة | وصف |
---|---|
«غير مسمى» | موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
mhlo.compare
(mhlo::CompareOp)
مقارنة العملية
بناء الجملة:
operation ::= `mhlo.compare` $comparison_direction `,` $lhs `,` $rhs (`,` $compare_type^)?
attr-dict `:` functional-type(operands, results)
يقوم بإجراء مقارنة على أساس كل عنصر لموترات lhs
rhs
وفقًا لـ comparison_direction
و compare_type
، وينتج موتر result
.
انظر: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#compare
مثال:
%result = mhlo.compare LT, %lhs, %rhs, FLOAT : (tensor<2xf32>, tensor<2xf32>) -> tensor<2xi1>
السمات: AlwaysSpeculatableImplTrait
، Elementwise
، InferTensorType
، SameOperandsAndResultShape
، SameOperandsElementType
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
صفات:
يصف | نوع MLIR | وصف |
---|---|---|
comparison_direction | ::mlir::mhlo::ComparisonDirectionAttr | ما هي عملية المقارنة التي يجب القيام بها؟ |
compare_type | ::mlir::mhlo::ComparisonTypeAttr | ما هو نوع المقارنة الذي يجب استخدامه؟ |
المتعاملات:
المتعامل | وصف |
---|---|
lhs | موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
rhs | موتر مرتب من نوع عائم أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح أو نوع مركب 2/4/8/16/32/64 بت مع عناصر عائمة 32/64 بت أو قيم عدد صحيح مكممة لكل موتر أو قيم عدد صحيح مكممة لكل محور |
نتائج:
نتيجة | وصف |
---|---|
«غير مسمى» | موتر مرتب للقيم المنطقية |
mhlo.complex
(mhlo::ComplexOp)
عملية معقدة
بناء الجملة:
operation ::= `mhlo.complex` operands attr-dict
`:` custom<ComplexOpType>(type($lhs), type($rhs), type($result))
يقوم بإجراء تحويل على مستوى العنصر إلى قيمة معقدة من زوج من القيم الحقيقية والخيالية، lhs
و rhs
، وينتج موتر result
.
انظر: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#complex
مثال:
%result = mhlo.complex %lhs, %rhs : tensor<2xcomplex<f32>>
السمات: AlwaysSpeculatableImplTrait
، Elementwise
، SameOperandsAndResultShape
، SameOperandsElementType
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
lhs | موتر مرتب لقيم عائمة 32/64 بت |
rhs | موتر مرتب لقيم عائمة 32/64 بت |
نتائج:
نتيجة | وصف |
---|---|
result | موتر مرتب من النوع المعقد مع قيم عناصر عائمة 32/64 بت |
mhlo.composite
(mhlo::CompositeOp)
عملية مركبة
بناء الجملة:
operation ::= `mhlo.composite` $name $inputs attr-dict `:` functional-type(operands, results)
يُغلِّف عمليةً مُركَّبةً من عمليات StableHLO أخرى، مُستقبلاً inputs
وسماتٍ composite_attributes
ومُنتِجةً results
. تُطبَّق دلالات العملية من خلال سمة decomposition
. يُمكن استبدال العملية composite
بتحليلها دون تغيير دلالات البرنامج. في الحالات التي لا يُوفِّر فيها تضمين التحليل نفس دلالات العملية، يُفضَّل استخدام custom_call
.
يتم استخدام حقل version
(الافتراضي هو 0
) للإشارة إلى وقت تغيير دلالات المركب.
راجع: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#composite
مثال:
%results = mhlo.composite "my.op" %arg0, %arg1 {
decomposition = @my_op,
composite_attributes = { my_attribute = "my_value" },
version = 1 : i32
} : (tensor<f32>, tensor<f32>) -> tensor<f32>
واجهات: SymbolUserOpInterface
صفات:
يصف | نوع ملير | وصف |
---|---|---|
name | ::mlir::StringAttr | سمة السلسلة |
composite_attributes | ::mlir::DictionaryAttr | قاموس قيم السمات المسماة |
decomposition | ::mlir::FlatSymbolRefAttr | السمة المرجعية للرمز المسطح |
version | ::mlir::IntegerAttr | سمة عدد صحيح بدون إشارة 32 بت |
المتعاملات:
المتعامل | وصف |
---|---|
inputs | متغير من الموتر المصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو 2/4/8/16/32/64 بت عدد صحيح أو نوع معقد مع عناصر عائمة 32/64 بت أو عدد صحيح لكل موتر قيم كمية أو عدد صحيح لكل محور أو رمز مميز أو صف متداخل مع أي مجموعة من الموتر المصنف عدد صحيح أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو ميمريف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح أو مركب 2/4/8/16/32/64 بت اكتب باستخدام عناصر عائمة 32/64 بت أو عدد صحيح لكل موتر القيم الكمية أو الموتر المُصنف للقيم الكمية الصحيحة لكل محور أو القيم المميزة |
نتائج:
نتيجة | وصف |
---|---|
«غير مسمى» | متغير من الموتر المصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو 2/4/8/16/32/64 بت عدد صحيح أو نوع معقد مع عناصر عائمة 32/64 بت أو عدد صحيح لكل موتر قيم كمية أو عدد صحيح لكل محور أو رمز مميز أو صف متداخل مع أي مجموعة من الموتر المصنف عدد صحيح أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو ميمريف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح أو مركب 2/4/8/16/32/64 بت اكتب باستخدام عناصر عائمة 32/64 بت أو عدد صحيح لكل موتر القيم الكمية أو الموتر المُصنف للقيم الكمية الصحيحة لكل محور أو القيم المميزة |
mhlo.concatenate
(mhlo::ConcatenateOp)
عملية تسلسل
يسلسل عددًا متغيرًا من الموترات في inputs
على طول بُعد dimension
بنفس ترتيب الوسائط المحددة وينتج موترًا result
.
راجع: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#concatenate
مثال:
%result = mhlo.concatenate %input0, %input1, dim = 0 : (tensor<3x2xi64>, tensor<1x2xi64>) -> tensor<4x2xi64>
السمات: AlwaysSpeculatableImplTrait
و SameOperandsAndResultElementType
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
صفات:
يصف | نوع ملير | وصف |
---|---|---|
dimension | ::mlir::IntegerAttr | سمة عدد صحيح بدون إشارة 64 بت وقيمتها غير سالبة |
المتعاملات:
المتعامل | وصف |
---|---|
val | متغير من الموتر المصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
نتائج:
نتيجة | وصف |
---|---|
«غير مسمى» | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
mhlo.constant
(mhlo::ConstantOp)
عملية مستمرة
ينتج موتر output
من value
ثابتة.
راجع: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#constant
مثال:
%output = mhlo.constant dense<[[0.0, 1.0], [2.0, 3.0]]> : tensor<2x2xf32>
السمات: AlwaysSpeculatableImplTrait
، ConstantLike
الواجهات: ConditionallySpeculatable
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
صفات:
يصف | نوع ملير | وصف |
---|---|---|
value | ::mlir::ElementsAttr | سمة المتجه/الموتر الثابت |
نتائج:
نتيجة | وصف |
---|---|
output | موتر ذو شكل ثابت من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
mhlo.convert
(mhlo::ConvertOp)
تحويل العملية
بناء الجملة:
operation ::= `mhlo.convert` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
ينفذ تحويلاً حكيمًا للعنصر من نوع عنصر إلى آخر على موتر operand
وينتج موترًا result
.
راجع: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#convert
مثال:
%result = mhlo.convert %operand : (tensor<3xi32>) -> tensor<3xcomplex<f32>>
السمات: AlwaysSpeculatableImplTrait
، Elementwise
، SameOperandsAndResultShape
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
نتائج:
نتيجة | وصف |
---|---|
result | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
mhlo.convolution
(mhlo::ConvolutionOp)
عملية الالتفاف
بناء الجملة:
operation ::= `mhlo.convolution` `(`operands`)`
`dim_numbers` `=` custom<ConvolutionDimensions>($dimension_numbers) `,`
`window` `=` `{` custom<WindowAttributes>($window_strides, $padding,
$lhs_dilation, $rhs_dilation,
$window_reversal) `}`
attr-dict `:` functional-type(operands, results)
يحسب المنتجات النقطية بين نوافذ lhs
وشرائح rhs
وينتج result
.
راجع: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#convolution
مثال:
%result = "mhlo.convolution"(%lhs, %rhs) {
window_strides = dense<4> : tensor<2xi64>,
padding = dense<0> : tensor<2x2xi64>,
lhs_dilation = dense<2> : tensor<2xi64>,
rhs_dilation = dense<1> : tensor<2xi64>,
window_reversal = dense<false> : tensor<2xi1>,
dimension_numbers = #mhlo.conv<[b, 0, 1, f]x[0, 1, i, o]->[b, 0, 1, f]>,
feature_group_count = 1 : i64,
batch_group_count = 1 : i64,
precision_config = [#stablehlo<precision DEFAULT>, #stablehlo<precision DEFAULT>]
} : (tensor<1x4x4x1xi32>, tensor<3x3x1x1xi32>) -> tensor<1x2x2x1xi32>
السمات: AlwaysSpeculatableImplTrait
الواجهات: ConditionallySpeculatable
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
صفات:
يصف | نوع ملير | وصف |
---|---|---|
window_strides | ::mlir::DenseIntElementsAttr | سمة العناصر الصحيحة بدون إشارة 64 بت |
padding | ::mlir::DenseIntElementsAttr | سمة العناصر الصحيحة بدون إشارة 64 بت |
lhs_dilation | ::mlir::DenseIntElementsAttr | سمة العناصر الصحيحة بدون إشارة 64 بت |
rhs_dilation | ::mlir::DenseIntElementsAttr | سمة العناصر الصحيحة بدون إشارة 64 بت |
window_reversal | ::mlir::DenseElementsAttr | سمة المتجه/الموتر المنطقية الثابتة |
dimension_numbers | ::mlir::mhlo::ConvDimensionNumbersAttr | بنية معلومات البعد لعملية التحويل |
feature_group_count | ::mlir::IntegerAttr | سمة عدد صحيح بدون إشارة 64 بت وقيمتها موجبة |
batch_group_count | ::mlir::IntegerAttr | سمة عدد صحيح بدون إشارة 64 بت وقيمتها موجبة |
precision_config | ::mlir::ArrayAttr | سمة التكوين الدقيق |
المتعاملات:
المتعامل | وصف |
---|---|
lhs | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
rhs | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
نتائج:
نتيجة | وصف |
---|---|
«غير مسمى» | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
mhlo.copy
(mhlo::CopyOp)
عملية النسخ
بناء الجملة:
operation ::= `mhlo.copy` operands attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
هذه العملية خاصة بمترجم XLA، لذا فهي لا تحتوي على مواصفات بعد.
بشكل غير رسمي، هذه العملية نسخة من operand
. اعتمادًا على البيانات الوصفية المرفقة بالعملية، يمكن أن تتصرف بشكل مختلف تمامًا عن عدم التشغيل.
مثال:
%0 = mhlo.copy %arg0 : tensor<f32>
السمات: AlwaysSpeculatableImplTrait
، CompatibleOperandsAndResultType
، Elementwise
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
صفات:
يصف | نوع ملير | وصف |
---|---|---|
cross_program_prefetch_index | ::mlir::IntegerAttr | سمة عدد صحيح بدون إشارة 32 بت |
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو عدد صحيح مكمّم لكل موتر أو قيم كمية صحيحة لكل محور أو رمز مميز أو صف متداخل مع أي مجموعة من الموتر المُصنف لـ عدد صحيح أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو ميمريف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح أو مركب 2/4/8/16/32/64 بت اكتب باستخدام عناصر عائمة 32/64 بت أو قيم كمية أو مرتبة لكل عدد صحيح موتر موتر القيم الكمية الصحيحة لكل محور أو قيم الرمز المميز |
نتائج:
نتيجة | وصف |
---|---|
result | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو عدد صحيح مكمّم لكل موتر أو قيم كمية صحيحة لكل محور أو رمز مميز أو صف متداخل مع أي مجموعة من الموتر المُصنف لـ عدد صحيح أو منطقي 4/6/8/16/32/64 بت أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو ميمريف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح أو مركب 2/4/8/16/32/64 بت اكتب باستخدام عناصر عائمة 32/64 بت أو قيم كمية أو مرتبة لكل عدد صحيح موتر موتر القيم الكمية الصحيحة لكل محور أو قيم الرمز المميز |
mhlo.cosh
(mhlo::CoshOp)
عملية كوش
بناء الجملة:
operation ::= `mhlo.cosh` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
ينفذ عملية cosh من حيث العنصر على موتر operand
وينتج موتر result
.
مثال:
%result = mhlo.cosh %operand : tensor<2x2xf32>
السمات: CompatibleOperandsAndResultType
، Elementwise
، SameOperandsAndResultShape
الواجهات: InferShapedTypeOpInterface
، InferTypeOpInterface
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر من النوع العائم 4/6/8/16/32/64 بت أو النوع المعقد مع قيم العناصر العائمة 32/64 بت |
نتائج:
نتيجة | وصف |
---|---|
result | موتر من النوع العائم 4/6/8/16/32/64 بت أو النوع المعقد مع قيم العناصر العائمة 32/64 بت |
mhlo.cosine
(mhlo::CosineOp)
عملية جيب التمام
بناء الجملة:
operation ::= `mhlo.cosine` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
ينفذ عملية جيب التمام للعنصر على موتر operand
وينتج موتر result
.
راجع: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#cosine
مثال:
%result = mhlo.cosine %operand : tensor<2xf32>
السمات: AlwaysSpeculatableImplTrait
، CompatibleOperandsAndResultType
، Elementwise
، SameOperandsAndResultShape
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
صفات:
يصف | نوع ملير | وصف |
---|---|---|
result_accuracy | ::mlir::mhlo::ResultAccuracyAttr | الدقة المطلوبة للعمليات الأحادية. |
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر مصنف من 4/6/8/16/32/64 بت من النوع العائم أو المعقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر |
نتائج:
نتيجة | وصف |
---|---|
result | موتر مصنف من 4/6/8/16/32/64 بت من النوع العائم أو المعقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر |
mhlo.count_leading_zeros
(mhlo::ClzOp)
عملية Clz
بناء الجملة:
operation ::= `mhlo.count_leading_zeros` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
ينفذ العد الحكيم لعدد البتات الصفرية البادئة في موتر operand
وينتج موتر result
.
راجع: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#count_leading_zeros
مثال:
%result = mhlo.count_leading_zeros %operand : tensor<2x2xi8>
السمات: AlwaysSpeculatableImplTrait
، CompatibleOperandsAndResultType
، Elementwise
، SameOperandsAndResultShape
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر مرتب لقيم عددية 2/4/8/16/32/64 بت |
نتائج:
نتيجة | وصف |
---|---|
result | موتر مرتب لقيم عددية 2/4/8/16/32/64 بت |
mhlo.create_token
(mhlo::CreateTokenOp)
عملية إنشاء رمز مميز
بناء الجملة:
operation ::= `mhlo.create_token` attr-dict `:` type(results)
هذه العملية في طريقها للخروج من StableHLO، لذا لم يتم تضمينها في المواصفات: https://github.com/openxla/stablehlo/issues/3
بشكل غير رسمي، تقوم هذه العملية بنفس الشيء مثل AfterAllOp مع 0 مدخلات: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#after_all
مثال:
%output = mhlo.create_token : !mhlo.token
السمات: AlwaysSpeculatableImplTrait
الواجهات: ConditionallySpeculatable
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
نتائج:
نتيجة | وصف |
---|---|
output | الرمز المميز |
mhlo.cross-replica-sum
(mhlo::CrossReplicaSumOp)
عملية CrossReplicaSum
هذه العملية في طريقها للخروج من StableHLO، لذا لم يتم تضمينها في المواصفات: https://github.com/openxla/stablehlo/issues/3
بشكل غير رسمي، تقوم هذه العملية بنفس الشيء مثل AllReduceOp مع channel_id = 0
، use_global_device_ids = false
computation
ينفذ الإضافة: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#all_reduce
مثال:
%result = "mhlo.cross-replica-sum"(%operand) {
replica_groups = dense<[[0, 1]]> : tensor<1x2xi64>
} : (tensor<4xf32>) -> tensor<4xf32>
السمات: AlwaysSpeculatableImplTrait
و CompatibleOperandsAndResultType
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
صفات:
يصف | نوع ملير | وصف |
---|---|---|
replica_groups | ::mlir::DenseIntElementsAttr | سمة العناصر الصحيحة بدون إشارة 64 بت |
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
نتائج:
نتيجة | وصف |
---|---|
«غير مسمى» | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
mhlo.custom_call
(mhlo::CustomCallOp)
عملية المكالمة المخصصة
بناء الجملة:
operation ::= `mhlo.custom_call` custom<CustomCallTarget>($call_target_name) `(` $inputs `)`
attr-dict `:` functional-type(operands, results)
يقوم بتغليف عملية call_target_name
المحددة بالتنفيذ والتي تأخذ inputs
called_computations
وتنتج results
.
راجع: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#custom_call
مثال:
%results = "mhlo.custom_call"(%input0) {
call_target_name = "foo",
has_side_effect = false,
backend_config = "bar",
api_version = 1 : i32,
called_computations = [@foo]
} : (tensor<f32>) -> tensor<f32>
A custom call invokes code external to XLA. The `inputs` are passed to the
external code, and the external code is expected to produce a result of the
given type. The exact mechanism is backend-specific. For example, in the CPU
backend, a call instruction is emitted which targets a symbol with the name
`call_target_name`.
If XLA runtime is enabled for a backend, then custom calls use the runtime
custom call calling convention to call into the external functions. This
calling convention defines an ABI for encoding arguments, attributes and
results.
Depending on the API version there are two ways to pass extra bits of static
information to the external function:
1. For `API_VERSION_TYPED_FFI` custom calls `backend_config` must be a
dictionary attribute, that will be encoded according to the custom call
calling convention and passed to the external function as the attributes
argument. External code is expected to use declarative bindings (see
`xla/runtime/custom_call.h`) to decode them at run time. These custom
calls are only supported if XLA uses XLA runtime.
2. For previous API versions it is the user responsibility to encode extra
bits of static information as a string `backend_config` attribute, and
decode it at run time.
واجهات: MemoryEffectOpInterface
صفات:
يصف | نوع ملير | وصف |
---|---|---|
call_target_name | ::mlir::StringAttr | سمة السلسلة |
has_side_effect | ::mlir::BoolAttr | سمة منطقية |
backend_config | ::ملير::خاصية | سمة السلسلة أو قاموس قيم السمات المسماة |
api_version | ::mlir::mhlo::CustomCallApiVersionAttr | إصدار API للمكالمات المخصصة |
called_computations | ::mlir::ArrayAttr | سمة صفيف المرجع رمز مسطح |
custom_call_schedule | ::mlir::mhlo::CustomCallScheduleAttr | يحدد الجدول الزمني المطلوب للمكالمة المخصصة. |
operand_layouts | ::mlir::ArrayAttr | مجموعة من سمات التخطيط (موتر 1D لنوع الفهرس). |
result_layouts | ::mlir::ArrayAttr | مجموعة من سمات التخطيط (موتر 1D لنوع الفهرس). |
output_operand_aliases | ::mlir::ArrayAttr | سمة مستعارة لمخرجات ومعاملات CustomCall |
المتعاملات:
المتعامل | وصف |
---|---|
inputs | متغير الموتر من 4/6/8/16/32/64 بت تعويم أو منطقي أو 2/4/8/16/32/64 بت عدد صحيح أو نوع معقد مع عناصر عائمة 32/64 بت أو عدد صحيح لكل موتر قيم كمية أو عدد صحيح لكل محور أو memref من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت عدد صحيح أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو رمز مميز أو صف متداخل مع أي مجموعة من الموتر من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع تعويم 32/64 بت عناصر أو عدد صحيح لكل موتر أو القيم الكمية الصحيحة لكل محور أو memref من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت عدد صحيح أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم رمزية |
نتائج:
نتيجة | وصف |
---|---|
«غير مسمى» | متغير الموتر من 4/6/8/16/32/64 بت تعويم أو منطقي أو 2/4/8/16/32/64 بت عدد صحيح أو نوع معقد مع عناصر عائمة 32/64 بت أو عدد صحيح لكل موتر قيم كمية أو عدد صحيح لكل محور أو memref من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت عدد صحيح أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو رمز مميز أو صف متداخل مع أي مجموعة من الموتر من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع تعويم 32/64 بت عناصر أو عدد صحيح لكل موتر أو القيم الكمية الصحيحة لكل محور أو memref من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت عدد صحيح أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم رمزية |
mhlo.divide
(mhlo::DivOp)
عملية القسم
بناء الجملة:
operation ::= `mhlo.divide` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
ينفذ تقسيمًا حسب العناصر لموترات المقسومات lhs
والمقسوم rhs
وينتج موترًا result
.
راجع: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#divide
مثال:
%result = mhlo.divide %lhs, %rhs : tensor<4xf32>
السمات: AlwaysSpeculatableImplTrait
، CompatibleOperandsAndResultType
، Elementwise
، SameOperandsAndResultShape
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
lhs | موتر مُصنف من عدد صحيح 2/4/8/16/32/64 بت أو عدد صحيح 4/6/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
rhs | موتر مُصنف من عدد صحيح 2/4/8/16/32/64 بت أو عدد صحيح 4/6/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
نتائج:
نتيجة | وصف |
---|---|
result | موتر مُصنف من عدد صحيح 2/4/8/16/32/64 بت أو عدد صحيح 4/6/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
mhlo.domain
(mhlo::DomainOp)
عملية المجال
هذه العملية خاصة بمترجم XLA، لذا فهي لا تحتوي على مواصفات بعد.
بشكل غير رسمي، يتم استخدام هذه العمليات لتجميع التعليمات بنفس خاصية DomainMetadata. ShardingMetadata هي حالة الاستخدام الرئيسية اليوم لتجميع التعليمات على نفس الجهاز. توفر تعليمات المجال فائدتين رئيسيتين:
- منع تحسين التعليمات عبر المجالات عن غير قصد.
- قم بتعيين البيانات التعريفية للتعليمات التي تم إنشاؤها في المجال تلقائيًا. بدون تعليمات المجال، سيتعين على كل تمريرة تحسين HLO التحقق من البيانات التعريفية ونشرها، وهو ما سيكون من السهل تفويته ويضيف أيضًا تعقيدًا إلى المترجم. نظرًا لأن تعليمات المجال تربط بين مجالين مختلفين، فإن كل تعليمة مجال ترتبط ببيانات DomainMetadata - واحدة على جانب المعامل وواحدة على جانب المستخدم للمجال.
السمات: AlwaysSpeculatableImplTrait
و CompatibleOperandsAndResultType
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
صفات:
يصف | نوع ملير | وصف |
---|---|---|
kind | ::mlir::mhlo::DomainKindAttr | نوع بيانات تعريف المجال المرتبطة بمجال HLO. |
entry_metadata | ::mlir::StringAttr | سمة السلسلة |
exit_metadata | ::mlir::StringAttr | سمة السلسلة |
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر مُصنف من 4/6/8/16/32/64 بت عائم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية عددية لكل موتر أو موتر مُرتب للقيم الكمية أو الرمز المميز لكل عدد صحيح |
نتائج:
نتيجة | وصف |
---|---|
result | موتر مُصنف من 4/6/8/16/32/64 بت عائم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية عددية لكل موتر أو موتر مُرتب للقيم الكمية أو الرمز المميز لكل عدد صحيح |
mhlo.dot
(mhlo::DotOp)
عملية نقطة
هذه العملية في طريقها للخروج من StableHLO، لذا لم يتم تضمينها في المواصفات: https://github.com/openxla/stablehlo/issues/3
بشكل غير رسمي، تقوم هذه العملية بنفس الشيء الذي تقوم به عملية XLA's Dot: https://www.tensorflow.org/xla/operation_semantics#dot
مثال:
%0 = mhlo.dot %arg0, %arg1 : (tensor<1x2xi32>, tensor<2x1xi32>) -> tensor<1x1xi32>
السمات: AlwaysSpeculatableImplTrait
الواجهات: ConditionallySpeculatable
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
صفات:
يصف | نوع ملير | وصف |
---|---|---|
precision_config | ::mlir::ArrayAttr | سمة التكوين الدقيق |
المتعاملات:
المتعامل | وصف |
---|---|
lhs | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
rhs | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
نتائج:
نتيجة | وصف |
---|---|
«غير مسمى» | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
mhlo.dot_general
(mhlo::DotGeneralOp)
عملية نقطة عامة
يحسب منتجات النقطة بين شرائح lhs
وشرائح rhs
وينتج موتر result
.
راجع: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#dot_general
مثال:
%result = "mhlo.dot_general"(%lhs, %rhs) {
dot_dimension_numbers = #mhlo.dot<
lhs_batching_dimensions = [0],
rhs_batching_dimensions = [0],
lhs_contracting_dimensions = [2],
rhs_contracting_dimensions = [1]
>,
precision_config = [#stablehlo<precision DEFAULT>, #stablehlo<precision DEFAULT>]
} : (tensor<2x2x2xi32>, tensor<2x2x2xi32>) -> tensor<2x2x2xi32>
السمات: AlwaysSpeculatableImplTrait
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
صفات:
يصف | نوع ملير | وصف |
---|---|---|
dot_dimension_numbers | ::mlir::mhlo::DotDimensionNumbersAttr | السمة التي تمثل معلومات البعد للنقطة. |
precision_config | ::mlir::ArrayAttr | سمة التكوين الدقيق |
algorithm | ::mlir::mhlo::DotAlgorithmAttr | السمة التي تمثل قيود الخوارزمية المستخدمة في حساب النقطة. |
المتعاملات:
المتعامل | وصف |
---|---|
lhs | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
rhs | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
نتائج:
نتيجة | وصف |
---|---|
«غير مسمى» | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
mhlo.dynamic_broadcast_in_dim
(mhlo::DynamicBroadcastInDimOp)
عملية DynamicBroadcastInDim
هذه العملية مماثلة وظيفيًا لـ broadcast_in_dim op، ولكن يتم تحديد شكل النتيجة ديناميكيًا عبر output_dimensions
.
كما يقبل أيضًا سمات اختيارية للتعبير عن المعرفة الثابتة حول السلوك المتوسع للأبعاد. إذا لم يتم تحديدها، فمن المفترض أن تكون جميع الأبعاد قابلة للتوسع. يجب أن تكون مجموعات الأبعاد المعروفة بأنها تتوسع ومجموعة الأبعاد المعروفة بأنها غير قابلة للتوسع منفصلة ويجب أن تكون مجموعة فرعية من أبعاد المعامل.
راجع: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#dynamic_broadcast_in_dim
مثال:
%operand = mhlo.constant dense<[[1, 2, 3]]> : tensor<1x3xi64>
%output_dimensions = mhlo.constant dense<[2, 3, 2]> : tensor<3xi64>
%result = "mhlo.dynamic_broadcast_in_dim"(%operand, %output_dimensions) {
broadcast_dimensions = array<i64: 2, 1>,
known_expanding_dimensions = array<i64: 0>,
known_nonexpanding_dimensions = array<i64: 1>
} : (tensor<1x3xi64>, tensor<3xi64>) -> tensor<2x3x2xi64>
السمات: AlwaysSpeculatableImplTrait
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
صفات:
يصف | نوع ملير | وصف |
---|---|---|
broadcast_dimensions | ::mlir::DenseIntElementsAttr | سمة العناصر الصحيحة بدون إشارة 64 بت |
known_expanding_dimensions | ::mlir::DenseIntElementsAttr | سمة العناصر الصحيحة بدون إشارة 64 بت |
known_nonexpanding_dimensions | ::mlir::DenseIntElementsAttr | سمة العناصر الصحيحة بدون إشارة 64 بت |
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
output_dimensions | موتر 1D للفهرس أو قيم عددية 2/4/8/16/32/64 بت |
نتائج:
نتيجة | وصف |
---|---|
«غير مسمى» | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
mhlo.dynamic_conv
(mhlo::DynamicConvOp)
عملية DynamicConv
هذه العملية قيد التنفيذ، لذا لم يتم تضمينها بعد في المواصفات: https://github.com/openxla/stablehlo/issues/8
بشكل غير رسمي، تقوم هذه العملية بنفس الشيء مثل ConvolutionOp باستثناء أنه يتم تحديد padding
ديناميكيًا عبر d_padding
: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#convolution
مثال:
%result = "mhlo.dynamic_conv"(%lhs, %rhs, %d_padding) {
window_strides = dense<4> : tensor<2xi64>,
lhs_dilation = dense<2> : tensor<2xi64>,
rhs_dilation = dense<1> : tensor<2xi64>,
window_reversal = dense<false> : tensor<2xi1>,
dimension_numbers = #mhlo.conv<[b, 0, 1, f]x[0, 1, i, o]->[b, 0, 1, f]>,
feature_group_count = 1 : i64,
batch_group_count = 1 : i64,
precision_config = [#stablehlo<precision DEFAULT>, #stablehlo<precision DEFAULT>]
} : (tensor<1x4x4x1xi32>, tensor<3x3x1x1xi32>, tensor<2x2xi64>) -> tensor<1x2x2x1xi32>
السمات: AlwaysSpeculatableImplTrait
الواجهات: ConditionallySpeculatable
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
صفات:
يصف | نوع ملير | وصف |
---|---|---|
window_strides | ::mlir::DenseIntElementsAttr | سمة العناصر الصحيحة بدون إشارة 64 بت |
padding | ::mlir::DenseIntElementsAttr | سمة العناصر الصحيحة بدون إشارة 64 بت |
lhs_dilation | ::mlir::DenseIntElementsAttr | سمة العناصر الصحيحة بدون إشارة 64 بت |
rhs_dilation | ::mlir::DenseIntElementsAttr | سمة العناصر الصحيحة بدون إشارة 64 بت |
window_reversal | ::mlir::DenseElementsAttr | سمة المتجه/الموتر المنطقية الثابتة |
dimension_numbers | ::mlir::mhlo::ConvDimensionNumbersAttr | بنية معلومات البعد لعملية التحويل |
feature_group_count | ::mlir::IntegerAttr | سمة عدد صحيح بدون إشارة 64 بت وقيمتها موجبة |
batch_group_count | ::mlir::IntegerAttr | سمة عدد صحيح بدون إشارة 64 بت وقيمتها موجبة |
precision_config | ::mlir::ArrayAttr | سمة التكوين الدقيق |
المتعاملات:
المتعامل | وصف |
---|---|
lhs | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
rhs | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
d_padding | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
نتائج:
نتيجة | وصف |
---|---|
«غير مسمى» | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
mhlo.dynamic_gather
(mhlo::DynamicGatherOp)
عملية DynamicGather
هذه العملية قيد التنفيذ، لذا لم يتم تضمينها بعد في المواصفات: https://github.com/openxla/stablehlo/issues/8
بشكل غير رسمي، تقوم هذه العملية بنفس الشيء مثل GatherOp باستثناء أنه يتم تحديد slice_sizes
ديناميكيًا: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#gather
مثال:
%result = "mhlo.dynamic_gather"(%operand, %start_indices, %slice_sizes) {
dimension_numbers = #mhlo.gather<
offset_dims = [2, 3],
collapsed_slice_dims = [0],
start_index_map = [0, 2],
index_vector_dim = 2>,
indices_are_sorted = false
} : (tensor<3x4x2xi32>, tensor<2x3x2xi64>, tensor<3xi64>) -> tensor<2x3x2x2xi32>
السمات: AlwaysSpeculatableImplTrait
، InferTensorType
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
صفات:
يصف | نوع ملير | وصف |
---|---|---|
dimension_numbers | ::mlir::mhlo::GatherDimensionNumbersAttr | السمة التي تمثل معلومات البعد للتجميع |
indices_are_sorted | ::mlir::BoolAttr | سمة منطقية |
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
start_indices | موتر مرتب لقيم عددية 2/4/8/16/32/64 بت |
slice_sizes | موتر عدد صحيح أحادي البعد ذو شكل ثابت لقيم عددية 2/4/8/16/32/64 بت |
نتائج:
نتيجة | وصف |
---|---|
«غير مسمى» | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
mhlo.dynamic_iota
(mhlo::DynamicIotaOp)
عملية DynamicIota
هذه العملية مطابقة وظيفيًا لعملية iota op، ولكن يتم تحديد شكل النتيجة ديناميكيًا عبر output_shape
.
راجع: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#dynamic_iota
مثال:
%0 = mhlo.dynamic_iota %arg0, dim = 0 : (tensor<1xindex>) -> tensor<4xi32>
السمات: AlwaysSpeculatableImplTrait
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
صفات:
يصف | نوع ملير | وصف |
---|---|---|
iota_dimension | ::mlir::IntegerAttr | سمة عدد صحيح بدون إشارة 64 بت وقيمتها غير سالبة |
المتعاملات:
المتعامل | وصف |
---|---|
output_shape | موتر 1D للفهرس أو قيم عددية 2/4/8/16/32/64 بت |
نتائج:
نتيجة | وصف |
---|---|
result | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
mhlo.dynamic_pad
(mhlo::DynamicPadOp)
تشغيل لوحة ديناميكية
بناء الجملة:
operation ::= `mhlo.dynamic_pad` operands attr-dict `:` functional-type(operands, results)
يقوم بتبطين operand
ديناميكيًا، مع تمرير كمية الحشو المضافة عند النهاية المنخفضة/الراقية/الداخلية من خلال موتر الإدخال.
السمات: AlwaysSpeculatableImplTrait
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
padding_value | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
edge_padding_low | موتر 1D للفهرس أو قيم عددية 2/4/8/16/32/64 بت |
edge_padding_high | موتر 1D للفهرس أو قيم عددية 2/4/8/16/32/64 بت |
interior_padding | موتر 1D للفهرس أو قيم عددية 2/4/8/16/32/64 بت |
نتائج:
نتيجة | وصف |
---|---|
result | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
mhlo.dynamic_reshape
(mhlo::DynamicReshapeOp)
عملية إعادة التشكيل الديناميكي
بناء الجملة:
operation ::= `mhlo.dynamic_reshape` operands attr-dict `:` functional-type(operands, results)
هذه العملية مطابقة وظيفيًا لعملية reshape op، ولكن يتم تحديد شكل النتيجة ديناميكيًا عبر output_shape
.
راجع: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#dynamic_reshape
مثال:
%output_shape = mhlo.constant dense<[3, 2]> : tensor<2xi64>
%result = mhlo.dynamic_reshape %operand, %output_shape : (tensor<2x3xi64>, tensor<2xi64>) -> tensor<3x2xi64>
السمات: AlwaysSpeculatableImplTrait
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
output_shape | موتر 1D للفهرس أو قيم عددية 2/4/8/16/32/64 بت |
نتائج:
نتيجة | وصف |
---|---|
result | موتر من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
mhlo.dynamic_slice
(mhlo::DynamicSliceOp)
عملية شريحة ديناميكية
يستخرج شريحة من operand
باستخدام مؤشرات البداية المحسوبة ديناميكيًا وينتج موتر result
.
راجع: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#dynamic_slice
مثال:
%result = mhlo.dynamic_slice %operand, %start_indices0, %start_indices1, sizes = [2, 2]
: (tensor<4x4xi32>, tensor<i64>, tensor<i64>) -> tensor<2x2xi32>
السمات: AlwaysSpeculatableImplTrait
، InferTensorType
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
صفات:
يصف | نوع ملير | وصف |
---|---|---|
slice_sizes | ::mlir::DenseIntElementsAttr | سمة العناصر الصحيحة بدون إشارة 64 بت |
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
start_indices | متغير من موتر 0D لقيم عددية 2/4/8/16/32/64 بت |
نتائج:
نتيجة | وصف |
---|---|
result | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
mhlo.dynamic_update_slice
(mhlo::DynamicUpdateSliceOp)
عملية DynamicUpdateSlice
بناء الجملة:
operation ::= `mhlo.dynamic_update_slice` operands attr-dict `:` functional-type(operands, results)
يُنتج موتر result
يساوي موتر operand
باستثناء أن الشريحة التي تبدأ عند start_indices
يتم تحديثها بالقيم الموجودة في update
.
راجع: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#dynamic_update_slice
مثال:
%result = mhlo.dynamic_update_slice %operand, %update, %start_indices0, %start_indices1
: (tensor<4x4xi32>, tensor<2x2xi32>, tensor<i64>, tensor<i64>) -> tensor<4x4xi32>
السمات: AlwaysSpeculatableImplTrait
، InferTensorType
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
update | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
start_indices | متغير من موتر 0D لقيم عددية 2/4/8/16/32/64 بت |
نتائج:
نتيجة | وصف |
---|---|
result | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
mhlo.einsum
(mhlo::EinsumOp)
عملية عينسوم
هذه العملية في طريقها للخروج من StableHLO، لذا لم يتم تضمينها في المواصفات: https://github.com/openxla/stablehlo/issues/3
بشكل غير رسمي، تقوم هذه العملية بنفس الشيء مثل einsum الخاص بـ TF: https://www.tensorflow.org/api_docs/python/tf/einsum
مثال:
%result = "mhlo.einsum"(%lhs, %rhs) {
einsum_config = "ab,bc->ac"
} : (tensor<4x16xf32>, tensor<16x4xf32>) -> tensor<4x4xf32>
السمات: AlwaysSpeculatableImplTrait
الواجهات: ConditionallySpeculatable
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
صفات:
يصف | نوع ملير | وصف |
---|---|---|
einsum_config | ::mlir::StringAttr | سمة السلسلة |
المتعاملات:
المتعامل | وصف |
---|---|
lhs | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
rhs | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
نتائج:
نتيجة | وصف |
---|---|
«غير مسمى» | موتر مُصنف من 4/6/8/16/32/64 بت تعويم أو منطقي أو عدد صحيح 2/4/8/16/32/64 بت أو نوع معقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر أو قيم كمية صحيحة لكل محور |
mhlo.erf
(mhlo::ErfOp)
عملية إرف
بناء الجملة:
operation ::= `mhlo.erf` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
ينفذ عملية erf على موتر operand
وينتج result
موتر.
مثال:
%result = mhlo.erf %operand : tensor<2x2xf32>
السمات: AlwaysSpeculatableImplTrait
، CompatibleOperandsAndResultType
، Elementwise
، SameOperandsAndResultShape
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر مصنف لقيم تعويم 4/6/8/16/32/64 بت |
نتائج:
نتيجة | وصف |
---|---|
result | موتر مصنف لقيم تعويم 4/6/8/16/32/64 بت |
mhlo.exponential
(mhlo::ExpOp)
عملية إكسب
بناء الجملة:
operation ::= `mhlo.exponential` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
ينفذ عملية أسية على أساس العنصر على موتر operand
وينتج موتر result
.
راجع: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#exponential
مثال:
%result = mhlo.exponential %operand : tensor<2x2xf64>
السمات: AlwaysSpeculatableImplTrait
، CompatibleOperandsAndResultType
، Elementwise
، SameOperandsAndResultShape
الواجهات: ConditionallySpeculatable
، InferShapedTypeOpInterface
، InferTypeOpInterface
، NoMemoryEffect (MemoryEffectOpInterface)
التأثيرات: MemoryEffects::Effect{}
صفات:
يصف | نوع ملير | وصف |
---|---|---|
result_accuracy | ::mlir::mhlo::ResultAccuracyAttr | الدقة المطلوبة للعمليات الأحادية. |
المتعاملات:
المتعامل | وصف |
---|---|
operand | موتر مصنف من 4/6/8/16/32/64 بت من النوع العائم أو المعقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر |
نتائج:
نتيجة | وصف |
---|---|
result | موتر مصنف من 4/6/8/16/32/64 بت من النوع العائم أو المعقد مع عناصر عائمة 32/64 بت أو قيم كمية صحيحة لكل موتر |
mhlo.exponential_minus_one
(mhlo::Expm1Op)
عملية Expm1
بناء الجملة:
operation ::= `mhlo.exponential_minus_one` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
ينفذ عملية أسية من حيث العناصر ناقص واحدة على موتر operand
وينتج موتر result
.
راجع: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#exponential_minus_one
مثال:
%result = mhlo.exponential_minus_one %operand : tensor<2xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
صفات:
يصف | MLIR Type | وصف |
---|---|---|
result_accuracy | ::mlir::mhlo::ResultAccuracyAttr | The requested accuracy for unary ops. |
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
mhlo.fft
(mhlo::FftOp)
Fft operation
Performs the forward and inverse Fourier transforms for real and complex inputs/outputs.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#fft
مثال:
%result = mhlo.fft %operand, type = FFT, length = [4] : (tensor<4xcomplex<f32>>) -> tensor<4xcomplex<f32>>
Traits: AlwaysSpeculatableImplTrait
, InferTensorType
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
صفات:
يصف | MLIR Type | وصف |
---|---|---|
fft_type | ::mlir::mhlo::FftTypeAttr | XLA fast fourier transform type. |
fft_length | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.floor
(mhlo::FloorOp)
Floor operation
بناء الجملة:
operation ::= `mhlo.floor` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise floor of operand
tensor and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#floor
مثال:
%result = mhlo.floor %operand : tensor<2xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or per-tensor integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or per-tensor integer quantized values |
mhlo.fusion
(mhlo::FusionOp)
Fusion operation
This operation is private to the XLA compiler, so it is does not yet have a specification.
Informally, this operation consists of a group of basic ops (represented as a region attached to it). It serves as a hint to the backend that it is beneficial to emit the contained ops into a single loop nest or kernel.
صفات:
يصف | MLIR Type | وصف |
---|---|---|
fusion_kind | ::mlir::mhlo::FusionKindAttr | fusion kind |
output_operand_aliases | ::mlir::ArrayAttr | Aliasing attribute for outputs and operands of Fusion |
المتعاملات:
المتعامل | وصف |
---|---|
inputs | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or ranked tensor of per-axis integer quantized values or token |
نتائج:
نتيجة | وصف |
---|---|
results | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values or nested tuple with any combination of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or memref of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or ranked tensor of per-axis integer quantized values or token values |
mhlo.gather
(mhlo::GatherOp)
Gather operation
Gathers slices from operand
tensor from offsets specified in start_indices
and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#gather
مثال:
%result = "mhlo.gather"(%operand, %start_indices) {
dimension_numbers = #stablehlo.gather<
offset_dims = [3, 4],
collapsed_slice_dims = [1],
operand_batching_dims = [0],
start_indices_batching_dims = [1],
start_index_map = [2, 1],
index_vector_dim = 3>,
slice_sizes = dense<[0, 2, 2]> : tensor<3xi64>,
indices_are_sorted = false
} : (tensor<2x3x4x2xi64>, tensor<2x2x3x2xi64>) -> tensor<2x2x3x2x2xi64>
Traits: AlwaysSpeculatableImplTrait
, InferTensorType
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
صفات:
يصف | MLIR Type | وصف |
---|---|---|
dimension_numbers | ::mlir::mhlo::GatherDimensionNumbersAttr | Attribute that models the dimension information for gather |
slice_sizes | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
indices_are_sorted | ::mlir::BoolAttr | bool attribute |
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
start_indices | ranked tensor of 2/4/8/16/32/64-bit integer values |
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.get_dimension_size
(mhlo::GetDimensionSizeOp)
GetDimensionSize operation
Produces the size of the given dimension
of the operand
.
See https://github.com/openxla/stablehlo/blob/main/docs/spec.md#get_dimension_size
مثال:
%result = mhlo.get_dimension_size %operand, dim = 1 : (tensor<2x3xf32>) -> tensor<i32>
Traits: AlwaysSpeculatableImplTrait
, InferTensorType
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
صفات:
يصف | MLIR Type | وصف |
---|---|---|
dimension | ::mlir::IntegerAttr | 64-bit signless integer attribute whose value is non-negative |
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | tensor of 32-bit signless integer values |
mhlo.get_tuple_element
(mhlo::GetTupleElementOp)
GetTupleElement operation
بناء الجملة:
operation ::= `mhlo.get_tuple_element` $operand `[` $index `]` attr-dict `:` functional-type(operands, results)
Extracts element at index
position of the operand
tuple and produces a result
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#get_tuple_element
مثال:
%result = mhlo.get_tuple_element %operand[0] : (tuple<tensor<2xf32>, tuple<tensor<i32>>>) -> tensor<2xf32>
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
صفات:
يصف | MLIR Type | وصف |
---|---|---|
index | ::mlir::IntegerAttr | 32-bit signless integer attribute whose value is non-negative |
المتعاملات:
المتعامل | وصف |
---|---|
operand | nested tuple with any combination of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or memref of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or ranked tensor of per-axis integer quantized values or token values |
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values or token or nested tuple with any combination of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or memref of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or ranked tensor of per-axis integer quantized values or token values or memref of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values |
mhlo.if
(mhlo::IfOp)
If operation
Produces the output from executing exactly one branch from true_branch
or false_branch
depending on the value of pred
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#if
Example: %result = "mhlo.if"(%pred) ({ "mhlo.return"(%result_true_branch) : (tensor
Traits: RecursiveMemoryEffects
, SingleBlockImplicitTerminator<ReturnOp>
, SingleBlock
Interfaces: InferTypeOpInterface
المتعاملات:
المتعامل | وصف |
---|---|
pred | ranked tensor of bool values |
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or ranked tensor of per-axis integer quantized values or token |
mhlo.imag
(mhlo::ImagOp)
Imag operation
بناء الجملة:
operation ::= `mhlo.imag` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Extracts the imaginary part, element-wise, from the operand
and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#imag
مثال:
%result = mhlo.imag %operand : (tensor<2xcomplex<f32>>) -> tensor<2xf32>
Traits: AlwaysSpeculatableImplTrait
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float values |
mhlo.infeed
(mhlo::InfeedOp)
Infeed operation
Reads data from the infeed and produces results
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#infeed
مثال:
%results:2 = "mhlo.infeed"(%token) {
infeed_config = ""
} : (!mhlo.token) -> (tensor<3x3x3xi32>, !mhlo.token)
صفات:
يصف | MLIR Type | وصف |
---|---|---|
infeed_config | ::mlir::StringAttr | string attribute |
layout | ::mlir::ArrayAttr | array attribute |
المتعاملات:
المتعامل | وصف |
---|---|
token | الرمز المميز |
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | variadic of statically shaped tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or statically shaped tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values or token |
mhlo.iota
(mhlo::IotaOp)
Iota operation
Fills an output
tensor with values in increasing order starting from zero along the iota_dimension
dimension.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#iota
مثال:
%output = mhlo.iota dim = 0 : tensor<4x5xi32>
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
صفات:
يصف | MLIR Type | وصف |
---|---|---|
iota_dimension | ::mlir::IntegerAttr | 64-bit signless integer attribute whose value is non-negative |
نتائج:
نتيجة | وصف |
---|---|
output | statically shaped tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements values |
mhlo.is_finite
(mhlo::IsFiniteOp)
IsFinite operation
بناء الجملة:
operation ::= `mhlo.is_finite` $x attr-dict `:` functional-type(operands, results)
Performs element-wise check whether the value in x
is finite (ie is neither +Inf, -Inf, nor NaN) and produces a y
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#is_finite
مثال:
%y = mhlo.is_finite %x : (tensor<7xf32>) -> tensor<7xi1>
Traits: AlwaysSpeculatableImplTrait
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
x | ranked tensor of 4/6/8/16/32/64-bit float values |
نتائج:
نتيجة | وصف |
---|---|
y | ranked tensor of bool values |
mhlo.log
(mhlo::LogOp)
Log operation
بناء الجملة:
operation ::= `mhlo.log` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise logarithm operation on operand
tensor and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#log
مثال:
%result = mhlo.log %operand : tensor<2x2xf64>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
صفات:
يصف | MLIR Type | وصف |
---|---|---|
result_accuracy | ::mlir::mhlo::ResultAccuracyAttr | The requested accuracy for unary ops. |
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
mhlo.log_plus_one
(mhlo::Log1pOp)
Log1p operation
بناء الجملة:
operation ::= `mhlo.log_plus_one` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise logarithm plus one operation on operand
tensor and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#log_plus_one
مثال:
%result = mhlo.log_plus_one %operand : tensor<6xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
صفات:
يصف | MLIR Type | وصف |
---|---|---|
result_accuracy | ::mlir::mhlo::ResultAccuracyAttr | The requested accuracy for unary ops. |
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
mhlo.logistic
(mhlo::LogisticOp)
Logistic operation
بناء الجملة:
operation ::= `mhlo.logistic` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise logistic operation on operand
tensor and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#logistic
مثال:
%result = mhlo.logistic %operand : tensor<2x2xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
صفات:
يصف | MLIR Type | وصف |
---|---|---|
result_accuracy | ::mlir::mhlo::ResultAccuracyAttr | The requested accuracy for unary ops. |
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
mhlo.map
(mhlo::MapOp)
Map operation
Applies a map function computation
to inputs
along the dimensions
and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#map
مثال:
%result = "mhlo.map"(%input0, %input1) ({
^bb0(%arg0: tensor<i32>, %arg1: tensor<i32>):
%0 = mhlo.multiply %arg0, %arg1 : tensor<i32>
mhlo.return %0 : tensor<i32>
}) {
dimensions = dense<[0, 1]> : tensor<2xi64>
} : (tensor<2x2xi32>, tensor<2x2xi32>) -> tensor<2x2xi32>
Traits: InferTensorType
, RecursiveMemoryEffects
, SameOperandsAndResultShape
, SingleBlockImplicitTerminator<ReturnOp>
, SingleBlock
Interfaces: InferShapedTypeOpInterface
, InferTypeOpInterface
صفات:
يصف | MLIR Type | وصف |
---|---|---|
dimensions | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
المتعاملات:
المتعامل | وصف |
---|---|
inputs | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.maximum
(mhlo::MaxOp)
Max operation
بناء الجملة:
operation ::= `mhlo.maximum` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
Performs element-wise max operation on tensors lhs
and rhs
and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#maximum
مثال:
%result = mhlo.maximum %lhs, %rhs : tensor<4xf32>
Traits: AlwaysSpeculatableImplTrait
, Commutative
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
lhs | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
rhs | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.minimum
(mhlo::MinOp)
Min operation
بناء الجملة:
operation ::= `mhlo.minimum` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
Performs element-wise min operation on tensors lhs
and rhs
and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#minimum
مثال:
%result = mhlo.minimum %lhs, %rhs : tensor<4xf32>
Traits: AlwaysSpeculatableImplTrait
, Commutative
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
lhs | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
rhs | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.minimum_broadcast_shapes
(mhlo::MinimumBroadcastShapesOp)
Minimizes the rank of two or more shapes to be broadcasted
بناء الجملة:
operation ::= `mhlo.minimum_broadcast_shapes` $shapes attr-dict `:` type($shapes) `->` type($results)
Given two or more 1D tensors representing shapes, returns one 1D tensor for each operand, where operand i
corresponds to output i
.
The returned tensors have the property that they specify a shape which is a reshape of the corresponding input shape, and the broadcasted output shape (using shape::BroadcastOp) of the returned shapes is a reshape of the broadcasted output shape of the input shapes. Among all possibilities with this property, the one is chosen which minimizes the rank of each returned shape.
The general idea of this op is that it can be used for ops which have a broadcasting semantic to operate on shapes with a possibly smaller rank while preserving equivalence of the computed values. After computing the result of the op using reshaped operands, the result can be reshaped to the result that would have been originally computed.
Here is an example with two input shapes:
mhlo.minimum_broadcast_shapes [1, 2, 3, 1, 2, 1],
[1, 1, 1, 2, 3] -> [6, 2, 1], [2, 3]
The broadcasted output shape of the operands is [1, 2, 3, 1, 2, 3], the broadcasted output shape of the outputs is [6, 2, 3]. These two shapes are reshapes of each other, and also each output is a reshape of the corresponding input.
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
shapes | variadic of 1D tensor of index values |
نتائج:
نتيجة | وصف |
---|---|
results | variadic of 1D tensor of index values |
mhlo.multiply
(mhlo::MulOp)
Mul operation
بناء الجملة:
operation ::= `mhlo.multiply` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
Performs element-wise product of two tensors lhs
and rhs
and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#multiply
مثال:
%result = mhlo.multiply %lhs, %rhs : tensor<2xi32>
Traits: AlwaysSpeculatableImplTrait
, Commutative
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
lhs | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
rhs | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.negate
(mhlo::NegOp)
Neg operation
بناء الجملة:
operation ::= `mhlo.negate` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise negation of operand
tensor and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#negate
مثال:
%result = mhlo.negate %operand : tensor<2x3xi32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.not
(mhlo::NotOp)
Not operation
بناء الجملة:
operation ::= `mhlo.not` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise NOT of tensor operand
of type integer and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#not
مثال:
%result = mhlo.not %operand : tensor<5x3x1xi1>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of bool or 2/4/8/16/32/64-bit integer values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of bool or 2/4/8/16/32/64-bit integer values |
mhlo.optimization_barrier
(mhlo::OptimizationBarrierOp)
OptimizationBarrier operation
بناء الجملة:
operation ::= `mhlo.optimization_barrier` attr-dict ($operand^ `:` custom<PairwiseOpType>(type($operand), type($result))):(`(` `)`)?
Ensures that the operations that produce the operand
are executed before any operations that depend on the result
and prevents compiler transformations from moving operations across the barrier. Other than that, the operation is an identity, ie result
= operand
.
See https://github.com/openxla/stablehlo/blob/main/docs/spec.md#optimization_barrier
مثال:
%result0, %result1 = mhlo.optimization_barrier %operand0, %operand1 : tensor<f32>, tensor<f32>
Traits: AlwaysSpeculatableImplTrait
, HLO_PairwiseSameOperandAndResultType
Interfaces: ConditionallySpeculatable
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
operand | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or ranked tensor of per-axis integer quantized values or token |
نتائج:
نتيجة | وصف |
---|---|
result | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or ranked tensor of per-axis integer quantized values or token |
mhlo.or
(mhlo::OrOp)
Or operation
بناء الجملة:
operation ::= `mhlo.or` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
Performs element-wise OR of two tensors lhs
and rhs
and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#or
مثال:
%result = mhlo.or %lhs, %rhs : tensor<2xi1>
Traits: AlwaysSpeculatableImplTrait
, Commutative
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
lhs | ranked tensor of bool or 2/4/8/16/32/64-bit integer values |
rhs | ranked tensor of bool or 2/4/8/16/32/64-bit integer values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.outfeed
(mhlo::OutfeedOp)
Outfeed operation
Writes inputs
to the outfeed and produces a result
token.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#outfeed
مثال:
%result = "mhlo.outfeed"(%input0, %token) {
outfeed_config = ""
} : (tensor<3x3x3xi32>, !mhlo.token) -> !mhlo.token
Interfaces: InferTypeOpInterface
صفات:
يصف | MLIR Type | وصف |
---|---|---|
outfeed_config | ::mlir::StringAttr | string attribute |
المتعاملات:
المتعامل | وصف |
---|---|
inputs | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
token | الرمز المميز |
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | الرمز المميز |
mhlo.pad
(mhlo::PadOp)
Pad operation
Expands operand
by padding around the tensor as well as between the elements of the tensor with the given padding_value
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#pad
مثال:
%0 = mhlo.pad %arg0, %arg1, low = [0, 1], high = [2, 1], interior = [1, 2]
: (tensor<2x3xi32>, tensor<i32>) -> tensor<5x9xi32>
Traits: AlwaysSpeculatableImplTrait
, SameOperandsAndResultElementType
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
صفات:
يصف | MLIR Type | وصف |
---|---|---|
edge_padding_low | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
edge_padding_high | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
interior_padding | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
padding_value | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.partition_id
(mhlo::PartitionIdOp)
PartitionId operation
بناء الجملة:
operation ::= `mhlo.partition_id` attr-dict `:` type(results)
Produces partition_id
of the current process.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#partition_id
مثال:
%result = mhlo.partition_id : tensor<ui32>
Interfaces: InferTypeOpInterface
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | ranked tensor of 32-bit unsigned integer values |
mhlo.popcnt
(mhlo::PopulationCountOp)
PopulationCount operation
بناء الجملة:
operation ::= `mhlo.popcnt` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise count of the number of bits set in the operand
tensor and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#popcnt
مثال:
%result = mhlo.popcnt %operand : tensor<4xi8>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 2/4/8/16/32/64-bit integer values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 2/4/8/16/32/64-bit integer values |
mhlo.power
(mhlo::PowOp)
Pow operation
بناء الجملة:
operation ::= `mhlo.power` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
Performs element-wise exponentiation of lhs
tensor by rhs
tensor and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#power
مثال:
%result = mhlo.power %lhs, %rhs : tensor<6xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
lhs | ranked tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
rhs | ranked tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.ragged_dot
(mhlo::RaggedDotOp)
Ragged matrix multiplication over a single ragged dimension
This operation takes three tensor args---lhs, rhs, and group_sizes---and a "ragged_dot_dimension_numbers" attribute. Like dot_general, the lhs and rhs are allowed arbitrary batch and contracting dimensions. Additionally, the lhs is required to have one ragged dimension, and the rhs may have at most one group dimension. The op has three modes, depending on the kind of the lhs ragged dimension.
In mode 1, the shape-signature is [b,m,k], [g,b,k,n], [b,g] -> [b,m,n]
. Here the ragged dimension is an lhs non-contracting dimension ( m
). The dimensions b
and k
represent batch and contracting dimensions respectively. The rhs is required to have a group dimension ( g
).
In mode 2, the shape-signature is [b,m,k], [b,k,n], [b,g] -> [g,b,m,n]
. Here the ragged dimension is an lhs/rhs contracting dimension ( k
).
In mode 3, the shape-signature is [b,m,k], [b,k,n], [g] -> [b,m,n]
. Here the ragged dimension is an lhs/rhs batch dimension ( b
).
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
صفات:
يصف | MLIR Type | وصف |
---|---|---|
ragged_dot_dimension_numbers | ::mlir::mhlo::RaggedDotDimensionNumbersAttr | Attribute that models the dimension information for ragged dot. |
precision_config | ::mlir::ArrayAttr | Precision Config attribute |
المتعاملات:
المتعامل | وصف |
---|---|
lhs | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
rhs | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
group_sizes | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values |
mhlo.real
(mhlo::RealOp)
Real operation
بناء الجملة:
operation ::= `mhlo.real` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Extracts the real part, element-wise, from the operand
and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#real
مثال:
%result = mhlo.real %operand : (tensor<2xcomplex<f32>>) -> tensor<2xf32>
Traits: AlwaysSpeculatableImplTrait
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float values |
mhlo.real_dynamic_slice
(mhlo::RealDynamicSliceOp)
RealDynamicSlice operation
بناء الجملة:
operation ::= `mhlo.real_dynamic_slice` operands attr-dict `:` functional-type(operands, results)
This operation is a work in progress, so it is not yet included in the specification: https://github.com/openxla/stablehlo/issues/8
Informally, this operation does the same thing as SliceOp except that start_indices
, limit_indices
and strides
are specified dynamically: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#slice
مثال:
%result = mhlo.real_dynamic_slice %operand,
%start_indices, %limit_indices, %strides
: (tensor<256x?xf32>, tensor<2xindex>, tensor<2xindex>, tensor<2xindex>) -> tensor<256x?xf32>
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
start_indices | 1D tensor of index or 2/4/8/16/32/64-bit integer values |
limit_indices | 1D tensor of index or 2/4/8/16/32/64-bit integer values |
strides | 1D tensor of index or 2/4/8/16/32/64-bit integer values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.recv
(mhlo::RecvOp)
Recv operation
Receives data from a channel with channel_id
and produces results
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#recv
مثال:
%results:2 = "mhlo.recv"(%token) {
// channel_id = 5 : i64,
// channel_type = #stablehlo<channel_type DEVICE_TO_DEVICE>,
channel_handle = #mhlo.channel_handle<handle = 5, type = 1>,
is_host_transfer = false,
source_target_pairs = dense<[[0, 1], [1, 2]]> : tensor<2x2xi64>
} : (!mhlo.token) -> (tensor<3x4xi32>, !mhlo.token)
صفات:
يصف | MLIR Type | وصف |
---|---|---|
channel_handle | ::mlir::mhlo::ChannelHandleAttr | two 64-bit integers 'handle' and 'type' |
is_host_transfer | ::mlir::BoolAttr | bool attribute |
source_target_pairs | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
المتعاملات:
المتعامل | وصف |
---|---|
token | الرمز المميز |
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | variadic of statically shaped tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or statically shaped tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values or token |
mhlo.reduce
(mhlo::ReduceOp)
Reduce operation
Applies a reduction function body
to inputs
and init_values
along the dimensions
and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#reduce
مثال:
%result = "mhlo.reduce"(%input, %init_value) ({
^bb0(%arg0: tensor<i32>, %arg1: tensor<i32>):
%0 = "mhlo.add"(%arg0, %arg1) : (tensor<i32>, tensor<i32>) -> tensor<i32>
"mhlo.return"(%0) : (tensor<i32>) -> ()
}) {
dimensions = dense<1> : tensor<1xi64>
} : (tensor<1x6xi32>, tensor<i32>) -> tensor<1xi32>
Traits: InferTensorType
, RecursiveMemoryEffects
, SameVariadicOperandSize
, SingleBlockImplicitTerminator<ReturnOp>
, SingleBlock
Interfaces: InferShapedTypeOpInterface
, InferTypeOpInterface
صفات:
يصف | MLIR Type | وصف |
---|---|---|
dimensions | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
المتعاملات:
المتعامل | وصف |
---|---|
inputs | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
init_values | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.reduce_precision
(mhlo::ReducePrecisionOp)
ReducePrecision operation
بناء الجملة:
operation ::= `mhlo.reduce_precision` $operand `,` `format` `=` custom<ExponentMantissa>($exponent_bits, $mantissa_bits)
attr-dict `:` custom<SameOperandsAndResultType>(type($operand), type($output))
Performs element-wise conversion of operand
to another floating-point type that uses exponent_bits
and mantissa_bits
and back to the original floating-point type and produces an output
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#reduce_precision
مثال:
%output = mhlo.reduce_precision %operand, format = e5m2 : tensor<6xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
صفات:
يصف | MLIR Type | وصف |
---|---|---|
exponent_bits | ::mlir::IntegerAttr | 32-bit signless integer attribute whose value is positive |
mantissa_bits | ::mlir::IntegerAttr | 32-bit signless integer attribute whose value is non-negative |
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float values |
نتائج:
نتيجة | وصف |
---|---|
output | ranked tensor of 4/6/8/16/32/64-bit float values |
mhlo.reduce_scatter
(mhlo::ReduceScatterOp)
ReduceScatter operation
Within each process group in the process grid, performs reduction, using computations
, over the values of the operand
tensor from each process, splits the reduction result along scatter_dimension
into parts, and scatters the split parts between the processes to produce the result
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#reduce_scatter
مثال:
%result = "mhlo.reduce_scatter"(%operand) ({
^bb0(%arg0: tensor<f32>, %arg1: tensor<f32>):
%0 = mhlo.add %arg0, %arg1 : tensor<f32>
mhlo.return %0 : tensor<f32>
}) {
scatter_dimension = 1 : i64,
replica_groups = dense<[[0, 1]]> : tensor<1x2xi64>,
// channel_id = 0
channel_handle = #mhlo.channel_handle<handle = 0, type = 0>
// use_global_device_ids = false
} : (tensor<2x4xf32>) -> tensor<2x2xf32>
صفات:
يصف | MLIR Type | وصف |
---|---|---|
scatter_dimension | ::mlir::IntegerAttr | 64-bit signless integer attribute whose value is non-negative |
replica_groups | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
channel_handle | ::mlir::mhlo::ChannelHandleAttr | two 64-bit integers 'handle' and 'type' |
use_global_device_ids | ::mlir::UnitAttr | unit attribute |
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.reduce_window
(mhlo::ReduceWindowOp)
ReduceWindow operation
Applies a reduction function body
to windows of inputs
and init_values
and produces results
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#reduce_window
مثال:
%result = "mhlo.reduce_window"(%input, %init_value) ({
^bb0(%arg0: tensor<i32>, %arg1: tensor<i32>):
%0 = mhlo.add %arg0, %arg1 : tensor<i32>
mhlo.return %0 : tensor<i32>
}) {
window_dimensions = dense<[2, 1]> : tensor<2xi64>,
window_strides = dense<[4, 1]> : tensor<2xi64>,
base_dilations = dense<[2, 1]> : tensor<2xi64>,
window_dilations = dense<[3, 1]> : tensor<2xi64>,
padding = dense<[[2, 1], [0, 0]]> : tensor<2x2xi64>
} : (tensor<3x2xi32>, tensor<i32>) -> tensor<2x2xi32>
Traits: InferTensorType
, RecursiveMemoryEffects
, SameVariadicOperandSize
, SingleBlockImplicitTerminator<ReturnOp>
, SingleBlock
Interfaces: InferShapedTypeOpInterface
, InferTypeOpInterface
صفات:
يصف | MLIR Type | وصف |
---|---|---|
window_dimensions | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
window_strides | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
base_dilations | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
window_dilations | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
padding | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
المتعاملات:
المتعامل | وصف |
---|---|
inputs | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
init_values | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.remainder
(mhlo::RemOp)
Rem operation
بناء الجملة:
operation ::= `mhlo.remainder` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
Performs element-wise remainder of dividend lhs
and divisor rhs
tensors and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#remainder
مثال:
%result = mhlo.remainder %lhs, %rhs : tensor<4xi64>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
lhs | ranked tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
rhs | ranked tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.replica_id
(mhlo::ReplicaIdOp)
ReplicaId operation
بناء الجملة:
operation ::= `mhlo.replica_id` attr-dict `:` type(results)
Produces replica_id
of the current process.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#replica_id
مثال:
%result = mhlo.replica_id : tensor<ui32>
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | ranked tensor of 32-bit unsigned integer values |
mhlo.reshape
(mhlo::ReshapeOp)
Reshape operation
بناء الجملة:
operation ::= `mhlo.reshape` operands attr-dict `:` functional-type(operands, results)
Performs reshape of operand
tensor to a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#reshape
مثال:
%result = mhlo.reshape %operand : (tensor<2xf32>) -> tensor<1x2xf32>
Traits: AlwaysSpeculatableImplTrait
, HLO_CompatibleOperandsAndResultElementType
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
operand | tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | statically shaped or single bounded dimension tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.return
(mhlo::ReturnOp)
_This operation is a work in progress, so it is not yet included in the specification: https://github.com/openxla/stablehlo/issues/425
Informally, this operation serves as a terminator for regions defined by
the StableHLO ops. Non-StableHLO ops, e.g. `func.func`, have their own
terminators, e.g. `func.return`.
Example:
```mlir
%result = "mhlo.reduce"(%input, %init_value) ({
^bb0(%arg0: tensor<i32>, %arg1: tensor<i32>):
%0 = "mhlo.add"(%arg0, %arg1) : (tensor<i32>, tensor<i32>) -> tensor<i32>
"mhlo.return"(%0) : (tensor<i32>) -> ()
}) {
dimensions = dense<1> : tensor<1xi64>
} : (tensor<1x6xi32>, tensor<i32>) -> tensor<1xi32>
```_
Syntax:
```
operation ::= mhlo.return
$results attr-dict ( :
type($results)^)?
Traits: `AlwaysSpeculatableImplTrait`, `Terminator`
Interfaces: `ConditionallySpeculatable`, `NoMemoryEffect (MemoryEffectOpInterface)`
Effects: `MemoryEffects::Effect{}`
#### Operands:
| Operand | Description |
| :-----: | ----------- |
| `results` | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values or token or nested tuple with any combination of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or memref of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or ranked tensor of per-axis integer quantized values or token values or memref of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values |
### `mhlo.reverse` (mhlo::ReverseOp)
_Reverse operation_
Reverses the order of elements in the `operand` along the specified
`dimensions` and produces a `result` tensor.
See:
<a href="https://github.com/openxla/stablehlo/blob/main/docs/spec.md#reverse">https://github.com/openxla/stablehlo/blob/main/docs/spec.md#reverse</a>
Example:
```mlir
%result = mhlo.reverse %operand, dims = [1] : tensor<3x2xi32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
صفات:
يصف | MLIR Type | وصف |
---|---|---|
dimensions | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.rng
(mhlo::RngOp)
Rng operation
Generates random numbers using the rng_distribution
algorithm and produces a result
tensor of a given shape shape
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#rng
مثال:
%result = mhlo.rng %a, %b, %shape, distribution = NORMAL : (tensor<i32>, tensor<i32>, tensor<2xi64>) -> tensor<3x3xi32>
Traits: InferTensorType
Interfaces: InferShapedTypeOpInterface
, InferTypeOpInterface
صفات:
يصف | MLIR Type | وصف |
---|---|---|
rng_distribution | ::mlir::mhlo::RngDistributionAttr | XLA PRNG distribution to be used. |
المتعاملات:
المتعامل | وصف |
---|---|
a | 0D tensor of bool or 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float values |
b | 0D tensor of bool or 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float values |
shape | 1D tensor of index or 2/4/8/16/32/64-bit integer values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of bool or 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float values |
mhlo.rng_bit_generator
(mhlo::RngBitGeneratorOp)
RngBitGenerator operation
Returns an output
filled with uniform random data and an updated output state output_state
given an initial state initial_state
using the pseudorandom number generator algorithm rng_algorithm
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#rng_bit_generator
مثال:
%output_state, %output = mhlo.rng_bit_generator %initial_state, algorithm = THREE_FRY : (tensor<2xui64>) -> (tensor<2xui64>, tensor<2x2xui64>)
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
صفات:
يصف | MLIR Type | وصف |
---|---|---|
rng_algorithm | ::mlir::mhlo::RngAlgorithmAttr | XLA PRNG algorithm to be used. |
المتعاملات:
المتعامل | وصف |
---|---|
initial_state | ranked tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float values |
نتائج:
نتيجة | وصف |
---|---|
output_state | ranked tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float values |
output | statically shaped tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float values |
mhlo.round_nearest_afz
(mhlo::RoundOp)
Round operation
بناء الجملة:
operation ::= `mhlo.round_nearest_afz` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise rounding towards the nearest integer, breaking ties away from zero, on the operand
tensor and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#round_nearest_afz
مثال:
%result = mhlo.round_nearest_afz %operand : tensor<5xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float values |
mhlo.round_nearest_even
(mhlo::RoundNearestEvenOp)
RoundNearestEven operation
بناء الجملة:
operation ::= `mhlo.round_nearest_even` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise rounding towards the nearest integer, breaking ties towards the even integer, on the operand
tensor and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#round_nearest_even
مثال:
%result = mhlo.round_nearest_even %operand : tensor<5xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float values |
mhlo.rsqrt
(mhlo::RsqrtOp)
Rsqrt operation
بناء الجملة:
operation ::= `mhlo.rsqrt` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise reciprocal square root operation on operand
tensor and produces a result
tensor, implementing the rSqrt
operation from the IEEE-754 specification.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#rsqrt
مثال:
%result = mhlo.rsqrt %operand : tensor<2x2xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
صفات:
يصف | MLIR Type | وصف |
---|---|---|
result_accuracy | ::mlir::mhlo::ResultAccuracyAttr | The requested accuracy for unary ops. |
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
mhlo.scatter
(mhlo::ScatterOp)
Scatter operation
Produces results
tensors which are equal to inputs
tensors except that several slices specified by scatter_indices
are updated with the values updates
using update_computation
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#scatter
مثال:
%result = "mhlo.scatter"(%input, %scatter_indices, %update) ({
^bb0(%arg0: tensor<i32>, %arg1: tensor<i32>):
%0 = mhlo.add %arg0, %arg1 : tensor<i32>
mhlo.return %0 : tensor<i32>
}) {
scatter_dimension_numbers = #mhlo.scatter<
update_window_dims = [3, 4],
inserted_window_dims = [1],
input_batching_dims = [0],
scatter_indices_batching_dims = [1],
scatter_dims_to_operand_dims = [2, 1],
index_vector_dim = 3>,
indices_are_sorted = false,
unique_indices = false
} : (tensor<2x3x4x2xi64>, tensor<2x2x3x2xi64>, tensor<2x2x3x2x2xi64>) -> tensor<2x3x4x2xi64>
Traits: RecursiveMemoryEffects
, SameVariadicOperandSize
Interfaces: InferTypeOpInterface
صفات:
يصف | MLIR Type | وصف |
---|---|---|
scatter_dimension_numbers | ::mlir::mhlo::ScatterDimensionNumbersAttr | Attribute that models the dimension information for scatter |
indices_are_sorted | ::mlir::BoolAttr | bool attribute |
unique_indices | ::mlir::BoolAttr | bool attribute |
المتعاملات:
المتعامل | وصف |
---|---|
inputs | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
scatter_indices | ranked tensor of integer or index values |
updates | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.select
(mhlo::SelectOp)
حدد العملية
بناء الجملة:
operation ::= `mhlo.select` operands attr-dict `:`
custom<SelectOpType>(type($pred), type($on_true), type($on_false), type($result))
Produces a result
tensor where each element is selected from on_true
or on_false
tensor based on the value of the corresponding element of pred
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#select
مثال:
%result = mhlo.select %pred, %on_true, %on_false : tensor<2x2xi1>, tensor<2x2xi32>
Traits: AlwaysSpeculatableImplTrait
, HLO_BroadcastingElementwise
, InferTensorType
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
pred | ranked tensor of bool values |
on_true | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
on_false | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.select_and_scatter
(mhlo::SelectAndScatterOp)
SelectAndScatter operation
Scatters the values from the source
tensor using scatter
based on the outcome of reduce_window
of the input
tensor using select
and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#select_and_scatter
مثال:
%result = "mhlo.select_and_scatter"(%operand, %source, %init_value) ({
^bb0(%arg0: tensor<i32>, %arg1: tensor<i32>):
%0 = "mhlo.compare"(%arg0, %arg1) {
comparison_direction = #stablehlo<comparison_direction GE>
} : (tensor<i32>, tensor<i32>) -> tensor<i1>
"mhlo.return"(%0) : (tensor<i1>) -> ()
}, {
^bb0(%arg0: tensor<i32>, %arg1: tensor<i32>):
%0 = "mhlo.add"(%arg0, %arg1) : (tensor<i32>, tensor<i32>) -> tensor<i32>
"mhlo.return"(%0) : (tensor<i32>) -> ()
}) {
window_dimensions = dense<[3, 1]> : tensor<2xi64>,
window_strides = dense<[2, 1]> : tensor<2xi64>,
padding = dense<[[0, 1], [0, 0]]> : tensor<2x2xi64>
} : (tensor<4x2xi32>, tensor<2x2xi32>, tensor<i32>) -> tensor<4x2xi32>
Traits: RecursiveMemoryEffects
Interfaces: InferTypeOpInterface
صفات:
يصف | MLIR Type | وصف |
---|---|---|
window_dimensions | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
window_strides | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
padding | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
source | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
init_value | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.send
(mhlo::SendOp)
Send operation
Sends inputs
to a channel channel_id
and produces a result
token.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#send
مثال:
%result = "mhlo.send"(%operand, %token) {
// channel_id = 5 : i64,
// channel_type = #stablehlo<channel_type DEVICE_TO_DEVICE>,
channel_handle = #mhlo.channel_handle<handle = 5, type = 1>,
is_host_transfer = false,
source_target_pairs = dense<[[0, 1], [1, 2]]> : tensor<2x2xi64>
} : (tensor<3x4xi32>, !mhlo.token) -> !mhlo.token
Interfaces: InferTypeOpInterface
صفات:
يصف | MLIR Type | وصف |
---|---|---|
channel_handle | ::mlir::mhlo::ChannelHandleAttr | two 64-bit integers 'handle' and 'type' |
is_host_transfer | ::mlir::BoolAttr | bool attribute |
source_target_pairs | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
المتعاملات:
المتعامل | وصف |
---|---|
inputs | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
token | الرمز المميز |
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | الرمز المميز |
mhlo.set_dimension_size
(mhlo::SetDimensionSizeOp)
SetDimensionSize operation
This operation is a work in progress, so it is not yet included in the specification: https://github.com/openxla/stablehlo/issues/8
Informally, this operation does the same thing as XLA's SetDimensionSize: https://www.tensorflow.org/xla/operation_semantics#setdimensionsize
مثال:
%0 = mhlo.set_dimension_size %arg0, %arg1, dim = 1 : (tensor<4x2xf32>, tensor<i32>) -> tensor<4x2xf32>
Traits: AlwaysSpeculatableImplTrait
, InferTensorType
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
صفات:
يصف | MLIR Type | وصف |
---|---|---|
dimension | ::mlir::IntegerAttr | 64-bit signless integer attribute whose value is non-negative |
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
size | tensor of 32-bit signless integer values |
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.shift_left
(mhlo::ShiftLeftOp)
ShiftLeft operation
بناء الجملة:
operation ::= `mhlo.shift_left` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
Performs element-wise left-shift operation on the lhs
tensor by rhs
number of bits and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#shift_left
مثال:
%result = mhlo.shift_left %lhs, %rhs : tensor<6xi8>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
lhs | ranked tensor of 2/4/8/16/32/64-bit integer values |
rhs | ranked tensor of 2/4/8/16/32/64-bit integer values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 2/4/8/16/32/64-bit integer values |
mhlo.shift_right_arithmetic
(mhlo::ShiftRightArithmeticOp)
ShiftRightArithmetic operation
بناء الجملة:
operation ::= `mhlo.shift_right_arithmetic` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
Performs element-wise arithmetic right-shift operation on the lhs
tensor by rhs
number of bits and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#shift_right_arithmetic
مثال:
%result = mhlo.shift_right_arithmetic %lhs, %rhs : tensor<6xi8>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
lhs | ranked tensor of 2/4/8/16/32/64-bit integer values |
rhs | ranked tensor of 2/4/8/16/32/64-bit integer values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 2/4/8/16/32/64-bit integer values |
mhlo.shift_right_logical
(mhlo::ShiftRightLogicalOp)
ShiftRightLogical operation
بناء الجملة:
operation ::= `mhlo.shift_right_logical` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
Performs element-wise logical right-shift operation on the lhs
tensor by rhs
number of bits and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#shift_right_logical
مثال:
%result = mhlo.shift_right_logical %lhs, %rhs : tensor<6xi8>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
lhs | ranked tensor of 2/4/8/16/32/64-bit integer values |
rhs | ranked tensor of 2/4/8/16/32/64-bit integer values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 2/4/8/16/32/64-bit integer values |
mhlo.sign
(mhlo::SignOp)
Sign operation
بناء الجملة:
operation ::= `mhlo.sign` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Returns the sign of the operand
element-wise and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#sign
مثال:
%result = mhlo.sign %operand : tensor<7xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 2/4/8/16/32/64-bit signless integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 2/4/8/16/32/64-bit signless integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
mhlo.sine
(mhlo::SineOp)
Sine operation
بناء الجملة:
operation ::= `mhlo.sine` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise sine operation on operand
tensor and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#sine
مثال:
%result = mhlo.sine %operand : tensor<2xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
صفات:
يصف | MLIR Type | وصف |
---|---|---|
result_accuracy | ::mlir::mhlo::ResultAccuracyAttr | The requested accuracy for unary ops. |
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
mhlo.sinh
(mhlo::SinhOp)
Sinh operation
بناء الجملة:
operation ::= `mhlo.sinh` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise sinh operation on operand
tensor and produces a result
tensor.
مثال:
%result = mhlo.sinh %operand : tensor<2x2xf32>
Traits: CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: InferShapedTypeOpInterface
, InferTypeOpInterface
المتعاملات:
المتعامل | وصف |
---|---|
operand | tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements values |
نتائج:
نتيجة | وصف |
---|---|
result | tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements values |
mhlo.slice
(mhlo::SliceOp)
Slice operation
Extracts a slice from the operand
using statically-computed starting indices and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#slice
مثال:
%result = "mhlo.slice" (%operand) {
start_indices = dense<[1, 2]> : tensor<2xi64>,
limit_indices = dense<[3, 4]> : tensor<2xi64>,
strides = dense<1> : tensor<2xi64>
} : (tensor<3x4xi64>) -> tensor<2x2xi64>
Traits: AlwaysSpeculatableImplTrait
, SameOperandsAndResultElementType
Interfaces: ConditionallySpeculatable
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
صفات:
يصف | MLIR Type | وصف |
---|---|---|
start_indices | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
limit_indices | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
strides | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.sort
(mhlo::SortOp)
Sort operation
Sorts a variadic number of tensors in inputs
together, according to a custom comparator
, along the given dimension
and produces a variadic number of tensors as results
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#sort
مثال:
%result0, %result1 = "mhlo.sort"(%input0, %input1) ({
^bb0(%arg0: tensor<i32>, %arg1: tensor<i32>, %arg2: tensor<i32>, %arg3: tensor<i32>):
%predicate = "mhlo.compare"(%arg0, %arg1) {
comparison_direction = #stablehlo<comparison_direction GT>
} : (tensor<i32>, tensor<i32>) -> tensor<i1>
"mhlo.return"(%predicate) : (tensor<i1>) -> ()
}) {
dimension = 0 : i64,
is_stable = true
} : (tensor<2x3xi32>, tensor<2x3xi32>) -> (tensor<2x3xi32>, tensor<2x3xi32>)
Traits: InferTensorType
, RecursiveMemoryEffects
, SameOperandsAndResultShape
Interfaces: InferShapedTypeOpInterface
, InferTypeOpInterface
صفات:
يصف | MLIR Type | وصف |
---|---|---|
dimension | ::mlir::IntegerAttr | 64-bit signless integer attribute |
is_stable | ::mlir::BoolAttr | bool attribute |
المتعاملات:
المتعامل | وصف |
---|---|
inputs | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.sqrt
(mhlo::SqrtOp)
Sqrt operation
بناء الجملة:
operation ::= `mhlo.sqrt` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise square root operation on operand
tensor and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#sqrt
مثال:
%result = mhlo.sqrt %operand : tensor<2x2xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
صفات:
يصف | MLIR Type | وصف |
---|---|---|
result_accuracy | ::mlir::mhlo::ResultAccuracyAttr | The requested accuracy for unary ops. |
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
mhlo.stochastic_convert
(mhlo::StochasticConvertOp)
StochasticConvert operation
This operation is a work in progress, so it is not yet included in the specification: https://github.com/openxla/stablehlo/issues/295
Informally, this operation performs element-wise conversion of values from a bigger type to a smaller one with stochastic rounding using the random number passed in.
Traits: AlwaysSpeculatableImplTrait
, Elementwise
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float values |
random | ranked tensor of 2/4/8/16/32/64-bit unsigned integer values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.subtract
(mhlo::SubtractOp)
Subtract operation
بناء الجملة:
operation ::= `mhlo.subtract` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
Performs element-wise subtraction of two tensors lhs
and rhs
and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#subtract
مثال:
%result = mhlo.subtract %lhs, %rhs : tensor<2xi32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
lhs | ranked tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
rhs | ranked tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 2/4/8/16/32/64-bit integer or 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.tan
(mhlo::TanOp)
Tan operation
بناء الجملة:
operation ::= `mhlo.tan` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
This operation is a work in progress, so it is not yet included in the specification: https://github.com/openxla/stablehlo/issues/954
Informally, this operation returns Tan(operand)
element-wise.
مثال:
%0 = mhlo.tan %arg0 : tensor<2xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
صفات:
يصف | MLIR Type | وصف |
---|---|---|
result_accuracy | ::mlir::mhlo::ResultAccuracyAttr | The requested accuracy for unary ops. |
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
mhlo.tanh
(mhlo::TanhOp)
Tanh operation
بناء الجملة:
operation ::= `mhlo.tanh` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise hyperbolic tangent operation on operand
tensor and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#tanh
مثال:
%result = mhlo.tanh %operand : tensor<2xf32>
Traits: AlwaysSpeculatableImplTrait
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
صفات:
يصف | MLIR Type | وصف |
---|---|---|
result_accuracy | ::mlir::mhlo::ResultAccuracyAttr | The requested accuracy for unary ops. |
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements or per-tensor integer quantized values |
mhlo.topk
(mhlo::TopKOp)
TopK operation
بناء الجملة:
operation ::= `mhlo.topk` `(`$operand `,` `k` `=` $k (`,` `largest` `=` $largest^)? `)` attr-dict `:`
type($operand) `->` `(`type($values)`,` type($indices)`)`
Returns top k
values and their indices, along the last dimension of the operand if largest=true
or the bottom k
values if largest=false
.
See: https://www.tensorflow.org/xla/operation_semantics#top-k
مثال:
%values, %indices = mhlo.topk(%operand, k=5, largest=true)
: tensor<100xf32> -> (tensor<5xf32>, tensor<5xi32>)
Traits: InferTensorType
, RecursiveMemoryEffects
Interfaces: InferShapedTypeOpInterface
, InferTypeOpInterface
صفات:
يصف | MLIR Type | وصف |
---|---|---|
k | ::mlir::IntegerAttr | 64-bit signless integer attribute |
largest | ::mlir::BoolAttr | bool attribute |
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
values | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
indices | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.torch_index_select
(mhlo::TorchIndexSelectOp)
TorchIndexSelect operation
This operation is on its way out of StableHLO, so it is not included in the specification: https://github.com/openxla/stablehlo/issues/3
Informally, this operation does the same thing as PyTorch's index_select, augmented with support for batch dimensions: https://pytorch.org/docs/stable/generated/torch.index_select.html
The batch_dims
attribute specifies the number of major batch dimensions (0 or more) that act like a multidimensional loop over both the operand and the index.
مثال:
%result = "mhlo.torch_index_select"(%operand, %index) {
dim = 2 : i64,
batch_dims = 1 : i64
} : (tensor<8x128x3072x64xf32>, tensor<8x16x1024xi32>) -> tensor<8x128x16x1024x64xf32>
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
صفات:
يصف | MLIR Type | وصف |
---|---|---|
dim | ::mlir::IntegerAttr | 64-bit signless integer attribute |
batch_dims | ::mlir::IntegerAttr | 64-bit signless integer attribute |
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
index | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.trace
(mhlo::TraceOp)
Trace operation
بناء الجملة:
operation ::= `mhlo.trace` $operand `,` $tag attr-dict `:` type($operand)
This operation is on its way out of StableHLO, so it is not included in the specification: https://github.com/openxla/stablehlo/issues/604
It is not used by JAX, PyTorch or TensorFlow, so it looks like we should've classified it as "Private to XLA" and not included it in StableHLO in the first place. With that in mind, its semantics will not be documented here.
مثال:
mhlo.trace %arg0, "In test code." : tensor<5x1x5xi32>
صفات:
يصف | MLIR Type | وصف |
---|---|---|
tag | ::mlir::StringAttr | string attribute |
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.transpose
(mhlo::TransposeOp)
Transpose operation
Permutes the dimensions of operand
tensor using permutation
and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#transpose
مثال:
%0 = mhlo.transpose %arg0, dims = [2, 1, 0] : (tensor<1x2x3xi32>) -> tensor<3x2x1xi32>
Traits: AlwaysSpeculatableImplTrait
, HLO_CompatibleOperandsAndResultElementType
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
صفات:
يصف | MLIR Type | وصف |
---|---|---|
permutation | ::mlir::DenseIntElementsAttr | 64-bit signless integer elements attribute |
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
mhlo.triangular_solve
(mhlo::TriangularSolveOp)
TriangularSolve operation
Solves batches of systems of linear equations with lower or upper triangular coefficient matrices.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#triangular_solve
مثال:
%result = "mhlo.triangular_solve"(%a, %b) {
left_side = true,
lower = true,
unit_diagonal = false,
transpose_a = #stablehlo<transpose NO_TRANSPOSE>
} : (tensor<3x3xf32>, tensor<3x3xf32>) -> tensor<3x3xf32>
Traits: AlwaysSpeculatableImplTrait
, InferTensorType
, SameOperandsAndResultElementType
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
صفات:
يصف | MLIR Type | وصف |
---|---|---|
left_side | ::mlir::BoolAttr | bool attribute |
lower | ::mlir::BoolAttr | bool attribute |
unit_diagonal | ::mlir::BoolAttr | bool attribute |
transpose_a | ::mlir::mhlo::TransposeAttr | Transpose options |
المتعاملات:
المتعامل | وصف |
---|---|
a | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements values |
b | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements values |
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | ranked tensor of 4/6/8/16/32/64-bit float or complex type with 32/64-bit float elements values |
mhlo.tuple
(mhlo::TupleOp)
Tuple operation
بناء الجملة:
operation ::= `mhlo.tuple` $val attr-dict `:` custom<TupleOpType>(type($val), type($result))
Produces a result
tuple from values val
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#tuple
مثال:
%result = mhlo.tuple %val0, %val1 : tuple<tensor<2xf32>, tuple<tensor<i32>>>
Traits: AlwaysSpeculatableImplTrait
Interfaces: ConditionallySpeculatable
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
val | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values or token or nested tuple with any combination of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or memref of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or ranked tensor of per-axis integer quantized values or token values or memref of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
result | nested tuple with any combination of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or memref of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or ranked tensor of per-axis integer quantized values or token values |
mhlo.uniform_dequantize
(mhlo::UniformDequantizeOp)
UniformDequantize operation
بناء الجملة:
operation ::= `mhlo.uniform_dequantize` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise conversion of quantized tensor operand
to a floating-point tensor result
according to the quantization parameters defined by the operand
type.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#uniform_dequantize
مثال:
%result = mhlo.uniform_dequantize %operand : (tensor<16x16x!quant.uniform<i8:f32, 34.0:16>>) -> tensor<16x16xf32>
Traits: AlwaysSpeculatableImplTrait
, Elementwise
, InferTensorType
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of per-tensor integer quantized or per-axis integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float values |
mhlo.uniform_quantize
(mhlo::UniformQuantizeOp)
UniformQuantize operation
بناء الجملة:
operation ::= `mhlo.uniform_quantize` $operand attr-dict
`:` custom<SameOperandsAndResultType>(type($operand), type($result))
Performs element-wise conversion of floating-point tensor or quantized tensor operand
to a quantized tensor result
according to the quantization parameters defined by the result
type.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#uniform_quantize
مثال:
%result = mhlo.uniform_quantize %operand : (tensor<16x16xf32>) -> tensor<16x16x!quant.uniform<ui8:f32, 34.0:16>>
Traits: AlwaysSpeculatableImplTrait
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
المتعامل | وصف |
---|---|
operand | ranked tensor of 4/6/8/16/32/64-bit float or 2/4/8/16/32-bit uniform quantized signed integer or 2/4/8/16/32-bit uniform quantized per axis signed integer or 2/4/8/16/32-bit uniform quantized unsigned integer or 2/4/8/16/32-bit uniform quantized per axis unsigned integer values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of per-tensor integer quantized or per-axis integer quantized values |
mhlo.while
(mhlo::WhileOp)
While operation
Produces the output from executing body
function 0 or more times while the cond
function outputs true
.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#while
مثال:
%results0, %results1 = "mhlo.while"(%operand0, %operand1) ({
^bb0(%arg0: tensor<i32>, %arg1: tensor<i32>):
%0 = "mhlo.compare"(%arg0, %arg1) {
comparison_direction = #stablehlo<comparison_direction LT>
} : (tensor<i32>, tensor<i32>) -> tensor<i1>
"mhlo.return"(%0) : (tensor<i1>) -> ()
}, {
^bb0(%arg0: tensor<i32>, %arg1: tensor<i32>):
%0 = "mhlo.add"(%arg0, %constant0) : (tensor<i32>, tensor<i32>) -> tensor<i32>
"mhlo.return"(%0, %arg1) : (tensor<i32>, tensor<i32>) -> ()
}) : (tensor<i32>, tensor<i32>) -> (tensor<i32>, tensor<i32>)
Traits: RecursiveMemoryEffects
, SingleBlockImplicitTerminator<ReturnOp>
, SingleBlock
Interfaces: InferTypeOpInterface
, OpAsmOpInterface
المتعاملات:
Operand | وصف |
---|---|
operand | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or ranked tensor of per-axis integer quantized values or token or memref of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values |
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | variadic of ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values or ranked tensor of per-axis integer quantized values or token or memref of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized values |
mhlo.xla.rng_get_and_update_state
(mhlo::XlaRngGetAndUpdateStateOp)
XlaRngGetAndUpdateState operation
بناء الجملة:
operation ::= `mhlo.xla.rng_get_and_update_state` attr-dict
This operation is private to the XLA compiler, so it is does not yet have a specification.
Informally, this operation represents the change of the global random number generator state for rng instructions. The global state is incremented by delta and the old state is returned.
The output is currently defined for a single output type. If this changes in the future to support multiple types, lowering to use of a global memref must ensure that a single memref is still used and updated appropriately.
Interfaces: InferTypeOpInterface
صفات:
يصف | MLIR Type | وصف |
---|---|---|
delta | ::mlir::IntegerAttr | 64-bit signless integer attribute |
نتائج:
نتيجة | وصف |
---|---|
«unnamed» | statically shaped tensor of 64-bit unsigned integer values |
mhlo.xor
(mhlo::XorOp)
Xor operation
بناء الجملة:
operation ::= `mhlo.xor` $lhs `,` $rhs attr-dict
`:` custom<SameOperandsAndResultType>(type($lhs), type($rhs), type($result))
Performs element-wise XOR of two tensors lhs
and rhs
and produces a result
tensor.
See: https://github.com/openxla/stablehlo/blob/main/docs/spec.md#xor
مثال:
%result = mhlo.xor %lhs, %rhs : tensor<2xi32>
Traits: AlwaysSpeculatableImplTrait
, Commutative
, CompatibleOperandsAndResultType
, Elementwise
, SameOperandsAndResultShape
Interfaces: ConditionallySpeculatable
, InferShapedTypeOpInterface
, InferTypeOpInterface
, NoMemoryEffect (MemoryEffectOpInterface)
Effects: MemoryEffects::Effect{}
المتعاملات:
Operand | وصف |
---|---|
lhs | ranked tensor of bool or 2/4/8/16/32/64-bit integer values |
rhs | ranked tensor of bool or 2/4/8/16/32/64-bit integer values |
نتائج:
نتيجة | وصف |
---|---|
result | ranked tensor of 4/6/8/16/32/64-bit float or bool or 2/4/8/16/32/64-bit integer or complex type with 32/64-bit float elements or per-tensor integer quantized or per-axis integer quantized values |
صفات
ArgResultAliasAttr
Attribute that models the alias relationship of entry function argument
This attribute captures the alias relationship of an MHLO main function argument to one of the results, denoted by resultIndex
. The argTupleIndices
and resultTupleIndices
are used to index into nested tuples in operand and result respectively. If isMustAlias
is true then the operand-result pair must alias.
This is meant to be used as an attribute on a function argument in MHLO. For example, in the following code it expresses that %arg1
may alias 0-th result.
func @main(%arg0: tensor<2xf32>, %arg1: tensor<3xf32> {mhlo.result_alias =
mhlo.result_alias<result_index = [2], ...>}
) -> tensor<2xf32>, tensor<3xf32> {
// function body ...
}
حدود:
المعلمة | C++ type | وصف |
---|---|---|
argTupleIndices | ::llvm::ArrayRef<int64_t> | البعد |
resultIndex | int64_t | |
resultTupleIndices | ::llvm::ArrayRef<int64_t> | البعد |
isMustAlias | bool |
ChannelHandleAttr
Two 64-bit integers 'handle' and 'type'
بناء الجملة:
#mhlo.channel_handle<
int64_t, # handle
int64_t # type
>
حدود:
المعلمة | C++ type | وصف |
---|---|---|
مقبض | int64_t | |
يكتب | int64_t |
ComparisonDirectionAttr
Which comparison operation to perform.
بناء الجملة:
#mhlo.comparison_direction<
::mlir::mhlo::ComparisonDirection # value
>
حدود:
المعلمة | C++ type | وصف |
---|---|---|
قيمة | ::mlir::mhlo::ComparisonDirection | an enum of type ComparisonDirection |
ComparisonTypeAttr
Which comparison type to use.
بناء الجملة:
#mhlo.comparison_type<
::mlir::mhlo::ComparisonType # value
>
حدود:
المعلمة | C++ type | وصف |
---|---|---|
قيمة | ::mlir::mhlo::ComparisonType | an enum of type ComparisonType |
ConvDimensionNumbersAttr
Structure of dimension information for conv op
حدود:
المعلمة | C++ type | وصف |
---|---|---|
inputBatchDimension | int64_t | |
inputFeatureDimension | int64_t | |
inputSpatialDimensions | ::llvm::ArrayRef<int64_t> | البعد |
kernelInputFeatureDimension | int64_t | |
kernelOutputFeatureDimension | int64_t | |
kernelSpatialDimensions | ::llvm::ArrayRef<int64_t> | البعد |
outputBatchDimension | int64_t | |
outputFeatureDimension | int64_t | |
outputSpatialDimensions | ::llvm::ArrayRef<int64_t> | البعد |
CrossProgramPrefetchAttr
Argument that is prefetched from another program
بناء الجملة:
#mhlo.cross_program_prefetch<
int64_t, # parameter
::llvm::ArrayRef<int64_t>, # indices
std::optional<int64_t> # offset
>
This attribute captures an argument that is prefetched from another program. For a given CrossProgramPrefetchAttr
, parameter
tells us which argument of the main
function of the module is prefetched, and indices
is a shape index telling us what subshape of that argument is prefetched.
A shape has a subshape iff it is a tuple. In that case, the subshape of the tuple by indices
is the shape achieved after indexing by each element of indices
in turn. For example, the [1,0] subshape of tuple<tuple<token, token>, tuple<tensor<i32>, token>>
is tensor<i32>
.
An empty value for indices
means the whole shape is prefetched.
على سبيل المثال،
module attributes { mhlo.cross_program_prefetch = [ #mhlo.cross_program_prefetch< parameter = 0, indices = [0]> ]} {
func.func @copy(%arg0 : tuple<tensor<2x3xi32>, tensor<i32>>) -> tuple<tensor<2x3xi32>, tensor<i32>> {
%0 = "mhlo.copy"(%arg0) {is_cross_program_prefetch}
return %0 : tuple<tensor<2x3xi32>, tensor<i32>>
}
func.func @main(%arg0 : tuple<tensor<2x3xi32>, tensor<i32>>) -> tuple<tensor<2x3xi32>, tensor<i32>> {
%1 = "mhlo.async_start"(%arg0) {called_computation=@copy}
%2 = "mhlo.async_done"(%1) {called_computation=@copy}
return %2 : tuple<tensor<2x3xi32>, tensor<i32>>
}
}
The parameter = 0
tells us that the async copy of the 0
th parameter is a cross_program_prefetch
, while the index
of [0]
tells us that the 0
th element of the tuple is prefetched while the other element of the tuple is not.
حدود:
المعلمة | C++ type | وصف |
---|---|---|
المعلمة | int64_t | |
المؤشرات | ::llvm::ArrayRef<int64_t> | البعد |
إزاحة | std::optional<int64_t> |
CustomCallScheduleAttr
Specifies the desired schedule for the custom-call.
بناء الجملة:
#mhlo.custom_call_schedule<
::mlir::mhlo::CustomCallSchedule # value
>
حدود:
المعلمة | C++ type | وصف |
---|---|---|
قيمة | ::mlir::mhlo::CustomCallSchedule | an enum of type CustomCallSchedule |
DequantizeModeAttr
_Dequantization mode. Only MIN COMBINED is supported.
بناء الجملة:
#mhlo.dequantize_mode<
::mlir::mhlo::DequantizeMode # value
>
حدود:
المعلمة | C++ type | وصف |
---|---|---|
قيمة | ::mlir::mhlo::DequantizeMode | an enum of type DequantizeMode |
DomainKindAttr
Kind of domain metatdata attached to an HLO domain.
بناء الجملة:
#mhlo.kind<
::mlir::mhlo::DomainKind # value
>
حدود:
المعلمة | C++ type | وصف |
---|---|---|
قيمة | ::mlir::mhlo::DomainKind | an enum of type DomainKind |
DotAlgorithmAttr
Attribute that models the algorithm constraints to use for computing dot.
بناء الجملة:
#mhlo.dot_algorithm<
Type, # lhsPrecisionType
Type, # rhsPrecisionType
Type, # accumulationType
int64_t, # lhsComponentCount
int64_t, # rhsComponentCount
int64_t, # numPrimitiveOperations
bool # allowImpreciseAccumulation
>
حدود:
المعلمة | C++ type | وصف |
---|---|---|
lhsPrecisionType | Type | |
rhsPrecisionType | Type | |
accumulationType | Type | |
lhsComponentCount | int64_t | |
rhsComponentCount | int64_t | |
numPrimitiveOperations | int64_t | |
allowImpreciseAccumulation | bool |
DotDimensionNumbersAttr
Attribute that models the dimension information for dot.
حدود:
المعلمة | C++ type | وصف |
---|---|---|
lhsBatchingDimensions | ::llvm::ArrayRef<int64_t> | البعد |
rhsBatchingDimensions | ::llvm::ArrayRef<int64_t> | البعد |
lhsContractingDimensions | ::llvm::ArrayRef<int64_t> | البعد |
rhsContractingDimensions | ::llvm::ArrayRef<int64_t> | البعد |
FftTypeAttr
XLA fast fourier transform type.
بناء الجملة:
#mhlo.fft_type<
::mlir::mhlo::FftType # value
>
حدود:
المعلمة | C++ type | وصف |
---|---|---|
قيمة | ::mlir::mhlo::FftType | an enum of type FftType |
FusionKindAttr
Fusion kind
بناء الجملة:
#mhlo.fusion_kind<
::mlir::mhlo::FusionKind # value
>
حدود:
المعلمة | C++ type | وصف |
---|---|---|
قيمة | ::mlir::mhlo::FusionKind | an enum of type FusionKind |
GatherDimensionNumbersAttr
Attribute that models the dimension information for gather
حدود:
المعلمة | C++ type | وصف |
---|---|---|
offsetDims | ::llvm::ArrayRef<int64_t> | البعد |
collapsedSliceDims | ::llvm::ArrayRef<int64_t> | البعد |
operandBatchingDims | ::llvm::ArrayRef<int64_t> | البعد |
startIndicesBatchingDims | ::llvm::ArrayRef<int64_t> | البعد |
startIndexMap | ::llvm::ArrayRef<int64_t> | البعد |
indexVectorDim | int64_t |
OutputOperandAliasAttr
Attribute that models the alias relationship of output and operand of a CustomCall op
بناء الجملة:
#mhlo.output_operand_alias<
::llvm::ArrayRef<int64_t>, # outputTupleIndices
int64_t, # operandIndex
::llvm::ArrayRef<int64_t> # operandTupleIndices
>
This attribute captures the alias relationship of the output to one of the operands for a CustomCall op, denoted by operand_index
. The output_tuple_indices
and operand_tuple_indices
are used to index into output and operand types. These indices lists are empty if the corresponding types are not tuple types, and can be arbitrarily long in case of arbitrarily nested tuple types.
See https://www.tensorflow.org/xla/aliasing
Example when used as array with in mhlo.custom-call:
%0 = "mhlo.custom_call"(%arg0, %arg1) {
// other attributes
output_operand_alias = [
#mhlo.output_operand_alias<output_tuple_indices = [0],
operand_index = 0,
operand_tuple_indices = [1]>
]
} : (tuple<tensor<1x1xf32>, tensor<2x3xf32>>, tensor<5x5xf32>) -> tuple<tensor<2x3xf32>>
The output and the 0th operand are both tuples. The aliasing shows the
relationship between the 0th element in output tuple with the 1st element in
the 0th operand. And both of them are of the same type: tensor<2x3xf32>.
حدود:
المعلمة | C++ type | وصف |
---|---|---|
outputTupleIndices | ::llvm::ArrayRef<int64_t> | البعد |
operandIndex | int64_t | |
operandTupleIndices | ::llvm::ArrayRef<int64_t> | البعد |
PrecisionAttr
XLA precision for an operand. Has backend specific meaning.
بناء الجملة:
#mhlo.precision<
::mlir::mhlo::Precision # value
>
حدود:
المعلمة | C++ type | وصف |
---|---|---|
قيمة | ::mlir::mhlo::Precision | an enum of type Precision |
RaggedDotDimensionNumbersAttr
Attribute that models the dimension information for ragged dot.
حدود:
المعلمة | C++ type | وصف |
---|---|---|
dotDimensionNumbers | ::mlir::mhlo::DotDimensionNumbersAttr | Attribute that models the dimension information for dot. |
lhsRaggedDimensions | ::llvm::ArrayRef<int64_t> | البعد |
rhsGroupDimensions | ::llvm::ArrayRef<int64_t> | البعد |
ResultAccuracyAttr
The requested accuracy for unary ops.
حدود:
المعلمة | C++ type | وصف |
---|---|---|
أتول | APFloat | |
rtol | APFloat | |
ulps | int64_t | |
وضع | ::mlir::mhlo::ResultAccuracyModeAttr | XLA result accuracy mode. |
ResultAccuracyModeAttr
XLA result accuracy mode.
بناء الجملة:
#mhlo.result_accuracy_mode<
::mlir::mhlo::ResultAccuracyMode # value
>
حدود:
المعلمة | C++ type | وصف |
---|---|---|
قيمة | ::mlir::mhlo::ResultAccuracyMode | an enum of type ResultAccuracyMode |
RngAlgorithmAttr
XLA PRNG algorithm to be used.
بناء الجملة:
#mhlo.rng_algorithm<
::mlir::mhlo::RngAlgorithm # value
>
حدود:
المعلمة | C++ type | وصف |
---|---|---|
قيمة | ::mlir::mhlo::RngAlgorithm | an enum of type RngAlgorithm |
RngDistributionAttr
XLA PRNG distribution to be used.
بناء الجملة:
#mhlo.rng_distribution<
::mlir::mhlo::RngDistribution # value
>
حدود:
المعلمة | C++ type | وصف |
---|---|---|
قيمة | ::mlir::mhlo::RngDistribution | an enum of type RngDistribution |
ScatterDimensionNumbersAttr
Attribute that models the dimension information for scatter
حدود:
المعلمة | C++ type | وصف |
---|---|---|
updateWindowDims | ::llvm::ArrayRef<int64_t> | البعد |
insertedWindowDims | ::llvm::ArrayRef<int64_t> | البعد |
inputBatchingDims | ::llvm::ArrayRef<int64_t> | البعد |
scatterIndicesBatchingDims | ::llvm::ArrayRef<int64_t> | البعد |
scatterDimsToOperandDims | ::llvm::ArrayRef<int64_t> | البعد |
indexVectorDim | int64_t |
TransposeAttr
Transpose options
بناء الجملة:
#mhlo.transpose<
::mlir::mhlo::Transpose # value
>
حدود:
المعلمة | C++ type | وصف |
---|---|---|
قيمة | ::mlir::mhlo::Transpose | an enum of type Transpose |
TypeExtensionsAttr
Attribute that extends tensor type with MHLO type properties.
بناء الجملة:
#mhlo.type_extensions<
::llvm::ArrayRef<int64_t> # bounds
>
This attribute is used to extend MLIR tensor type with MHLO tensor specific properties. These properties aren't modeled in the MLIR type. This attribute is set in the encoding
field of the tensor type.
See HLO_BoundedAttrInterface
for documentation for bounds
.
حدود:
المعلمة | C++ type | وصف |
---|---|---|
الحدود | ::llvm::ArrayRef<int64_t> |
أنواع
AsyncBundleType
Opaque collection of other types
بناء الجملة:
!mhlo.async_bundle<
::llvm::ArrayRef<Type> # types
>
حدود:
المعلمة | C++ type | وصف |
---|---|---|
أنواع | ::llvm::ArrayRef<Type> |
التعدادات
ComparisonDirection
Which comparison operation to perform.
حالات:
رمز | قيمة | خيط |
---|---|---|
معادل الصوت | 0 | معادل الصوت |
شمال شرق | 1 | شمال شرق |
جنرال إلكتريك | 2 | جنرال إلكتريك |
جي تي | 3 | جي تي |
لي | 4 | لي |
LT | 5 | LT |
ComparisonType
Which comparison type to use.
حالات:
رمز | قيمة | خيط |
---|---|---|
NOTYPE | 0 | NOTYPE |
يطفو | 1 | يطفو |
TOTALORDER | 2 | TOTALORDER |
تم التوقيع | 3 | تم التوقيع |
UNSIGNED | 4 | UNSIGNED |
CustomCallApiVersion
Custom call API version
حالات:
رمز | قيمة | خيط |
---|---|---|
API_VERSION_UNSPECIFIED | 0 | API_VERSION_UNSPECIFIED |
API_VERSION_ORIGINAL | 1 | API_VERSION_ORIGINAL |
API_VERSION_STATUS_RETURNING | 2 | API_VERSION_STATUS_RETURNING |
API_VERSION_STATUS_RETURNING_UNIFIED | 3 | API_VERSION_STATUS_RETURNING_UNIFIED |
API_VERSION_TYPED_FFI | 4 | API_VERSION_TYPED_FFI |
CustomCallSchedule
Specifies the desired schedule for the custom-call.
حالات:
رمز | قيمة | خيط |
---|---|---|
لا أحد | 0 | لا أحد |
أحدث | 1 | أحدث |
الأقدم | 2 | الأقدم |
DequantizeMode
_Dequantization mode. Only MIN COMBINED is supported.
حالات:
رمز | قيمة | خيط |
---|---|---|
MIN_COMBINED | 0 | MIN_COMBINED |
DomainKind
Kind of domain metatdata attached to an HLO domain.
حالات:
رمز | قيمة | خيط |
---|---|---|
sharding | 0 | sharding |
FftType
XLA fast fourier transform type.
حالات:
رمز | قيمة | خيط |
---|---|---|
تحويل فورييه السريع | 0 | تحويل فورييه السريع |
تحويل الأموال | 1 | تحويل الأموال |
RFFT | 2 | RFFT |
IRFFT | 3 | IRFFT |
FusionKind
Fusion kind
حالات:
رمز | قيمة | خيط |
---|---|---|
kLoop | 0 | kLoop |
kInput | 1 | kInput |
kOutput | 2 | kOutput |
kCustom | 3 | kCustom |
دقة
XLA precision for an operand. Has backend specific meaning.
حالات:
رمز | قيمة | خيط |
---|---|---|
تقصير | 0 | تقصير |
عالي | 1 | عالي |
HIGHEST | 2 | HIGHEST |
ResultAccuracyMode
XLA result accuracy mode.
حالات:
رمز | قيمة | خيط |
---|---|---|
تقصير | 0 | تقصير |
HIGHEST | 1 | HIGHEST |
تسامح | 2 | تسامح |
RngAlgorithm
XLA PRNG algorithm to be used.
حالات:
رمز | قيمة | خيط |
---|---|---|
تقصير | 0 | تقصير |
THREE_FRY | 1 | THREE_FRY |
PHILOX | 2 | PHILOX |
RngDistribution
XLA PRNG distribution to be used.
حالات:
رمز | قيمة | خيط |
---|---|---|
زي مُوحد | 1 | زي مُوحد |
طبيعي | 2 | طبيعي |
نقل
Transpose options
حالات:
رمز | قيمة | خيط |
---|---|---|
TRANSPOSE_INVALID | 0 | TRANSPOSE_INVALID |
NO_TRANSPOSE | 1 | NO_TRANSPOSE |
TRANSPOSE | 2 | TRANSPOSE |
ADJOINT | 3 | ADJOINT |