تحذير: تم إهمال واجهة برمجة التطبيقات هذه وستتم إزالتها في إصدار مستقبلي من TensorFlow بعد استقرار الاستبدال .

StopGradient

فئة العام النهائي StopGradient

يوقف حساب التدرج.

عند تنفيذه في رسم بياني ، يقوم هذا المرجع بإخراج موتر الإدخال كما هو.

عند إنشاء عمليات لحساب التدرجات ، يمنع هذا المرجع مراعاة مساهمة مدخلاته. عادةً ، يضيف مُنشئ التدرج عمليات التشغيل إلى الرسم البياني لحساب مشتقات "خسارة" محددة عن طريق اكتشاف المدخلات التي ساهمت في حسابها بشكل متكرر. إذا قمت بإدراج هذا المرجع في الرسم البياني ، فسيتم إخفاء المدخلات من مولد التدرج. لا تؤخذ في الاعتبار لحساب التدرجات.

يعد هذا مفيدًا في أي وقت تريد فيه حساب قيمة باستخدام TensorFlow ولكنك تحتاج إلى التظاهر بأن القيمة كانت ثابتة. على سبيل المثال ، يمكن كتابة دالة softmax للمتجه x كـ

def softmax(x):
     numerator = tf.exp(x)
     denominator = tf.reduce_sum(numerator)
     return numerator / denominator
 
ومع ذلك فهي عرضة للتجاوز إذا كانت القيم في x كبيرة. هناك طريقة بديلة أكثر استقرارًا وهي طرح الحد الأقصى لـ x من كل قيمة.
def stable_softmax(x):
     z = x - tf.reduce_max(x)
     numerator = tf.exp(z)
     denominator = tf.reduce_sum(numerator)
     return numerator / denominator
 
ومع ذلك ، عندما نعكس خاصية softmax إلى x ، فإننا لا نريد backprop من خلال tf.reduce_max(x) (إذا لم تكن القيم القصوى فريدة ، فيمكن أن يتدفق التدرج إلى المدخلات الخاطئة) ونعامل ذلك على أنه ثابت. لذلك ، يجب أن نكتب هذا كـ
def stable_softmax(x):
     z = x - tf.stop_gradient(tf.reduce_max(x))
     numerator = tf.exp(z)
     denominator = tf.reduce_sum(numerator)
     return numerator / denominator
 
بعض الأمثلة الأخرى تشمل:
  • خوارزمية EM حيث يجب ألا تتضمن الخطوة M نشرًا عكسيًا من خلال إخراج الخطوة الإلكترونية .
  • تدريب الاختلاف التباين لآلات Boltzmann حيث ، عند التمييز بين وظيفة الطاقة ، يجب ألا ينتشر التدريب من خلال الرسم البياني الذي أنشأ العينات من النموذج.
  • التدريب على الخصومة ، حيث لا ينبغي أن يحدث backprop من خلال عملية توليد المثال العدائي.

الطرق العامة

الإخراج <T>
asOutput ()
إرجاع المقبض الرمزي للموتر.
ثابت <T> StopGradient <T>
إنشاء ( نطاق النطاق ، عامل التشغيل <T> الإدخال)
طريقة المصنع لإنشاء فئة تغلف عملية StopGradient جديدة.
الإخراج <T>

الطرق الموروثة

الطرق العامة

الإخراج العام <T> كإخراج ()

إرجاع المقبض الرمزي للموتر.

المدخلات لعمليات TensorFlow هي مخرجات عملية TensorFlow أخرى. تستخدم هذه الطريقة للحصول على مقبض رمزي يمثل حساب المدخلات.

StopGradient العام الثابت <T> إنشاء ( نطاق النطاق ، عامل التشغيل <T> الإدخال)

طريقة المصنع لإنشاء فئة تغلف عملية StopGradient جديدة.

المعلمات
مجال النطاق الحالي
عائدات
  • مثيل جديد من StopGradient

الإخراج العام <T> الإخراج ()