إدخالات تحديث متفرقة في '*var' و'*accum' وفقًا لخوارزمية FOBOS.
هذا بالنسبة للصفوف التي لدينا grad لها، نقوم بتحديث var وaccum على النحو التالي: $$accum += grad grad$$$$prox_v = var$$$$prox_v -= lr grad (1 / sqrt(accum))$$$$var = sign(prox_v)/(1+lrl2) max{|prox_v|-lrl1,0}$$
فئات متداخلة
فصل | SparseApplyProximalAdagrad.Options | السمات الاختيارية لـ SparseApplyProximalAdagrad |
الثوابت
خيط | OP_NAME | اسم هذه العملية كما هو معروف بواسطة محرك TensorFlow الأساسي |
الأساليب العامة
الإخراج <T> | كإخراج () إرجاع المقبض الرمزي للموتر. |
ثابت <T يمتد TType > SparseApplyProximalAdagrad <T> | |
الإخراج <T> | خارج () نفس "فار". |
ثابت SparseApplyProximalAdagrad.Options | useLocking (استخدام منطقي منطقي) |
الطرق الموروثة
الثوابت
السلسلة النهائية الثابتة العامة OP_NAME
اسم هذه العملية كما هو معروف بواسطة محرك TensorFlow الأساسي
الأساليب العامة
الإخراج العام <T> كإخراج ()
إرجاع المقبض الرمزي للموتر.
المدخلات إلى عمليات TensorFlow هي مخرجات عملية TensorFlow أخرى. يتم استخدام هذه الطريقة للحصول على مقبض رمزي يمثل حساب الإدخال.
إنشاء SparseApplyProximalAdagrad <T> ثابت عام (نطاق النطاق ، المعامل <T> var، المعامل <T> تراكم، المعامل <T> lr، المعامل <T> l1، المعامل <T> l2، المعامل <T> grad، المعامل <؟ يمتد TNumber > المؤشرات، الخيارات... الخيارات)
طريقة المصنع لإنشاء فئة تغلف عملية SparseApplyProximalAdagrad جديدة.
حدود
نِطَاق | النطاق الحالي |
---|---|
فار | يجب أن يكون من متغير (). |
تراكم | يجب أن يكون من متغير (). |
lr | معدل التعلم. يجب أن يكون العددية. |
l1 | تسوية L1. يجب أن يكون العددية. |
l2 | تسوية L2. يجب أن يكون العددية. |
خريج | التدرج. |
المؤشرات | متجه للمؤشرات في البعد الأول من var وaccum. |
خيارات | يحمل قيم السمات الاختيارية |
المرتجعات
- مثيل جديد من SparseApplyProximalAdagrad
SparseApplyProximalAdagrad.Options العام الثابت useLocking (الاستخدام المنطقي)
حدود
useLocking | إذا كان صحيحًا، فسيتم حماية تحديث موترتي var وaccum بواسطة قفل؛ وإلا فإن السلوك غير محدد، ولكنه قد يحمل قدرًا أقل من الخلاف. |
---|