পাবলিক চূড়ান্ত বর্গ ResourceApplyAdamWithAmsgrad
অ্যাডাম অ্যালগরিদম অনুযায়ী '*var' আপডেট করুন।
$$\text{lr}_t := \mathrm{learning_rate} * \sqrt{1 - \beta_2^t} / (1 - \beta_1^t)$$
$$m_t := \beta_1 * m_{t-1} + (1 - \beta_1) * g$$
$$v_t := \beta_2 * v_{t-1} + (1 - \beta_2) * g * g$$
$$\hat{v}_t := max{\hat{v}_{t-1}, v_t}$$
$$\text{variable} := \text{variable} - \text{lr}_t * m_t / (\sqrt{\hat{v}_t} + \epsilon)$$
নেস্টেড ক্লাস
ক্লাস | ResourceApplyAdamWithAmsgrad.Options | জন্য ঐচ্ছিক বৈশিষ্ট্য ResourceApplyAdamWithAmsgrad |
পাবলিক পদ্ধতি
স্ট্যাটিক <টি> ResourceApplyAdamWithAmsgrad | তৈরি ( ব্যাপ্তি সুযোগ প্রতীক <?> Var, প্রতীক <?> মি, প্রতীক <?> V, প্রতীক <?> vhat, প্রতীক <টি> beta1Power, প্রতীক <টি> beta2Power, প্রতীক <টি> LR, প্রতীক <টি > beta1, প্রতীক <টি> beta2, প্রতীক <টি> Epsilon, প্রতীক <টি> Grad, বিকল্পসমূহ ... অপশন) একটি নতুন ResourceApplyAdamWithAmsgrad অপারেশন মোড়ানো একটি ক্লাস তৈরি করার কারখানা পদ্ধতি। |
স্ট্যাটিক ResourceApplyAdamWithAmsgrad.Options | useLocking (বুলিয়ান useLocking) |
উত্তরাধিকারসূত্রে প্রাপ্ত পদ্ধতি
পাবলিক পদ্ধতি
পাবলিক স্ট্যাটিক ResourceApplyAdamWithAmsgrad (তৈরি ব্যাপ্তি সুযোগ প্রতীক <?> Var, প্রতীক <?> মি, প্রতীক <?> V, প্রতীক <?> vhat, প্রতীক <টি> beta1Power, প্রতীক <টি> beta2Power, প্রতীক <টি> LR, প্রতীক <টি> beta1, প্রতীক <টি> beta2, প্রতীক <টি> Epsilon, প্রতীক <টি> Grad, বিকল্পসমূহ ... অপশন)
একটি নতুন ResourceApplyAdamWithAmsgrad অপারেশন মোড়ানো একটি ক্লাস তৈরি করার কারখানা পদ্ধতি।
পরামিতি
সুযোগ | বর্তমান সুযোগ |
---|---|
var | একটি পরিবর্তনশীল() থেকে হওয়া উচিত। |
মি | একটি পরিবর্তনশীল() থেকে হওয়া উচিত। |
v | একটি পরিবর্তনশীল() থেকে হওয়া উচিত। |
vhat | একটি পরিবর্তনশীল() থেকে হওয়া উচিত। |
বিটা 1 পাওয়ার | একটি স্কেলার হতে হবে। |
বিটা 2 পাওয়ার | একটি স্কেলার হতে হবে। |
lr | স্কেলিং ফ্যাক্টর। একটি স্কেলার হতে হবে। |
beta1 | মোমেন্টাম ফ্যাক্টর। একটি স্কেলার হতে হবে। |
beta2 | মোমেন্টাম ফ্যাক্টর। একটি স্কেলার হতে হবে। |
epsilon | রিজ শব্দ। একটি স্কেলার হতে হবে। |
স্নাতক | গ্রেডিয়েন্ট। |
বিকল্প | ঐচ্ছিক বৈশিষ্ট্য মান বহন করে |
রিটার্নস
- ResourceApplyAdamWithAmsgrad এর একটি নতুন উদাহরণ
পাবলিক স্ট্যাটিক ResourceApplyAdamWithAmsgrad.Options useLocking (বুলিয়ান useLocking)
পরামিতি
লকিং ব্যবহার করুন | যদি 'True' হয়, var, m, এবং v টেনসর আপডেট করা একটি লক দ্বারা সুরক্ষিত হবে; অন্যথায় আচরণটি অনির্ধারিত, তবে কম বিরোধ প্রদর্শন করতে পারে। |
---|