অ্যাডাম অ্যালগরিদম অনুযায়ী '*var' আপডেট করুন।
$$\text{lr}_t := \mathrm{learning_rate} * \sqrt{1 - \beta_2^t} / (1 - \beta_1^t)$$$$m_t := \beta_1 * m_{t-1} + (1 - \beta_1) * g$$$$v_t := \beta_2 * v_{t-1} + (1 - \beta_2) * g * g$$$$\hat{v}_t := max{\hat{v}_{t-1}, v_t}$$$$\text{variable} := \text{variable} - \text{lr}_t * m_t / (\sqrt{\hat{v}_t} + \epsilon)$$
নেস্টেড ক্লাস
ক্লাস | ResourceApplyAdamWithAmsgrad.Options | ResourceApplyAdamWithAmsgrad এর জন্য ঐচ্ছিক বৈশিষ্ট্য |
পাবলিক পদ্ধতি
static <T> ResourceApplyAdamWithAmsgrad | তৈরি করুন ( স্কোপ স্কোপ, অপারেন্ড <?> var, অপারেন্ড <?> m, অপারেন্ড <?> v, অপারেন্ড <?> vhat, অপারেন্ড <T> beta1Power, Operand <T> beta2Power, Operand <T> lr, Operand <T > beta1, Operand <T> beta2, Operand <T> epsilon, Operand <T> grad, অপশন... বিকল্প) একটি নতুন ResourceApplyAdamWithAmsgrad অপারেশন মোড়ানো একটি ক্লাস তৈরি করার কারখানা পদ্ধতি। |
স্ট্যাটিক রিসোর্সঅ্যাপ্লাইঅ্যাডাম উইথঅ্যামসগ্রাড.অপশন | ইউজ লকিং (বুলিয়ান ইউজ লকিং) |
উত্তরাধিকারসূত্রে প্রাপ্ত পদ্ধতি
পাবলিক পদ্ধতি
পাবলিক স্ট্যাটিক রিসোর্সঅ্যাড্যাম উইথঅ্যামসগ্রাড তৈরি করুন ( স্কোপ স্কোপ, অপারেন্ড <?> var, অপারেন্ড <?> m, অপারেন্ড <?> v, অপারেন্ড <?> vhat, অপারেন্ড <T> beta1Power, Operand <T> beta2Power, Operand <T> lr, Operand <T> beta1, Operand <T> beta2, Operand <T> epsilon, Operand <T> grad, অপশন... বিকল্প)
একটি নতুন ResourceApplyAdamWithAmsgrad অপারেশন মোড়ানো একটি ক্লাস তৈরি করার কারখানা পদ্ধতি।
পরামিতি
সুযোগ | বর্তমান সুযোগ |
---|---|
var | একটি পরিবর্তনশীল() থেকে হওয়া উচিত। |
মি | একটি পরিবর্তনশীল() থেকে হওয়া উচিত। |
v | একটি পরিবর্তনশীল() থেকে হওয়া উচিত। |
vhat | একটি পরিবর্তনশীল() থেকে হওয়া উচিত। |
বিটা 1 পাওয়ার | একটি স্কেলার হতে হবে। |
বিটা 2 পাওয়ার | একটি স্কেলার হতে হবে। |
lr | স্কেলিং ফ্যাক্টর। একটি স্কেলার হতে হবে। |
beta1 | মোমেন্টাম ফ্যাক্টর। একটি স্কেলার হতে হবে। |
beta2 | মোমেন্টাম ফ্যাক্টর। একটি স্কেলার হতে হবে। |
epsilon | রিজ শব্দ। একটি স্কেলার হতে হবে। |
স্নাতক | গ্রেডিয়েন্ট। |
বিকল্প | ঐচ্ছিক বৈশিষ্ট্য মান বহন করে |
রিটার্নস
- ResourceApplyAdamWithAmsgrad এর একটি নতুন উদাহরণ
পাবলিক স্ট্যাটিক রিসোর্সঅ্যাপলাইঅ্যাডাম উইথঅ্যামসগ্র্যাড।অপশন ইউজ লকিং (বুলিয়ান ইউজ লকিং)
পরামিতি
লকিং ব্যবহার করুন | যদি 'True' হয়, var, m, এবং v টেনসরগুলির আপডেট করা একটি লক দ্বারা সুরক্ষিত হবে; অন্যথায় আচরণটি অনির্ধারিত, তবে কম বিরোধ প্রদর্শন করতে পারে। |
---|