সতর্কতা: প্রতিস্থাপন স্থিতিশীল হওয়ার পরে এই API টি অবচয় করা হয়েছে এবং টেনসরফ্লোয়ের ভবিষ্যতের সংস্করণে সরানো হবে।

StopGradient

সর্বজনীন চূড়ান্ত শ্রেণীর স্টপগ্রাডিয়েন্ট

গ্রেডিয়েন্ট গণনা বন্ধ করে দেয়।

যখন কোনও গ্রাফে মৃত্যুদন্ড কার্যকর করা হয়, তখন এই বিকল্পটি এর ইনপুট টেনসরটিকে যেমন হয় তেমন ফল দেয়।

যখন গণনার গ্রেডিয়েন্টগুলির জন্য অপশন তৈরি করা হয়, তখন এই বিকল্পটি এর ইনপুটগুলির অবদানকে বিবেচনায় আটকায়। সাধারণত, গ্রেডিয়েন্ট জেনারেটর একটি নির্দিষ্ট 'ক্ষতি' এর ডেরিভেটিভস গণনা করার জন্য গ্রাফিয়েন্ট জেনারেটরটিকে অপরিবর্তনীয়ভাবে এর গণনাতে অবদান রাখে এমন ইনপুটগুলি অনুসন্ধান করে আবিষ্কার করে। আপনি যদি গ্রাফে এই অপশনটি sertোকান তবে গ্রেডিয়েন্ট জেনারেটর থেকে ইনপুটগুলি মাস্ক করা হয়। কম্পিউটিং গ্রেডিয়েন্টগুলির জন্য এগুলি বিবেচনায় নেওয়া হয় না।

আপনি যখন টেনসরফ্লো দিয়ে কোনও মান গণনা করতে চান তখন এটি কার্যকর তবে মানটি একটি ধ্রুবক ছিল pre উদাহরণস্বরূপ, ভেক্টর এক্স এর জন্য সফটম্যাক্স ফাংশনটি

def softmax(x):
     numerator = tf.exp(x)
     denominator = tf.reduce_sum(numerator)
     return numerator / denominator
 
হিসাবে লেখা যেতে পারে তবে x এর মানগুলি বড় হলে এটি উপচে পড়ার পক্ষে সংবেদনশীল। একটি বিকল্প আরও স্থিতিশীল উপায় হ'ল প্রতিটি মান থেকে সর্বোচ্চ x বিয়োগ করা।
def stable_softmax(x):
     z = x - tf.reduce_max(x)
     numerator = tf.exp(z)
     denominator = tf.reduce_sum(numerator)
     return numerator / denominator
 
যাইহোক, আমরা যখন সফটম্যাক্সের মাধ্যমে x এ ব্যাকপ্রপ করি, আমরা `tf.reduce_max (x) through এর মাধ্যমে ব্যাকপ্রপ করতে চাই না (যদি সর্বোচ্চ মানগুলি অনন্য না হয় তবে গ্রেডিয়েন্টটি ভুল ইনপুটটিতে প্রবাহিত হতে পারে) গণনা করে এবং এটি হিসাবে আচরণ করে একটি ধ্রুবক। সুতরাং, আমাদের এটিকে
def stable_softmax(x):
     z = x - tf.stop_gradient(tf.reduce_max(x))
     numerator = tf.exp(z)
     denominator = tf.reduce_sum(numerator)
     return numerator / denominator
 
হিসাবে লিখতে হবে অন্য কয়েকটি উদাহরণের মধ্যে রয়েছে:
  • EM অ্যালগরিদম যেখানে এম-পদক্ষেপটি E- পদক্ষেপের আউটপুট মাধ্যমে ব্যাকপ্রসারণ জড়িত করা উচিত নয়।
  • বোল্টজমান মেশিনগুলির বিপরীতে বিচ্ছিন্নকরণ প্রশিক্ষণ যেখানে শক্তি কার্যের পার্থক্য করার সময়, প্রশিক্ষণটি অবশ্যই মডেল থেকে নমুনাগুলি তৈরি করা গ্রাফের মাধ্যমে ব্যাকপ্রোপেট করতে হবে না।
  • বিদ্বেষমূলক প্রশিক্ষণ, যেখানে কোনও প্রতিক্রিয়া বিদ্বেষমূলক উদাহরণ প্রজন্মের প্রক্রিয়াটির মধ্য দিয়ে না ঘটে।

পাবলিক পদ্ধতি

আউটপুট <টি>
আউটপুট ()
একটি সেন্সরটির প্রতীকী হ্যান্ডেল ফেরত দেয়।
স্ট্যাটিক <টি> স্টপ গ্রেডিয়েন্ট <টি>
তৈরি করুন ( স্কোপ স্কোপ, অপেরাড <T> ইনপুট)
একটি নতুন স্টপগ্র্যাডিয়েন্ট অপারেশন মোড়ানো ক্লাস তৈরির কারখানা পদ্ধতি method
আউটপুট <টি>

উত্তরাধিকারী পদ্ধতি

পাবলিক পদ্ধতি

সর্বজনীন আউটপুট <T> হিসাবে আউটপুট ()

একটি সেন্সরটির প্রতীকী হ্যান্ডেল ফেরত দেয়।

টেনসরফ্লো অপারেশনের ইনপুটগুলি অন্য টেনসরফ্লো অপারেশনের আউটপুট। এই পদ্ধতিটি প্রতীকী হ্যান্ডেল প্রাপ্ত করতে ব্যবহৃত হয় যা ইনপুটটির গণনা উপস্থাপন করে।

সর্বজনীন স্ট্যাটিক স্টপগ্র্যাডিয়েন্ট <টি> তৈরি করুন ( স্কোপ স্কোপ, অপেরাড <টি> ইনপুট)

একটি নতুন স্টপগ্র্যাডিয়েন্ট অপারেশন মোড়ানো ক্লাস তৈরির কারখানা পদ্ধতি method

পরামিতি
সুযোগ বর্তমান সুযোগ
ফিরে আসে
  • স্টপগ্রাডিয়েন্টের একটি নতুন উদাহরণ

সর্বজনীন আউটপুট <T> আউটপুট ()