TensorFlow Lattice হল একটি লাইব্রেরি যা নমনীয়, নিয়ন্ত্রিত এবং ব্যাখ্যাযোগ্য জালি ভিত্তিক মডেল প্রয়োগ করে। লাইব্রেরি আপনাকে সাধারণ জ্ঞান বা নীতি-চালিত আকারের সীমাবদ্ধতার মাধ্যমে শেখার প্রক্রিয়ার মধ্যে ডোমেন জ্ঞান ইনজেক্ট করতে সক্ষম করে। এটি কেরাস স্তরগুলির একটি সংগ্রহ ব্যবহার করে করা হয় যা একঘেয়েমি, উত্তলতা এবং জোড়াযুক্ত বিশ্বাসের মতো সীমাবদ্ধতাগুলিকে সন্তুষ্ট করতে পারে। লাইব্রেরিটি প্রিমেড মডেল সেটআপ করার জন্য সহজ প্রদান করে।
ধারণা
এই বিভাগটি মোনোটোনিক ক্যালিব্রেটেড ইন্টারপোলেটেড লুক-আপ টেবিল , JMLR 2016-এ বর্ণনার একটি সরলীকৃত সংস্করণ।
জালি
একটি জালি হল একটি ইন্টারপোলেটেড লুক-আপ টেবিল যা আপনার ডেটাতে নির্বিচারে ইনপুট-আউটপুট সম্পর্ক আনুমানিক করতে পারে। এটি আপনার ইনপুট স্পেসে একটি নিয়মিত গ্রিডকে ওভারল্যাপ করে এবং গ্রিডের শীর্ষবিন্দুতে আউটপুটের মান শিখে। একটি পরীক্ষার পয়েন্টের জন্য \(x\), \(f(x)\) আশেপাশের জালির মান থেকে রৈখিকভাবে প্রত্যক্ষ করা হয় \(x\).
উপরের সাধারণ উদাহরণ হল 2টি ইনপুট বৈশিষ্ট্য এবং 4টি পরামিতি সহ একটি ফাংশন:\(\theta=[0, 0.2, 0.4, 1]\), যা ইনপুট স্থানের কোণায় ফাংশনের মান; বাকি ফাংশন এই পরামিতি থেকে interpolated হয়.
ফাংশন \(f(x)\) বৈশিষ্ট্যগুলির মধ্যে অ-রৈখিক মিথস্ক্রিয়া ক্যাপচার করতে পারে। আপনি জালির পরামিতিগুলিকে একটি নিয়মিত গ্রিডে মাটিতে সেট করা খুঁটির উচ্চতা হিসাবে ভাবতে পারেন এবং ফলস্বরূপ কাজটি চারটি খুঁটির সাথে শক্তভাবে টানা কাপড়ের মতো।
সঙ্গে \(D\) বৈশিষ্ট্য এবং প্রতিটি মাত্রা বরাবর 2টি শীর্ষবিন্দু, একটি নিয়মিত জালি থাকবে৷ \(2^D\) পরামিতি একটি আরও নমনীয় ফাংশন ফিট করার জন্য, আপনি প্রতিটি মাত্রা বরাবর আরও শীর্ষবিন্দু সহ বৈশিষ্ট্য স্থানের উপর একটি সূক্ষ্ম-দানাযুক্ত জালি নির্দিষ্ট করতে পারেন। ল্যাটিস রিগ্রেশন ফাংশন ক্রমাগত এবং টুকরো টুকরো অসীম পার্থক্যযোগ্য।
ক্রমাঙ্কন
ধরা যাক পূর্ববর্তী নমুনা জালিটি বৈশিষ্ট্যগুলি ব্যবহার করে গণনা করা একটি প্রস্তাবিত স্থানীয় কফি শপের সাথে একজন বিদগ্ধ ব্যবহারকারীর সুখের প্রতিনিধিত্ব করে:
- কফির দাম, 0 থেকে 20 ডলারের মধ্যে
- ব্যবহারকারীর দূরত্ব, 0 থেকে 30 কিলোমিটারের মধ্যে
আমরা চাই যে আমাদের মডেল স্থানীয় কফি শপের পরামর্শের মাধ্যমে ব্যবহারকারীর সুখ শিখুক। টেনসরফ্লো ল্যাটিস মডেলগুলি টুকরো টুকরো রৈখিক ফাংশন ব্যবহার করতে পারে ( tfl.layers.PWLCalibration সহ) ল্যাটিস দ্বারা গৃহীত পরিসরে ইনপুট বৈশিষ্ট্যগুলিকে ক্যালিব্রেট এবং স্বাভাবিক করার জন্য: উপরের জালির উদাহরণে 0.0 থেকে 1.0৷ নিম্নলিখিত 10টি কীপয়েন্ট সহ এই ধরনের ক্রমাঙ্কন ফাংশন উদাহরণগুলি দেখায়:
ইনপুট কীপয়েন্ট হিসাবে বৈশিষ্ট্যগুলির কোয়ান্টাইলগুলি ব্যবহার করা প্রায়শই একটি ভাল ধারণা। টেনসরফ্লো ল্যাটিস প্রিমেড মডেলগুলি স্বয়ংক্রিয়ভাবে ইনপুট কীপয়েন্টগুলি বৈশিষ্ট্য কোয়ান্টাইলগুলিতে সেট করতে পারে।
শ্রেণীবদ্ধ বৈশিষ্ট্যের জন্য, TensorFlow Lattice শ্রেণীবদ্ধ ক্রমাঙ্কন প্রদান করে ( tfl.layers.CategoricalCalibration সহ) একটি জালিতে ফিড করার জন্য অনুরূপ আউটপুট বাউন্ডিং সহ।
ensembles
একটি জালি স্তরের প্যারামিটারের সংখ্যা ইনপুট বৈশিষ্ট্যের সংখ্যার সাথে দ্রুতগতিতে বৃদ্ধি পায়, তাই খুব উচ্চ মাত্রায় স্কেল করা যায় না। এই সীমাবদ্ধতা কাটিয়ে উঠতে, TensorFlow Lattice জালির সংমিশ্রণ অফার করে যা (গড়) বেশ কয়েকটি ছোট জালিকে একত্রিত করে, যা মডেলটিকে বৈশিষ্ট্যের সংখ্যায় রৈখিকভাবে বৃদ্ধি করতে সক্ষম করে।
লাইব্রেরি এই ensembles দুটি ভিন্নতা প্রদান করে:
র্যান্ডম টিনি ল্যাটিসিস (RTL): প্রতিটি সাবমডেল বৈশিষ্ট্যগুলির একটি এলোমেলো উপসেট ব্যবহার করে (প্রতিস্থাপন সহ)।
ক্রিস্টাল : ক্রিস্টাল অ্যালগরিদম প্রথমে একটি প্রিফিটিং মডেলকে প্রশিক্ষণ দেয় যা জুটিভিত্তিক বৈশিষ্ট্য মিথস্ক্রিয়া অনুমান করে। তারপরে এটি চূড়ান্ত সংযোজনটি এমনভাবে সাজায় যাতে আরও নন-লিনিয়ার ইন্টারঅ্যাকশন সহ বৈশিষ্ট্যগুলি একই জালিতে থাকে।
কেন টেনসরফ্লো জালি?
আপনি এই TF ব্লগ পোস্টে TensorFlow Lattice-এর একটি সংক্ষিপ্ত পরিচিতি পেতে পারেন।
ব্যাখ্যাযোগ্যতা
যেহেতু প্রতিটি স্তরের প্যারামিটারগুলি সেই স্তরের আউটপুট, তাই মডেলের প্রতিটি অংশ বিশ্লেষণ, বোঝা এবং ডিবাগ করা সহজ।
সঠিক এবং নমনীয় মডেল
সূক্ষ্ম-দানাযুক্ত জালি ব্যবহার করে, আপনি একটি একক জালি স্তর দিয়ে নির্বিচারে জটিল ফাংশন পেতে পারেন। ক্যালিব্রেটর এবং ল্যাটিসের একাধিক স্তর ব্যবহার করা প্রায়শই অনুশীলনে সুন্দরভাবে কাজ করে এবং একই আকারের DNN মডেলগুলিকে মেলে বা ছাড়িয়ে যেতে পারে।
কমন সেন্স আকৃতির সীমাবদ্ধতা
বাস্তব বিশ্বের প্রশিক্ষণ ডেটা যথেষ্ট পরিমাণে রান-টাইম ডেটা উপস্থাপন করতে পারে না। নমনীয় এমএল সলিউশন যেমন ডিএনএন বা ফরেস্ট প্রায়ই অপ্রত্যাশিতভাবে এবং এমনকি ইনপুট স্পেসের কিছু অংশে কাজ করে যা প্রশিক্ষণের ডেটা দ্বারা আচ্ছাদিত নয়। এই আচরণটি বিশেষত সমস্যাযুক্ত যখন নীতি বা ন্যায্যতার সীমাবদ্ধতা লঙ্ঘন করা যেতে পারে।
যদিও নিয়মিতকরণের সাধারণ ফর্মগুলি আরও বুদ্ধিমান এক্সট্রাপোলেশনের ফলে হতে পারে, স্ট্যান্ডার্ড রেগুলাররা সমগ্র ইনপুট স্পেস জুড়ে যুক্তিসঙ্গত মডেল আচরণের গ্যারান্টি দিতে পারে না, বিশেষ করে উচ্চ-মাত্রিক ইনপুটগুলির সাথে। আরও নিয়ন্ত্রিত এবং অনুমানযোগ্য আচরণ সহ সহজ মডেলগুলিতে স্যুইচ করা মডেলের নির্ভুলতার জন্য একটি গুরুতর মূল্যে আসতে পারে।
TF Lattice নমনীয় মডেল ব্যবহার চালিয়ে যাওয়া সম্ভব করে, কিন্তু শব্দার্থগতভাবে অর্থপূর্ণ সাধারণ জ্ঞান বা নীতি-চালিত আকৃতির সীমাবদ্ধতার মাধ্যমে শেখার প্রক্রিয়ায় ডোমেন জ্ঞান ইনজেক্ট করার জন্য বিভিন্ন বিকল্প প্রদান করে:
- একঘেয়েমি : আপনি নির্দিষ্ট করতে পারেন যে আউটপুট শুধুমাত্র একটি ইনপুটের ক্ষেত্রে বৃদ্ধি/কমাতে হবে। আমাদের উদাহরণে, আপনি নির্দিষ্ট করতে চাইতে পারেন যে কফি শপের বর্ধিত দূরত্ব শুধুমাত্র ভবিষ্যদ্বাণীকৃত ব্যবহারকারীর পছন্দকে হ্রাস করবে।
উত্তল/অতলতা : আপনি নির্দিষ্ট করতে পারেন যে ফাংশনের আকৃতি উত্তল বা অবতল হতে পারে। একঘেয়েমিতার সাথে মিশ্রিত, এটি একটি প্রদত্ত বৈশিষ্ট্যের ক্ষেত্রে হ্রাসকারী রিটার্নের প্রতিনিধিত্ব করতে ফাংশনটিকে বাধ্য করতে পারে।
ইউনিমডালিটি : আপনি নির্দিষ্ট করতে পারেন যে ফাংশনের একটি অনন্য শিখর বা অনন্য উপত্যকা থাকা উচিত। এটি আপনাকে এমন ফাংশনগুলিকে প্রতিনিধিত্ব করতে দেয় যা একটি বৈশিষ্ট্যের ক্ষেত্রে একটি মিষ্টি জায়গা রয়েছে।
পেয়ারওয়াইজ বিশ্বাস : এই সীমাবদ্ধতা একজোড়া বৈশিষ্ট্যের উপর কাজ করে এবং পরামর্শ দেয় যে একটি ইনপুট বৈশিষ্ট্য শব্দার্থকভাবে অন্য বৈশিষ্ট্যের উপর আস্থা প্রতিফলিত করে। উদাহরণস্বরূপ, উচ্চ সংখ্যক রিভিউ আপনাকে একটি রেস্তোরাঁর গড় তারকা রেটিংয়ে আরও আত্মবিশ্বাসী করে তোলে। স্টার রেটিং এর ক্ষেত্রে মডেলটি আরো সংবেদনশীল হবে (অর্থাৎ রেটিং এর ক্ষেত্রে একটি বৃহত্তর ঢাল থাকবে) যখন পর্যালোচনার সংখ্যা বেশি হবে।
Regularizers সঙ্গে নিয়ন্ত্রিত নমনীয়তা
আকৃতির সীমাবদ্ধতা ছাড়াও, টেনসরফ্লো জালি প্রতিটি স্তরের জন্য ফাংশনের নমনীয়তা এবং মসৃণতা নিয়ন্ত্রণ করতে বেশ কয়েকটি নিয়মিতকারী সরবরাহ করে।
ল্যাপ্লাসিয়ান রেগুলারাইজার : জালি/ক্রমাঙ্কন শীর্ষবিন্দু/কীপয়েন্টগুলির আউটপুটগুলি তাদের নিজ নিজ প্রতিবেশীদের মানগুলির প্রতি নিয়মিত করা হয়। এটি একটি চাটুকার ফাংশন ফলাফল.
হেসিয়ান রেগুলারাইজার : এটি ফাংশনটিকে আরও রৈখিক করতে PWL ক্রমাঙ্কন স্তরের প্রথম ডেরিভেটিভকে শাস্তি দেয়।
রিঙ্কেল রেগুলারাইজার : এটি বক্রতার আকস্মিক পরিবর্তন এড়াতে PWL ক্রমাঙ্কন স্তরের দ্বিতীয় ডেরিভেটিভকে শাস্তি দেয়। এটা ফাংশন মসৃণ করে তোলে.
টর্শন রেগুলারাইজার : বৈশিষ্ট্যগুলির মধ্যে টর্শন প্রতিরোধের জন্য জালির আউটপুটগুলি নিয়মিত করা হবে। অন্য কথায়, বৈশিষ্ট্যগুলির অবদানের মধ্যে মডেলটিকে স্বাধীনতার দিকে নিয়মিত করা হবে।
অন্যান্য কেরা স্তরগুলির সাথে মিশ্রিত করুন এবং মেলে
আপনি আংশিকভাবে সীমাবদ্ধ বা নিয়মিত মডেল তৈরি করতে অন্যান্য কেরাস স্তরগুলির সাথে একত্রে TF ল্যাটিস স্তরগুলি ব্যবহার করতে পারেন। উদাহরণস্বরূপ, জালি বা PWL ক্রমাঙ্কন স্তরগুলি গভীর নেটওয়ার্কগুলির শেষ স্তরে ব্যবহার করা যেতে পারে যাতে এমবেডিং বা অন্যান্য কেরাস স্তর অন্তর্ভুক্ত থাকে।
কাগজপত্র
- একঘেয়েমি আকৃতির সীমাবদ্ধতা দ্বারা ডিওন্টোলজিক্যাল এথিক্স , সেরেনা ওয়াং, মায়া গুপ্তা, আর্টিফিশিয়াল ইন্টেলিজেন্স অ্যান্ড স্ট্যাটিস্টিকস (এআইএসটিএটিএস), 2020 সম্পর্কিত আন্তর্জাতিক সম্মেলন
- সেট ফাংশনের জন্য আকৃতির সীমাবদ্ধতা , অ্যান্ড্রু কোটার, মায়া গুপ্তা, এইচ জিয়াং, এরেজ লুইডোর, জিম মুলার, তামান নারায়ণ, সেরেনা ওয়াং, তাও ঝু। ইন্টারন্যাশনাল কনফারেন্স অন মেশিন লার্নিং (ICML), 2019
- ব্যাখ্যাযোগ্যতা এবং নিয়মিতকরণের জন্য হ্রাসকৃত রিটার্নস আকারের সীমাবদ্ধতা , মায়া গুপ্তা, দারা বাহরি, অ্যান্ড্রু কোটার, কেভিন ক্যানিনি, নিউরাল ইনফরমেশন প্রসেসিং সিস্টেমের অগ্রগতি (নিউরিআইপিএস), 2018
- ডিপ ল্যাটিস নেটওয়ার্ক এবং আংশিক একঘেয়ে ফাংশন , সেউঙ্গিল ইউ, কেভিন ক্যানিনি, ডেভিড ডিং, জান ফাইফার, মায়া আর. গুপ্তা, নিউরাল ইনফরমেশন প্রসেসিং সিস্টেমের অগ্রগতি (নিউরিআইপিএস), 2017
- দ্রুত এবং নমনীয় একঘেয়ে ফাংশন উইথ এনসেম্বল অফ ল্যাটিসিস , মাহদি মিলানী ফার্ড, কেভিন ক্যানিনি, অ্যান্ড্রু কোটার, জান ফাইফার, মায়া গুপ্তা, নিউরাল ইনফরমেশন প্রসেসিং সিস্টেমের অগ্রগতি (নিউরিআইপিএস), 2016
- একঘেয়ে ক্যালিব্রেটেড ইন্টারপোলেটেড লুক-আপ টেবিল , মায়া গুপ্তা, অ্যান্ড্রু কটার, জান ফাইফার, কনস্ট্যান্টিন ভোয়েভডস্কি, কেভিন ক্যানিনি, আলেকজান্ডার ম্যাঙ্গাইলভ, ওজসিচ মোকজিডলোস্কি, আলেকজান্ডার ভ্যান এসব্রোক, জার্নাল অফ মেশিন লার্নিং রিসার্চ (জেএমএলআর), 2016
- দক্ষ ফাংশন মূল্যায়নের জন্য অপ্টিমাইজড রিগ্রেশন , এরিক গার্সিয়া, রমন অরোরা, মায়া আর. গুপ্তা, ইমেজ প্রসেসিং-এ IEEE লেনদেন, 2012
- ল্যাটিস রিগ্রেশন , এরিক গার্সিয়া, মায়া গুপ্তা, অ্যাডভান্সেস ইন নিউরাল ইনফরমেশন প্রসেসিং সিস্টেম (নিউরিআইপিএস), 2009
টিউটোরিয়াল এবং API ডক্স
সাধারণ মডেল আর্কিটেকচারের জন্য, আপনি কেরাস প্রিমেড মডেল ব্যবহার করতে পারেন। আপনি TF ল্যাটিস কেরাস স্তরগুলি ব্যবহার করে কাস্টম মডেলগুলি তৈরি করতে পারেন বা অন্যান্য কেরা স্তরগুলির সাথে মিশ্রিত করতে পারেন। বিস্তারিত জানার জন্য সম্পূর্ণ API ডক্স দেখুন।
,TensorFlow Lattice হল একটি লাইব্রেরি যা নমনীয়, নিয়ন্ত্রিত এবং ব্যাখ্যাযোগ্য জালি ভিত্তিক মডেল প্রয়োগ করে। লাইব্রেরি আপনাকে সাধারণ জ্ঞান বা নীতি-চালিত আকারের সীমাবদ্ধতার মাধ্যমে শেখার প্রক্রিয়ার মধ্যে ডোমেন জ্ঞান ইনজেক্ট করতে সক্ষম করে। এটি কেরাস স্তরগুলির একটি সংগ্রহ ব্যবহার করে করা হয় যা একঘেয়েমি, উত্তলতা এবং জোড়াযুক্ত বিশ্বাসের মতো সীমাবদ্ধতাগুলিকে সন্তুষ্ট করতে পারে। লাইব্রেরিটি প্রিমেড মডেল সেটআপ করার জন্য সহজ প্রদান করে।
ধারণা
এই বিভাগটি মোনোটোনিক ক্যালিব্রেটেড ইন্টারপোলেটেড লুক-আপ টেবিল , JMLR 2016-এ বর্ণনার একটি সরলীকৃত সংস্করণ।
জালি
একটি জালি হল একটি ইন্টারপোলেটেড লুক-আপ টেবিল যা আপনার ডেটাতে নির্বিচারে ইনপুট-আউটপুট সম্পর্ক আনুমানিক করতে পারে। এটি আপনার ইনপুট স্পেসে একটি নিয়মিত গ্রিডকে ওভারল্যাপ করে এবং গ্রিডের শীর্ষবিন্দুতে আউটপুটের মান শিখে। একটি পরীক্ষার পয়েন্টের জন্য \(x\), \(f(x)\) আশেপাশের জালির মান থেকে রৈখিকভাবে প্রত্যক্ষ করা হয় \(x\).
উপরের সাধারণ উদাহরণ হল 2টি ইনপুট বৈশিষ্ট্য এবং 4টি পরামিতি সহ একটি ফাংশন:\(\theta=[0, 0.2, 0.4, 1]\), যা ইনপুট স্থানের কোণায় ফাংশনের মান; বাকি ফাংশন এই পরামিতি থেকে interpolated হয়.
ফাংশন \(f(x)\) বৈশিষ্ট্যগুলির মধ্যে অ-রৈখিক মিথস্ক্রিয়া ক্যাপচার করতে পারে। আপনি জালির পরামিতিগুলিকে একটি নিয়মিত গ্রিডে মাটিতে সেট করা খুঁটির উচ্চতা হিসাবে ভাবতে পারেন এবং ফলস্বরূপ কাজটি চারটি খুঁটির সাথে শক্তভাবে টানা কাপড়ের মতো।
সঙ্গে \(D\) বৈশিষ্ট্য এবং প্রতিটি মাত্রা বরাবর 2টি শীর্ষবিন্দু, একটি নিয়মিত জালি থাকবে৷ \(2^D\) পরামিতি একটি আরও নমনীয় ফাংশন ফিট করার জন্য, আপনি প্রতিটি মাত্রা বরাবর আরও শীর্ষবিন্দু সহ বৈশিষ্ট্য স্থানের উপর একটি সূক্ষ্ম-দানাযুক্ত জালি নির্দিষ্ট করতে পারেন। ল্যাটিস রিগ্রেশন ফাংশন ক্রমাগত এবং টুকরো টুকরো অসীম পার্থক্যযোগ্য।
ক্রমাঙ্কন
ধরা যাক পূর্ববর্তী নমুনা জালিটি বৈশিষ্ট্যগুলি ব্যবহার করে গণনা করা একটি প্রস্তাবিত স্থানীয় কফি শপের সাথে একজন বিদগ্ধ ব্যবহারকারীর সুখের প্রতিনিধিত্ব করে:
- কফির দাম, 0 থেকে 20 ডলারের মধ্যে
- ব্যবহারকারীর দূরত্ব, 0 থেকে 30 কিলোমিটারের মধ্যে
আমরা চাই যে আমাদের মডেল স্থানীয় কফি শপের পরামর্শের মাধ্যমে ব্যবহারকারীর সুখ শিখুক। টেনসরফ্লো ল্যাটিস মডেলগুলি টুকরো টুকরো রৈখিক ফাংশন ব্যবহার করতে পারে ( tfl.layers.PWLCalibration সহ) ল্যাটিস দ্বারা গৃহীত পরিসরে ইনপুট বৈশিষ্ট্যগুলিকে ক্যালিব্রেট এবং স্বাভাবিক করার জন্য: উপরের জালির উদাহরণে 0.0 থেকে 1.0৷ নিম্নলিখিত 10টি কীপয়েন্ট সহ এই ধরনের ক্রমাঙ্কন ফাংশন উদাহরণগুলি দেখায়:
ইনপুট কীপয়েন্ট হিসাবে বৈশিষ্ট্যগুলির কোয়ান্টাইলগুলি ব্যবহার করা প্রায়শই একটি ভাল ধারণা। টেনসরফ্লো ল্যাটিস প্রিমেড মডেলগুলি স্বয়ংক্রিয়ভাবে ইনপুট কীপয়েন্টগুলি বৈশিষ্ট্য কোয়ান্টাইলগুলিতে সেট করতে পারে।
শ্রেণীবদ্ধ বৈশিষ্ট্যের জন্য, TensorFlow Lattice শ্রেণীবদ্ধ ক্রমাঙ্কন প্রদান করে ( tfl.layers.CategoricalCalibration সহ) একটি জালিতে ফিড করার জন্য অনুরূপ আউটপুট বাউন্ডিং সহ।
ensembles
একটি জালি স্তরের প্যারামিটারের সংখ্যা ইনপুট বৈশিষ্ট্যের সংখ্যার সাথে দ্রুতগতিতে বৃদ্ধি পায়, তাই খুব উচ্চ মাত্রায় স্কেল করা যায় না। এই সীমাবদ্ধতা কাটিয়ে উঠতে, TensorFlow Lattice জালির সংমিশ্রণ অফার করে যা (গড়) বেশ কয়েকটি ছোট জালিকে একত্রিত করে, যা মডেলটিকে বৈশিষ্ট্যের সংখ্যায় রৈখিকভাবে বৃদ্ধি করতে সক্ষম করে।
লাইব্রেরি এই ensembles দুটি ভিন্নতা প্রদান করে:
র্যান্ডম টিনি ল্যাটিসিস (RTL): প্রতিটি সাবমডেল বৈশিষ্ট্যগুলির একটি এলোমেলো উপসেট ব্যবহার করে (প্রতিস্থাপন সহ)।
ক্রিস্টাল : ক্রিস্টাল অ্যালগরিদম প্রথমে একটি প্রিফিটিং মডেলকে প্রশিক্ষণ দেয় যা জুটিভিত্তিক বৈশিষ্ট্য মিথস্ক্রিয়া অনুমান করে। তারপরে এটি চূড়ান্ত সংযোজনটি এমনভাবে সাজায় যাতে আরও নন-লিনিয়ার ইন্টারঅ্যাকশন সহ বৈশিষ্ট্যগুলি একই জালিতে থাকে।
কেন টেনসরফ্লো জালি?
আপনি এই TF ব্লগ পোস্টে TensorFlow Lattice-এর একটি সংক্ষিপ্ত পরিচিতি পেতে পারেন।
ব্যাখ্যাযোগ্যতা
যেহেতু প্রতিটি স্তরের প্যারামিটারগুলি সেই স্তরের আউটপুট, তাই মডেলের প্রতিটি অংশ বিশ্লেষণ, বোঝা এবং ডিবাগ করা সহজ।
সঠিক এবং নমনীয় মডেল
সূক্ষ্ম-দানাযুক্ত জালি ব্যবহার করে, আপনি একটি একক জালি স্তর দিয়ে নির্বিচারে জটিল ফাংশন পেতে পারেন। ক্যালিব্রেটর এবং ল্যাটিসের একাধিক স্তর ব্যবহার করা প্রায়শই অনুশীলনে সুন্দরভাবে কাজ করে এবং একই আকারের DNN মডেলগুলিকে মেলে বা ছাড়িয়ে যেতে পারে।
কমন সেন্স আকৃতির সীমাবদ্ধতা
বাস্তব বিশ্বের প্রশিক্ষণ ডেটা যথেষ্ট পরিমাণে রান-টাইম ডেটা উপস্থাপন করতে পারে না। নমনীয় এমএল সলিউশন যেমন ডিএনএন বা ফরেস্ট প্রায়ই অপ্রত্যাশিতভাবে এবং এমনকি ইনপুট স্পেসের কিছু অংশে কাজ করে যা প্রশিক্ষণের ডেটা দ্বারা আচ্ছাদিত নয়। এই আচরণটি বিশেষত সমস্যাযুক্ত যখন নীতি বা ন্যায্যতার সীমাবদ্ধতা লঙ্ঘন করা যেতে পারে।
যদিও নিয়মিতকরণের সাধারণ ফর্মগুলি আরও বুদ্ধিমান এক্সট্রাপোলেশনের ফলে হতে পারে, স্ট্যান্ডার্ড রেগুলাররা সমগ্র ইনপুট স্পেস জুড়ে যুক্তিসঙ্গত মডেল আচরণের গ্যারান্টি দিতে পারে না, বিশেষ করে উচ্চ-মাত্রিক ইনপুটগুলির সাথে। আরও নিয়ন্ত্রিত এবং অনুমানযোগ্য আচরণ সহ সহজ মডেলগুলিতে স্যুইচ করা মডেলের নির্ভুলতার জন্য একটি গুরুতর মূল্যে আসতে পারে।
TF Lattice নমনীয় মডেল ব্যবহার চালিয়ে যাওয়া সম্ভব করে, কিন্তু শব্দার্থগতভাবে অর্থপূর্ণ সাধারণ জ্ঞান বা নীতি-চালিত আকৃতির সীমাবদ্ধতার মাধ্যমে শেখার প্রক্রিয়ায় ডোমেন জ্ঞান ইনজেক্ট করার জন্য বিভিন্ন বিকল্প প্রদান করে:
- একঘেয়েমি : আপনি নির্দিষ্ট করতে পারেন যে আউটপুট শুধুমাত্র একটি ইনপুটের ক্ষেত্রে বৃদ্ধি/কমাতে হবে। আমাদের উদাহরণে, আপনি নির্দিষ্ট করতে চাইতে পারেন যে কফি শপের বর্ধিত দূরত্ব শুধুমাত্র ভবিষ্যদ্বাণীকৃত ব্যবহারকারীর পছন্দকে হ্রাস করবে।
উত্তল/অতলতা : আপনি নির্দিষ্ট করতে পারেন যে ফাংশনের আকৃতি উত্তল বা অবতল হতে পারে। একঘেয়েমিতার সাথে মিশ্রিত, এটি একটি প্রদত্ত বৈশিষ্ট্যের ক্ষেত্রে হ্রাসকারী রিটার্নের প্রতিনিধিত্ব করতে ফাংশনটিকে বাধ্য করতে পারে।
ইউনিমডালিটি : আপনি নির্দিষ্ট করতে পারেন যে ফাংশনের একটি অনন্য শিখর বা অনন্য উপত্যকা থাকা উচিত। এটি আপনাকে এমন ফাংশনগুলিকে প্রতিনিধিত্ব করতে দেয় যা একটি বৈশিষ্ট্যের ক্ষেত্রে একটি মিষ্টি জায়গা রয়েছে।
পেয়ারওয়াইজ বিশ্বাস : এই সীমাবদ্ধতা একজোড়া বৈশিষ্ট্যের উপর কাজ করে এবং পরামর্শ দেয় যে একটি ইনপুট বৈশিষ্ট্য শব্দার্থকভাবে অন্য বৈশিষ্ট্যের উপর আস্থা প্রতিফলিত করে। উদাহরণস্বরূপ, উচ্চ সংখ্যক রিভিউ আপনাকে একটি রেস্তোরাঁর গড় তারকা রেটিংয়ে আরও আত্মবিশ্বাসী করে তোলে। স্টার রেটিং এর ক্ষেত্রে মডেলটি আরো সংবেদনশীল হবে (অর্থাৎ রেটিং এর ক্ষেত্রে একটি বৃহত্তর ঢাল থাকবে) যখন পর্যালোচনার সংখ্যা বেশি হবে।
Regularizers সঙ্গে নিয়ন্ত্রিত নমনীয়তা
আকৃতির সীমাবদ্ধতা ছাড়াও, টেনসরফ্লো জালি প্রতিটি স্তরের জন্য ফাংশনের নমনীয়তা এবং মসৃণতা নিয়ন্ত্রণ করতে বেশ কয়েকটি নিয়মিতকারী সরবরাহ করে।
ল্যাপ্লাসিয়ান রেগুলারাইজার : জালি/ক্রমাঙ্কন শীর্ষবিন্দু/কীপয়েন্টগুলির আউটপুটগুলি তাদের নিজ নিজ প্রতিবেশীদের মানগুলির প্রতি নিয়মিত করা হয়। এটি একটি চাটুকার ফাংশন ফলাফল.
হেসিয়ান রেগুলারাইজার : এটি ফাংশনটিকে আরও রৈখিক করতে PWL ক্রমাঙ্কন স্তরের প্রথম ডেরিভেটিভকে শাস্তি দেয়।
রিঙ্কেল রেগুলারাইজার : এটি বক্রতার আকস্মিক পরিবর্তন এড়াতে PWL ক্রমাঙ্কন স্তরের দ্বিতীয় ডেরিভেটিভকে শাস্তি দেয়। এটা ফাংশন মসৃণ করে তোলে.
টর্শন রেগুলারাইজার : বৈশিষ্ট্যগুলির মধ্যে টর্শন প্রতিরোধের জন্য জালির আউটপুটগুলি নিয়মিত করা হবে। অন্য কথায়, বৈশিষ্ট্যগুলির অবদানের মধ্যে মডেলটিকে স্বাধীনতার দিকে নিয়মিত করা হবে।
অন্যান্য কেরা স্তরগুলির সাথে মিশ্রিত করুন এবং মেলে
আপনি আংশিকভাবে সীমাবদ্ধ বা নিয়মিত মডেল তৈরি করতে অন্যান্য কেরাস স্তরগুলির সাথে একত্রে TF ল্যাটিস স্তরগুলি ব্যবহার করতে পারেন। উদাহরণস্বরূপ, জালি বা PWL ক্রমাঙ্কন স্তরগুলি গভীর নেটওয়ার্কগুলির শেষ স্তরে ব্যবহার করা যেতে পারে যাতে এমবেডিং বা অন্যান্য কেরাস স্তর অন্তর্ভুক্ত থাকে।
কাগজপত্র
- একঘেয়েমি আকৃতির সীমাবদ্ধতা দ্বারা ডিওন্টোলজিক্যাল এথিক্স , সেরেনা ওয়াং, মায়া গুপ্তা, আর্টিফিশিয়াল ইন্টেলিজেন্স অ্যান্ড স্ট্যাটিস্টিকস (এআইএসটিএটিএস), 2020 সম্পর্কিত আন্তর্জাতিক সম্মেলন
- সেট ফাংশনের জন্য আকৃতির সীমাবদ্ধতা , অ্যান্ড্রু কোটার, মায়া গুপ্তা, এইচ জিয়াং, এরেজ লুইডোর, জিম মুলার, তামান নারায়ণ, সেরেনা ওয়াং, তাও ঝু। ইন্টারন্যাশনাল কনফারেন্স অন মেশিন লার্নিং (ICML), 2019
- ব্যাখ্যাযোগ্যতা এবং নিয়মিতকরণের জন্য হ্রাসকৃত রিটার্নস আকারের সীমাবদ্ধতা , মায়া গুপ্তা, দারা বাহরি, অ্যান্ড্রু কোটার, কেভিন ক্যানিনি, নিউরাল ইনফরমেশন প্রসেসিং সিস্টেমের অগ্রগতি (নিউরিআইপিএস), 2018
- ডিপ ল্যাটিস নেটওয়ার্ক এবং আংশিক একঘেয়ে ফাংশন , সেউঙ্গিল ইউ, কেভিন ক্যানিনি, ডেভিড ডিং, জান ফাইফার, মায়া আর. গুপ্তা, নিউরাল ইনফরমেশন প্রসেসিং সিস্টেমের অগ্রগতি (নিউরিআইপিএস), 2017
- দ্রুত এবং নমনীয় একঘেয়ে ফাংশন উইথ এনসেম্বল অফ ল্যাটিসিস , মাহদি মিলানী ফার্ড, কেভিন ক্যানিনি, অ্যান্ড্রু কোটার, জান ফাইফার, মায়া গুপ্তা, নিউরাল ইনফরমেশন প্রসেসিং সিস্টেমের অগ্রগতি (নিউরিআইপিএস), 2016
- একঘেয়ে ক্যালিব্রেটেড ইন্টারপোলেটেড লুক-আপ টেবিল , মায়া গুপ্তা, অ্যান্ড্রু কটার, জান ফাইফার, কনস্ট্যান্টিন ভোয়েভডস্কি, কেভিন ক্যানিনি, আলেকজান্ডার ম্যাঙ্গাইলভ, ওজসিচ মোকজিডলোস্কি, আলেকজান্ডার ভ্যান এসব্রোক, জার্নাল অফ মেশিন লার্নিং রিসার্চ (জেএমএলআর), 2016
- দক্ষ ফাংশন মূল্যায়নের জন্য অপ্টিমাইজড রিগ্রেশন , এরিক গার্সিয়া, রমন অরোরা, মায়া আর. গুপ্তা, ইমেজ প্রসেসিং-এ IEEE লেনদেন, 2012
- ল্যাটিস রিগ্রেশন , এরিক গার্সিয়া, মায়া গুপ্তা, অ্যাডভান্সেস ইন নিউরাল ইনফরমেশন প্রসেসিং সিস্টেম (নিউরিআইপিএস), 2009
টিউটোরিয়াল এবং API ডক্স
সাধারণ মডেল আর্কিটেকচারের জন্য, আপনি কেরাস প্রিমেড মডেল ব্যবহার করতে পারেন। আপনি TF ল্যাটিস কেরাস স্তরগুলি ব্যবহার করে কাস্টম মডেলগুলি তৈরি করতে পারেন বা অন্যান্য কেরা স্তরগুলির সাথে মিশ্রিত করতে পারেন। বিস্তারিত জানার জন্য সম্পূর্ণ API ডক্স দেখুন।