7 ডিসেম্বর এমএল সিম্পোজিয়ামে মহিলাদের অংশগ্রহণ করুন এখনই নিবন্ধন করুন৷

AllToAll

সর্বজনীন চূড়ান্ত শ্রেণি AllToAll

টিপিইউ প্রতিরূপ জুড়ে ডেটা আদান প্রদান করার জন্য একটি বিকল্প Op

প্রতিটি প্রতিরূপে, ইনপুটটিকে `split_damentsion` বরাবর` split_count` ব্লকে বিভক্ত করা হয় এবং গ্রুপ_অ্যাসাইনমেন্ট প্রদত্ত অন্যান্য প্রতিরূপে প্রেরণ করা হয়। `Split_count` - অন্যান্য প্রতিলিপি থেকে 1 টি ব্লক পাওয়ার পরে, আমরা ব্লকগুলিকে আউটপুট হিসাবে` concat_dimension` বরাবর সংযুক্ত করি।

উদাহরণস্বরূপ, ধরুন এখানে 2 টিপিইউ প্রতিলিপি রয়েছে: প্রতিলিপি 0 ইনপুট গ্রহণ করে: `[[এ, বি]]` প্রতিলিপি 1 ইনপুট গ্রহণ করে: `[[সি, ডি]]`

গোষ্ঠী_সাইনমেন্ট = `[[0, 1]]` কনক্যাট_ডাইমেনশন = 0 বিভাজন_পরিমাণ = 1 বিভাজন_কাউন্ট = 2

প্রতিরূপ 0 এর আউটপুট: `[[এ], [সি]] lic প্রতিলিপি 1 এর আউটপুট:` [[বি], [ডি]] `

পাবলিক পদ্ধতি

আউটপুট <টি>
আউটপুট ()
একটি সেন্সরটির প্রতীকী হ্যান্ডেল ফেরত দেয়।
স্থিতিশীল <T> AllToAll <T>
তৈরি করুন ( স্কোপ স্কোপ, অপেরাড <T> ইনপুট, অপেরান্ড <Integer> গ্রুপঅ্যাসাইনমেন্ট, লং কনক্যাটটাইমেনশন, লং স্প্লিটডাইমেনশন, লং স্প্লিটকઉન્ટ)
একটি নতুন AllToAll অপারেশন মোড়ানো একটি শ্রেণি তৈরি করার জন্য কারখানা পদ্ধতি।
আউটপুট <টি>
আউটপুট ()
বিনিময় ফলাফল।

উত্তরাধিকারী পদ্ধতি

পাবলিক পদ্ধতি

সর্বজনীন আউটপুট <T> হিসাবে আউটপুট ()

একটি সেন্সরটির প্রতীকী হ্যান্ডেল ফেরত দেয়।

টেনসরফ্লো অপারেশনের ইনপুটগুলি অন্য টেনসরফ্লো অপারেশনের আউটপুট। এই পদ্ধতিটি প্রতীকী হ্যান্ডেল প্রাপ্ত করতে ব্যবহৃত হয় যা ইনপুটটির গণনা উপস্থাপন করে।

সর্বজনীন স্ট্যাটিক AllToAll <T> তৈরি করুন ( স্কোপ স্কোপ, অপেরাড <টি> ইনপুট, অপেরান্ড <ইন্টিজার> গ্রুপঅ্যাসাইনমেন্ট, লং কনট্যাটাইমেনশন, লং স্প্লিটডাইমেনশন, লং স্প্লিটকઉન્ટ)

একটি নতুন AllToAll অপারেশন মোড়ানো একটি শ্রেণি তৈরি করার জন্য কারখানা পদ্ধতি।

পরামিতি
সুযোগ বর্তমান সুযোগ
ইনপুট যোগফলের স্থানীয় ইনপুট।
গ্রুপসাইনমেন্ট আকৃতির [num_groups, num_replicas_per_group] সহ একটি ইন্টি 32 টেন্সর। `group_assignment [i] the আইথ সাবগ্রুপে রেপ্লিকা আইডির প্রতিনিধিত্ব করে।
কনক্যাটডাইমেনশন একত্রিত করার জন্য মাত্রা সংখ্যা number
splitDimesion বিভক্ত করার জন্য মাত্রা সংখ্যা।
স্প্লিটকাউন্ট বিভাজনের সংখ্যা, এই সংখ্যাটি অবশ্যই উপ-গ্রুপ আকারের (গ্রুপ_সেইগমেন্ট.সেট_শ্যাপ () [1]) এর সমান
ফিরে আসে
  • AllToAll এর একটি নতুন উদাহরণ

সর্বজনীন আউটপুট <T> আউটপুট ()

বিনিময় ফলাফল।