সচরাচর জিজ্ঞাস্য

আপনি যদি এখানে আপনার প্রশ্নের উত্তর খুঁজে না পান তবে অনুগ্রহ করে বিষয়টির জন্য আমাদের বিস্তারিত ডকুমেন্টেশন দেখুন বা একটি GitHub সমস্যা ফাইল করুন।

মডেল রূপান্তর

টেনসরফ্লো থেকে টেনসরফ্লো লাইটে রূপান্তরের জন্য কোন ফর্ম্যাটগুলি সমর্থিত?

সমর্থিত বিন্যাস এখানে তালিকাভুক্ত করা হয়

কেন কিছু অপারেশন TensorFlow Lite এ প্রয়োগ করা হয় না?

TFLite লাইটওয়েট রাখার জন্য, শুধুমাত্র কিছু TF অপারেটর ( অনুমোদিত তালিকায় তালিকাভুক্ত) TFLite-এ সমর্থিত।

কেন আমার মডেল রূপান্তর না?

যেহেতু TensorFlow Lite অপারেশনের সংখ্যা TensorFlow এর থেকে কম, কিছু মডেল রূপান্তর করতে সক্ষম নাও হতে পারে। কিছু সাধারণ ত্রুটি এখানে তালিকাভুক্ত করা হয়.

অনুপস্থিত ক্রিয়াকলাপ বা নিয়ন্ত্রণ ফ্লো অপারেশনগুলির সাথে সম্পর্কিত নয় এমন রূপান্তর সমস্যাগুলির জন্য, আমাদের GitHub সমস্যাগুলি অনুসন্ধান করুন বা একটি নতুন ফাইল করুন৷

আমি কীভাবে পরীক্ষা করব যে একটি টেনসরফ্লো লাইট মডেল আসল টেনসরফ্লো মডেলের মতো আচরণ করে?

পরীক্ষা করার সর্বোত্তম উপায় হল TensorFlow এবং TensorFlow Lite মডেলের আউটপুটগুলির তুলনা করা একই ইনপুটগুলির (টেস্ট ডেটা বা র্যান্ডম ইনপুট) যেমন এখানে দেখানো হয়েছে৷

GraphDef প্রোটোকল বাফারের জন্য আমি কিভাবে ইনপুট/আউটপুট নির্ধারণ করব?

একটি .pb ফাইল থেকে একটি গ্রাফ পরিদর্শন করার সবচেয়ে সহজ উপায় হল Netron ব্যবহার করা, মেশিন লার্নিং মডেলের জন্য একটি ওপেন সোর্স ভিউয়ার৷

যদি Netron গ্রাফটি খুলতে না পারে, আপনি summarize_graph টুলটি ব্যবহার করে দেখতে পারেন।

যদি summarize_graph টুলটি একটি ত্রুটি দেয়, আপনি টেনসরবোর্ডের সাহায্যে গ্রাফডিফকে কল্পনা করতে পারেন এবং গ্রাফে ইনপুট এবং আউটপুটগুলি সন্ধান করতে পারেন। একটি .pb ফাইল কল্পনা করতে, নিচের মত import_pb_to_tensorboard.py স্ক্রিপ্ট ব্যবহার করুন:

python import_pb_to_tensorboard.py --model_dir <model path> --log_dir <log dir path>

আমি কিভাবে একটি .tflite ফাইল পরিদর্শন করব?

টেনসরফ্লো লাইট মডেলকে কল্পনা করার সবচেয়ে সহজ উপায় হল নেট্রন ।

যদি Netron আপনার TensorFlow Lite মডেল খুলতে না পারে, আপনি আমাদের সংগ্রহস্থলে visualize.py স্ক্রিপ্ট ব্যবহার করে দেখতে পারেন।

আপনি যদি TF 2.5 বা পরবর্তী সংস্করণ ব্যবহার করেন

python -m tensorflow.lite.tools.visualize model.tflite visualized_model.html

অন্যথায়, আপনি Bazel দিয়ে এই স্ক্রিপ্টটি চালাতে পারেন

bazel run //tensorflow/lite/tools:visualize model.tflite visualized_model.html

অপ্টিমাইজেশান

আমি কীভাবে আমার রূপান্তরিত টেনসরফ্লো লাইট মডেলের আকার কমাতে পারি?

মডেলের আকার কমাতে টেনসরফ্লো লাইটে রূপান্তর করার সময় প্রশিক্ষণ-পরবর্তী কোয়ান্টাইজেশন ব্যবহার করা যেতে পারে। পোস্ট-ট্রেনিং কোয়ান্টাইজেশন ফ্লোটিং-পয়েন্ট থেকে 8-বিট নির্ভুলতার ওজনকে পরিমাপ করে এবং ফ্লোটিং পয়েন্ট গণনা করার জন্য রানটাইমের সময় তাদের ডিকুয়ান্টাইজ করে। যাইহোক, মনে রাখবেন যে এর কিছু নির্ভুলতা প্রভাব থাকতে পারে।

যদি মডেলটিকে পুনরায় প্রশিক্ষণ দেওয়া একটি বিকল্প হয় তবে কোয়ান্টাইজেশন-সচেতন প্রশিক্ষণ বিবেচনা করুন। যাইহোক, মনে রাখবেন যে কোয়ান্টাইজেশন-সচেতন প্রশিক্ষণ শুধুমাত্র কনভোলিউশনাল নিউরাল নেটওয়ার্ক আর্কিটেকচারের উপসেটের জন্য উপলব্ধ।

বিভিন্ন অপ্টিমাইজেশন পদ্ধতির গভীর বোঝার জন্য, মডেল অপ্টিমাইজেশান দেখুন।

আমার মেশিন লার্নিং টাস্কের জন্য আমি কিভাবে TensorFlow Lite পারফরম্যান্সকে অপ্টিমাইজ করব?

TensorFlow Lite পারফরম্যান্স অপ্টিমাইজ করার জন্য উচ্চ-স্তরের প্রক্রিয়াটি দেখতে এইরকম কিছু দেখায়:

  • আপনার কাছে টাস্কের জন্য সঠিক মডেল আছে তা নিশ্চিত করুন। ছবির শ্রেণীবিভাগের জন্য, TensorFlow হাব দেখুন।
  • থ্রেড সংখ্যা খামচি. অনেক TensorFlow Lite অপারেটর মাল্টি-থ্রেডেড কার্নেল সমর্থন করে। আপনি এটি করতে C++ API- তে SetNumThreads() ব্যবহার করতে পারেন। যাইহোক, থ্রেড বৃদ্ধির ফলে পরিবেশের উপর নির্ভর করে কর্মক্ষমতা পরিবর্তনশীলতা দেখা দেয়।
  • হার্ডওয়্যার এক্সিলারেটর ব্যবহার করুন। TensorFlow Lite প্রতিনিধিদের ব্যবহার করে নির্দিষ্ট হার্ডওয়্যারের জন্য মডেল ত্বরণ সমর্থন করে। কোন এক্সিলারেটরগুলি সমর্থিত এবং আপনার ডিভাইসে মডেলের সাথে সেগুলি কীভাবে ব্যবহার করবেন সে সম্পর্কে তথ্যের জন্য আমাদের প্রতিনিধি নির্দেশিকা দেখুন৷
  • (উন্নত) প্রোফাইল মডেল। Tensorflow Lite বেঞ্চমার্কিং টুলটিতে একটি অন্তর্নির্মিত প্রোফাইলার রয়েছে যা প্রতি-অপারেটরের পরিসংখ্যান দেখাতে পারে। আপনি যদি জানেন কিভাবে আপনি আপনার নির্দিষ্ট প্ল্যাটফর্মের জন্য একজন অপারেটরের কর্মক্ষমতা অপ্টিমাইজ করতে পারেন, তাহলে আপনি একটি কাস্টম অপারেটর বাস্তবায়ন করতে পারেন।

পারফরম্যান্সকে কীভাবে অপ্টিমাইজ করা যায় সে সম্পর্কে আরও গভীর আলোচনার জন্য, সেরা অনুশীলনগুলি দেখুন।