এর জন্য স্টোকাস্টিক ডুয়াল কোঅর্ডিনেট অ্যাসেন্ট (SDCA) অপ্টিমাইজারের বিতরণ করা সংস্করণ
L1 + L2 নিয়মিতকরণ সহ রৈখিক মডেল। যেহেতু বৈশ্বিক অপ্টিমাইজেশানের উদ্দেশ্য দৃঢ়ভাবে-উত্তল, তাই অপ্টিমাইজার প্রতিটি ধাপে দ্বৈত উদ্দেশ্যকে অপ্টিমাইজ করে। অপ্টিমাইজার প্রতিটি আপডেট একবারে একটি উদাহরণ প্রয়োগ করে। উদাহরণগুলি সমানভাবে নমুনা করা হয়, এবং অপ্টিমাইজার রেট বিনামূল্যে শেখার এবং লিনিয়ার কনভারজেন্স রেট উপভোগ করে।
[প্রক্সিমাল স্টোকাস্টিক ডুয়াল কোঅর্ডিনেট অ্যাসেন্ট](http://arxiv.org/pdf/1211.2717v1.pdf)।
শাই শালেভ-শোয়ার্টজ, টং ঝাং। 2012
$$Loss Objective = \sum f_{i} (wx_{i}) + (l2 / 2) * |w|^2 + l1 * |w|$$
[ডিস্ট্রিবিউটেড প্রাইমাল-ডুয়াল অপ্টিমাইজেশানে গড় বনাম যোগ করা](http://arxiv.org/abs/1502.03508)।
চেনক্সিন মা, ভার্জিনিয়া স্মিথ, মার্টিন জাগ্গি, মাইকেল আই. জর্ডান, পিটার রিচটারিক, মার্টিন টাকাক। 2015
[অ্যাডাপ্টিভ প্রোবাবিলিটিসহ স্টকাস্টিক ডুয়াল কোঅর্ডিনেট অ্যাসেন্ট](https://arxiv.org/abs/1502.08053)।
ডমিনিক সিবা, ঝেং কু, পিটার রিচতারিক। 2015
নেস্টেড ক্লাস
ক্লাস | SdcaOptimizer.Options | SdcaOptimizer এর জন্য ঐচ্ছিক বৈশিষ্ট্য |
ধ্রুবক
স্ট্রিং | OP_NAME | এই অপের নাম, টেনসরফ্লো কোর ইঞ্জিন দ্বারা পরিচিত |
পাবলিক পদ্ধতি
স্ট্যাটিক SdcaOptimizer.Options | অভিযোজিত (বুলিয়ান অভিযোজিত) |
স্ট্যাটিক SdcaOptimizer | তৈরি করুন ( স্কোপ স্কোপ, ইটারেবল< অপারেন্ড < TInt64 >> sparseExampleIndices, Iterable< Operand < TInt64 >> sparseFeatureIndices, Iterable< Operand < TFloat32 >> sparseFeatureValues, Iterable< Operand < TFloats , >> Odloat2 এবং Odfloat2 উদাহরণ perand < TFloat32 > exampleLabels, Iterable< Operand < TInt64 >> sparseIndices, Iterable< Operand < TFloat32 >> sparseWeights, Iterable< Operand < TFloat32 >> ঘন ওজন, Operand < TFloat32 > exampleStateData, String lossType, Floatn, Float2 umInnerIterations , বিকল্প... বিকল্প) একটি নতুন SdcaOptimizer অপারেশন মোড়ানো একটি ক্লাস তৈরি করার কারখানা পদ্ধতি। |
তালিকা< আউটপুট < TFloat32 >> | আউট ডেল্টা ডেনসওয়েটস () ভেক্টরের একটি তালিকা যেখানে মানগুলি একটি ঘন বৈশিষ্ট্য গোষ্ঠীর সাথে যুক্ত ডেল্টা ওজন। |
তালিকা< আউটপুট < TFloat32 >> | আউট ডেল্টাস্পার্সওয়েটস () ভেক্টরের একটি তালিকা যেখানে প্রতিটি মান একটি স্পার্স বৈশিষ্ট্য গ্রুপের সাথে যুক্ত ডেল্টা ওজন। |
আউটপুট < TFloat32 > | outexampleStateData () আপডেট করা উদাহরণ স্টেট ডেটা ধারণকারী ভেক্টরের একটি তালিকা। |
উত্তরাধিকারসূত্রে প্রাপ্ত পদ্ধতি
ধ্রুবক
সর্বজনীন স্ট্যাটিক চূড়ান্ত স্ট্রিং OP_NAME
এই অপের নাম, টেনসরফ্লো কোর ইঞ্জিন দ্বারা পরিচিত
পাবলিক পদ্ধতি
পাবলিক স্ট্যাটিক SdcaOptimizer. Options adaptive (বুলিয়ান অভিযোজিত)
পরামিতি
অভিযোজিত | অভ্যন্তরীণ লুপের জন্য অভিযোজিত SDCA ব্যবহার করবেন কিনা। |
---|
পাবলিক স্ট্যাটিক SdcaOptimizer তৈরি করুন ( স্কোপ স্কোপ, Iterable< Operand < TInt64 >> sparseExampleIndices, Iterable< Operand < TInt64 >> sparseFeatureIndices, Iterable< Operand < TFloat32 >> sparseFeatureValues, O < TFloat32 >> স্পার্সেবল, ও <অপারেন্ড> Float32 > উদাহরণ ওজন, অপারেন্ড < TFloat32 > exampleLabels, Iterable< Operand < TInt64 >> sparseIndices, Iterable< Operand < TFloat32 >> sparseWeights, Iterable< Operand < TFloat32 >> ঘন ওজন, অপারেন্ড < TFloat32 > রিং লস, Stateloatl2 লস পার্টিশন , লং numInnerIterations, Options... options)
একটি নতুন SdcaOptimizer অপারেশন মোড়ানো একটি ক্লাস তৈরি করার কারখানা পদ্ধতি।
পরামিতি
সুযোগ | বর্তমান সুযোগ |
---|---|
sparseExampleIndices | ভেক্টরের একটি তালিকা যেখানে উদাহরণ সূচক রয়েছে। |
sparse বৈশিষ্ট্য সূচক | বৈশিষ্ট্য সূচক ধারণ করে এমন ভেক্টরগুলির একটি তালিকা। |
স্পারস ফিচার ভ্যালুস | প্রতিটি বৈশিষ্ট্য গোষ্ঠীর সাথে যুক্ত বৈশিষ্ট্য মান রয়েছে এমন ভেক্টরগুলির একটি তালিকা। |
ঘন বৈশিষ্ট্য | ম্যাট্রিক্সের একটি তালিকা যাতে ঘন বৈশিষ্ট্যের মান রয়েছে। |
উদাহরণ ওজন | একটি ভেক্টর যা প্রতিটি উদাহরণের সাথে যুক্ত ওজন ধারণ করে। |
উদাহরণ লেবেল | একটি ভেক্টর যা প্রতিটি উদাহরণের সাথে যুক্ত লেবেল/লক্ষ্য ধারণ করে। |
স্পার্স সূচক | ভেক্টরের একটি তালিকা যেখানে প্রতিটি মান হল সূচক যার অনুরূপ ওজন sparse_weights। এই ক্ষেত্রটি ঘন পদ্ধতির জন্য বাদ দেওয়া হতে পারে। |
স্বল্প ওজন | ভেক্টরের একটি তালিকা যেখানে প্রতিটি মান একটি স্পার্স বৈশিষ্ট্য গ্রুপের সাথে সম্পর্কিত ওজন। |
ঘন ওজন | ভেক্টরের একটি তালিকা যেখানে মানগুলি একটি ঘন বৈশিষ্ট্য গোষ্ঠীর সাথে যুক্ত ওজন। |
উদাহরণ স্টেটডেটা | উদাহরণ স্টেট ডেটা ধারণকারী ভেক্টরের একটি তালিকা। |
ক্ষতির ধরন | প্রাথমিক ক্ষতির ধরন। বর্তমানে SdcaSolver লজিস্টিক, স্কোয়ার এবং কব্জা ক্ষতি সমর্থন করে। |
l1 | প্রতিসম l1 নিয়মিতকরণ শক্তি। |
l2 | প্রতিসম l2 নিয়মিতকরণ শক্তি। |
numLossPartitions | গ্লোবাল লস ফাংশনের পার্টিশনের সংখ্যা। |
numInnerIterations | প্রতি মিনি-ব্যাচে পুনরাবৃত্তির সংখ্যা। |
বিকল্প | ঐচ্ছিক বৈশিষ্ট্য মান বহন করে |
রিটার্নস
- SdcaOptimizer এর একটি নতুন উদাহরণ
সর্বজনীন তালিকা< আউটপুট < TFloat32 >> outDeltaDenseWeights ()
ভেক্টরের একটি তালিকা যেখানে মানগুলি একটি ঘন বৈশিষ্ট্য গোষ্ঠীর সাথে যুক্ত ডেল্টা ওজন।
সর্বজনীন তালিকা< আউটপুট < TFloat32 >> outDeltaSparseWeights ()
ভেক্টরের একটি তালিকা যেখানে প্রতিটি মান একটি স্পার্স বৈশিষ্ট্য গ্রুপের সাথে যুক্ত ডেল্টা ওজন।