public struct ParameterGroupOptimizerBuilder
בונה ParameterGroupOptimizer
. זה משמש למעשה ברמה של משקל בודד בדגם. מיפוי מקבוצות פרמטרים שנבחרו על ידי ( [Bool]
ל-ParameterGroupOptimizer) מגדיר את המייעל הסופי.
הַצהָרָה
public init()
הַצהָרָה
public mutating mutating func makeParameter(_ name: String, _ value: Float) -> GlobalAccessor
הַצהָרָה
public subscript(global: GlobalAccessor) -> Float { get }
הַצהָרָה
public subscript(state name: String) -> StateAccessor { mutating get }
הַצהָרָה
public subscript(local name: String) -> LocalAccessor { mutating get }
מוסיף התקשרות חוזרת לרשימת ההתקשרות חזרה.
הַצהָרָה
public mutating mutating func appendCallback(_ cb: @escaping OptimizerCallback)
מחזיר את האופטימיזציה ומנקה את הבונה.
הַצהָרָה
public mutating mutating func makeOptimizer() -> ParameterGroupOptimizer
מחיל sgdStep עם מומנטום על האופטימיזציה הנוכחית של קבוצת הפרמטרים.
הַצהָרָה
public mutating func sgdStep( nesterov: Bool, mom: GlobalAccessor, lr: GlobalAccessor, velocity: StateAccessor )
מחשב את ה-clippedTrustRatio (בשימוש ב-LARS).
הַצהָרָה
public mutating func clippedTrustRatio( trustCoefficient: GlobalAccessor, epsilon: GlobalAccessor, weightDecay: GlobalAccessor ) -> LocalAccessor
משנה את השיפוע לפי ה-trustRatio (בשימוש ב-LARS).
הַצהָרָה
public mutating mutating func scaleGradByTrustRatio(trustRatio: LocalAccessor)
מחיל קנה מידה של דעיכה במשקל על השיפוע.
הַצהָרָה
public mutating mutating func scaleGradient(byWeightDecay weightDecay: GlobalAccessor)
מחשב מחדש את פרמטר המהירות בהתבסס על השיפוע החדש (בקנה מידה לפי קצב הלמידה).
הַצהָרָה
public mutating func updateVelocity( mom: GlobalAccessor, lr: GlobalAccessor, velocity: StateAccessor )