BatchNorm

@frozen
public struct BatchNorm<Scalar> : Layer where Scalar : TensorFlowFloatingPoint

یک لایه عادی سازی دسته ای.

فعال سازی لایه قبلی را در هر دسته عادی می کند، یعنی تبدیلی را اعمال می کند که میانگین فعال سازی را نزدیک به 0 و انحراف استاندارد فعال سازی را نزدیک به 1 حفظ می کند.

مرجع: عادی سازی دسته ای: تسریع آموزش شبکه عمیق با کاهش تغییر متغیر داخلی .

• محور
  بعد ویژگی

  اعلام

  @noDerivative
  public let axis: Int

• تکانه
  حرکت برای میانگین دویدن و واریانس در حال اجرا.

  اعلام

  @noDerivative
  public let momentum: Scalar

• انحراف
  مقدار افست که به عنوان بتا نیز شناخته می شود.

  اعلام

  public var offset: Tensor<Scalar>

• مقیاس
  مقدار مقیاس که به عنوان گاما نیز شناخته می شود.

  اعلام

  public var scale: Tensor<Scalar>

• اپسیلون
  مقدار اپسیلون واریانس

  اعلام

  @noDerivative
  public let epsilon: Scalar

• runMean
  معنی دویدن

  اعلام

  @noDerivative
  public var runningMean: Parameter<Scalar>

• اجرای واریانس
  واریانس دویدن

  اعلام

  @noDerivative
  public var runningVariance: Parameter<Scalar>

• init(axis:momentum:offset:scale:epsilon:runningMean:runningVariance:)
  یک لایه عادی سازی دسته ای ایجاد می کند.

  اعلام

  public init(
    axis: Int,
    momentum: Scalar,
    offset: Tensor<Scalar>,
    scale: Tensor<Scalar>,
    epsilon: Scalar,
    runningMean: Tensor<Scalar>,
    runningVariance: Tensor<Scalar>
  )

  مولفه های

  axis	محوری که نباید نرمال شود (معمولاً محور ویژگی).
  momentum	حرکت برای میانگین متحرک.
  offset	افست باید به تانسور نرمال شده اضافه شود.
  scale	مقیاس ضرب تانسور نرمال شده در.
  epsilon	یک اسکالر کوچک برای بهبود ثبات عددی به مخرج اضافه شده است.
  runningMean	معنی دویدن
  runningVariance	واریانس دویدن

• رو به جلو(_:)
  خروجی به دست آمده از اعمال لایه به ورودی داده شده را برمی گرداند.

  اعلام

  @differentiable
  public func forward(_ input: Tensor<Scalar>) -> Tensor<Scalar>

  مولفه های

  input

  ورودی لایه

  ارزش بازگشتی

  خروجی.

• init (ویژگی تعداد: محور: تکانه: اپسیلون:)
  یک لایه عادی سازی دسته ای ایجاد می کند.

  اعلام

  public init(
    featureCount: Int,
    axis: Int = -1,
    momentum: Scalar = 0.99,
    epsilon: Scalar = 0.001
  )

  مولفه های

  featureCount	تعداد ویژگی ها
  axis	محوری که باید نرمال شود (معمولاً محور ویژگی ها).
  momentum	حرکت برای میانگین متحرک.
  epsilon	یک اسکالر کوچک برای بهبود ثبات عددی به مخرج اضافه شده است.