احضر ندوة النساء في غسل الأموال في 7 ديسمبر. سجل الآن

الخصوصية في التعلم الآلي

يتمثل أحد الجوانب المهمة في الاستخدام المسؤول للذكاء الاصطناعي في ضمان منع نماذج ML من الكشف عن المعلومات التي يحتمل أن تكون حساسة ، مثل المعلومات الديموغرافية أو السمات الأخرى في مجموعة بيانات التدريب التي يمكن استخدامها لتحديد الأشخاص. تتمثل إحدى طرق تحقيق ذلك في استخدام النسب المتدرج العشوائي الخاص التفاضلي (DP-SGD) ، وهو تعديل لخوارزمية أصل التدرج العشوائي القياسي (SGD) في التعلم الآلي.

تتمتع النماذج التي تم تدريبها باستخدام DP-SGD بتحسينات قابلة للقياس للخصوصية التفاضلية (DP) ، مما يساعد على التخفيف من مخاطر الكشف عن بيانات التدريب الحساسة. نظرًا لأن الغرض من DP هو المساعدة في منع تحديد نقاط البيانات الفردية ، فلا ينبغي أن يتأثر النموذج المدرب مع DP بأي مثال تدريب واحد في مجموعة بيانات التدريب الخاصة به. يمكن أيضًا استخدام تقنيات DP-SGD في التعلم الموحد لتوفير الخصوصية التفاضلية على مستوى المستخدم. يمكنك معرفة المزيد حول التعلم العميق التفاضلي الخاص في الورقة الأصلية .

import tensorflow as tf
from tensorflow_privacy.privacy.optimizers import dp_optimizer_keras

# Select your differentially private optimizer
optimizer = tensorflow_privacy.DPKerasSGDOptimizer(
    l2_norm_clip=l2_norm_clip,
    noise_multiplier=noise_multiplier,
    num_microbatches=num_microbatches,
    learning_rate=learning_rate)

# Select your loss function
loss = tf.keras.losses.CategoricalCrossentropy(
    from_logits=True, reduction=tf.losses.Reduction.NONE)

# Compile your model
model.compile(optimizer=optimizer, loss=loss, metrics=['accuracy'])

# Fit your model
model.fit(train_data, train_labels,
  epochs=epochs,
  validation_data=(test_data, test_labels),
  batch_size=batch_size)
  

خصوصية TensorFlow

Tensorflow Privacy (TF Privacy) هي مكتبة مفتوحة المصدر طورتها فرق في Google Research. تتضمن المكتبة تطبيقات لمحسنات TensorFlow شائعة الاستخدام لتدريب نماذج ML باستخدام DP. الهدف هو تمكين ممارسي تعلم الآلة باستخدام واجهات برمجة تطبيقات Tensorflow القياسية لتدريب نماذج الحفاظ على الخصوصية من خلال تغيير بضعة أسطر فقط من التعليمات البرمجية.

يمكن استخدام المُحسِّن الخاص التفاضلي جنبًا إلى جنب مع واجهات برمجة التطبيقات عالية المستوى التي تستخدم فئة المُحسِّن ، وخاصة Keras. بالإضافة إلى ذلك ، يمكنك العثور على تطبيقات خاصة تفاضلية لبعض طرز Keras. يمكن العثور على جميع المحسنات والنماذج في وثائق API .