Birleşik Öğrenim

genel bakış

Bu belge, birleştirilmiş eğitim veya TensorFlow'da uygulanan mevcut makine öğrenimi modelleriyle değerlendirme gibi birleştirilmiş öğrenme görevlerini kolaylaştıran arabirimleri tanıtmaktadır. Bu arayüzleri tasarlarken birincil amacımız, birleşik öğrenmeyi arka planda nasıl çalıştığına dair bilgi gerektirmeden deneyimlemeyi mümkün kılmak ve uygulanan birleşik öğrenme algoritmalarını çeşitli mevcut model ve veriler üzerinde değerlendirmekti. Platforma geri katkıda bulunmanızı öneririz. TFF, genişletilebilirlik ve şekillendirilebilirlik göz önünde bulundurularak tasarlanmıştır ve katkıları memnuniyetle karşılıyoruz; Neler bulduğunuzu görmek için heyecanlıyız!

Bu katman tarafından sunulan arayüzler aşağıdaki üç temel bölümden oluşur:

• modeller Mevcut modellerinizi TFF ile kullanmak üzere sarmanıza izin veren sınıflar ve yardımcı işlevler. Bir modeli kaydırmak, tek bir sarma işlevini çağırmak (örn. tff.learning.models.from_keras_model ) veya tam özelleştirilebilirlik için tff.learning.models.VariableModel arabiriminin bir alt sınıfını tanımlamak kadar basit olabilir.

• Birleşik Hesaplama Oluşturucuları . Mevcut modellerinizi kullanarak eğitim veya değerlendirme için birleştirilmiş hesaplamalar oluşturan yardımcı işlevler.

• veri kümeleri Birleştirilmiş öğrenme senaryolarını simüle etmek için Python'da indirebileceğiniz ve erişebileceğiniz hazır veri koleksiyonları. Birleşik öğrenim, merkezi bir konumda kolayca indirilemeyen merkezi olmayan verilerle kullanılmak üzere tasarlanmış olsa da, araştırma ve geliştirme aşamalarında, yerel olarak indirilebilen ve değiştirilebilen verileri kullanarak ilk deneyleri yapmak, özellikle geliştiriciler için genellikle uygundur. yaklaşım için yeni.

Bu arabirimler, araştırma veri kümeleri ve tff.simulation içinde gruplandırılmış simülasyonla ilgili diğer yetenekler dışında, öncelikle tff.learning ad alanında tanımlanır. Bu katman, aynı zamanda bir çalıştırma ortamı da sağlayan Federated Core (FC) tarafından sunulan alt düzey arabirimler kullanılarak uygulanır.

Devam etmeden önce, burada açıklanan kavramların çoğunu somut örneklerle tanıttıklarından, görüntü sınıflandırma ve metin oluşturma ile ilgili eğitimleri incelemenizi öneririz. TFF'nin nasıl çalıştığı hakkında daha fazla bilgi edinmek istiyorsanız, birleştirilmiş hesaplamaların mantığını ifade etmek ve TFF'nin mevcut uygulamasını incelemek için kullandığımız alt düzey arayüzlere giriş olarak özel algoritmalar öğreticisine göz atmak isteyebilirsiniz. tff.learning arayüzleri.

modeller

Mimari varsayımlar

Serileştirme

TFF, yazdığınız makine öğrenimi modeli kodunun, çeşitli yeteneklere sahip çok sayıda heterojen istemci üzerinde yürütüldüğü çeşitli dağıtılmış öğrenme senaryolarını desteklemeyi amaçlar. Spektrumun bir ucunda, bazı uygulamalarda bu istemciler güçlü veritabanı sunucuları olabilirken, platformumuzun desteklemeyi amaçladığı birçok önemli kullanım, sınırlı kaynaklara sahip mobil ve gömülü cihazları içerir. Bu cihazların Python çalışma zamanlarını barındırabileceğini varsayamayız; Bu noktada varsayabileceğimiz tek şey, yerel bir TensorFlow çalışma zamanını barındırabilecek kapasitede olduklarıdır. Bu nedenle, TFF'de yaptığımız temel bir mimari varsayım, model kodunuzun bir TensorFlow grafiği olarak serileştirilebilir olması gerektiğidir.

İstek modunu kullanmak gibi en son en iyi uygulamaları izleyerek TF kodunuzu geliştirmeye devam edebilirsiniz (ve geliştirmelisiniz). Ancak, son kod seri hale getirilebilir olmalıdır (örneğin, istekli mod kodu için bir tf.function olarak sarılabilir). Bu, yürütme zamanında gerekli olan herhangi bir Python durumu veya kontrol akışının serileştirilebilmesini sağlar (muhtemelen Autograph'ın yardımıyla).

Şu anda TensorFlow, istekli mod TensorFlow'u seri hale getirmeyi ve serisini kaldırmayı tam olarak desteklememektedir. Bu nedenle, TFF'deki serileştirme şu anda tüm kodun TFF'nin kontrol ettiği bir tf.Graph içinde oluşturulması gereken TF 1.0 modelini takip eder. Bu, şu anda TFF'nin halihazırda oluşturulmuş bir modeli kullanamayacağı anlamına gelir; bunun yerine, model tanımı mantığı, bir tff.learning.models.VariableModel döndüren argsız bir işlevde paketlenmiştir. Bu işlev daha sonra modelin tüm bileşenlerinin serileştirilmesini sağlamak için TFF tarafından çağrılır. Ek olarak, türü kesin olarak belirlenmiş bir ortam olan TFF, modelinizin giriş türünün belirtilmesi gibi biraz ek meta veri gerektirecektir.

Toplama

Çoğu kullanıcının Keras kullanarak modeller oluşturmasını şiddetle tavsiye ediyoruz, aşağıdaki Keras için Dönüştürücüler bölümüne bakın. Bu sarmalayıcılar, model güncellemelerinin toplanmasını ve ayrıca model için otomatik olarak tanımlanan tüm ölçümleri işler. Ancak, genel bir tff.learning.models.VariableModel için toplamanın nasıl ele alındığını anlamak yine de yararlı olabilir.

Birleşik öğrenimde her zaman en az iki toplama katmanı vardır: yerel cihaz üstü toplama ve cihazlar arası (veya birleşik) toplama:

• Yerel toplama . Bu toplama düzeyi, bireysel bir müşterinin sahip olduğu birden fazla örnek grubu genelinde toplamayı ifade eder. Hem model yerel olarak eğitildikçe sırayla gelişmeye devam eden model parametreleri (değişkenler) hem de modelinizin yerel olarak tekrar güncelleyeceği hesapladığınız istatistikler (ortalama kayıp, doğruluk ve diğer ölçümler gibi) için geçerlidir. her bir müşterinin yerel veri akışı üzerinde yinelenirken.

  Bu düzeyde toplama gerçekleştirmek, model kodunuzun sorumluluğundadır ve standart TensorFlow yapıları kullanılarak gerçekleştirilir.

  İşlemenin genel yapısı aşağıdaki gibidir:

  • Model önce toplu iş sayısı veya işlenen örnek sayısı, toplu iş başına veya örnek başına kayıpların toplamı gibi kümeleri tutmak için tf.Variable s'yi oluşturur.

  • TFF, bir yan etki olarak çeşitli kümeleri tutan değişkenleri güncellemenize olanak tanıyan müteakip müşteri verileri toplu işlerinde sırayla Model forward_pass yöntemini birden çok kez çağırır.

  • Son olarak TFF, modelinizin topladığı tüm özet istatistikleri müşteri tarafından dışa aktarılmak üzere kompakt bir metrik kümesi halinde derlemesine izin vermek için Modelinizde report_local_unfinalized_metrics yöntemini çağırır. Burası, örneğin, model kodunuzun, kayıpların toplamını, ortalama kaybı vb. dışa aktarmak için işlenen örneklerin sayısına bölebileceği yerdir.

• Federe toplama . Bu toplama düzeyi, sistemdeki birden fazla istemci (cihaz) genelinde toplamayı ifade eder. Yine, hem istemciler arasında ortalaması alınan model parametreleri (değişkenler) hem de modelinizin yerel toplamanın bir sonucu olarak dışa aktardığı metrikler için geçerlidir.

  Bu seviyede kümeleme yapmak TFF'nin sorumluluğundadır. Bununla birlikte, bir model yaratıcısı olarak, bu süreci kontrol edebilirsiniz (bununla ilgili daha fazlası aşağıda).

  İşlemenin genel yapısı aşağıdaki gibidir:

  • İlk model ve eğitim için gereken tüm parametreler, bir sunucu tarafından bir eğitim veya değerlendirme turuna katılacak olan bir müşteri alt kümesine dağıtılır.

  • Her istemcide, bağımsız ve paralel olarak, model kodunuz, yukarıda açıklandığı gibi (eğitim sırasında) yeni bir model parametreleri seti ve yeni bir yerel ölçüm seti oluşturmak için bir yerel veri toplu akışı akışında tekrar tekrar çağrılır (bu yereldir). toplama).

  • TFF, sistem genelinde model parametrelerini ve yerel olarak dışa aktarılan ölçümleri toplamak ve toplamak için dağıtılmış bir toplama protokolü çalıştırır. Bu mantık, TFF'nin kendi birleşik hesaplama dili (TensorFlow'da değil) kullanılarak bildirimsel bir şekilde ifade edilir. Toplama API'si hakkında daha fazla bilgi için özel algoritmalar öğreticisine bakın.

Soyut arayüzler

Bu temel oluşturucu + meta veri arayüzü, aşağıdaki gibi tff.learning.models.VariableModel arayüzü ile temsil edilir:

• Yapıcı, forward_pass ve report_local_unfinalized_metrics yöntemleri, sırasıyla raporlamak istediğiniz model değişkenlerini, iletme geçişini ve istatistikleri oluşturmalıdır. Bu yöntemlerle oluşturulan TensorFlow, yukarıda tartışıldığı gibi seri hale getirilebilir olmalıdır.

• Eğitilebilir, eğitilemez ve yerel değişkenlerinizin alt kümelerini döndüren 3 özelliğin yanı sıra input_spec özelliği meta verileri temsil eder. TFF bu bilgiyi, modelinizin parçalarının birleştirilmiş optimizasyon algoritmalarına nasıl bağlanacağını belirlemek ve oluşturulan sistemin doğruluğunu doğrulamaya yardımcı olacak dahili tip imzaları tanımlamak için kullanır (böylece modeliniz, birbiriyle eşleşmeyen veriler üzerinden başlatılamaz). model tüketmek için tasarlanmıştır).

Ek olarak, tff.learning.models.VariableModel soyut arabirimi, bir metriğin nihaileştirilmemiş değerlerini alan ( report_local_unfinalized_metrics() tarafından döndürülen) ve nihaileştirilmiş metrik değerlerini döndüren bir metric_finalizers özelliğini gösterir. metric_finalizers ve report_local_unfinalized_metrics() yöntemi, birleştirilmiş eğitim süreçlerini veya değerlendirme hesaplamalarını tanımlarken müşteriler arası bir metrik toplayıcı oluşturmak için birlikte kullanılacaktır. Örneğin, basit bir tff.learning.metrics.sum_then_finalize toplayıcı, önce istemcilerden gelen sonlandırılmamış metrik değerlerini toplar ve ardından sunucudaki sonlandırıcı işlevlerini çağırır.

Kendi özel tff.learning.models.VariableModel nasıl tanımlayacağınıza ilişkin örnekleri görüntü sınıflandırma eğitimimizin ikinci bölümünde ve ayrıca model_examples.py içinde test etmek için kullandığımız örnek modellerde bulabilirsiniz.

Keras için Dönüştürücüler

TFF'nin ihtiyaç duyduğu neredeyse tüm bilgiler tf.keras arabirimleri çağrılarak elde edilebilir, dolayısıyla bir Keras modeliniz varsa, bir tff.learning.models.VariableModel tff.learning.models.from_keras_model .

TFF'nin hala bir oluşturucu - aşağıdaki gibi bağımsız değişken olmayan bir model işlevi - sağlamanızı istediğini unutmayın:

def model_fn():
  keras_model = ...
  return tff.learning.models.from_keras_model(keras_model, sample_batch, loss=...)

Modelin kendisine ek olarak, modelinizin girişinin türünü ve şeklini belirlemek için TFF'nin kullandığı örnek bir veri grubu sağlarsınız. Bu, TFF'nin istemci cihazlarda fiilen mevcut olacak veriler için modeli düzgün bir şekilde başlatabilmesini sağlar (çünkü bu verilerin, seri hale getirilecek TensorFlow'u oluştururken genellikle mevcut olmadığını varsayıyoruz).

Keras sarmalayıcıların kullanımı , görüntü sınıflandırma ve metin oluşturma eğitimlerimizde gösterilmektedir.

Birleşik Hesaplama Oluşturucuları

tff.learning paketi, öğrenmeyle ilgili görevleri gerçekleştiren tff.Computation s için birkaç oluşturucu sağlar; bu tür hesaplamaların gelecekte genişlemesini bekliyoruz.

Mimari varsayımlar

Uygulamak

Birleşik bir hesaplamayı çalıştırmanın iki farklı aşaması vardır.

• Derleme : TFF, ilk önce birleştirilmiş öğrenme algoritmalarını tüm dağıtılmış hesaplamanın soyut bir serileştirilmiş temsilinde derler . Bu, TensorFlow serileştirmenin gerçekleştiği zamandır, ancak daha verimli yürütmeyi desteklemek için başka dönüşümler gerçekleşebilir. Derleyici tarafından yayınlanan seri hale getirilmiş temsili birleşik bir hesaplama olarak adlandırırız.

• Execute TFF, bu hesaplamaları yürütmek için yollar sağlar. Şimdilik yürütme yalnızca yerel bir simülasyon yoluyla destekleniyor (örn. simüle edilmiş merkezi olmayan verileri kullanan bir not defterinde).

Birleştirilmiş model ortalamasını kullanan bir eğitim algoritması veya birleştirilmiş bir değerlendirme gibi TFF'nin Birleşik Öğrenim API'si tarafından oluşturulan birleştirilmiş bir hesaplama, bir dizi öğe içerir, en önemlisi:

• Modelinizin eğitim/değerlendirme döngüsünü yürütmek için Federated Learning çerçevesi tarafından oluşturulan ek TensorFlow kodunun yanı sıra model kodunuzun seri hale getirilmiş bir formu (optimizasyon araçları oluşturma, model güncellemelerini uygulama, tf.data.Dataset s üzerinde yineleme ve hesaplama ölçümleri, ve birkaç isim vermek gerekirse, toplu güncellemenin sunucuda uygulanması).

• İstemciler ve bir sunucu arasındaki iletişimin (tipik olarak istemci aygıtları arasında çeşitli toplama biçimleri ve sunucudan tüm istemcilere yayın ) ve bu dağıtılmış iletişimin istemci-yerel veya sunucu-yerel yürütme ile nasıl serpiştirildiğine ilişkin bildirimsel bir belirtim TensorFlow kodunun.

Bu seri hale getirilmiş formda temsil edilen birleştirilmiş hesaplamalar, Python'dan farklı, platformdan bağımsız bir dahili dilde ifade edilir, ancak Birleşik Öğrenme API'sini kullanmak için bu temsilin ayrıntılarıyla ilgilenmeniz gerekmez. Hesaplamalar, Python kodunuzda tff.Computation türünde nesneler olarak temsil edilir ve bunları çoğunlukla opak Python callable s olarak değerlendirebilirsiniz.

Öğreticilerde, bu birleştirilmiş hesaplamaları, yerel olarak yürütülecek normal Python işlevleriymiş gibi çağıracaksınız. Bununla birlikte TFF, birleşik hesaplamaları yürütme ortamının çoğu yönünden bağımsız bir şekilde ifade etmek üzere tasarlanmıştır, böylece potansiyel olarak örneğin Android çalıştıran cihaz gruplarına veya bir veri merkezindeki kümelere konuşlandırılabilirler. Yine, bunun ana sonucu serileştirmeyle ilgili güçlü varsayımlardır. Özellikle, aşağıda açıklanan build_... yöntemlerinden birini çağırdığınızda, hesaplama tamamen seri hale getirilir.

modelleme durumu

TFF, işlevsel bir programlama ortamıdır, ancak birleştirilmiş öğrenmeye ilişkin pek çok süreç durum bilgilidir. Örneğin, birden çok birleşik model ortalamasını içeren bir eğitim döngüsü, durum bilgisi olan bir süreç olarak sınıflandırabileceğimiz bir örnektir. Bu süreçte, döngüden döngüye gelişen durum, eğitilmekte olan model parametreleri kümesini ve muhtemelen optimize edici ile ilişkili ek durumu (örneğin, bir momentum vektörü) içerir.

TFF işlevsel olduğu için, durum bilgisi olan süreçler, TFF'de mevcut durumu bir girdi olarak kabul eden ve ardından güncel durumu bir çıktı olarak sağlayan hesaplamalar olarak modellenir. Durum bilgisi olan bir süreci tam olarak tanımlamak için, ilk durumun nereden geldiğini de belirtmek gerekir (aksi takdirde süreci önyükleyemeyiz). Bu, tff.templates.IterativeProcess yardımcı sınıfının tanımında yakalanır ve next initialize ve yinelemeye karşılık gelen 2 özellik ile birlikte

Mevcut inşaatçılar

Şu anda TFF, birleştirilmiş eğitim ve değerlendirme için birleştirilmiş hesaplamalar oluşturan çeşitli oluşturucu işlevleri sunmaktadır. Dikkate değer iki örnek şunları içerir:

• tff.learning.algorithms.build_weighted_fed_avg , girdi olarak bir model işlevi ve bir istemci iyileştirici alır ve durum bilgisi olan bir tff.learning.templates.LearningProcess ( tff.templates.IterativeProcess alt sınıfları) döndürür.

• tff.learning.build_federated_evaluation , bir model işlevi alır ve değerlendirme durum bilgisi olmadığı için modellerin birleştirilmiş değerlendirmesi için tek bir birleştirilmiş hesaplama döndürür.

veri kümeleri

Mimari varsayımlar

müşteri seçimi

Tipik birleşik öğrenme senaryosunda, potansiyel olarak yüz milyonlarca istemci cihazından oluşan büyük bir popülasyona sahibiz ve bunların yalnızca küçük bir kısmı aktif olabilir ve herhangi bir anda eğitim için kullanılabilir olabilir (örneğin, bu, şu istemcilerle sınırlı olabilir: bir güç kaynağına takılı, ölçülü bir ağda değil ve başka türlü boşta). Genel olarak, eğitime veya değerlendirmeye katılmak için uygun müşteri grubu, geliştiricinin kontrolü dışındadır. Ayrıca, milyonlarca müşteriyi koordine etmek pratik olmadığından, tipik bir eğitim veya değerlendirme turu, rastgele örneklenebilecek mevcut müşterilerin yalnızca bir kısmını içerecektir.

Bunun en önemli sonucu, birleştirilmiş hesaplamaların, tasarım gereği, kesin katılımcı grubundan habersiz bir şekilde ifade edilmesidir; tüm işlemler, anonim istemcilerden oluşan soyut bir grup üzerinde toplu işlemler olarak ifade edilir ve bu grup, bir eğitim turundan diğerine değişiklik gösterebilir. Hesaplamanın somut katılımcılara ve dolayısıyla hesaplamaya besledikleri somut verilere gerçek bağlanması, bu nedenle hesaplamanın kendisinin dışında modellenir.

Federe öğrenme kodunuzun gerçekçi bir dağıtımını simüle etmek için genellikle şuna benzeyen bir eğitim döngüsü yazarsınız:

trainer = tff.learning.algorithms.build_weighted_fed_avg(...)
state = trainer.initialize()
federated_training_data = ...

def sample(federate_data):
  return ...

while True:
  data_for_this_round = sample(federated_training_data)
  result = trainer.next(state, data_for_this_round)
  state = result.state

Bunu kolaylaştırmak için, simülasyonlarda TFF kullanılırken, birleşik veriler Python list olarak kabul edilir ve katılan istemci cihaz başına bir öğe o cihazın yerel tf.data.Dataset temsil eder.

Soyut arayüzler

Simüle edilmiş birleştirilmiş veri kümeleriyle çalışmayı standart hale getirmek için TFF, istemci kümesini numaralandırmaya ve belirli bir istemcinin verilerini içeren bir tf.data.Dataset oluşturmaya izin veren soyut bir tff.simulation.datasets.ClientData arabirimi sağlar. müşteri. Bu tf.data.Dataset s, istekli modda oluşturulan birleşik hesaplamalara doğrudan girdi olarak beslenebilir.

İstemci kimliklerine erişme yeteneğinin, yalnızca veri kümeleri tarafından, belirli istemci alt kümelerinden gelen veriler üzerinde eğitim yeteneğinin gerekli olabileceği simülasyonlarda kullanım için sağlanan bir özellik olduğu unutulmamalıdır (örn. müşteri türleri). Derlenen hesaplamalar ve altta yatan çalışma zamanı, herhangi bir müşteri kimliği kavramı içermez . İstemcilerin belirli bir alt kümesindeki veriler girdi olarak seçildikten sonra, örneğin tff.templates.IterativeProcess.next çağrısında, istemci kimlikleri artık içinde görünmez.

Mevcut veri setleri

Simülasyonlarda kullanılmak üzere tff.simulation.datasets.ClientData arabirimini uygulayan veri kümeleri için tff.simulation.datasets ad alanını ayırdık ve görüntü sınıflandırmasını ve metin oluşturma eğitimlerini desteklemek için veri kümeleriyle tohumladık. Platforma kendi veri kümelerinizle katkıda bulunmanızı teşvik etmek isteriz.