Federe Öğrenmede Birleştirme Algoritmalarının Model Performansına Etkisi

Abstract

Hammaddesi büyük veri olan Yapay zeka (YZ) teknolojileri özellikle son yıllarda verinin gizliliği ve güvenliği gibi önemli gerekçelerle veriye ulaşmayı zorlaştıran sebeplerden ötürü bir takım zorluklarla karşılaşmaktadır. Öte yandan büyük verinin merkezi bir lokasyonda toplanmasının zorlukları ve yüksek kapasiteli depolama ve işlemci ihtiyaçları da YZ alanında karşılaşılan zorluklardır. Bu zorluklardan esinlenerek geliştirilen İşbirlikçi YZ konsepti olan Federe Öğrenme (FÖ), işbirliğine katılan katılımcıların, veri gizliliğini ihlal etmeden YZ model parametrelerinin kendi verileri ile işlenip model paremetrelerinin güncellenmesi ve güncellenen parametrelerin bir sunucuda belirli algoritmalar aracılığıyla birleştirilmesi ile iteratif olarak gerçekleştirilen bir konsepttir. FÖ konsepti, katılımcıların öznitelik ve örnek uzaylarının ortaklığına bağlı olarak Yatay FÖ, Dikey FÖ ve Federe Transfer Öğrenme şeklinde yaklaşımlar ile uygulanmaktdır. Bu çalışmada öznitelik uzaylarının ortak olduğu Yatay FÖ yaklaşımı için geliştirilen model parametrelerini birleştirme algoritmalarından FedAVG, FedAVGM ve FaultTolerantFedAVG’nin 5 katılımcı arasında özdeş olmayan bir şekilde dağıtılmış olan MNIST veri setinin ResNet-18 ve MobileNet V3 small sınıflandırıclarının performansına etkisi incelenmektedir.