作者 | Elvira
IoT助力防疫，共享數據成為難點
目前，新冠病毒在全球範圍內肆虐，而中國的疫情已基本得到控制，大量的外地人員經由飛機場、火車站、公共汽車站返回各自的工作地。這種流動和聚集，為一線城市的疫情防控帶來了巨大挑戰。
圖一：數量龐大的返工人群[1]
各地政府為了把控第一手人員流動和疫情變化信息要求大家填報並設卡口排查健康信息。在這種情況下，為了返工，在機場、車站、地鐵，你是否掃了一次又一次二維碼？填了一次又一次的表格？在中轉後是否又重複地填了不少表格？途中在知情或不知情的情況下是否通過各種方式被測了一次又一次體溫？進入小區後依然要掃描所住社區的二維碼，再次填報信息，同一天出入相同的社區、園區、辦公樓，是否依然要被反覆測溫？
從這種種現象來看，我們可以發現不同的省份，不同的城市，各領域、各部門之間的數據無法流通並協同作用而形成的“數據孤島”問題。
而對於體溫測量這一場景，傳統測溫人員大多使用額溫槍對來往人員進行測溫，現在我們可以通過IoT設備的紅外傳感器，無感地採集人體體溫，通過人臉識別判定人員身份以及是否佩戴口罩等信息來形成相應的人員健康檔案，可以在無需填表申報和接觸性測溫的情況下完成相關信息的收集。使用這類設備可以大大降低測溫與檢查人員被感染的機率，也提高了測溫與檢查效率，杜絕了排隊擁擠造成的感染風險，同時可以將危險人群及早隔離起來。
圖二：無接觸式紅外感應測溫防疫[2]
然而，由於數據隱私問題，各方IoT設備上的數據信息以及建立的人員健康檔案無法合規地被多方共享，這依然無法解決在不同場所反覆填報，反覆測溫的問題。離疫情真正被人類打敗的時刻還遙遙無期，然而長時間重複而又瑣碎的防疫任務卻極大地降低了工作和生產效率。
如果信息一次錄入就可以在保證隱私的情況下實現全場景流通就好了，這可以大大減輕一線人員的負擔，也可以降低防疫的時間成本，讓大家把更多的精力投入到生產生活中去。但是看起來容易，實際上，不同的IoT設備，每個相應的業務單位的日常工作方式、數據需求和數據保密等級不同，徹底打通既缺乏操作性，也不利於真實工作的開展[3]。那麼，這個問題就無法解決了嗎？
聯邦學習是解決這一問題的有效方案——可以給IoT行業帶來重大突破，克服數據隱私問題帶來的信任挑戰。
在複雜的IoT應用中，聯邦學習所面臨的挑戰
1. 設備異構性
通常大多數物聯網設備在硬件（CPU、內存），網絡條件（3G、4G、Wi-Fi）和IoT應用中的電源（電池電量）方面表現出較大差異性，這導致IoT設備在計算、存儲和通信能力等方面具有設備異構型。因此，在聯合學習中會出現設備異構性的挑戰，例如高通信成本、偏離和故障公差[4]。
2. 統計異質性
由於用戶使用環境和方式的不同，來自不同設備的個人生成的數據可能自然而然表現出不平衡的分佈。例如，在醫療保健應用中，用戶的分佈活動數據常常因用戶的身體狀況具有不同的特徵和行為習慣。此外，跨設備的數據樣本數量可能有較大差異[5]。
3. 模型異質性
在原始的聯邦學習框架中，參與設備必須在特定的架構上達成訓練模型，以便可以通過彙總各類本地模型的權重來有效地獲得全局模型。但是，在實際的物聯網應用中，IoT設備希望根據自己的需要來設計自己的模型應用程序環境，分配算力。他們可能不願意分享，提供模型詳細的信息。在這種情況下，模型異質性問題變成了如何使深度學習在無需共享模型詳細信息的情況下即可瞭解他人的知識數據[6]。
解決辦法——個性化聯邦學習
圖三：智能物聯網應用的個性化聯邦學習框架[6]
對於設備，統計，模型異質性問題，我們可以通過個性化聯邦學習智能物聯網應用程序框架來解決。如圖2所示，我們可以使用PerFit框架[6]採用雲邊緣架構來解決問題，每個物聯網設備可以通過無線連接選擇將其密集的計算任務卸載到邊緣（例如，家庭中的邊緣網關，辦公室中的邊緣服務器，或5GMEC服務器）。由此物聯網應用對高處理效率和低延遲的需求也可以被滿足。
具體來說，PerFit中的聯邦學習過程主要包括以下三個階段：
- 卸載階段。當邊緣是值得信賴的時，物聯網設備用戶可以將其整個學習模型和數據樣本卸載到邊緣，以便快速計算。或者設備使用者可以將輸入層及數據樣本保存在本身設備上，然後將剩餘的模型層卸載到邊緣，以便設備邊緣協同計算。
- 學習階段。設備和邊緣協同計算基於個人數據樣本的本地模型，然後將本地模型的信息傳輸到雲服務器。雲服務器將多個參與邊緣計算所得的本地模型信息進行聚合，並將它們平均成一個全局模型，再發送回邊緣。這種模型信息交換過程會不斷重複，直到收斂至一定數量。由此可以實現一個高質量的全局模型，然後傳輸到邊緣，以進一步個性化
- 個性化階段。為滿足定製化的個人要求，每個設備都會基於全局模型的信息及其本地的信息訓練相應的個性化模型。
PerFit框架利用邊緣計算，通過算力卸載來增強單個設備的計算能力。如果我們進一步在邊緣服務器上進行局部模型聚合，它還有助於減少通信消耗，避免大量設備通過昂貴的骨幹網絡直接與雲服務器通信[7]。此外，通過採用個性化聯邦學習，我們可以在一些資源有限的設備上部署輕量級的個性化模型，這將有助於減輕通信和計算資源中設備的異質性。此外，統計異質性和模型異質性也可以得到很好的支持。
相信，通過聯邦學習賦能IoT應用，可以為人們復工復學帶來更好的防疫體驗，為我們的城市防疫助力，早日恢復正常的生產生活。
參考：
[1]https: //baijiahao.baidu.com/s?id=1658052305728680350&wfr=spider&for=pc
[2]https: //www.thepaper.cn/newsDetail_forward_5818377
[3]https: //mp.weixin.qq.com/s/y977HW4c7kXjA-ApEaYdog
[4]Virginia Smith, Chao-Kai Chiang, Maziar Sanjabi, and Ameet S Talwalkar. Federated multi-task learning. In Advances in Neural Information Processing Systems, pages 4424–4434, 2017.
[5]Jie Xu and Fei Wang. Federated learning for healthcare informatics. arXiv preprint arXiv: 1911.06270, 2019.
[6]Qiong Wu, Kaiwen He and Xu Chen.Personalized Federated Learning for Intelligent IoT Applications: A Cloud-Edge based Framework.arXiv preprint arXiv: 2002.10671v2 [cs.NI] 19 Mar 2020
[7]Siqi Luo, Xu Chen, Qiong Wu, Zhi Zhou, and Shuai Yu. Hfel: Joint edge association and resource allocation for cost-effificient hierarchical federated edge learning. arXiv preprint arXiv: 2002.11343, 2020.
END
投稿或尋求報道：[email protected]
Federated Learning
長按上方二維碼
閱讀更多 聯邦學習 的文章
