系統簡介
物聯網（IoT）公司致力於從用戶那裡獲得反饋，以改善其產品和服務。但是，由於問題有限，傳統調查無法反映客戶的實際情況。此外，調查結果還受到各種主觀因素的影響。相反，記錄IoT設備的使用情況則能夠更全面，更準確地反映出客戶的行為。本文介紹了一個智能系統，通過使用聯邦學習技術以幫助IoT設備製造商利用客戶的數據，建立一種機器學習模型，以預測客戶的需求以及可能的消費行為。聯邦學習包含兩個階段：在第一階段，客戶使用邊緣設備（如：手機）和邊緣計算服務器協同訓練初始模型。移動邊緣計算服務器的強大計算能力可以協助客戶進行本地模型訓練。客戶首先使用IoT設備收集數據，然後使用其數據下載並訓練初始模型。在訓練期間，客戶首先使用邊緣設備提取特徵，然後基於差分隱私（一種正式且流行的量化隱私的的概念），將拉普拉斯噪聲（Laplacian noise）添加到提取的特徵中。在獲得本地模型後，客戶分別在其模型上簽名並將其發送到區塊鏈。我們使用區塊鏈來替換屬於聯邦學習中第三方的集中式聚合服務器。在第二階段，礦工收集並使用從客戶端發送來的模型計算平均模型。到眾包工作（crowdsourcing job）結束時，其中一名被選為臨時負責人的礦工將模型上傳到區塊鏈。此外，為了吸引更多的客戶參與眾包聯邦學習，本系統設計了一種激勵機制，向參與者提供可用於購買公司提供的其他服務的虛擬幣。
基於眾包的聯邦學習
聯邦學習是一種安全的協作式的機器學習，它的目標是通過使用具有不可靠且相對較低網絡連接的客戶端構成的分佈式網絡來訓練全局模型。聯邦學習通過使用分佈在眾多移動終端的分佈式數據來輔助訓練機器學習模型。眾包聯邦學習的參與者定期交換和更新模型參數，而不發送數據。在聯邦學習的許多設置中，用戶下載神經網絡模型，在本地訓練模型，然後將其更新上傳到聚合器。中央聚合器將計算更新的平均值，並將其應用到模型中。因此，聯邦學習保護了用戶訓練數據的隱私和安全。該系統將一個家庭中相同品牌的IoT設備視為一個單元，因此需要一個移動設備來幫助定期從IoT設備收集數據並訓練模型。由於移動電話具有有限的計算能力和電池壽命，因此許多家庭很難在本地訓練模型。為了鼓勵更多的客戶參與到訓練任務中來，可以使用移動邊緣計算服務器來增強計算能力來加速訓練，使訓練更接近於數據源。
基於區塊鏈的模型存儲
傳統的眾包系統由第三方託管，向參與者收取昂貴的服務費用，而本系統使用區塊鏈來記錄眾包活動。因此，參與者和請求者可以在保持眾包系統正常運行的同時節省高額的服務費用。區塊鏈幫助眾包請求者審核是否有來自參與者的惡意更新。由於塊大小的限制，建議在模型大小較大時使用星際文件系統(IPFS)作為分佈式存儲解決方案。
系統流程
4.1 第一階段
客戶使用設計好的CNN網絡從使用手機提取出數據的特徵，並在正式的隱私保證下添加噪聲來干擾提取的特徵，以防洩露原生的數據。
4.2 第二階段
客戶在移動邊緣計算服務器上訓練具有擾動特徵的模型的全連接層。
4.3 第三階段
訓練結束後，客戶應使用自己的私鑰在加密的模型哈希碼上簽名，並將本地訓練的模型傳輸給區塊鏈。
4.4 第四階段
挖礦者驗證發送者的身份，下載模型並計算所有模型參數的平均值以得到最終的模型。被選為臨時的礦工將加密並上傳將最終的模型至區塊鏈。此外，為了激勵更多的客戶參與到眾包任務中來，減少惡意更新，考慮設計一個基於聲譽的眾包激勵機制。如果客戶成功上傳自己的模型，將獲得虛擬幣和聲譽獎勵。
閱讀更多 自動駕駛最前沿 的文章
