如何有效的進行數據治理和數據管控
大數據時代的到來，讓政府、企業看到了數據資產的價值，並快速開始探索應用場景和商業模式、建設技術平臺。但是，如果在大數據拼圖中遺忘了數據治理，那麼做再多的業務和技術投入也是徒勞的，因為很經典的一句話：Garbage in Garbage out。
當你處理或使用過大量數據，那麼對“數據治理”這個詞你一定不會陌生。你會思考數據治理是什麼？數據治理是否適合你？如何實施。簡單來說，數據治理就是處理數據的策略——如何收集、驗證、存儲、訪問、保護和使用數據。數據治理也還包括誰來查看，使用，共享你的數據。
隨著大數據時代的推進，以上這些問題日益突出，越來越多的企業依賴採集、治理、儲存和分析數據，並實現他們的商業目標。數據變成了企業的盈利工具、業務媒介和商業機密。數據洩露會導致法律糾紛，還會令消費者對公司的核心業務失去信心。
如果抱著僥倖的心理，讓各個業務部門自己管理數據，那麼你會缺乏有效的數據管理，甚至各部門會自己做自己的。你無法想象各個部門按隨心所欲地自己生產、儲存、銷售產品。數據使用不當就像庫存使用不當一樣，會給企業造成沉重的損失。因此必須制定一項測量用以保證所需數據的有效和安全，可用性，這就是我們要談的“數據治理”。
數據治理的特點
數據治理策略必須包含完整的數據生命週期。策略必須包含從數據採集、清洗到管理，在這個生命週期內，數據治理必須要有關注以下內容：
數據從哪裡來，數據怎麼來
這是數據生命週期的起點。數據來源決定了數據治理策略的基礎。例如數據集的大小就由數據來源所決定。是從目標市場、現存用戶和社交媒體收集數據？還是使用第三方收集數據或者分析你收集的數據？輸入數據流是什麼？數據治理必須關注這些問題，並制定策略來管理數據的採集，引導第三方處理他們收集的數據或者分析你收集的數據，控制數據的路徑和生命週期。
數據校驗
通常數據源都是非常龐大且多樣的，這是一個讓數據管理者非常頭疼的問題。將數據噪音和重要數據進行區分僅僅只是開始，如果你正從關聯公司收集數據，你必須確保數據是可靠的，對於那些幾萬、幾十萬、甚至成百上千萬的複雜關係數據，單靠人為的通過Excel對進行數據清洗已經不太現實，需要專業的數據清洗工具或系統對海量複雜關係數據進行批量查詢、替換、糾正、豐富以及存儲。將元數據、主數據、交易數據、參考數據以及數據標準內置固化到數據清洗工具或系統中，結合組織架構、內容管控、過程管控等管理機制、技術標準提高數據治理人員的工作效率。比如：需要手工編寫程序收集的元數據，系統幫你自動獲取；需要人工識別或編寫代碼實現的數據質量檢查，系統幫你自動識別問題；用文檔管理的數據字典，系統幫你在線管理；基於郵件和線下的流程，系統幫你線上自動化。當然，系統並不是萬能的，數據治理的軟件工具與其他軟件工具一樣，沒有什麼神奇之處，沒有數據治理人員的參與和數據治理工作的推進，軟件再完美也無法完成數據治理整個過程。這也是為什麼數據治理諮詢服務一直有其市場，以及為什麼國內大部分單純數據治理軟件項目未能達到預期目標。
數據治理必須解決存儲問題
而數據存儲和數據集的大小有密切關係。大數據的存儲必須是在安全的冗餘系統之中。常常利用層次體系，根據使用頻率來存儲數據。這樣一來，昂貴的在線系統提供的是被頻繁請求的數據，而請求頻率較低的數據則存儲在便宜，可用率較低的系統上。當然，一些請求頻率低但是敏感的數據如果存儲於安全性較低的系統上，風險會大大提升。因此，在制定數據存儲方案時，良好的數據治理策略必須考慮到方方面面的因素。
數據治理必須建立訪問管理制度，在需求和安全性找到平衡點
明確訪問者的權限，只能訪問他們對應權限包含的數據。只有合法請求才能夠訪問數據，而敏感的數據需要更高的權限和更嚴密的驗證才可以被訪問。只向具有特定安全級別的用戶開放。應該對用戶和數據本身設置訪問級別，管理賬戶時，應與人力資源部和採購部緊密互動，這一點非常重要，因為這樣可以及時地使離職員工和停止合作的供應商不再擁有訪問權限。處理好這些細節以及確保數據所有權和責任，這是構成完整的數據治理策略的一部分。
數據的使用/共享/分析
如何使用數據是數據治理之後一項重要的內容，數據可能會用於客戶管理，提高客戶體驗，投放定向廣告，用戶應用系統初始化基礎數據工作，輔助應用系統建設，提供市場分析和關聯公司共享數據。必須仔細界定哪些數據可用於共享或者用於營銷，並保護它們免遭攻擊和洩露，因為數據本來就應該被用於純粹的內部用途。讓用戶知悉採集數據的所有公司都會遵守數據安全和保證的規定。能夠確保數據被合理合規的使用，也是數據治理重要的一項內容。
收集、驗證、存儲、訪問和使用都是數據安全計劃的必要組成部分
收集、驗證、存儲、訪問和使用都是數據安全計劃的必要組成部分，必須要有一個全面的策略來解決這些問題以及其他安全問題。數據安全計劃必須是有效且可用性高，但是數據生命週期的所有部分都很容易受到攻擊和由於粗心造成的破壞。你必須在數據治理中確定數據安全計劃，包括訪問控制，靜態數據，數據加工，數據傳輸之後的加密等。
管理/元數據
沒有管理的數據生命週期是不完整的。例如，將元數據應用於一段數據，用來進行識別檢索。元數據包含數據的來源，採集或生成的日期，信息訪問的級別，語義分類及其他企業所必須的信息。數據治理能建立一個元數據詞彙表，界定數據的有效期。請注意數據也會過期，過期之後我們只能用於歷史數據的分析。
數據治理的企業問題
數據治理創建的過程中可能會在企業內部遭到一些阻力，比如有的人會害怕失去訪問數據的權限，而有些人也不願意和競爭者共享數據。數據治理政策需要解決上述問題，讓各方面的人都可接受。習慣了數據筒倉環境的公司，在適應新的數據治理策略上面會有困難，但如今對大型數據集的依賴以及隨之而來的諸多安全問題，使創建和實施覆蓋全公司的數據策略成為一種必然。
數據日益成為企業基礎設施的一部分，在企業一步步處理各種特定情況的過程中形成決策。它以一次性的方式作出，常常是對某一特定問題的回應。因此，企業處理數據的方法會因為不同部門而改變，甚至會因為部門內部的不同情況而改變。即使每個部門已經有一套合理的數據處理方案，但這些方案可能彼此衝突，企業將不得不想辦法協調。弄清數據存儲的要求和需求是一件難事，如果做得不好，就無法發揮數據在營銷和客戶維繫方面的潛力，而如果發生數據洩露，你還要承擔法律責任。
另外在大企業內部，部門之間會展開對數據資源的爭奪，各部門只關注自身的業務情況，缺乏全局觀念，很難在沒有調解的情況下達成妥協。
因此公司需要一個類似數據治理委員會的機構，他的職責是執行現有數據策略、挖掘未被滿足的需求以及潛在安全問題等，創建數據治理策略，使數據的採集、管護、儲存、訪問以及使用策略均實現標準化，同時還會考慮各個部門和崗位的不同需求。平衡不同部門之間存在衝突的需求，在安全性與訪問需求之間進行協調，確保最高效、最安全的數據管理策略。
成功的數據治理步驟
建立數據治理委員會
負責評估各個數據用戶的需求，建立覆蓋全公司的數據管理策略，滿足內部用戶、外部用戶甚至法律方面的各種需求。該委員會的成員應該囊括各個業務領域的利益相關者，確保各方需求都得到較好地滿足，所有類型的數據所有權均得到體現。委員會也需要有數據安全專家，數據安全也是重要的一環。瞭解數據治理委員會的目標是什麼，這一點很重要，因此，應該思考企業需要數據治理策略的原因，並清楚地加以說明。
制定數據治理的框架
這個框架要將企業內部、外部、甚至是法律層面的數據需求都納入其中。框架內的各個部分要能夠融合成一個整體，滿足收集、清洗、存儲、檢索和安全要求。為此，企業必須清楚說明其端到端數據策略，以便設計一個能夠滿足所有需求和必要操作的框架。
有計劃地把各個部分結合起來，彼此支持，這有很多好處，比如在高度安全的環境中執行檢索要求。合規性也需要專門的設計，成為框架的一部分，這樣就可以追蹤和報告監管問題。這個框架還包括日常記錄和其他安全措施，能夠對攻擊發出早期預警。在使用數據前，對其進行驗證，這也是框架的一部分。數據治理委員會應該瞭解框架的每個部分，明確其用途，以及它如何在數據的整個生命週期中發揮作用。
數據測試策略
通常一個數據策略需要在小規模的商用環境中進行測試，用來發現數據策略在框架，結構和計劃上的不足之處並進行調整，之後才能夠投入正式使用。
數據治理策略要與時俱進
隨著數據治理策略延伸到新的業務領域，肯定需要對策略進行調整。而且，隨著技術的發展，數據策略也應該發展，與安全形勢、數據分析方法以及數據管理工具等保持同步。
明確什麼是成功的數據策略
我們需要確立衡量數據治理是否成功的明確標準，以便衡量進展。制定數據管理目標，有助於確定成功的重要指標，進而確保數據治理策略的方向是符合企業需求。
總結
無論企業大小，在使用數據上都面臨相似的數據挑戰。企業越大，數據越多，而數據越多，越發需要制定一個有效的，正式的數據治理策略。規模較小的企業也許只需要非正式的數據治理策略就足夠了，但這隻限於那些規模很小且對數據依賴度很低的公司。即便是非正式的數據治理計劃也需要儘可能考慮數據用戶和員工數據的採集、驗證、訪問、存儲。
當企業規模擴大，數據需求跨越多個部門時，當數據系統和數據集太大，難以駕馭時，當業務發展需要企業級的策略時，或者當法律或監管提出需求時，就必須制定更為正式的數據治理策略。
（關注派可數據，關注更多的 BI 行業分析案例。如果讀者對商業智能 BI 比較感興趣，或您所在的行業和企業有這方面的需求，請隨時聯繫我們，我們將根據企業實際需求幫助企業構建完整的業務指標分析體系。）
派可數據一站式企業級 BI 可視化分析平臺
派可數據（www.packingdata.com) 為企業打造專業的一站式企業級商業智能 BI 平臺，通過標準的數據倉庫建模和前端自助可視化分析平臺為企業構建高度穩健、可擴展的 BI 分析平臺。快速業務模型驅動和豐富的各類業務分析指標庫支撐，幫助企業在最短的時間裡構建有效的可視化分析模型。
閱讀更多 派可數據可視化分析 的文章
