一文解析企業數據“存、管、治、用”難題

許多企業的管理系統相對獨立,自成體系,這就造成各系統之間存在數據孤島,數據庫未形成合力。同時,由於多條產品線和業務線,各個業務單元之間可能存在重複的功能模塊,造成響應低效,企業亟需數字化轉型。

數據中臺是企業數字化轉型的最佳落地實踐,能夠對大規模數據進行聚合、存儲、開發,同時統一標準和口徑,形成企業大數據資產層,在這基礎上,以數據API、資產目錄、數據分析、數據探索、服務治理等形式提供高效數據服務。

企業通過搭建數據中臺,統一了數據和服務,使技術、業務和數據深度融合,並賦能企業經營分析、運營歸因、客戶服務、產品服務和創新驅動,從而提效減負。

那麼,企業如何搭建數據中臺?

數據中臺是一種以數據為核心的新架構,數據因業務目標驅動而成,源於業務,服務於業務,通過鬆耦合的數據服務帶來業務的複用,因此數據中臺架構設計需要符合業務的頂層設計。企業建設數據中臺是一場自上而下、逐層推進的變革,通過對業務進行全維度調研和分析,抽象出企業所需的業務元素,梳理出商業模式和核心業務場景,並針對業務場景的痛點輸出功能需求,定義出系統能力。

數據中臺建設從“頂層設計、試點驗證、能力擴大、提升治理”四個流程逐步推進,形成建設路徑。搭建前,企業管理層需以頂層設計著手,將中臺納入企業戰略,明確搭建目標,評估優先事項,進行相關規劃,並從技術、產品、業務、組織和驅動模式上進行匹配和投入,分步實施;搭建時,以單個具體業務作為切入點進行試點驗證,明確業務目標和範圍,進行初步業務重塑,減少交付壓力;待試點得到有效驗證後,再將建設範圍逐漸擴大到全業務面,基於經營情況持續優化整合,沉澱中臺建設經驗和方法論,重塑企業價值鏈和IT架構;過程中,組織結構不斷優化,逐漸形成流程規範,提升中臺效率,進一步重構企業數字化生態。

一文解析企業數據“存、管、治、用”難題

數據中臺規劃思路圍繞“存、管、治、用”,為實現這些能力,我們從四個目標進行建設,分別為技術體系建設、資產規範建設、價值場景建設、數據運營建設。

技術體系建設

技術體系建設是建設數據中臺的技術基礎,這裡解決“存、管”的問題,為後面的“治、用”提供基礎工具。涉及大數據基礎平臺、數據治理平臺、離線計算平臺、實時計算平臺、數據統一上報平臺、機器學習平臺、運維監控平臺、調度任務平臺等多個技術平臺建設。其中大數據基礎平臺是數據中臺的底層核心,提供數據同步服務、多維分析服務、算法挖掘服務、數據開放服務、可視化服務、數據畫像服務等能力。數據治理平臺提供元數據服務、數據治理服務和指標監控服務等能力。技術體系建設主要解決數據集成、存儲、開發、治理等核心技術組件問題。

一文解析企業數據“存、管、治、用”難題

數據集成:數據規模、類型和質量決定大數據價值,在實際中需要儘可能彙集多方多維的數據,以保證數據分析和挖掘的成效。大數據平臺通過離線集成、實時集成、API接入、網絡爬蟲、埋點等技術,將不同來源的異構數據匯聚到數據倉庫中。對於不同類型的數據採用不同的接入方式,結構化數據採用全量或增量方式,非結構化數據先進行結構化處理後再存儲,半結構化數據則根據數據結構特點採用相應方式。

數據存儲:不同結構的數據需要不同存儲方式,多元異構的海量數據存儲有高吞吐、可擴展、高性能、高分佈式、高複雜等要求。基於Hadoop的分佈式存儲和計算框架支持海量數據的存儲和處理;Oracle、Mysql、SQLServer等關係型數據庫可用於存儲結構化的主業務數據;HDFS具有高吞吐數據讀取和寫入能力,適合圖片、音頻、視頻等非結構化大數據存儲。

數據開發:包括四個層次,分別為ODS(Operational Data Store)操作數據層、DWD(Data Warehouse Detail)明細數據層、DWS(Data Warehouse Service)服務數據層、ADS(Application Data Store)應用數據層。ODS直接對接各終端各業務系統產生的數據,將數據結構化後匯聚成生態數據湖,實現了數據融通,打破企業數據孤島。經過DWD和DWS進行數據加工和數據建模,使業務數據化,提高數據易用性和複用性。數據加工生成的指標數據將存儲在ADS中,提供給業務和應用場景使用。這四個層次依次遞進,各層次之間高內聚、低耦合,基礎數據模型及算法能夠被重複使用,因此,不同業務場景可以在通用數據服務的基礎上按需疊加技術組件,減少重複開發。

數據治理:數據治理是形成企業數據資產的關鍵,涉及數據標準化、元數據管理、數據質量控制、數據安全等。數據標準化定義業務、開發規範和管理信息,統一數據口徑,使企業數據模型能夠在複雜環境中保持一致性和規範性。元數據是重要的數據資產,反映數據的交易、事件、對象和關係,對元數據有效管理可以更好地監管數據生命週期、降低管理成本、追溯數據價值。數據標準化和元數據管理有助於數據質量的提高與管控。數據治理涉及數據安全建設,通過數據權限設置和數據加密措施保證數據安全性。對於數據治理工作的規劃和實施,企業需要自上而下指導、自下而上推進,組織、制度流程和平臺系統共同提供保障。

資產規範建設

沒有經過處理的業務數據不能稱之為企業數據資產,只有經過數據中臺體系化建設,根據業務劃分出主題域,進行統一規範存儲,建設成數據模型,形成數據標準,為業務賦能和實現決策分析能力才能稱作數據資產。

技術體系建設為企業數據資產建設奠定基礎,技術平臺建設內容屬於數據中臺的工具平臺,這些平臺提供了快捷方便的數據全生命週期的處理工具,沉澱出企業數據資產層,同時數據開發和數據治理等技術組件為資產規範建設提供了支撐。

資產規範建設包含兩部分,一是數據資產建設,二是規範體系建設,圍繞“管、治”進行建設。

一文解析企業數據“存、管、治、用”難題

  • 數據資產建設

在數據資產建設中,數據模型是實現數據資產化的關鍵。數據模型有利於內部掌握系統建設的全景視圖;有利於各業務系統與數據庫建立關聯,促進源數據高效整合和集成;基於數據模型驅動的數據映射,可以實現數據之間的有效關聯,比如通過Data-mapping技術,可以識別和定義不同系統中的同一用戶,有助於構建用戶標籤和客戶全景視圖。

數據建模要求熟悉業務流程和數據應用場景,分別對業務過程建模、業務對象建模、應用場景建模。數據模型能夠根據前臺業務需求進行擴展,按功能可以分為數據分析模型、數據算法模型。

數據分析模型的搭建基於數據開發技術組件,通過ODS、DWD、DWS、ADS四個層級,將企業全域業務數據梳理出不同的主題域,並存儲起來,為上層產品應用按需供給。典型的數據分析模型有用戶留存分析、AARRR模型分析、轉化漏斗分析、商品分析、交易分析等。

數據算法模型從數據應用場景出發,圍繞企業營銷運營等場景進行標準化算法建模,這些模型通過分析和挖掘用戶數據,匹配出關聯商品,實現個性化商品推薦、精準營銷、風險預測等能力。

  • 規範體系建設

規範體系建設重在“治”,通過數據治理提高數據質量,使數據價值能夠更好地體現和應用,為數據資產的管理提供保障,確保數據中臺有序運行。數據集成、數據治理、數據標準化、數據安全、數據開放服務、平臺運維等都屬於規範體系建設範疇。

數據集成:數據來源不同,集成規範需要考慮存儲架構、集成方式、接口方式、集成周期等。

數據治理:涵蓋元數據管理、數據安全管理、數據資產管理、數據標準管理、數據質量管理、數據模型管理等。

數據標準化:關聯元數據,統一指標定義、計算邏輯和描述語言,同時符合國家標準、行業標準、企業標準和地方標準。

數據安全:從數據完整性、保密性、備份恢復等進行安全規範,記錄數據使用的認證、授權、訪問和審計等過程,設立數據加密、脫敏、模糊化處理、賬號監控等數據安全策略。

數據開放服務:規範數據開放程度、開放形式、服務形式、開放技術等。

平臺運維:從配置、監控報警、運維操作等方面進行規範,更好地支撐個性化需求。

數據資產化是從數據集成、處理到利用併產生價值的過程,通過對數據進行資產規範建設,使數據價值能夠被挖掘,有效應用於業務當中。

價值場景建設

在數據資產化的基礎上,數據中臺能夠為企業提供深度融合數據與業務場景的數據產品與服務,使數據真正被“用”起來,如經營分析中心、實時分析數據大屏、CTR預測平臺、輿情分析系統、CDP智能營銷等,實現數據價值化。

一文解析企業數據“存、管、治、用”難題

數據中臺打造企業經營分析中心,結合全價值鏈運營分析體系和全生命週期數據管理,使生產、營銷、財務、人力等各個環節能夠形成相互關聯的整體和業務流程,並通過各系統的數據打通、整合、分析、挖掘,實現各環節的運營分析,形成BI報表,幫助企業管理者更好地發現和解決問題,進一步實現業務重組和流程再造,不斷促進企業改進不足、提升價值。

實時分析數據大屏具有實時數據分析、可視化展示、信息推送等功能。通過對數據信息進行多維、自主分析,並將分析結果可視化呈現出來,使使用者能夠更直觀、快捷地根據數據指標,合理調度配置資源進行事件決策。線下門店的導購場景常結合AI人臉識別和數據大屏應用,提高門店的客流獲取、銷售轉化等。

CTR(Click-Through Rate)預測平臺被廣泛應用於線上競價廣告,亞馬遜、YouTube、今日頭條等涉及到個性化推薦的系統都應用了CTR,它是競價廣告的核心技術之一,同時也是衡量流量的關鍵指標。目前,基於深度學習的CTR預測算法,通過用戶特徵、商品特徵、用戶-商品匹配特徵等進行模型訓練,能夠評估出一個用戶對一個商品的潛在點擊率和點擊後的轉化率,這有助於廣告主提高流量、增加廣告收入。

輿情分析系統能夠實現突發事件等各類輿論事件的數據監測和分析預警。系統自動採集互聯網信息,並實時監測出輿情關注的主題信息,通過對外部數據的採集、分析、挖掘,形成預測係數,基於輿情預警指標體系,系統可以自動判定出目前輿情的警情等級,幫助公關部門及時作出應急響應。

CDP(Customer Data Platform)智能營銷藉助身份識別手段,打通和整合用戶全渠道數據並統一到視圖裡,用戶交易數據和各個觸點的行為數據積累下來,形成了消費者數據中心CDP,使企業能夠基於人貨場關係結構搭建品牌標籤體系、掌握客戶所處生命週期階段以及客戶全生命週期價值。並通過精細化運營工具,精準定向人群自動智能推薦商品及服務,實現千人千面,提升營銷效率和優化客戶體驗。

數據運營建設

數據中臺為企業數字化轉型賦能,以數據驅動業務,實現數據價值,幫助企業轉向經營管理數字化和用戶運營智慧化,這些都需要建立在數據運營的基礎之上。數據運營通過數據分析、挖掘、預測、機器學習、標籤等工具去推動業務優化和共享服務能力,數據分析方法也推動著數據中臺的能力迭代和演進,這裡從AARRR模型、門店健康模型、A/B test等數據分析方法去建設數據運營。

一文解析企業數據“存、管、治、用”難題

數據運營依賴於數據分析模型和算法運用,推動企業從“存量”轉向“增量”。以用戶增長理念提煉運營核心指標體系——AARRR模型,從獲客(Acquisition)、活躍(Activation)、留存(Retention)、收入(Revenue)、傳播(Refer)形成用戶全生命週期的閉環模式,根據AARRR模型,能夠準確反映出產品所處生命週期和對應週期的運營重點。

一文解析企業數據“存、管、治、用”難題

在門店管理場景中,門店健康模型結合AARRR模型、五力模型和門店診斷模型,以數據指標化診斷門店經營狀況。五力模型分別為留客力、拓客力、服務力、管控力以及組織力,門店診斷模型涉及顧客、財務、產品、體驗和團隊等。三種模型可以對客戶健康、客戶體驗、團隊健康、產品、財務健康等維度進行門店健康標準評估。

一文解析企業數據“存、管、治、用”難題

數據中臺實現全域營銷,A/B test通過自定義產品、營銷活動、推廣人群等不同方案,使A/B對照組的能力集成在全鏈路自動化營銷的流程中,這種策略驗證,使運營人員能夠根據測試數據進行迭代分析,不斷優化出更好的營銷策略和營銷執行方案,提高營銷效果。

數據運營是發現問題、分析問題、解決問題的過程,數據運營建設支撐企業業務往精細化方向發展,使企業經營者能夠分析和定位出經營問題,並快速提出解決方案,促進業務正向增長。

工欲善其事,必先利其器。數據中臺是企業數字化轉型的利器,通過全面建設技術體系、資產規範、價值場景、數據運營,圍繞“存、管、治、用”,實現了數據資產化和數據價值化。數據中臺使企業內外部數據融合貫通,促進品牌有效連接用戶,提升經營效率,為企業創造價值。


分享到:


相關文章: