專題|案例三 金融行業 某企業資料庫的跨國遷移

點擊上方藍字關注“信息化時代”

专题|案例三 金融行业 某企业数据库的跨国迁移

“連數據庫都上雲了,還有什麼不能上雲?”亞馬遜的CTO Werner Vogels的這句話讓人印象深刻。在各種應用向雲遷移的過程中,數據庫的遷移應該是最複雜和最能體現廠商技術和服務功底的。

數據庫遷移往往是企業上雲之旅的重點和難點。為此,AWS推出了AWS Database Migration Service,並且已在中國區落地。

AWS Database Migration Service是一種Web服務,可用於將數據從本地數據庫、Amazon Relational Database Service (Amazon RDS)數據庫實例上的數據庫或 Amazon Elastic Compute Cloud (Amazon EC2)實例上的數據庫遷移到AWS服務上的數據庫。這些服務可以包括Amazon RDS上的數據庫或Amazon EC2實例上的數據庫。用戶還可以將數據庫從AWS服務遷移到本地數據庫,並可在異構和同構數據庫引擎之間遷移數據。

AWS DMS服務支持同構遷移(例如從Oracle遷移到Oracle),以及在不同數據庫平臺之間的異構遷移(例如從Oracle遷移到Amazon Aurora或從Microsoft SQL Server遷移到MySQL)。另外,它還支持客戶從任意受支持的源位置(包括Amazon Aurora、PostgreSQL、MySQL、MariaDB、Oracle、SAP ASE和SQL Server)將數據流式傳輸到Amazon Redshift,以便在PB級數據倉庫中對數據進行整合和輕鬆分析。AWS Database Migration Service 還可用於連續數據複製,且高度可用。

光環有云利用AWS DMS將某企業客戶的MySQL遷移至AWS RDS Aurora。該用戶的業務系統原來運行在某雲新加坡區域,因故需要遷移到其他公有云。最終,客戶選擇將其業務系統遷移至AWS東京區域,同時選擇AWS高級諮詢合作伙伴——光環有云作為諮詢和實施服務提供商,完成AWS基礎架構的部署和數據庫遷移工作。

客戶運營著一套類金融系統,由10+應用系統構成,超過40臺虛擬服務器,採用MySQL 5.6數據庫服務,數據量超過700GB+,日數據新增量約5GB,另有一個測試數據庫。客戶主要運營的業務系統對於安全性要求很高,出於業務連續考慮,預設遷移時間窗口有限,其業務系統依賴於事務處理,對延遲敏感。

专题|案例三 金融行业 某企业数据库的跨国迁移

光環有云利用AWS DMS將客戶的MySQL遷移至AWS Aurora的具體過程如下。

第一,數據庫遷移準備。

數據庫信息準備工作包括生產庫信息統計、生產庫性能監控、日新增數據量統計、業務高峰期統計,以及生產數據庫版本、參數、用戶、存儲過程、函數等信息記錄。

在進行方案規劃時,通過對客戶業務場景、應用系統、數據庫以及運營管理等多方面深入調研後,基於AWS數據遷移最佳實踐和光環有云在數據庫遷移的豐富經驗,結合客戶的具體需求和約束條件,提出了以MySQL複製+DMS同步和以MySQL主從複製+xtrabackup 增量還原兩個方案規劃。

MySQL主從複製+DMS同步方案,其主要步驟如下:搭建IPsec VPN,打通某雲Singapore—AWS Tokyo;某雲RDS創建物理全量備份,並將備份文件還原到一臺新實例中,該實例將當做此次測試的Master庫;在AWS環境中,新啟一臺EC2實例並安裝MySQL服務,同時拉取備份文件到EC2實例中;將EC2中的備份文件還原到EC2 MySQL數據庫裡,當前MySQL將充當Slave服務器;在Master和Slave 之間建立主從複製;AWS Tokyo region的VPC中啟動一臺Aurora MySQL-5.6;在EC2 MySQL(Slave)和AWS RDS Aurora 之間配置DMS同步;等Master、Slave與AWS RDS Aurora同步完成後,校驗數據完整性;導入一批測試數據到Master中,用作增量數據同步測試;校驗Master、Slave與AWS RDS Aurora同步情況,並校驗數據完整性。

MySQL主從複製+xtrabackup增量還原方案,其主要步驟如下:搭建IPsec VPN,打通某雲Singapore—AWS Tokyo;某雲RDS創建物理全量備份,並將備份文件還原到一臺新實例中,該實例將當做此次測試的Master庫;AWS環境中,新啟一臺EC2實例,安裝MySQL服務,拉取備份文件到實例中;將EC2中的備份文件還原到EC2 MySQL數據庫裡,當前MySQL將充當Slave服務器;在Master和Slave 之間建立主從複製;在Slave中使用xtrabackup創建全備;將全備文件同步到一個AWS Tokyo region的S3存儲桶A中;導入一批測試數據到Master中,用作增量數據同步測試;在Slave中在全備的基礎上使用xtrabackup創建增量備份;使用AWS S3 Sync將增量數據同步到S3存儲桶A中;將AWS Tokyo region 的S3存儲桶A中的所有數據,還原到AWS RDS Aurora數據庫中。

在遷移前,以較小數據量按照規劃中的兩種方案分別進行了模擬測試。測試結論顯示,鑑於客戶預設停機窗口有限,為保持良好的業務持續性,所以最終選擇方案1作為主方案,方案2作為備用方案。在遷移實施時,兩個方案同時進行。

第二,項目實施遷移。

遷移原則如下:滿足遷移約束條件,方案驗證可行;對遷移過程控制和識別風險並應對;業務影響最小,數據安全、完整、可用;最小可用權限,授權操作,不碰數據。

“結果很重要,過程須控制。”遷移是一件多風險、易出錯的工作,協同工作的所有環節都可能出現錯誤,從而導致遷移的失敗。光環有云對遷移過程十分重視,會同客戶一起認真分析遷移的所有流程,並細化成指導遷移實施的指導性文檔,作為遷移實施的過程控制文檔,其中包括遷移詳細計劃、遷移流程、所有任務、RACI協作、任務詳細文檔(腳本、操作詳細步驟)、任務耗時、任務異常處理等。

在使用AWS DMS進行遷移的過程中,可能會遇到如下挑戰:數據庫權限、目標庫信息重建(用戶、存儲過程、視圖、函數等)、DMS校驗報錯、字符集不一致、時區設置、DMS同步數據追平、DMS實例與遷移數據量、增量與時間窗口的平衡。

在實踐中,光環有云發現使用AWS DMS進行遷移既有優勢,也有其侷限性。優勢表現在:簡單易用;在遷移過程中源數據庫可持續運行;具有較小的業務中斷窗口,可保持業務連續性;支持異構數據庫遷移;可實現自動故障轉移,十分可靠;在向Aurora遷移數據庫時,可免費使用AWS DMS 特定實例 6個月。

其侷限性表現在:DMS僅同步表中的數據;同步較大的數據增量時,耗時較長;AWS DMS自身校驗機制耗時易報錯。

總之,利用AWS DMS進行數據庫遷移,可以輕鬆並安全地將數據庫遷移至AWS。源數據庫能夠在遷移過程中全面保持運行,從而儘可能減少依賴該數據庫的應用程序的停機時間。AWS DMS可以在廣泛使用的開源商業數據庫之間遷移數據。不過還是要提醒用戶注意,數據庫遷移是一項十分複雜且有難度的工作,即使是有高效安全的遷移工具,還是需要一支有經驗的技術團隊作為遷移的支持,這樣才能保證數據庫遷移的安全、有序進行,避免差錯。光環有云作為AWS專業服務商,可以為客戶提供從雲遷移到運維管理的整套解決方案。

专题|案例三 金融行业 某企业数据库的跨国迁移

與您距離更近!

专题|案例三 金融行业 某企业数据库的跨国迁移

中國信息化週報(信息化時代)

官網:www.cio360.net


分享到:


相關文章: