小紅書技術團隊近日達成一項行業(yè)創(chuàng)舉,成功將其龐大的數(shù)據(jù)湖無故障遷移至阿里云,此舉在業(yè)界堪稱前所未有。
作為月活用戶超3億的頭部互聯(lián)網(wǎng)企業(yè),小紅書的數(shù)據(jù)湖匯集了11年來的全部原始數(shù)據(jù),包含多樣化的數(shù)據(jù)結(jié)構(gòu)。隨著業(yè)務的迅猛擴展,公司對數(shù)據(jù)的實時處理能力提出了更高要求,而歷史數(shù)據(jù)的離線處理也面臨諸多挑戰(zhàn)。
為了應對這些挑戰(zhàn),小紅書于2023年11月啟動了遷云項目,目標是在一年內(nèi)將數(shù)據(jù)湖平穩(wěn)遷移至阿里云。該項目的規(guī)模之大,即便是與業(yè)界之前的案例相比,也顯得尤為突出。
遷云項目在2024年5月正式進入雙跑階段,這是切換至新環(huán)境前的關鍵測試期,對確保系統(tǒng)穩(wěn)定性至關重要。在此期間,技術團隊面臨了海量的問題挑戰(zhàn),每周平均需應對500余個新增問題。
得益于阿里云團隊的全力支持,小紅書技術團隊成功完成了割接任務,且全程未出現(xiàn)任何P2級別及以上的故障。這一成就標志著小紅書在數(shù)據(jù)處理能力上邁上了新臺階。
至2024年11月,遷云項目圓滿落幕。在整個過程中,技術團隊共遷移了500PB的數(shù)據(jù)量,執(zhí)行了11萬項任務,參與人員達1500人,涉及公司內(nèi)部40余個部門。這一壯舉不僅展示了小紅書在技術創(chuàng)新方面的實力,也為行業(yè)樹立了新的標桿。