OBSA-HDFS組件全稱為HuaweiCloud OBS Adapter for Hadoop Support,利用OBSA-HDFS,客戶可以在華為云上快速部署存算分離的Hadoop大數(shù)據(jù)平臺,無需修改代碼即可完成Spark、MapReduce、Hive、HBase等組件與華為云OBS對象存儲服務(wù)的對接,并獲得高性能的HDFS存儲。
當(dāng)然,除了客戶端組件外,華為云OBS在服務(wù)端的Data Multi-Protocol功能為達成存算分離提供了技術(shù)保證。傳統(tǒng)的對象存儲服務(wù)不支持原生的文件協(xié)議,導(dǎo)致大數(shù)據(jù)場景下的rename需要通過拷貝和刪除兩個操作組合來完成,更無法對文件目錄進行修改,而拷貝操作會消耗寶貴的IO資源且時延較高。
華為云OBS的Data Multi-Protocol支持POSIX文件語義,通過對元數(shù)據(jù)結(jié)構(gòu)和操作的雙重優(yōu)化,可快速完成文件的rename。經(jīng)過測試,在大數(shù)據(jù)場景下,對100MB文件進行rename操作,華為云OBS比傳統(tǒng)對象存儲性能提升10倍以上。
憑借著數(shù)量級的性能提升,華為云BigData Pro存算分離大數(shù)據(jù)解決方案使用OBS替代Hadoop的本地HDFS存儲,讓計算資源和存儲資源完全解耦,獨立擴容,讓大數(shù)據(jù)分析的性價比平均提升35%以上。更可以構(gòu)建云上統(tǒng)一數(shù)據(jù)湖,消除數(shù)據(jù)孤島、降低數(shù)據(jù)共享難度、減少數(shù)據(jù)冗余、提升數(shù)據(jù)使用效率。
當(dāng)前,華為云BigData Pro解決方案已經(jīng)服務(wù)于斗魚、美圖、蘑菇街、貨拉拉和長虹等行業(yè)知名客戶。
未來,我們也將為Hadoop在公有云場景下的效率提升而持續(xù)努力。
Hadoop是Apache基金會的頂級項目,也是業(yè)界領(lǐng)先且使用最廣泛的分布式系統(tǒng)框架,用戶可以輕松地在Hadoop上開發(fā)和運行處理海量數(shù)據(jù)的應(yīng)用程序。
HDFS是Hadoop實現(xiàn)的分布式文件系統(tǒng)(Hadoop Distributed File System),為海量數(shù)據(jù)提供高吞吐量、高擴展、高可靠和高容錯性的存儲。
從2006年成立以來,Hadoop改變了企業(yè)對數(shù)據(jù)的存儲、處理和分析的過程,形成了一個極其豐富的技術(shù)生態(tài)圈。