隨著互聯(lián)網(wǎng)的不斷擴張和云計算技術(shù)的進一步推廣，海量的數(shù)據(jù)在個人、企業(yè)、研究機構(gòu)等源源不斷地產(chǎn)生。這些數(shù)據(jù)為日常生活提供了便利，信息網(wǎng)站可以推送用戶定制的新聞，購物網(wǎng)站可以預先提供用戶想買的物品，人們可以隨時隨地分享。但是如何有效、快速、可靠地存取這些日益增長的海量數(shù)據(jù)成了關(guān)鍵的問題。傳統(tǒng)的存儲解決方案能提供數(shù)據(jù)的可靠性和絕對的安全性，但是面對海量的數(shù)據(jù)及其各種不同的需求，傳統(tǒng)的解決方案日益面臨越來越多的問難，比如數(shù)據(jù)量的指數(shù)級增長對不斷擴容的存儲空間提出要求，實時分析海量的數(shù)據(jù)對存儲計算能力提出要求。一方面?zhèn)鹘y(tǒng)的存儲解決方案正在改變，比如多級存儲來不斷適應(yīng)大數(shù)據(jù)存儲管理系統(tǒng)的特點和要求，另一方面全新的存儲解決方案正日漸成熟，來有效滿足大數(shù)據(jù)的發(fā)展需求。
· 什么是大數(shù)據(jù)？為什么要大數(shù)據(jù)？
“大數(shù)據(jù)”通常指的是那些數(shù)量巨大、難于收集、處理、分析的數(shù)據(jù)集，亦指那些在傳統(tǒng)基礎(chǔ)設(shè)施中長期保存的數(shù)據(jù)。這里的“大”有幾層含義，它可以形容組織的大小，而更重要的是，它界定了企業(yè)中IT基礎(chǔ)設(shè)施的規(guī)模。業(yè)內(nèi)對大數(shù)據(jù)應(yīng)用寄予了無限的期望商業(yè)信息積累的越多價值也越大只不過我們需要一個方法把這些價值挖掘出來。
與以往相比，我們除了有能力存儲更多的數(shù)據(jù)量之外，還要面對更多的數(shù)據(jù)類型。這些數(shù)據(jù)的來源包括網(wǎng)上交易、網(wǎng)絡(luò)社交活動、自動傳感器、移動設(shè)備以及科學儀器等等。除了那些固定的數(shù)據(jù)生產(chǎn)源，各種交易行為還可能加快數(shù)據(jù)的積累速度。比如說，社交類多媒體數(shù)據(jù)的爆炸性增長就源于新的網(wǎng)上交易和記錄行為。數(shù)據(jù)永遠都在增長之中，但是，只有存儲海量數(shù)據(jù)的能力是不夠的，因為這并不能保證我們能夠成功地從中搜尋出商業(yè)價值。
· 大數(shù)據(jù)的存儲及處理能力挑戰(zhàn)
當前，我國大數(shù)據(jù)存儲、分析和處理的能力還很薄弱，與大數(shù)據(jù)相關(guān)的技術(shù)和工具的運用也相當不成熟，大部分企業(yè)仍處于IT產(chǎn)業(yè)鏈的低端。我國在數(shù)據(jù)庫、數(shù)據(jù)倉庫、數(shù)據(jù)挖掘以及云計算等領(lǐng)域的技術(shù)，普遍落后于國外先進水平。
在大數(shù)據(jù)存儲方面，數(shù)據(jù)的爆炸式增長，數(shù)據(jù)來源的極其豐富和數(shù)據(jù)類型的多種多樣，使數(shù)據(jù)存儲量更龐大，對數(shù)據(jù)展現(xiàn)的要求更高。而目前我國傳統(tǒng)的數(shù)據(jù)庫，還難以存儲如此巨大的數(shù)據(jù)量。在大數(shù)據(jù)的分析處理方面，由于針對具體的應(yīng)用類型，需要采用不同的處理方式，因此必須通過建立高級大數(shù)據(jù)的分析模型，來實現(xiàn)快速抽取大數(shù)據(jù)的核心數(shù)據(jù)、高效分析這些核心數(shù)據(jù)并從中發(fā)現(xiàn)價值，而這些數(shù)據(jù)分析能力我國還很欠缺。
因此，如何提高我國對大數(shù)據(jù)資源的存儲和整合能力，實現(xiàn)從大數(shù)據(jù)中發(fā)現(xiàn)、挖掘出有價值的信息和知識，是當前我國大數(shù)據(jù)存儲和處理所面臨的挑戰(zhàn)。
· 處理大數(shù)據(jù)存儲挑戰(zhàn)的建議
通過隔離管理大數(shù)據(jù)存儲
如果您在您的企業(yè)中有多個存儲箱，那么將數(shù)據(jù)庫、線交易處理（OLTP）和微軟Exchange應(yīng)用到特定的存儲系統(tǒng)絕對是一個好主意。而專其它存儲系統(tǒng)則用于大數(shù)據(jù)應(yīng)用，如門戶網(wǎng)站，在線流媒體應(yīng)用，等等。
如果您的企業(yè)負擔不起分隔的存儲系統(tǒng)，將特定的前端存儲端口到數(shù)據(jù)庫，OLTP，等等；致力于大數(shù)據(jù)應(yīng)用到其他端口。背后的基本原理是使用專用端口，而大數(shù)據(jù)流量是以千字節(jié)或兆字節(jié)衡量，OLTP應(yīng)用流量是以每秒的輸入/輸出操作（IOPS）衡量，因為數(shù)據(jù)塊的大小是比大數(shù)據(jù)更大而比OLTP應(yīng)用程序更小。OLTP應(yīng)用程序是CPU密集型的，而大數(shù)據(jù)應(yīng)用程序更多的使用前端端口。因此，更多的端口可以專注于大數(shù)據(jù)應(yīng)用。
專業(yè)的大數(shù)據(jù)存儲管理
如今，很多公司提供兼容數(shù)據(jù)管理的存儲系統(tǒng)。你應(yīng)該在尋找你的大數(shù)據(jù)存儲管理解決方案時評估這些公司。如EMCIsilon的集群存儲系統(tǒng)對于大數(shù)據(jù)存儲管理是一個更好的選擇，因為在一個單一的文件系統(tǒng)中大數(shù)據(jù)能增長到多字節(jié)的數(shù)據(jù)。
大數(shù)據(jù)分析
除了存儲，大數(shù)據(jù)管理的另一項大的挑戰(zhàn)是數(shù)據(jù)分析。一般的數(shù)據(jù)分析應(yīng)用程序無法很好的處理大數(shù)據(jù)，畢竟涉及到大量的數(shù)據(jù)。
目前，諸如EMCGreenplum這樣的公司就在采用專門針對大數(shù)據(jù)的管理和分析的工具。這些應(yīng)用程序運行在集群存儲系統(tǒng)上，緩解大數(shù)據(jù)的管理。建議選擇應(yīng)用程序可同時工作在群集存儲系統(tǒng)，并迅速有效地分析數(shù)據(jù)�？焖偎饕_保元數(shù)據(jù)始終駐留在固態(tài)硬盤（SSD），如果存儲箱為您提供了這樣的選擇的話。
管理大數(shù)據(jù)的另一個需要重點考慮的是未來的數(shù)據(jù)增長。你的大數(shù)據(jù)存儲管理系統(tǒng)應(yīng)該是可擴展的，足以滿足未來的存儲需求。
大數(shù)據(jù)的存儲管理和云計算
許多公司正在尋找云計算服務(wù)來進行存儲和管理海量數(shù)據(jù)。而選擇云服務(wù)來大型數(shù)據(jù)存儲管理，可以確保數(shù)據(jù)的所有權(quán)仍然是你的。
你應(yīng)該有權(quán)選擇將您的數(shù)據(jù)移入或移出云服務(wù)，而不被供應(yīng)商鎖定。其他重要的考慮因素是供應(yīng)商的數(shù)據(jù)安全指南。
