隨著互聯(lián)網(wǎng)的不斷擴(kuò)張和云計(jì)算技術(shù)的進(jìn)一步推廣，海量的數(shù)據(jù)在個(gè)人、企業(yè)、研究機(jī)構(gòu)等源源不斷地產(chǎn)生。這些數(shù)據(jù)為日常生活提供了便利，信息網(wǎng)站可以推送用戶定制的新聞，購物網(wǎng)站可以預(yù)先提供用戶想買的物品，人們可以隨時(shí)隨地分享。但是如何有效、快速、可靠地存取這些日益增長的海量數(shù)據(jù)成了關(guān)鍵的問題。傳統(tǒng)的存儲解決方案能提供數(shù)據(jù)的可靠性和絕對的安全性，但是面對海量的數(shù)據(jù)及其各種不同的需求，傳統(tǒng)的解決方案日益面臨越來越多的問難，比如數(shù)據(jù)量的指數(shù)級增長對不斷擴(kuò)容的存儲空間提出要求，實(shí)時(shí)分析海量的數(shù)據(jù)對存儲計(jì)算能力提出要求。一方面?zhèn)鹘y(tǒng)的存儲解決方案正在改變，比如多級存儲來不斷適應(yīng)大數(shù)據(jù)存儲管理系統(tǒng)的特點(diǎn)和要求，另一方面全新的存儲解決方案正日漸成熟，來有效滿足大數(shù)據(jù)的發(fā)展需求。

什么是大數(shù)據(jù)?為什么要大數(shù)據(jù)?

“大數(shù)據(jù)”通常指的是那些數(shù)量巨大、難于收集、處理、分析的數(shù)據(jù)集，亦指那些在傳統(tǒng)基礎(chǔ)設(shè)施中長期保存的數(shù)據(jù)。這里的“大”有幾層含義，它可以形容組織的大小，而更重要的是，它界定了企業(yè)中IT基礎(chǔ)設(shè)施的規(guī)模。業(yè)內(nèi)對大數(shù)據(jù)應(yīng)用寄予了無限的期望商業(yè)信息積累的越多價(jià)值也越大只不過我們需要一個(gè)方法把這些價(jià)值挖掘出來。

與以往相比，我們除了有能力存儲更多的數(shù)據(jù)量之外，還要面對更多的數(shù)據(jù)類型。這些數(shù)據(jù)的來源包括網(wǎng)上交易、網(wǎng)絡(luò)社交活動(dòng)、自動(dòng)傳感器、移動(dòng)設(shè)備以及科學(xué)儀器等等。除了那些固定的數(shù)據(jù)生產(chǎn)源，各種交易行為還可能加快數(shù)據(jù)的積累速度。比如說，社交類多媒體數(shù)據(jù)的爆炸性增長就源于新的網(wǎng)上交易和記錄行為。數(shù)據(jù)永遠(yuǎn)都在增長之中，但是，只有存儲海量數(shù)據(jù)的能力是不夠的，因?yàn)檫@并不能保證我們能夠成功地從中搜尋出商業(yè)價(jià)值。

大數(shù)據(jù)的存儲及處理能力挑戰(zhàn)

當(dāng)前，我國大數(shù)據(jù)存儲、分析和處理的能力還很薄弱，與大數(shù)據(jù)相關(guān)的技術(shù)和工具的運(yùn)用也相當(dāng)不成熟，大部分企業(yè)仍處于IT產(chǎn)業(yè)鏈的低端。我國在數(shù)據(jù)庫、數(shù)據(jù)倉庫、數(shù)據(jù)挖掘以及云計(jì)算等領(lǐng)域的技術(shù)，普遍落后于國外先進(jìn)水平。

在大數(shù)據(jù)存儲方面，數(shù)據(jù)的爆炸式增長，數(shù)據(jù)來源的極其豐富和數(shù)據(jù)類型的多種多樣，使數(shù)據(jù)存儲量更龐大，對數(shù)據(jù)展現(xiàn)的要求更高。而目前我國傳統(tǒng)的數(shù)據(jù)庫，還難以存儲如此巨大的數(shù)據(jù)量。在大數(shù)據(jù)的分析處理方面，由于針對具體的應(yīng)用類型，需要采用不同的處理方式，因此必須通過建立高級大數(shù)據(jù)的分析模型，來實(shí)現(xiàn)快速抽取大數(shù)據(jù)的核心數(shù)據(jù)、高效分析這些核心數(shù)據(jù)并從中發(fā)現(xiàn)價(jià)值，而這些數(shù)據(jù)分析能力我國還很欠缺。

因此，如何提高我國對大數(shù)據(jù)資源的存儲和整合能力，實(shí)現(xiàn)從大數(shù)據(jù)中發(fā)現(xiàn)、挖掘出有價(jià)值的信息和知識，是當(dāng)前我國大數(shù)據(jù)存儲和處理所面臨的挑戰(zhàn)。

處理大數(shù)據(jù)存儲挑戰(zhàn)的建議

通過隔離管理大數(shù)據(jù)存儲

如果您在您的企業(yè)中有多個(gè)存儲箱，那么將數(shù)據(jù)庫、線交易處理(OLTP)和微軟Exchange應(yīng)用到特定的存儲系統(tǒng)絕對是一個(gè)好主意。而專其它存儲系統(tǒng)則用于大數(shù)據(jù)應(yīng)用，如門戶網(wǎng)站，在線流媒體應(yīng)用，等等。

如果您的企業(yè)負(fù)擔(dān)不起分隔的存儲系統(tǒng)，將特定的前端存儲端口到數(shù)據(jù)庫，OLTP，等等;致力于大數(shù)據(jù)應(yīng)用到其他端口。背后的基本原理是使用專用端口，而大數(shù)據(jù)流量是以千字節(jié)或兆字節(jié)衡量，OLTP應(yīng)用流量是以每秒的輸入/輸出操作(IOPS)衡量，因?yàn)閿?shù)據(jù)塊的大小是比大數(shù)據(jù)更大而比OLTP應(yīng)用程序更小。OLTP應(yīng)用程序是CPU密集型的，而大數(shù)據(jù)應(yīng)用程序更多的使用前端端口。因此，更多的端口可以專注于大數(shù)據(jù)應(yīng)用。

專業(yè)的大數(shù)據(jù)存儲管理

如今，很多公司提供兼容數(shù)據(jù)管理的存儲系統(tǒng)。你應(yīng)該在尋找你的大數(shù)據(jù)存儲管理解決方案時(shí)評估這些公司。如EMCIsilon的集群存儲系統(tǒng)對于大數(shù)據(jù)存儲管理是一個(gè)更好的選擇，因?yàn)樵谝粋€(gè)單一的文件系統(tǒng)中大數(shù)據(jù)能增長到多字節(jié)的數(shù)據(jù)。

大數(shù)據(jù)分析

除了存儲，大數(shù)據(jù)管理的另一項(xiàng)大的挑戰(zhàn)是數(shù)據(jù)分析。一般的數(shù)據(jù)分析應(yīng)用程序無法很好的處理大數(shù)據(jù)，畢竟涉及到大量的數(shù)據(jù)。

目前，諸如EMCGreenplum這樣的公司就在采用專門針對大數(shù)據(jù)的管理和分析的工具。這些應(yīng)用程序運(yùn)行在集群存儲系統(tǒng)上，緩解大數(shù)據(jù)的管理。建議選擇應(yīng)用程序可同時(shí)工作在群集存儲系統(tǒng)，并迅速有效地分析數(shù)據(jù)。快速索引，確保元數(shù)據(jù)始終駐留在固態(tài)硬盤(SSD)，如果存儲箱為您提供了這樣的選擇的話。

管理大數(shù)據(jù)的另一個(gè)需要重點(diǎn)考慮的是未來的數(shù)據(jù)增長。你的大數(shù)據(jù)存儲管理系統(tǒng)應(yīng)該是可擴(kuò)展的，足以滿足未來的存儲需求。

大數(shù)據(jù)的存儲管理和云計(jì)算

許多公司正在尋找云計(jì)算服務(wù)來進(jìn)行存儲和管理海量數(shù)據(jù)。而選擇云服務(wù)來大型數(shù)據(jù)存儲管理，可以確保數(shù)據(jù)的所有權(quán)仍然是你的。

你應(yīng)該有權(quán)選擇將您的數(shù)據(jù)移入或移出云服務(wù)，而不被供應(yīng)商鎖定。其他重要的考慮因素是供應(yīng)商的數(shù)據(jù)安全指南。