企業(yè)網(wǎng)D1Net 4月4日 當下“大數(shù)據(jù)”無疑是最火的,在技術圈里廣為流傳。今年剛剛開完的兩會,中央電視臺引用大數(shù)據(jù)做出各種各樣的分析統(tǒng)計,可謂是大數(shù)據(jù)在央視這個平臺上的首次亮相,也將大數(shù)據(jù)的應用推向了新的高潮。大數(shù)據(jù)是何許也? 大數(shù)據(jù)這個概念是13年前,Gartner公司在一份研究報告中首次提出的。大數(shù)據(jù)從字面上不難理解,就是大量的數(shù)據(jù)。到2013年,世界上存儲的數(shù)據(jù)達到了約1.2澤字節(jié),其中非數(shù)字數(shù)據(jù)只占不到2%。下面的表1列了包括澤字節(jié)的數(shù)據(jù)度量單位。
1Byte |
8Bit |
|
1KB |
1024Bytes |
|
1MB |
1024KB |
1,048,576Bytes |
1GB |
1024MB |
1,073,741,824Bytes |
1TB |
1024GB |
1,099,511,627,776Bytes |
1PB |
1024TB |
1,125,899,906,842,624Bytes |
1EB |
1024PB |
1,152,921,504,606,846,976Bytes |
1ZB |
1024EB |
1,180,591,620,717,411,303,424Bytes |
1YB |
1024ZB |
1,208,925,819,614,629,174,706,176Bytes |
表1 :數(shù)據(jù)度量單位
1.2澤字節(jié),就是1024EB。這樣說可能感知不到這個數(shù)據(jù)量有多大。比如紅樓夢包含87萬字,如果將這些數(shù)據(jù)存儲起來,則1GB相當于671部紅樓夢,1TB相當于631903部,1PB相當于647068911部,1ZB則是1PB的1024*1024倍,這就是海量的數(shù)據(jù)。我們應該意識到信息爆炸已經(jīng)到來,我們的數(shù)字世界一直在高速擴張。谷歌公司每天要處理超過24PB的數(shù)據(jù),這意味著其每天的數(shù)據(jù)處理量是美國國家圖書館所有紙質(zhì)出版物所含數(shù)據(jù)量的上千倍。Facebook這個創(chuàng)立時間不足十年的公司,每天更新的照片量超過1000萬張,每天人們在網(wǎng)站上點擊“喜歡”按鈕或者寫評論大約有三十億次,這就為Facebook公司挖掘用戶喜好提供了大量的數(shù)據(jù)線索。與此同時,谷歌子公司YouTube每月接待多達8億的訪客,平均每一秒鐘就會有一段長度在一小時以上的視頻上傳。從科學研究到醫(yī)療保險,從銀行業(yè)到互聯(lián)網(wǎng),各個不同的領域都在講述著一個類似的故事,那就是爆發(fā)式增長的數(shù)據(jù)量。這種增長超過了我們創(chuàng)造機器的速度,甚至超過了我們的想象。這種大數(shù)據(jù)具有四個特點:大容量(Volume)、類型多(Variety)、增長速度快(Velocity)、價值高(Value),簡稱4V,這樣的數(shù)據(jù)使得沒有辦法在可容忍的時間下使用常規(guī)軟件方法完成存儲、管理和處理任務,因此出現(xiàn)了一系列大數(shù)據(jù)相關的技術。比如:數(shù)據(jù)采集技術ETL、數(shù)據(jù)存取技術SQL、云存儲、云計算、數(shù)據(jù)挖掘、Hadoop技術等等。
然而這樣爆發(fā)式增長的大數(shù)據(jù),這些大數(shù)據(jù)新技術都需要有更多的計算資源、更多的存儲以及高效的轉(zhuǎn)發(fā)平臺,才能充分利用起來這些數(shù)據(jù),顯然數(shù)據(jù)中心是其唯一的落腳點,數(shù)據(jù)中心可以給大數(shù)據(jù)提供最基礎的架構,在數(shù)據(jù)中心,大數(shù)據(jù)技術可以實施,數(shù)據(jù)可以保存,完成各種各樣的科研實驗、預測、搜索業(yè)務、應用系統(tǒng)等。然后數(shù)據(jù)中心現(xiàn)在需要面對的是海量數(shù)據(jù),這要求數(shù)據(jù)中心要有龐大的存儲系統(tǒng),可以存儲大量的計算數(shù)據(jù)。還要求數(shù)據(jù)中心計算能力很強,如果每次運算都要花費數(shù)周或數(shù)月,這樣的計算結果將毫無價值。因此數(shù)據(jù)中心要有數(shù)以萬計的服務器,協(xié)同式進行分布式計算。還要求數(shù)據(jù)中心的帶寬要大,核心鏈路要全部40G/100G互連,讓數(shù)據(jù)在各個計算節(jié)點、存儲節(jié)點以及數(shù)據(jù)中心外界高速傳遞,大數(shù)據(jù)給數(shù)據(jù)中心帶來的發(fā)展的機遇,加速了數(shù)據(jù)中心的更新?lián)Q代,傳統(tǒng)的數(shù)據(jù)中心已經(jīng)無法滿足大數(shù)據(jù)的需要。我們也不難看到,最近各種數(shù)據(jù)中心新技術層出不窮,有些甚至直接就是為了解決數(shù)據(jù)中心面臨大數(shù)據(jù)、云計算而遇到的問題。數(shù)據(jù)中心從10M接入發(fā)展到1000M接入花費了20年,而從1000M到40G接入?yún)s僅用了7、8年的時間,現(xiàn)在在百度、騰訊、阿里的新建數(shù)據(jù)中心基本全部采用40G互連,100G出口,在運營商網(wǎng)絡400G的高速傳輸已經(jīng)開始商用,為了滿足日益增長的數(shù)據(jù)需求,網(wǎng)絡帶寬也在飛速的增長,以太網(wǎng)標準機構已經(jīng)開始研究400G以太網(wǎng)傳輸技術,目前的理論極限是1000G,相信不久的將來這些都將成為現(xiàn)實,部署到數(shù)據(jù)中心當中。數(shù)據(jù)中心傳統(tǒng)的網(wǎng)絡架構也需要革新,F(xiàn)CoE、XLAN、TRILL、SPB、虛擬化技術等一系列新技術撲面而來,讓大數(shù)據(jù)有了發(fā)揮的余地。
大數(shù)據(jù)賦予了數(shù)據(jù)中心更多職能。數(shù)據(jù)中心除了要體現(xiàn)它的價值,把機房、設備、網(wǎng)絡和服務器都建好,但這只是修了條路,而修路的意義關鍵在于跑車,數(shù)據(jù)中心也一樣,它的價值在于幫助使用者采集、組織和管理數(shù)據(jù)。在大數(shù)據(jù)的發(fā)展趨勢下,能夠把核心數(shù)據(jù)、緊密相關的數(shù)據(jù),以及一些從社會上拿到的偏向于大數(shù)據(jù)的數(shù)據(jù)資源,將這些數(shù)據(jù)按照自身的核心目標和發(fā)展路徑進行組織和管理。數(shù)據(jù)中心不僅為大數(shù)據(jù)提供了施展才華的平臺,也將,也將數(shù)據(jù)進行了管理與集中,發(fā)揮更大的效能。
總體來說,似乎是大數(shù)據(jù)對數(shù)據(jù)中心的影響就好像是另一款高性能的應用程序,需要更多的處理能力、更多的存儲空間、以及更高性能的網(wǎng)絡,似乎只是帶給了數(shù)據(jù)中心一個大負擔,數(shù)據(jù)中心為了迎合大數(shù)據(jù),被動進行一些改革。而實際上,大數(shù)據(jù)不僅僅只是業(yè)務分析的工具,其也可以成為幫助改善數(shù)據(jù)中心的一款有用的工具。通過大數(shù)據(jù)技術,可以有效刪除一些無用的、重復性的數(shù)據(jù),提升數(shù)據(jù)處理效率,降低數(shù)據(jù)中心運營的綜合成本。所以大數(shù)據(jù)不僅僅給數(shù)據(jù)中心自身帶來的發(fā)展,也讓數(shù)據(jù)中心運營更加高效。大數(shù)據(jù)并不是簡單的大量的數(shù)據(jù)堆積,大數(shù)據(jù)還要解決一些用傳統(tǒng)技術方法無法解決的數(shù)據(jù)問題,所以海量數(shù)據(jù)只是其一個方面,關鍵是充分利用好這些海量數(shù)據(jù),挖掘其中的價值。
大數(shù)據(jù)與數(shù)據(jù)中心的發(fā)展相輔相成,互相影響,互相制約,誰也離不開誰。只有將兩者有機地結合起來,才能給企業(yè)帶來實質(zhì)性的收益。要知道流量是一個互聯(lián)網(wǎng)企業(yè)的生命,而數(shù)據(jù)也是數(shù)據(jù)中心的生命,擁有數(shù)據(jù)數(shù)據(jù)中心的生命才能延續(xù),然而數(shù)據(jù)中心要活的精彩,還需要將這些數(shù)據(jù)充分利用起來,大數(shù)據(jù)技術就是最好的幫手。未來將是數(shù)據(jù)爆發(fā)的時代,該到了大數(shù)據(jù)和數(shù)據(jù)中心大顯身手的時候了。