《企業(yè)網(wǎng)D1Net》2月8日訊(上海)對于每一家負(fù)責(zé)提供客戶情況、潛在預(yù)期和市場動態(tài)等商業(yè)信息的IT公司,大數(shù)據(jù)是一種快捷、方便和有效的方式。
Facebook、Twitter、視頻以及增長的信息傳送,讓我們有了一個堅(jiān)實(shí)的基礎(chǔ),可以快速得出結(jié)果,并微調(diào)市場預(yù)測。企業(yè)已經(jīng)達(dá)到每天自動產(chǎn)生TB級數(shù)據(jù)的地步,必須對數(shù)據(jù)進(jìn)行收集、存儲和分析。
伴隨著開源Apache Hadoop的采用,數(shù)據(jù)管理軟件廠商已發(fā)生巨變。現(xiàn)在,基于Hadoop的基礎(chǔ)設(shè)施的前景日趨明朗,它可以關(guān)聯(lián)結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù),擴(kuò)展成本低廉,并能以此獲得快速的市場洞察力。 Hadoop和其生態(tài)系統(tǒng)在彈性、安全性和易用性上會為企業(yè)提供新的能力嗎?
現(xiàn)今CIO在利用大量和多樣化的數(shù)據(jù)時,需要考慮的關(guān)鍵技術(shù)因素包括:
1、與其他數(shù)據(jù)庫和數(shù)據(jù)管理環(huán)境共存。包括標(biāo)準(zhǔn)的關(guān)系環(huán)境(甲骨文)和分析數(shù)據(jù)倉庫(Teradata)。警告:數(shù)據(jù)移動和整合是必要的,但它增加了對各種提取、轉(zhuǎn)換和加載(ETL)工具的支出,也增加了運(yùn)營成本。
2、存儲和硬件。創(chuàng)新的壓縮和重復(fù)數(shù)據(jù)刪除技術(shù)是解決大數(shù)據(jù)問題的關(guān)鍵。目前在這方面已有很大的進(jìn)步,我們現(xiàn)在看到的多層次壓縮在容量方面比原始數(shù)據(jù)減少40倍。然而,重要的是考慮已壓縮的數(shù)據(jù)中有多少最終需要再次膨脹,這將影響你的容量。例如,如果再次膨脹時需要增加30%的容量,那可能不值得把壓縮擺在首位。
3、查詢和分析。并不是所有的數(shù)據(jù)都是同等的,查詢和業(yè)務(wù)分析的范圍變化很大,這取決于使用情況。有合適的工作工具是必須的。在許多情況下,快速反應(yīng)的SQL查詢將足以生成所需要的信息。在其他情況下,深層的分析查詢需要一個具有完整的操作界面和可視化功能的商業(yè)智能工具。正確部署專有技術(shù)和開源Hadoop,將幫助您的組織實(shí)現(xiàn)具有規(guī)模的快速分析,同時防止運(yùn)營成本不斷攀升。
4、規(guī)模和管理能力。由于企業(yè)面對不同的數(shù)據(jù)庫和分析環(huán)境,因此向外和向上的擴(kuò)展能力是非常重要的。簡單的向外擴(kuò)展能力是Hadoop為什么會被企業(yè)迅速采用的原因。通過低成本的服務(wù)器集群進(jìn)行大規(guī)模并行處理是關(guān)鍵,比其他的數(shù)據(jù)管理方式需要更少的專業(yè)技能,而這直接影響您對IT資源的投資。(Vivian 編譯)