大數(shù)據(jù)分析架構(gòu)需權(quán)衡四要素

責(zé)任編輯:editor004

2014-11-10 10:58:49

摘自:論壇

通過提供對更廣泛信息集的訪問,大數(shù)據(jù)就可以為數(shù)據(jù)分析師和業(yè)務(wù)用戶產(chǎn)生分析見解提供一臂之力。無論一個(gè)公司部署什么類型的大數(shù)據(jù)技術(shù)棧,有一些共通的因素必須加以考量,以保證為大數(shù)據(jù)分析工作提供一個(gè)有效的框架。

通過提供對更廣泛信息集的訪問,大數(shù)據(jù)就可以為數(shù)據(jù)分析師和業(yè)務(wù)用戶產(chǎn)生分析見解提供一臂之力。成功的大數(shù)據(jù)分析應(yīng)用程序會(huì)揭示某些趨勢和模式,以此來為決策制定提供更好的服務(wù),并會(huì)指出新的創(chuàng)收機(jī)會(huì)和讓企業(yè)領(lǐng)先于他們的商業(yè)競爭對手的方法。但首先,企業(yè)往往需要增強(qiáng)他們現(xiàn)有的IT基礎(chǔ)設(shè)施建設(shè)以及數(shù)據(jù)管理流程以支持大數(shù)據(jù)架構(gòu)的規(guī)模和復(fù)雜性。

Hadoop系統(tǒng)和NoSQL數(shù)據(jù)庫已經(jīng)成為管理大數(shù)據(jù)環(huán)境的重要工具。不過,在很多情況下,企業(yè)利用他們現(xiàn)有的數(shù)據(jù)倉庫設(shè)施,或是一個(gè)新老混合的技術(shù)來對大數(shù)據(jù)流入他們的系統(tǒng)進(jìn)行管理。

無論一個(gè)公司部署什么類型的大數(shù)據(jù)技術(shù)棧,有一些共通的因素必須加以考量,以保證為大數(shù)據(jù)分析工作提供一個(gè)有效的框架。在開始一個(gè)大數(shù)據(jù)項(xiàng)目之前,去審視項(xiàng)目所要承擔(dān)的新數(shù)據(jù)需求的更大圖景顯得尤為關(guān)鍵。下面來讓我們檢視四個(gè)需要加以考量的因素。

數(shù)據(jù)準(zhǔn)確性

數(shù)據(jù)質(zhì)量問題對于BI和數(shù)據(jù)管理專業(yè)人士來說一定不陌生。很多BI和分析團(tuán)隊(duì)努力保證數(shù)據(jù)的有效性并說服業(yè)務(wù)使用人員去信任信息資產(chǎn)的準(zhǔn)確性和可靠性。作為個(gè)性化分析庫而得以廣泛使用的電子表格或電子報(bào)表軟件可以對數(shù)據(jù)中信任缺乏的問題加以彌補(bǔ):在Excel中存儲(chǔ)和操作分析數(shù)據(jù)的功能為支持自助分析能力創(chuàng)造了環(huán)境,但可能不會(huì)激發(fā)其他用戶對結(jié)果的自信心。數(shù)據(jù)倉庫與數(shù)據(jù)集成和數(shù)據(jù)質(zhì)量工具一起,能夠通過為管理BI和分析數(shù)據(jù)提供標(biāo)準(zhǔn)化流程來幫助樹立信心。但是,由于不斷增加的數(shù)據(jù)容量和更廣泛多樣的數(shù)據(jù)類型,特別是當(dāng)涉及結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)混合時(shí),就會(huì)對一個(gè)大數(shù)據(jù)的實(shí)施增加難度系數(shù)。建立評估數(shù)據(jù)質(zhì)量標(biāo)準(zhǔn)以及對它們進(jìn)行升級以處理那些更大、更多樣數(shù)據(jù)集,對于大數(shù)據(jù)實(shí)施的成功和分析框架的使用是至關(guān)重要的。

存儲(chǔ)適用

數(shù)據(jù)倉儲(chǔ)的一個(gè)核心要求是處理和存儲(chǔ)大數(shù)據(jù)集的能力。但并不是所有數(shù)據(jù)倉庫在這方面都滿足要求。一些是針對復(fù)雜查詢處理進(jìn)行優(yōu)化,而其他的則并非如此。并且在許多大數(shù)據(jù)應(yīng)用程序中,相較于事務(wù)系統(tǒng),由于添加了非結(jié)構(gòu)化數(shù)據(jù)還有數(shù)據(jù)的創(chuàng)建和收集增速迅猛,用Hadoop和NoSQL技術(shù)增強(qiáng)數(shù)據(jù)倉庫就成為必要。對于一個(gè)希望獲取并分析大數(shù)據(jù)的組織來說,光有存儲(chǔ)容量是不夠的;而重要的部分在于將數(shù)據(jù)置于何處才是最佳的,這樣數(shù)據(jù)就可以轉(zhuǎn)化為有用信息并為數(shù)據(jù)科學(xué)家和其他用戶所利用。

查詢性能

大數(shù)據(jù)分析依賴于及時(shí)處理和查詢復(fù)雜數(shù)據(jù)的能力。一個(gè)很好地例子就是:一家公司開發(fā)了一個(gè)數(shù)據(jù)倉庫用來維護(hù)從能源使用計(jì)收集到的數(shù)據(jù)。在產(chǎn)品評估過程中,某供應(yīng)商的系統(tǒng)有能力在15分鐘內(nèi)處理七百萬條記錄,而另一家則在相同時(shí)間內(nèi)可以處理最高三十萬條記錄。能否識別正確的基礎(chǔ)設(shè)施來支持快速的數(shù)據(jù)可用性和高性能查詢就意味著成功還是失敗。

穩(wěn)定性

隨著許多組織中數(shù)據(jù)量和數(shù)據(jù)種類的增長,大數(shù)據(jù)平臺(tái)的建立需要有對未來的考量。必須提前考慮和求證正在進(jìn)行評估的大數(shù)據(jù)技術(shù)是否能夠進(jìn)行擴(kuò)展,以達(dá)到不斷向前發(fā)展的需求所要求的級別。這便超出了存儲(chǔ)容量的范疇,將性能也包含了進(jìn)來,對那些從社交網(wǎng)絡(luò),傳感器,系統(tǒng)日志文件以及其他非事務(wù)源獲取數(shù)據(jù)作為其業(yè)務(wù)數(shù)據(jù)擴(kuò)展的公司來說尤為如此。

分析多樣而復(fù)雜的數(shù)據(jù)集需要一個(gè)健壯且富有彈性的大數(shù)據(jù)架構(gòu)。在籌劃項(xiàng)目時(shí)通過對這四個(gè)因素進(jìn)行考量,組織可以確定他們是否已經(jīng)擁有能夠處理如此嚴(yán)苛大數(shù)據(jù)的分析程序亦或是需要額外的軟硬件以及數(shù)據(jù)管理流程來達(dá)到他們的大數(shù)據(jù)目標(biāo)。

鏈接已復(fù)制,快去分享吧

企業(yè)網(wǎng)版權(quán)所有?2010-2024 京ICP備09108050號-6京公網(wǎng)安備 11010502049343號