摘要:在大數(shù)據(jù)領域里,經(jīng)常會看到例如數(shù)據(jù)挖掘、OLAP、數(shù)據(jù)統(tǒng)計等等的專業(yè)詞匯。
在大數(shù)據(jù)領域里,經(jīng)常會看到例如數(shù)據(jù)挖掘、OLAP、數(shù)據(jù)統(tǒng)計等等的專業(yè)詞匯。如果僅僅從字面上,我們很難說清楚每個詞匯的意義和區(qū)別。今天,我們就來通過一些大數(shù)據(jù)在高校應用的例子,來為大家說明白—數(shù)據(jù)挖掘、大數(shù)據(jù)、OLAP、數(shù)據(jù)統(tǒng)計的區(qū)別。
一、數(shù)據(jù)分析
數(shù)據(jù)分析是一個大的概念,理論上任何對數(shù)據(jù)進行計算、處理從而得出一些有意義的結論的過程,都叫數(shù)據(jù)分析。從數(shù)據(jù)本身的復雜程度、以及對數(shù)據(jù)進行處理的復雜度和深度來看,可以把數(shù)據(jù)分析分為以下4個層次:數(shù)據(jù)統(tǒng)計,OLAP,數(shù)據(jù)挖掘,大數(shù)據(jù)。
二、數(shù)據(jù)統(tǒng)計
數(shù)據(jù)統(tǒng)計是最基本、最傳統(tǒng)的數(shù)據(jù)分析,自古有之。是指通過統(tǒng)計學方法對數(shù)據(jù)進行排序、篩選、運算、統(tǒng)計等處理,從而得出一些有意義的結論。
舉例,對全年級學生按照平均成績從高到低排序,前10%的學生可以獲得申請研究生免試資格。
傳統(tǒng)的查詢和報表工具是告訴你數(shù)據(jù)庫中有什么(What happened)
三、OLAP
聯(lián)機分析處理(On-Line Analytical Processing,OLAP)是指基于數(shù)據(jù)倉庫的在線多維統(tǒng)計分析。它允許用戶在線地從多個維度觀察某個度量值,從而為決策提供支持。
舉例,學校招生時要決定今年在江蘇的招生指標,不能簡單地參照去年的計劃,而是要參考多個維度的數(shù)據(jù)積累。學校要在這些數(shù)據(jù)的支持下做出合理的決策。
OLAP更進一步告訴你下一步會怎么樣(What next),如果我采取這樣的措施又會怎么樣(What if)
四、數(shù)據(jù)挖掘
數(shù)據(jù)挖掘是指從海量數(shù)據(jù)中找到人們未知的、可能有用的、隱藏的規(guī)則,可以通過關聯(lián)分析、聚類分析、時序分析等各種算法發(fā)現(xiàn)一些無法通過觀察圖表得出的深層次原因。
舉例,學校發(fā)現(xiàn)高等數(shù)學等主干課的不及格率有逐年上升的趨勢,一般認為是學習不認真所致,但做了很多工作效果并不明縣,這時通過數(shù)據(jù)挖掘……
針對此可以采取有針對性的管理措施。
五、大數(shù)據(jù)
大數(shù)據(jù)是指用現(xiàn)有的計算機軟硬件設施難以采集、存儲、管理、分析和使用的超大規(guī)模的數(shù)據(jù)集。大數(shù)據(jù)具有規(guī)模大、種類雜、快速化、價值密度低等特點(4V特性)。大數(shù)據(jù)的“大”是一個相對概念,沒有具體標準,如果一定要給一個標準,那么10-100TB通常稱為大數(shù)據(jù)的門檻。
總結
從數(shù)據(jù)分析的角度來看,目前絕大多數(shù)學校的數(shù)據(jù)應用產品都還處在數(shù)據(jù)統(tǒng)計和報表分析的階段,能夠實現(xiàn)有效的OLAP分析與數(shù)據(jù)挖掘的還很少,而能夠達到大數(shù)據(jù)應用階段的非常少,至少還沒有用過有效的大數(shù)據(jù)集。
點評:
我們不需要糾結所謂的“專業(yè)名詞”,作為一個數(shù)據(jù)分析師,我們的目標是幫助業(yè)務更好的發(fā)展、減少決策的風險、提取重要的信息,所以業(yè)務的套路和理解才是我們的立足之本,數(shù)據(jù)分析畢竟是我們達成某種目標的工具,療效才是對我們更深層次的驗證。