大數(shù)據(jù)分析重大 計算方法選擇需慎重

責(zé)任編輯:editor004

2015-07-11 20:09:40

摘自:中國安防展覽網(wǎng)

3 預(yù)測性分析能力(Predictive Analytic Capabilities)——數(shù)據(jù)挖掘可以讓分析員更好的理解數(shù)據(jù),而預(yù)測性分析可以讓分析員根據(jù)可視化分析和數(shù)據(jù)挖掘的結(jié)果做出一些預(yù)測性的判斷。

大數(shù)據(jù)分析

大數(shù)據(jù)分析依靠機器學(xué)習(xí)和大規(guī)模計算,對規(guī)模巨大的數(shù)據(jù)進行分析。作為時下最火熱的IT行業(yè)的詞匯,數(shù)據(jù)倉庫、數(shù)據(jù)安全、數(shù)據(jù)分析、數(shù)據(jù)挖掘等等圍繞大數(shù)據(jù)的商業(yè)價值的利用逐漸成為行業(yè)人士爭相追捧的利潤焦點。大數(shù)據(jù)時代的來臨,大數(shù)據(jù)分析應(yīng)運而生。

安聯(lián)全球救援長期從事道路救援已有12年,利用大數(shù)據(jù)分析科學(xué)分析救援?dāng)?shù)據(jù),在第一時間內(nèi)合理調(diào)配救援資源,并在最短時間內(nèi)通知相關(guān)部門展開對應(yīng)的援助。2015年7月6日,安聯(lián)全球救援在北京慶祝在華第500萬個成功道路救援案例誕生。在過去的12年里,安聯(lián)全球救援投入了大量資金和資源在全國范圍內(nèi)建立專業(yè)服務(wù)網(wǎng)絡(luò),并分別在北京和成都設(shè)立運營中心,其網(wǎng)絡(luò)覆蓋全國1762個城市,平均服務(wù)到達時間為39分鐘。利用大數(shù)據(jù)分析,大大提高了道路救援效率。

那么大數(shù)據(jù)分析究竟是怎么樣?那些方法更有效?我們該如何利用起來呢?

大數(shù)據(jù)分析可以分為五個基本方面:

1.可視化分析(Analytic Visualizations)——不管是對數(shù)據(jù)分析專家還是普通用戶,數(shù)據(jù)可視化是數(shù)據(jù)分析工具最基本的要求??梢暬梢灾庇^的展示數(shù)據(jù),讓數(shù)據(jù)自己說話,讓觀眾聽到結(jié)果。

2.數(shù)據(jù)挖掘算法(Data Mining Algorithms)——可視化是給人看的,數(shù)據(jù)挖掘就是給機器看的。集群、分割、孤立點分析還有其他的算法讓我們深入數(shù)據(jù)內(nèi)部,挖掘價值。這些算法不僅要處理大數(shù)據(jù)的量,也要處理大數(shù)據(jù)的速度。

3.預(yù)測性分析能力(Predictive Analytic Capabilities)——數(shù)據(jù)挖掘可以讓分析員更好的理解數(shù)據(jù),而預(yù)測性分析可以讓分析員根據(jù)可視化分析和數(shù)據(jù)挖掘的結(jié)果做出一些預(yù)測性的判斷。

4.義引擎(Semantic Engines)——我們知道由于非結(jié)構(gòu)化數(shù)據(jù)的多樣性帶來了數(shù)據(jù)分析的新的挑戰(zhàn),我們需要一系列的工具去解析,提取,分析數(shù)據(jù)。語義引擎需要被設(shè)計成能夠從“文檔”中智能提取信息。

5.數(shù)據(jù)質(zhì)量和數(shù)據(jù)管理(Data Qualityand Master Data Management)——數(shù)據(jù)質(zhì)量和數(shù)據(jù)管理是一些管理方面的最佳實踐。通過標(biāo)準(zhǔn)化的流程和工具對數(shù)據(jù)進行處理可以保證一個預(yù)先定義好的高質(zhì)量的分析結(jié)果。

大數(shù)據(jù)分析方法的選擇

大數(shù)據(jù)分析性能的好壞,也就是說機器學(xué)習(xí)預(yù)測的準(zhǔn)確率,與使用的學(xué)習(xí)算法、問題的性質(zhì)、數(shù)據(jù)集的特性包括數(shù)據(jù)規(guī)模、數(shù)據(jù)特征等都有關(guān)系。一般地,Ensemble方法包括Random Forest和Ada Boost、SVM、Logistic Regression分類準(zhǔn)確率最高。沒有一種方法可以“包打天下”。RandomForest、SVM等方法一般性能最好,但不是在什么條件下性能都最好。

不同的方法,當(dāng)數(shù)據(jù)規(guī)模小的時候,性能往往有較大差異,但當(dāng)數(shù)據(jù)規(guī)模增大時,性能都會逐漸提升且差異逐漸減小。也就是說,在大數(shù)據(jù)條件下,什么方法都能work的不錯。對于簡單問題,Random Forest、SVM等方法基本可行,但是對于復(fù)雜問題,比如語音識別、圖像識別,最近流行的深度學(xué)習(xí)方法往往效果更好。深度學(xué)習(xí)本質(zhì)是復(fù)雜模型學(xué)習(xí),是今后研究的重點。

在實際應(yīng)用中,要提高分類的準(zhǔn)確率,選擇特征比選擇算法更重要。好的特征會帶來更好的分類結(jié)果,而好的特征的提取需要對問題的深入理解。

大數(shù)據(jù)分析策略分析

建立大數(shù)據(jù)分析平臺時,選擇實現(xiàn)若干種有代表性的方法即可。當(dāng)然,不僅要考慮預(yù)測的準(zhǔn)確率,還有考慮學(xué)習(xí)效率、開發(fā)成本、模型可讀性等其他因素。大數(shù)據(jù)分析平臺固然重要,同時需要有一批能夠深入理解應(yīng)用問題,自如使用分析工具的工程師和分析人員。

只有善工利器,大數(shù)據(jù)分析才能真正發(fā)揮威力。

鏈接已復(fù)制,快去分享吧

企業(yè)網(wǎng)版權(quán)所有?2010-2024 京ICP備09108050號-6京公網(wǎng)安備 11010502049343號