數(shù)據(jù)科學(xué)技術(shù)如今已在許多組織中占有一席之地,數(shù)據(jù)科學(xué)家正迅速成為以數(shù)據(jù)為中心的組織最受歡迎的角色之一。數(shù)據(jù)科學(xué)的應(yīng)用程序利用機(jī)器學(xué)習(xí)等技術(shù)和大數(shù)據(jù)的力量來(lái)獲取深入的見(jiàn)解和新的功能,其中包括預(yù)測(cè)分析、圖像和對(duì)象識(shí)別、會(huì)話人工智能系統(tǒng)等。
事實(shí)上,那些沒(méi)有在數(shù)據(jù)科學(xué)上進(jìn)行充分投資的組織可能很快落后于在數(shù)據(jù)科學(xué)方面獲得顯著競(jìng)爭(zhēng)優(yōu)勢(shì)的競(jìng)爭(zhēng)對(duì)手。
數(shù)據(jù)科學(xué)家可以做些什么以提供這種變革性的業(yè)務(wù)收益?數(shù)據(jù)科學(xué)領(lǐng)域是一些關(guān)鍵要素的集合:準(zhǔn)確提取可量化數(shù)據(jù)的統(tǒng)計(jì)和數(shù)學(xué)方法;使用先進(jìn)的分析技術(shù)和方法從科學(xué)角度解決數(shù)據(jù)分析的技術(shù)和算法,有助于處理大型數(shù)據(jù)集;以及可以幫助將大量數(shù)據(jù)整理成獲得高質(zhì)量見(jiàn)解的所需格式的工具和方法。
以下將更深入地研究數(shù)據(jù)科學(xué)家使用的常見(jiàn)統(tǒng)計(jì)和分析技術(shù)。其中一些數(shù)據(jù)科學(xué)技術(shù)植根于數(shù)世紀(jì)的數(shù)學(xué)和統(tǒng)計(jì)工作,而另一些技術(shù)則相對(duì)較新,利用了機(jī)器學(xué)習(xí)、深度學(xué)習(xí)和其他形式的高級(jí)分析的研究成果。
數(shù)據(jù)科學(xué)如何發(fā)現(xiàn)數(shù)據(jù)之間的關(guān)系
當(dāng)識(shí)別大量數(shù)據(jù)中的信息時(shí),數(shù)據(jù)科學(xué)家首先需要辨別不同的數(shù)據(jù)元素如何相互關(guān)聯(lián)。例如,如果在一張圖上繪制了一堆數(shù)據(jù)點(diǎn),那么如何知道它們是否有意義?
數(shù)據(jù)科學(xué)家最廣泛使用的有三種統(tǒng)計(jì)和分析技術(shù)。也許數(shù)據(jù)表示兩個(gè)或多個(gè)變量之間的關(guān)系,而其工作是繪制某種最能描述這種關(guān)系的曲線或多維平面?;蛘撸砭哂心撤N親和力的集群。其他數(shù)據(jù)可能代表不同的類別。通過(guò)發(fā)現(xiàn)這些關(guān)系,可以使數(shù)據(jù)的其他隨機(jī)性具有意義,然后可以對(duì)其進(jìn)行分析和可視化,以提供組織可以用來(lái)制定決策或計(jì)劃策略的信息。
以下了解可用于執(zhí)行分析的各種數(shù)據(jù)科學(xué)技術(shù)和方法:
分類技術(shù)
在分類問(wèn)題中,數(shù)據(jù)科學(xué)家要回答的首要問(wèn)題是:“這些數(shù)據(jù)屬于什么類別?”將數(shù)據(jù)分類的原因很多。也許數(shù)據(jù)是手繪的圖像,人們需要知道圖像代表什么字母或數(shù)字?;蛘叽碣J款申請(qǐng)的數(shù)據(jù),想知道它應(yīng)該屬于“已批準(zhǔn)”還是“已拒絕”類別。其他分類可以集中在確定患者治療方案或電子郵件是否是垃圾郵件。
數(shù)據(jù)科學(xué)家用來(lái)將數(shù)據(jù)過(guò)濾到類別中的算法和方法包括:
•決策樹(shù)。這些是分支邏輯結(jié)構(gòu),使用機(jī)器生成的參數(shù)和數(shù)值樹(shù)將數(shù)據(jù)分類為已定義的類別。
•貝葉斯分類器。利用概率的力量,貝葉斯分類器可以幫助將數(shù)據(jù)分為簡(jiǎn)單的類別。
•支持向量機(jī)(SVM)。支持向量機(jī)的目標(biāo)是繪制一條寬邊距的曲線或平面,將數(shù)據(jù)分成不同的類別。
•K-近鄰算法。該技術(shù)使用一種簡(jiǎn)單的“惰性決策”方法,根據(jù)數(shù)據(jù)集中最鄰近的類別來(lái)確定數(shù)據(jù)點(diǎn)應(yīng)該屬于哪個(gè)類別。
•邏輯回歸。盡管使用了分類技術(shù),但它使用將數(shù)據(jù)擬合到一條線的想法來(lái)區(qū)分每一邊的不同類別。這條線的形狀使數(shù)據(jù)可以移至某個(gè)類別。
•神經(jīng)網(wǎng)絡(luò)。這種方法使用訓(xùn)練有素的人工神經(jīng)網(wǎng)絡(luò),尤其是具有多個(gè)隱藏層的深度學(xué)習(xí)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)已經(jīng)顯示出強(qiáng)大的分類能力,其中包含大量的訓(xùn)練數(shù)據(jù)。
回歸技術(shù)
如果不知道數(shù)據(jù)屬于哪一類,而是想知道不同數(shù)據(jù)點(diǎn)之間的關(guān)系該怎么辦?回歸的主要思想是回答以下問(wèn)題:“這個(gè)數(shù)據(jù)的預(yù)測(cè)值是多少?”一個(gè)簡(jiǎn)單的概念來(lái)自“均值回歸”的統(tǒng)計(jì)概念,它可以是一個(gè)獨(dú)立變量和一個(gè)因變量之間的直接回歸,也可以是一個(gè)試圖找到多個(gè)變量之間關(guān)系的多維回歸。
例如決策樹(shù)支持向量機(jī)(SVM)和神經(jīng)網(wǎng)絡(luò)一些分類技術(shù),也可以用來(lái)進(jìn)行回歸。此外,數(shù)據(jù)科學(xué)家可以使用的回歸技術(shù)包括:
•線性回歸。作為數(shù)據(jù)科學(xué)中應(yīng)用最廣泛的方法之一,這種方法試圖根據(jù)兩個(gè)變量之間的相關(guān)性找到最適合所分析數(shù)據(jù)的曲線。
•套索回歸。Lasso(套索)是“最小絕對(duì)收縮和選擇算符”的縮寫(xiě),是一種通過(guò)在最終模型中使用數(shù)據(jù)子集來(lái)提高線性回歸模型預(yù)測(cè)準(zhǔn)確性的技術(shù)。
•多元回歸。這涉及尋找適合可能包含多個(gè)變量的多維數(shù)據(jù)的線或平面的不同方法。
聚類和關(guān)聯(lián)分析技術(shù)
另一組數(shù)據(jù)科學(xué)技術(shù)側(cè)重于回答這樣一個(gè)問(wèn)題:“這些數(shù)據(jù)是如何分組的,不同的數(shù)據(jù)點(diǎn)屬于哪些組?”數(shù)據(jù)科學(xué)家可以發(fā)現(xiàn)相關(guān)數(shù)據(jù)點(diǎn)的聚類,這些數(shù)據(jù)點(diǎn)具有共同的各種特征,從而在分析應(yīng)用程序中產(chǎn)生有用的信息。
可用于聚類用途的方法包括:
•K-均值聚類。K-均值算法確定數(shù)據(jù)集中的一定數(shù)量的聚類,并找到“質(zhì)心”,以標(biāo)識(shí)不同聚類的位置,并將數(shù)據(jù)點(diǎn)分配給最接近的聚類。
•均值漂移聚類。另一種基于質(zhì)心的聚類技術(shù),它可以單獨(dú)使用,也可以通過(guò)移動(dòng)指定的質(zhì)心來(lái)改進(jìn)k-均值聚類。
•DBSCAN。DBSCAN是“基于密度的帶噪空間聚類算法DBSCAN”的縮寫(xiě),是另一種發(fā)現(xiàn)聚類的技術(shù),它使用一種更高級(jí)的方法來(lái)識(shí)別聚類的密度。
•高斯混合模型。高斯混合模型通過(guò)使用高斯分布將數(shù)據(jù)分組在一起而不是將數(shù)據(jù)視為奇點(diǎn)來(lái)幫助找到聚類。
•分層聚類。與決策樹(shù)類似,這種技術(shù)使用層次化的分支方法來(lái)查找聚類。
關(guān)聯(lián)分析是一種相關(guān)但獨(dú)立的技術(shù)。其背后的主要思想是找到描述不同數(shù)據(jù)點(diǎn)之間公共性的關(guān)聯(lián)規(guī)則。與聚類類似,人們正在尋找數(shù)據(jù)所屬的組。但是在這種情況下,試圖確定何時(shí)數(shù)據(jù)點(diǎn)一起出現(xiàn),而不是僅僅識(shí)別它們的集群。在聚類中,其目標(biāo)是將大數(shù)據(jù)集劃分為可識(shí)別的組,而通過(guò)關(guān)聯(lián)分析,人們正在測(cè)量數(shù)據(jù)點(diǎn)之間的關(guān)聯(lián)程度。
數(shù)據(jù)科學(xué)應(yīng)用實(shí)例
數(shù)據(jù)科學(xué)工具帶中的上述方法和技術(shù)需要適當(dāng)?shù)貞?yīng)用于特定的分析問(wèn)題以及可用于解決這些問(wèn)題的數(shù)據(jù)。優(yōu)秀的數(shù)據(jù)科學(xué)家必須能夠理解當(dāng)前問(wèn)題的本質(zhì)——是聚類、分類還是回歸?以及在給定數(shù)據(jù)特征的情況下可以產(chǎn)生所需答案的最佳算法。這就是數(shù)據(jù)科學(xué)實(shí)際上是一個(gè)科學(xué)過(guò)程而不是具有嚴(yán)格規(guī)則的過(guò)程,并允許通過(guò)編程解決問(wèn)題的原因。
使用這些技術(shù),數(shù)據(jù)科學(xué)家可以處理廣泛的應(yīng)用程序,其中許多應(yīng)用程序通常出現(xiàn)在不同類型的行業(yè)和組織中。以下是一些例子:
·異常檢測(cè)。如果可以找到預(yù)期或正常數(shù)據(jù)的模式,那么也可以找到那些不符合模式的數(shù)據(jù)點(diǎn)。金融服務(wù)、醫(yī)療保健、零售和制造業(yè)等行業(yè)組織經(jīng)常采用各種數(shù)據(jù)科學(xué)方法來(lái)識(shí)別其數(shù)據(jù)中的異常情況,以用于欺詐檢測(cè)、客戶分析、網(wǎng)絡(luò)安全和IT系統(tǒng)監(jiān)控。異常檢測(cè)還可以用來(lái)消除數(shù)據(jù)集中的異常值,以提高分析的準(zhǔn)確性。
·二分類和多分類。分類技術(shù)的一個(gè)主要應(yīng)用是確定某物是否屬于某一特定類別。這就是所謂的二分類,因?yàn)槿藗兛赡軙?huì)問(wèn)諸如“圖片中是否有貓?”之類的問(wèn)題。實(shí)際的業(yè)務(wù)應(yīng)用是使用圖像識(shí)別在大量文件中識(shí)別合同或發(fā)票。在多類分類中,在數(shù)據(jù)集中有許多不同的類別,正在努力尋找最適合數(shù)據(jù)點(diǎn)的類別。例如,美國(guó)勞工統(tǒng)計(jì)局會(huì)對(duì)工傷進(jìn)行自動(dòng)分類。
·個(gè)性化。希望與客戶進(jìn)行個(gè)性化交互或向客戶推薦產(chǎn)品和服務(wù)的組織首先需要將數(shù)據(jù)分組到具有共享特征的數(shù)據(jù)桶中。有效的數(shù)據(jù)科學(xué)工作可以使用推薦引擎和超個(gè)性化系統(tǒng)等技術(shù),根據(jù)個(gè)人的具體需求和喜好量身來(lái)定制網(wǎng)站,推銷產(chǎn)品及更多內(nèi)容,這些技術(shù)是通過(guò)匹配人員詳細(xì)資料中的數(shù)據(jù)來(lái)驅(qū)動(dòng)的。
這只是數(shù)據(jù)科學(xué)應(yīng)用程序的一些示例。通過(guò)采用數(shù)據(jù)分析的各種工具和方法,數(shù)據(jù)科學(xué)家可以幫助使用它們的組織獲得戰(zhàn)略和競(jìng)爭(zhēng)優(yōu)勢(shì)。
版權(quán)聲明:本文為企業(yè)網(wǎng)D1Net編譯,轉(zhuǎn)載需注明出處為:企業(yè)網(wǎng)D1Net,如果不注明出處,企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。