看完這篇干貨,我不相信你會不收藏。大數(shù)據(jù)時(shí)代,熱文很多,但需要的是冷思考。
大數(shù)據(jù)已經(jīng)成為時(shí)尚詞匯,理解混亂是必然的。對此的九個(gè)思考,沒有邏輯、沒有體系性,純粹是片段式的,目的是提出問題,思考中。心中無“大師”,一切從現(xiàn)象入手,竊以為“大師”一詞僅僅適合于鬼神靈,不適合人。
此思考希冀引起思想碰撞,各種觀點(diǎn),無論是鼓勵(lì)、批評,甚至攻擊,只要發(fā)自內(nèi)心,都能夠促進(jìn)思索。感謝!結(jié)合大家的批評與建議,對一些集中問題點(diǎn)進(jìn)行一些思考后的再補(bǔ)充。
大數(shù)據(jù)思考之一
任何一個(gè)網(wǎng)站的數(shù)據(jù)都是人們互聯(lián)網(wǎng)行為數(shù)據(jù)的很小的一個(gè)子集,無論這個(gè)子集多么全面,分析多么深入,都是子集,不是全集。對于企業(yè)來講,競爭對手的數(shù)據(jù)價(jià)值遠(yuǎn)遠(yuǎn)超過自己網(wǎng)站數(shù)據(jù)的價(jià)值,從量級上,對于所有公司都一樣,自己擁有的數(shù)據(jù)遠(yuǎn)遠(yuǎn)小于全集數(shù)據(jù)??雌饋淼娜珨?shù)據(jù)恰恰是殘缺數(shù)據(jù)。
補(bǔ)充
一些朋友對“競爭對手的數(shù)據(jù)價(jià)值遠(yuǎn)遠(yuǎn)超過自己網(wǎng)站數(shù)據(jù)的價(jià)值”的判斷是錯(cuò)誤的,我虛心接受,知己知彼很重要,實(shí)際的意義是“企業(yè)的生存關(guān)鍵不在于自己如何,而在于競爭對手如何,自己的事情必須做好”。在此前提下,競爭對手的數(shù)據(jù)價(jià)值遠(yuǎn)遠(yuǎn)超過自己網(wǎng)站數(shù)據(jù)的價(jià)值”。
大數(shù)據(jù)思考之二
數(shù)據(jù)量的大幅增加會造成結(jié)果的不準(zhǔn)確,來源不同的信息混雜會加大數(shù)據(jù)的混亂程度。研究發(fā)現(xiàn):巨量數(shù)據(jù)集和細(xì)顆粒度的測量會導(dǎo)致出現(xiàn)“錯(cuò)誤發(fā)現(xiàn)”的風(fēng)險(xiǎn)增加。那種認(rèn)為“假設(shè)、檢驗(yàn)、驗(yàn)證的科學(xué)方法已經(jīng)過時(shí)”的論調(diào),正是大數(shù)據(jù)時(shí)代的混亂與迷茫,人們索性擁抱凱文凱利所稱的混亂。
補(bǔ)充
舍恩伯格在《大數(shù)據(jù)時(shí)代》一書中的提出的被廣泛接納的:大數(shù)據(jù)“沒有精確只有混雜,沒有因果只有相關(guān)”觀點(diǎn)是錯(cuò)誤的。混雜需要梳理成合理才有分析價(jià)值,無論是牛頓、愛因斯坦,還是韋伯的理想類型都是在混雜中找尋分析方法,相關(guān)很多時(shí)候是沒有找到因果之前的認(rèn)識,因果與過程理解是研究的核心。
大數(shù)據(jù)思考之三
互聯(lián)網(wǎng)用戶的基本特征、消費(fèi)行為、上網(wǎng)行為、渠道偏好、行為喜好、生活軌跡與位置等,反映用戶的基本行為規(guī)律。體系完整是所有分析性工作的第一步,完整的框架甚至勝過高深的模型。人類的認(rèn)識最大的危險(xiǎn)是不顧后果的運(yùn)用局部知識。如果只關(guān)心自己網(wǎng)站數(shù)據(jù),其分析基礎(chǔ)必然是斷裂數(shù)據(jù)。
補(bǔ)充
斷裂數(shù)據(jù)的危害會在競爭激烈時(shí)日益凸顯,很多互聯(lián)網(wǎng)企業(yè)以CRM管理系統(tǒng)當(dāng)成數(shù)據(jù)挖掘與數(shù)據(jù)分析系統(tǒng),觀念是錯(cuò)誤的,CRM的目的是規(guī)范性報(bào)表,數(shù)據(jù)分析與數(shù)據(jù)挖掘的目的是探索性歸納。
大數(shù)據(jù)思考之四
現(xiàn)在談到大數(shù)據(jù),基本有四個(gè)混亂觀念:第一,大數(shù)據(jù)是全數(shù)據(jù),忽視甚至蔑視抽樣;第二,連續(xù)數(shù)據(jù)就是大數(shù)據(jù);第三,數(shù)據(jù)量級大是大數(shù)據(jù);第四,數(shù)據(jù)量大好于量小。對應(yīng)的是:抽樣數(shù)據(jù)只要抽樣合理,結(jié)論準(zhǔn)確;連續(xù)只是一個(gè)數(shù)據(jù)結(jié)構(gòu);大量級的噪音會得出錯(cuò)誤結(jié)論;大小與價(jià)值關(guān)系不大。
補(bǔ)充
現(xiàn)實(shí)互聯(lián)網(wǎng)領(lǐng)域被基本關(guān)于大數(shù)據(jù)的書籍所累,觀念十分混亂,實(shí)際上,人類積累的數(shù)據(jù)經(jīng)驗(yàn)是一切分析的基礎(chǔ),包括所謂的海量數(shù)據(jù),那幾本書的方法論橫空出世,同時(shí)又沒有落地、沒有實(shí)際操作經(jīng)驗(yàn)積累,誤導(dǎo)性太強(qiáng)。
圖片來源:www.cbdio.com
大數(shù)據(jù)思考之五
大數(shù)據(jù)不是新事物,天氣、地震、量子物理、基因、醫(yī)學(xué)等都是,借鑒他們的方法有益。他們用抽樣調(diào)查?;ヂ?lián)網(wǎng)數(shù)據(jù)挖掘方法論也如此,不同的是更難,因?yàn)槿说膹?fù)雜性。既然是關(guān)于人的研究就需應(yīng)用所有研究人的方法梳理大數(shù)據(jù)。只要懂編程、懂調(diào)動數(shù)據(jù)的人就可以做大數(shù)據(jù)挖掘的說法是謬誤。
補(bǔ)充
大數(shù)據(jù)不是新的,只是出現(xiàn)了新的收集資料的快捷方法,所有關(guān)于人的研究方式與分析方法應(yīng)用于大數(shù)據(jù)是數(shù)據(jù)挖掘的核心,調(diào)動數(shù)據(jù)的能力僅僅是技術(shù)部分,關(guān)系類似導(dǎo)演與剪輯。
大數(shù)據(jù)思考之六
大數(shù)據(jù)分析中分析構(gòu)架為第一要著,算法也極為關(guān)鍵,在最近的大數(shù)據(jù)處理中發(fā)現(xiàn):解析網(wǎng)址后的分類是是一個(gè)難點(diǎn),主要有幾個(gè)方面,一個(gè)千萬人的網(wǎng)絡(luò)行為數(shù)據(jù)一天產(chǎn)生的域名大約50000個(gè),雖然有一些算法,但是混淆、難以辨認(rèn),連續(xù)更新與判別是分析中的重要步驟,簡單分易,精細(xì)分難。
補(bǔ)充
算法依賴于數(shù)據(jù)的構(gòu)架,而算法需要真正理解人的行為。
大數(shù)據(jù)思考之七
算法中,只要包含文本,就必然有兩個(gè)關(guān)鍵基礎(chǔ)技術(shù):關(guān)鍵詞(字典)與語義分析。關(guān)鍵詞技術(shù)成熟,語義技術(shù)是瓶頸,中文語義太難,能解決50%的團(tuán)隊(duì)就不錯(cuò)了,尤其是社交語言,比如"真可以!"何解?需上下文。希望風(fēng)投們多鼓勵(lì)此類基礎(chǔ)技術(shù)研發(fā),突破此瓶頸是大數(shù)據(jù)挖掘的關(guān)鍵點(diǎn)之一。
大數(shù)據(jù)思考之八
社交數(shù)據(jù)挖掘中,很多團(tuán)隊(duì)集中在運(yùn)用推特瀑布思路,就是可視化技術(shù),其構(gòu)圖精美值得稱道,問題是,其理論還是沿用三十多年前的社會計(jì)量法,概念還是局限在點(diǎn)、橋、意見領(lǐng)袖等小群體分析,不適合巨網(wǎng),突破可視化框架的社交分析需要理論探索和實(shí)踐努力。
補(bǔ)充
理解社交的意義比結(jié)構(gòu)展示重要。
大數(shù)據(jù)思考之九
移動互聯(lián)網(wǎng)對社會生活的影響本質(zhì)是時(shí)間與空間的解構(gòu),分析這類大數(shù)據(jù)需要把握這兩點(diǎn),如果僅僅分析app和網(wǎng)絡(luò)使用行為,那么分析上就失去了移動的意義。單純看流量、點(diǎn)擊率等簡單數(shù)字無法解決復(fù)雜的營銷問題。不創(chuàng)新的延續(xù)原有思維模式是人類思考惰性。
補(bǔ)充
互聯(lián)網(wǎng)和移動互聯(lián)網(wǎng)是相關(guān)的兩件事情。