到 2018年 全球大數據方面的開(kāi)支將達 1140 億美元，是 5年 前的 3 倍；到 2020年 全球大數據規模將達 44ZB（澤字節），是 2013年 的 10 倍。下一波大數據浪潮即將來(lái)襲，但是并沒(méi)有多少組織為此做好準備。如果應對措施不當，你可能就不是弄潮的那個(gè)，而是被浪尖打翻的那個(gè)。如何為駕馭大數據做好準備呢？請看 Crewspark CEO Cameron Sim 的文章。

1140 億美元。這是 2018年 全球組織在大數據方面的開(kāi)銷(xiāo)，僅僅 5年 的時(shí)間就增長(cháng)了 300%以上。但是這些投入有多少是值得的呢？

過(guò)去 10年，我們目睹了大數據管理新方法的廣泛應用，如 MapReduce、供大規模存儲使用的非模式化數據庫，以及用于存儲和處理的 Hadoop、Storm 和 Spark 等。但是大數據的使用不僅僅是特定平臺或范例的部署而已： 通常這意味著(zhù)公司對數據的建構和組織進(jìn)行徹底的重新設計。

但據調查發(fā)現，目前還沒(méi)有多少組織為新的數據平臺和能力做好基本準備。只有 35%的組織擁有了 “健壯的數據捕捉、管理、驗證及保存流程”，更有 67%“缺乏衡量定義明確的大數據行動(dòng)成功的標準?！?那些大數據解決方案基本都是被動(dòng)集成進(jìn)來(lái)的。

但時(shí)間可不等人，根據 2014年IDC 的報告，到 2020年，全球的數據總量將達 44ZB，整整是 2013年 的 10 倍。面對著(zhù)下一波的數據大爆發(fā)，那些未做好準備的公司將可能就會(huì )有背負運營(yíng)和技術(shù)雙重債務(wù)的風(fēng)險，并因數據落后而被淘汰出局。

具體而言，這些風(fēng)險體現在以下幾個(gè)方面：

企業(yè)喪失透明度

業(yè)界將面臨大規模的技能短缺問(wèn)題——很少有 IT 專(zhuān)業(yè)人士有經(jīng)驗管理大規模的大數據平臺。根據麥肯錫的分析，到 2018年，美國將出現 150 萬(wàn)名有能力做出基于數據決策的經(jīng)理。為了縮短這一鴻溝，麥肯錫估計企業(yè)將需要把數據和分析預算的 50%投入到一線(xiàn)經(jīng)理的培訓上面。但是還沒(méi)有多少公司意識到這一點(diǎn)。

隨著(zhù)數據需求的擴大，如果對信息管理缺乏深刻理解，對數據擴展性缺乏最佳實(shí)踐，那么在管理數據驅動(dòng)的系統時(shí)就會(huì )遭遇到重大挑戰。而糟糕的運營(yíng)透明度會(huì )導致企業(yè)很難識別出數據何時(shí)不準確和無(wú)意義，甚至連關(guān)鍵報表和指標是否正確運行都不知道。理清這些錯綜復雜并對數據提出正確的問(wèn)題將成為 IT 人員的必備技能。否則就會(huì )缺乏對企業(yè)運營(yíng)的可視性，無(wú)法有效做出知情決策并削弱企業(yè)的競爭優(yōu)勢。

人工成本飆升

據估計 2014年 時(shí)數據科學(xué)家 50-80%的工作時(shí)間花在了數據集清理和處理上。近期公司往往傾向把數據準備工作的自動(dòng)化外包給離岸或近岸的數據專(zhuān)家。對 CloudFactory、MobileWorks 及 Samasource 這類(lèi)微工作平臺的需求已經(jīng)爆發(fā)，據估計，到 2018年 這類(lèi)業(yè)務(wù)的規模將達到 50 億美元。

但是外包無(wú)法規模滿(mǎn)足需求。鑒于未來(lái)的數據量將達到 44ZB，數據的這種快速增長(cháng)會(huì )需要成千上萬(wàn)具備長(cháng)期可行的解決方案的離岸或近岸外包團隊。而任何可持續的解決方案都離不開(kāi)顯著(zhù)的自動(dòng)化。

通信障礙

現在企業(yè)間的交互依靠的是經(jīng)過(guò)組織的數據，但與未來(lái) 20年 發(fā)生的事情相比，這種組織數據的過(guò)程將會(huì )顯得蒼白無(wú)力。未來(lái)將會(huì )出現新的企業(yè)數據網(wǎng)絡(luò )標準以及相應的算法和元數據。未能參與到這一全球數據市場(chǎng)的公司將無(wú)法利用市面上銷(xiāo)售的這些數據產(chǎn)品。

全球各個(gè)領(lǐng)域都在發(fā)生這種朝著(zhù)大規模商業(yè)數據共享的演變。比方說(shuō)，在要求第三方驗證其研究的壓力之下，像葛蘭素史克這樣的藥企最近都擬定了更廣泛共享實(shí)驗數據的計劃。奧巴馬總統已經(jīng)要求技術(shù)公司共享潛在黑客威脅的數據。Forrester 最近的一項研究預測，數據服務(wù)將成為 2015年 的主流產(chǎn)品。按照這種節奏，10年 后大數據的有效使用不僅會(huì )成為市場(chǎng)致勝的關(guān)鍵，而且還是參與市場(chǎng)的先決條件。

這些風(fēng)險就像一個(gè)個(gè)大數據的定時(shí)炸彈，對你構成嚴峻挑戰。不過(guò)如果你采取下面的三個(gè)步驟，危險也許就可以解除。

1、不要走一步看一步

為了確保未來(lái)的分析能力，企業(yè)必須現在就開(kāi)始投資一個(gè)能夠快速有效管理新數據集的平臺。應該考慮業(yè)務(wù)未來(lái)在數據攝入與聯(lián)合方面如何運作，如何從傳統的系統過(guò)渡到端到端的自動(dòng)化的數據與分析。

其核心是這個(gè)平臺要能夠有目的地、小心地、透明地擴充，而不是光收集數據，但對這些數據使用卻沒(méi)有明確的目的，或者在數據的解析上不做投入。

2、再痛也要重建舊數據應用架構

許多公司過(guò)度依賴(lài)維護開(kāi)銷(xiāo)很高的舊系統，導致升級或作出戰略變革的優(yōu)先性被貶低。甚至一些大公司也是如此，比方說(shuō)三星的 SmartHub TV 是跑在云上面的，但是因為顧忌遷移成本，其所有的金融交易仍在本地處理。

其結果就是在許多組織里面數據形成了一個(gè)個(gè)以部門(mén)為單位的煙囪。某些數據，比方說(shuō)社交媒體方面的信息，甚至還保存在公司以外，這又增加了一層復雜性。要想大數據創(chuàng )新，企業(yè)必須以提高跨部門(mén)運營(yíng)透明度為焦點(diǎn)對舊的數據應用進(jìn)行翻新。

3、模塊化、多顆粒度的數據管理

要把裸數據和洞察數據塑造成模塊化、組織得當、具備各種顆粒度的實(shí)體，這一步做得越深入，越能夠有效的利用商業(yè)洞察，同時(shí)還能在永遠變化的大數據形勢中保持敏捷的反應力。

大數據概念股：東方國信、易華錄、拓爾思、銀之杰、東方網(wǎng)力、天璣科技、科華恒盛、宜通世紀、榮之聯(lián)、紫光股份、海蘭信、創(chuàng )意信息。