企業(yè)級(jí)基礎(chǔ)云服務(wù)商青云QingCloud日前宣布，Spark服務(wù)作為QingCloud大數(shù)據(jù)基礎(chǔ)平臺(tái)的重要組件現(xiàn)已正式上線。通過QingCloud Spark服務(wù)，用戶能夠在2-3分鐘內(nèi)創(chuàng)建一個(gè)Spark集群，并支持橫向和縱向的在線伸縮，提供豐富的監(jiān)控告警服務(wù)，極大地簡(jiǎn)化了大數(shù)據(jù)集群的運(yùn)維和管理，讓用戶從繁重的運(yùn)維工作中解脫出來(lái)，投入到業(yè)務(wù)創(chuàng)新中。

▲青云QingCloud Spark服務(wù)正式上線

數(shù)據(jù)是新一代的自然資源，是判別企業(yè)競(jìng)爭(zhēng)力的試金石。然而，隨著數(shù)據(jù)量的爆炸式增長(zhǎng)、數(shù)據(jù)來(lái)源和結(jié)構(gòu)的多樣化，傳統(tǒng)IT基礎(chǔ)架構(gòu)已無(wú)法滿足企業(yè)對(duì)數(shù)據(jù)處理的需求，Hadoop、Spark等支持PB級(jí)別數(shù)據(jù)的分布式存儲(chǔ)和分布式計(jì)算框架應(yīng)運(yùn)而生。

青云QingCloud系統(tǒng)工程師&大數(shù)據(jù)基礎(chǔ)平臺(tái)負(fù)責(zé)人周小四(Ray Zhou)表示，基礎(chǔ)架構(gòu)是大數(shù)據(jù)應(yīng)用的基石，如果沒有底層數(shù)據(jù)架構(gòu)的支持，大數(shù)據(jù)就是紙上談兵。此次推出的Spark服務(wù)就是基于QingCloud穩(wěn)定高效、資源秒級(jí)響應(yīng)、彈性可伸縮的IaaS之上，能夠最大限度地發(fā)揮Spark輕巧、靈活和快速的優(yōu)勢(shì)。

Spark 是繼Hadoop之后新一代的大數(shù)據(jù)分布式處理平臺(tái)。它是一個(gè)基于內(nèi)存的、容錯(cuò)型的分布式計(jì)算引擎。與Hadoop MapReduce相比，Spark的計(jì)算速度要快100倍。即便同樣采用硬盤計(jì)算，Spark也比MapReduce快10倍。Spark卓越的用戶體驗(yàn)以及統(tǒng)一的技術(shù)堆棧基本上解決了大數(shù)據(jù)領(lǐng)域所有核心問題，使得Spark迅速成為當(dāng)前最為熱門的大數(shù)據(jù)基礎(chǔ)平臺(tái)。

Spark 提供了多語(yǔ)言支持，如Scala、Python、Java、R等，支持交互式操作。它在RDD(Resilient Distributed Datasets，一個(gè)容錯(cuò)的、并行的數(shù)據(jù)結(jié)構(gòu))基礎(chǔ)之上提供了Spark Streaming流式計(jì)算，結(jié)構(gòu)化數(shù)據(jù)處理組件Spark SQL，機(jī)器學(xué)習(xí)庫(kù) MLlib 以及圖計(jì)算GraphX等功能。

具體而言，青云QingCloud提供的Spark服務(wù)有如下特征：

l 一鍵部署：QingCloud用戶只需簡(jiǎn)單的配置，就能夠在2-3分鐘內(nèi)搭建出一個(gè)Spark集群，并且通過豐富的工具和服務(wù)，實(shí)現(xiàn)高效簡(jiǎn)便的Spark運(yùn)維管理。QingCloud提供多樣化、組件化的服務(wù)模式，用戶可以根據(jù)自己的業(yè)務(wù)需求，組建個(gè)性化的解決方案。

l 在線伸縮：Spark服務(wù)支持橫向和縱向在線伸縮，以滿足用戶對(duì)計(jì)算能力和容量的需求，橫向伸縮對(duì)用戶業(yè)務(wù)的連續(xù)性不會(huì)產(chǎn)生任何影響。后續(xù)還會(huì)配合AutoScaling，達(dá)到Spark集群自動(dòng)伸縮的效果。

l 遷移成本低：QingCloud Spark服務(wù)采用原生開源解決方案，并且采用最新的版本(目前為1.4.1版本，未來(lái)還會(huì)持續(xù)更新，并保留三個(gè)最新版本)，具有良好的向下兼容特性，便于用戶將自有Spark集群遷移至云端，也不限制用戶從Spark服務(wù)遷移至自有集群。使用QingCloud的Spark服務(wù)，用戶完全不必?fù)?dān)心產(chǎn)生Vendor lock-in的束縛。

l 監(jiān)控告警：QingCloud提供了對(duì)每個(gè)節(jié)點(diǎn)資源的監(jiān)控告警服務(wù)，包括CPU使用率、內(nèi)存使用率、硬盤使用率、硬盤IOPS、硬盤吞吐量等，以幫助用戶更好的管理和維護(hù)Spark集群。

l 安全性：Spark集群運(yùn)行于私有網(wǎng)絡(luò)內(nèi)，結(jié)合QingCloud提供的高性能存儲(chǔ)和超高性能存儲(chǔ)，在保障高性能的同時(shí)兼顧用戶的數(shù)據(jù)安全。

青云QingCloud CEO 黃允松(Richard Huang)表示，Spark服務(wù)的發(fā)布標(biāo)志著QingCloud完整的大數(shù)據(jù)基礎(chǔ)平臺(tái)已初步建立，接下來(lái)QingCloud還會(huì)陸續(xù)發(fā)布一系列大數(shù)據(jù)相關(guān)服務(wù)，如Hadoop、Cassandra、Hive、HBase和Storm等。未來(lái)，大數(shù)據(jù)、數(shù)據(jù)庫(kù)、緩存和對(duì)象存儲(chǔ)將同IaaS組件一起構(gòu)成QingCloud完整的數(shù)據(jù)產(chǎn)品生態(tài)圈，提供一站式的計(jì)算、存儲(chǔ)和數(shù)據(jù)處理服務(wù)，更好地幫助用戶實(shí)現(xiàn)數(shù)據(jù)的價(jià)值。