某國際公司Spark平臺運(yùn)維實(shí)踐培訓(xùn)成功開展
發(fā)布時間:2017.02.20
2017年2月20日,艾威培訓(xùn)資深的Spark講師走進(jìn)某國際公司,展開為期4天的企業(yè)級Spark定制培訓(xùn);在此培訓(xùn)我們的課程顧問與客戶做了大量了溝通,并_終根據(jù)客戶的需求定制了相關(guān)內(nèi)容。
本次培訓(xùn)的主要知識如下:
一、 Spark應(yīng)用基礎(chǔ) 106. Spark的實(shí)時處理基礎(chǔ)知識 107. Spark生態(tài)系統(tǒng)概述以及發(fā)展歷程 108. Spark在處理實(shí)時數(shù)據(jù)場景下的優(yōu)勢和處理模式 109. Spark內(nèi)存計(jì)算編程框架 110. Spark Core的基礎(chǔ)原理 111. Spark SQL的基礎(chǔ)原理 112. Spark Streaming的基礎(chǔ)原理 113. Spark MLib的基礎(chǔ)原理 114. Spark GraphX的基礎(chǔ)原理 115. SparkR的基礎(chǔ)原理 116. Spark在業(yè)界的實(shí)際應(yīng)用場景與相關(guān)案例簡介 二、 Spark與Hadoop大數(shù)據(jù)平臺的融合解決方案 117. Spark與Hadoop的融合集成之道 118. Spark與Hadoop處理模式的異同點(diǎn)和各自的優(yōu)勢 119. Spark和Hadoop在大數(shù)據(jù)項(xiàng)目中的應(yīng)用定位和解決方案 Spark分析處理平臺架構(gòu)和組件 120. Spark平臺架構(gòu),以及利用Spark解決數(shù)據(jù)分析挖掘任務(wù)的優(yōu)勢之處 121. Spark數(shù)據(jù)數(shù)據(jù)分析挖掘平臺的產(chǎn)品解決方案 122. Spark MLib機(jī)器學(xué)習(xí)平臺架構(gòu) 123. Spark GraphX圖數(shù)據(jù)分析平臺架構(gòu) 124. Spark Steaming流數(shù)據(jù)處理平臺架構(gòu) 三、 Spark應(yīng)用實(shí)踐操作訓(xùn)練 125. 部署與配置Spark集群,以及Spark性能調(diào)優(yōu) 126. Spark HA集群部署配置 127. Spark-submit應(yīng)用程序部署工具應(yīng)用 128. 構(gòu)建Spark開發(fā)環(huán)境 129. Spark程序運(yùn)行以及操作 四、 Spark大數(shù)據(jù)實(shí)時與高性能處理平臺剖析 130. Spark實(shí)時大數(shù)據(jù)處理平臺架構(gòu) 131. Spark編程模型以及Spark編程實(shí)例解析 132. Spark RDD內(nèi)存彈性分布式數(shù)據(jù)集的工作原理與機(jī)制 133. Spark Core的核心組件剖析 134. Spark的運(yùn)行架構(gòu)和運(yùn)行過程剖析 135. Spark on Yarn運(yùn)行原理和實(shí)例解析 136. Spark分組取top N,DataFrame與RDD的兩種轉(zhuǎn)換方式,Spark SQL的內(nèi)置函數(shù)、開窗函數(shù)、UDF、UDAF,Spark Streaming的Kafka Direct API、updateStateByKey、 137. Spark RDD transform、滑動窗口、foreachRDD性能優(yōu)化、持久化、checkpoint、容錯與事務(wù)、與Spark SQL整合使用 138. 基于Spark的實(shí)時數(shù)據(jù)倉庫與實(shí)時分析挖掘處理的應(yīng)用實(shí)踐,以及應(yīng)用案例 五、 基于Spark的實(shí)時數(shù)據(jù)倉庫和實(shí)時數(shù)據(jù)分析挖掘處理平臺的實(shí)現(xiàn)機(jī)制, Spark SQL,Spark Streaming,MLib,GraphX,SparkR的應(yīng)用實(shí)踐 139. 內(nèi)存計(jì)算模型和實(shí)時處理技術(shù)介紹 140. Spark中各個分布式組件的處理框架及工作原理 141. Spark SQL實(shí)時數(shù)據(jù)倉庫的實(shí)現(xiàn)原理機(jī)制及應(yīng)用實(shí)踐 142. Spark Streaming流式數(shù)據(jù)實(shí)時處理機(jī)制及應(yīng)用實(shí)踐 143. Spark MLib實(shí)時機(jī)器學(xué)習(xí)算法應(yīng)用實(shí)踐與案例應(yīng)用 144. Spark GraphX實(shí)時圖數(shù)據(jù)處理應(yīng)用實(shí)踐與社交網(wǎng)絡(luò)分析應(yīng)用 145. SparkR的實(shí)現(xiàn)原理與應(yīng)用實(shí)踐 146. Spark組件的應(yīng)用編程開發(fā)實(shí)戰(zhàn) 147. Spark與Hadoop 的集成應(yīng)用實(shí)踐,包括Spark與HDFS的集成,以及Spark與Yarn的集群集成 六、 Spark核心組件功能運(yùn)用的實(shí)踐操作訓(xùn)練 148. Spark SQL應(yīng)用操作實(shí)訓(xùn) 149. Spark Streaming應(yīng)用操作實(shí)訓(xùn) 150. Spark MLib應(yīng)用操作實(shí)訓(xùn) 151. Spark GraphX應(yīng)用操作實(shí)訓(xùn) 152. SparkR應(yīng)用操作實(shí)訓(xùn) 153. Spark與HBase集成數(shù)據(jù)分析實(shí)驗(yàn)實(shí)訓(xùn) 七、 基于Hadoop與Spark平臺的數(shù)據(jù)挖掘與機(jī)器學(xué)習(xí)平臺實(shí)踐(可選) 154. 基于Hadoop與Spark構(gòu)建實(shí)時推薦系統(tǒng)的項(xiàng)目步驟 155. 分類分析模型訓(xùn)練:決策樹、貝葉斯算法應(yīng)用于數(shù)值數(shù)據(jù)集和文本數(shù)據(jù)集分類,進(jìn)行客戶分類與深度標(biāo)簽應(yīng)用 156. 關(guān)聯(lián)分析模型訓(xùn)練:FP-growth,Apriori算法應(yīng)用于電商訂單數(shù)據(jù)集和影視日志數(shù)據(jù)集 157. 推薦模型訓(xùn)練:利用UserCF和ItemCF推薦算法應(yīng)用評分?jǐn)?shù)據(jù)集分析用戶偏好以及感興趣的產(chǎn)品推薦 八、 大數(shù)據(jù)應(yīng)用項(xiàng)目的運(yùn)維管理應(yīng)用案例 158. 基于Hadoop & Spark的日志分析系統(tǒng)應(yīng)用案例 159. 基于Hadoop & Spark的數(shù)據(jù)挖掘系統(tǒng)應(yīng)用案例 160. 基于Hadoop & Spark的客戶分析系統(tǒng)應(yīng)用案例 161. 基于Hadoop & Spark的電商數(shù)據(jù)分析系統(tǒng)案例 162. 基于Hadoop & Spark的電信用戶行為分析應(yīng)用案例 163. 基于Hadoop & Spark的實(shí)時數(shù)據(jù)流分析應(yīng)用案例 164. 基于Hadoop & Spark的電信基站數(shù)據(jù)分析應(yīng)用案例 九、 大數(shù)據(jù)分布式采集系統(tǒng)架構(gòu)和分布式消息訂閱系統(tǒng)架構(gòu)及其應(yīng)用實(shí)踐(可選) 165. Flume-NG數(shù)據(jù)采集系統(tǒng)的數(shù)據(jù)流模型、平臺架構(gòu)、集群部署與配置應(yīng)用實(shí)戰(zhàn) 166. Kafka分布式消息訂閱系統(tǒng)的應(yīng)用介紹、平臺架構(gòu)、集群部署與配置應(yīng)用實(shí)戰(zhàn) 十、 HUE與Ambari自動化運(yùn)維管理工具應(yīng)用實(shí)踐 167. HUE運(yùn)維監(jiān)控系統(tǒng)的部署與配置,以及它在監(jiān)控Hadoop與Spark平臺系統(tǒng)組件(如HDFS,Yarn,Hive,HBase,Spark SQL, Spark Streaming,GraphX等組件)中的應(yīng)用 168. Apache Ambari大數(shù)據(jù)監(jiān)控與運(yùn)維管理系統(tǒng)的部署與配置,以及應(yīng)用實(shí)踐 十一、 大數(shù)據(jù)平臺的服務(wù)器與操作系統(tǒng)級別的運(yùn)維管理工具實(shí)踐 169. Ganglia自動化監(jiān)控與運(yùn)維管理系統(tǒng)的部署、配置,以及操作訓(xùn)練,監(jiān)控Hadoop與Spark作業(yè)與任務(wù)執(zhí)行的CPU,內(nèi)存,硬盤,網(wǎng)絡(luò)流量,忙/閑等運(yùn)維操作 170. Nagios大數(shù)據(jù)平臺的服務(wù)器監(jiān)控管理,包括大數(shù)據(jù)平臺的集群服務(wù)器節(jié)點(diǎn)的運(yùn)行狀態(tài),大數(shù)據(jù)應(yīng)用服務(wù)程序的監(jiān)控等運(yùn)維操作 十二、 大數(shù)據(jù)平臺運(yùn)維項(xiàng)目應(yīng)用完整實(shí)踐與咨詢討論 171. 根據(jù)講師布置的實(shí)際應(yīng)用案例,開展大數(shù)據(jù)運(yùn)維項(xiàng)目的部署設(shè)計(jì)和方案實(shí)踐、大數(shù)據(jù)運(yùn)維項(xiàng)目的需求分析、應(yīng)用實(shí)施以及解決方案分享咨詢與交流討論
本課程作為艾威培訓(xùn)2017年主打課程,已成功開展不下20期內(nèi)訓(xùn)。 艾威國際培訓(xùn)(Avtech Institute of Technology),源于美國,始于1998.專業(yè)從事企業(yè)級在職人員技能提升(項(xiàng)目管理、IT管理、IT技術(shù)、云計(jì)算大數(shù)據(jù)、需求管理、信息安全與審計(jì),產(chǎn)品管理等培訓(xùn))與各類國際認(rèn)證考試提供商;進(jìn)入中國16年來,已成為眾多500強(qiáng)企業(yè)指定的培訓(xùn)供應(yīng)商。
2017年艾威培訓(xùn)引入了更多國際_先進(jìn)的課程。歡迎關(guān)注艾威公眾號avtech888
【艾威(中國)】簡介: 艾威(AVTECH)總部 設(shè)在美國NEW JERSEY,是北美排行_的專業(yè)培訓(xùn)機(jī)構(gòu),設(shè)有4大分校,數(shù)十個培訓(xùn)點(diǎn)遍布北美、西歐和東亞;2000年進(jìn)入中國,以培養(yǎng)國際化的中高端信息人才為己任,專注于國際前沿的新技術(shù)研發(fā)與信息科技新興行業(yè)的開拓教育。
艾威培訓(xùn)(Avtech Institute of Technology),源于美國,始于1998;是北美著名的培訓(xùn)機(jī)構(gòu),公司總部位于美國新澤西州,2000年進(jìn)入中國,以培養(yǎng)國際化的中高端信息人才為己任,專注于國際前沿的新技術(shù)研發(fā)新興行業(yè)的開拓教育,艾威主要的服務(wù)為培訓(xùn)與咨詢兩大類,目前培訓(xùn)的主要產(chǎn)品有:項(xiàng)目管理培訓(xùn)、IT管理培訓(xùn)、IT技術(shù)培訓(xùn)、云計(jì)算大數(shù)據(jù)培訓(xùn)、需求管理培訓(xùn)、產(chǎn)品管理培訓(xùn),信息安全類,AI人工智能等....近十類上幾百門的課程的培訓(xùn)與咨詢服務(wù)。 艾威進(jìn)入中國這十八年來已經(jīng)服務(wù)了超過5000多家客戶,獲得了良好的口碑!也成為了眾多500強(qiáng)企業(yè)指定的培訓(xùn)服務(wù)供應(yīng)商. ● 艾威培訓(xùn)(Avtech Institute of Technology),源于美國,始于1998. ● 艾威培訓(xùn)(Avtech Institute of Technology)是Prometric,VUE,PSI等眾多國際認(rèn)證中心授權(quán)的考點(diǎn)
● 2003年成為國際項(xiàng)目管理協(xié)會PMI授權(quán)的全球(PMP,
PGMP ,
ACP ,
PBA )教育機(jī)構(gòu)
● 2008年成為國際需求管理協(xié)會IIBA授權(quán)的全球(
CCBA ,
CBAP )教育機(jī)構(gòu)
● 2017年成為The Open Group授權(quán)的
TOGAF 企業(yè)架構(gòu)的官方培訓(xùn)機(jī)構(gòu)。
● 2017年成為EPI 授權(quán)的數(shù)據(jù)中心
CDCP培訓(xùn) 機(jī)構(gòu),華東地區(qū)_CDCP授權(quán)培訓(xùn)機(jī)構(gòu),同時也是
CDCP認(rèn)證考試 考場。
● 2017年成為國際外包專業(yè)協(xié)會(IAOP)_授權(quán)外包治理國際認(rèn)證
SGF (Sourcing GovernanceFoundation)。
本文來自于艾威培訓(xùn)
轉(zhuǎn)載請注明:http://m.c-d21.com/news/2902.html
上一篇:湖北移動UI/UE用戶體驗(yàn)設(shè)計(jì)與開發(fā)培訓(xùn)成功開展
下一篇:思科JAVA Performance Tuning培訓(xùn)成功開展