課程描述:本課程以大數據架構與案例為驅動,采用一個完整地案例貫穿整個課程,讓學員體驗大數據架構的企業價值。在課程中學員將被賦予企業架構師角色,通過剖析企業對大數據的主要需求,使學員感悟大數據架構設計的過程與價值。
培訓目標:
1、全面掌握Hadoop的架構原理和使用場景;
2、全程項目實戰訓練;
3、徹底掌握使用Hadoop進行MapReduce程序開發;
4、熟悉分布式計算領域的常用算法;
5、掌握Hive、HBase使用與優化技巧。
6、了解云計算的發展歷史
7、掌握云計算的實踐應用
8、學習云計算的核心技術
9、通曉云計算的商業價值。
培訓對象:軟件工程師、數據庫開發人員、網絡后臺開發人員、運維人員;地方*云計算物聯網產業負責人;各地云計算中心負責人;云計算物聯網產業規劃負責人;云計算產業投資團隊;云計算應用開發商;云計算硬件設備提供商;云服務運營服務提供商;高校、科研院所云計算項目負責人。
培訓內容:
時間 課程主題 內容簡介
*部分 云計算與虛擬化 ? 計算機的發展
? 當前企業所面臨的挑戰
? 當前企業級數據中心面臨的挑戰
? 驅動IT轉型的源動力
? IT的過去與未來
? The Hype Cycle生命周期
? 兩種最常見的“云計算”定義
? 兩種“云計算”的核心技術比較
? 工作負載
? 技術架構——從實例推導
? 將服務方式交付的IT資源
? 云平臺的發展現狀
? IaaS的特性
? PaaS的特性
? 云計算的基石
? 云計算技術架構
? 虛擬化帶來的支出與收益
? 服務器虛擬化技術對比
? 0penStack云操作系統
? Power服務器云部署方案介紹
? 高端小型機部署原則
? VMware云部署方案介紹
? NAS云存儲設計實踐
? 虛擬中間件設計實踐
第二部分 云計算與數據中心建設 ? 容量評估內容
? 開放系統容量評估內容
? 開放系統評估流程
? 開放系統數據采集方法
? 開放系統建立不同類別評估模型
? 開放系統CPU評估模型
? 開放系統CPU評估樣例
第三部分 云計算與數據存儲分析挖掘 ? 存儲子系統
? 傳統文件系統
? 松耦合網絡文件系統
? 共享存儲文件系統
? 基于對象的存儲子系統
? 大數據存儲子系統
? Google GFS
? Facebook Haystack
? Amazon Dynamo
? Yahoo PNUTS
? Google BigTable
? 云存儲服務
? Amazon Simple Storage Service
? Google Storage for Developers
第四部分 Hadoop概述 ? 數據存儲與分析
? 數據的并行訪問
? Hadoop的核心組件
? Hadoop的基本特征
? Hadoop的生態圈
? Hadoop與大數據
? Hadoop與關系型數據庫
? Hadoop與網格計算
? Hadoop與志愿者計算
? Hadoop發展簡史
MapReduce ? 什么是MapReduce
? MapReduce示例
? 使用MapReduce進行數據分析
? 使用Java編寫Map函數
? 使用Java編寫Reduce函數
? 使用Java編寫Run函數
? 數據流
? bine函數
? 非Java語言支持
HDFS ? 什么是HDFS
? HDFS的優勢與劣勢
? 數據塊
? Namenode與Datanode
? 客戶端
? Hadoop文件系統
? Hadoop的各種語言接口
? 文件訪問的數據流
? 一致性模型
? Hadoop歸檔文件
第五部分 MapReduce應用開發 ? MapReduce程序編寫的基本流程
? 配置開發環境
? 配置文件管理
? Generic0ptionsParser,Tool和ToolRunner
? 編寫單元測試
? 本地運行測試數據
? 集群環境運行作業
HIVE ? 什么是HIVE
? 數據模型
? HiveQL
? Hive的優化
? Hive的擴展性
ZooKeeper ? 什么是ZooKeeper
? ZooKeeper的特點
? ZooKeeper服務的數據模型
? ZooKeeper服務的高可用
? ZooKeeper服務的一致性
? 使用ZooKeeper構建配置服務
? 使用ZooKeeper實現鎖服務
HBASE ? Hbase概述
? HBase的數據模型
? HBase的運行時
? HBase與關系型數據庫
Sqoop ? 什么是Sqoop
? Sqoop導入示例
? Sqoop如何導入數據
? Sqoop如何導出數據
第六部分 其他互聯網公司大數據存儲系統參考架構 ? Google GFS
? Facebook Haystack
? Amazon Dynamo
? Yahoo PNUTS
? Google BigTable
云存儲服務 ? 亞馬遜S3
? 谷歌開發者存儲