【课程内容】
第一天
1、数据部的一般组织架构
2、数据分析的一般流程
3、数据部背景知识总结
4、Hadoop是什么、Hadoop的特点
4、虚拟机访问外网配置
5、Hadoop HDFS核心组件
6、Hadoop MapReduce编程模型
7、Hadoop JobTracker与TaskTracker及hadoop基础总结
8、Hadoop生态及SecondaryNameNode
9、vm虚拟机软件安装
10、centos虚拟机安装
11、拷贝虚拟机及网络配置-文件占用异常-关闭防火墙
12、Hadoop集群安装（hostname，下载，解压，环境变量，配置文件修改，scp，启动集群，wordcount实例）
13、Hadoop集群安装步骤概述
14、安装JDK
附录1、使用CRT软件登录虚拟机
第二天
1、当日课程安排
2、Hadoo shell常用命令
3、windows开发环境准备-需要配置环境变量
4、使用Java API 操作Hdfs
5、底层核心API，查看block的元数据信息，合并多个block
6、Hadoop hdfs文件上传机制
7、Hadoop hdfs文件下载机制及文件上传下载步骤总结（重要）
8、Hdfs实战-文件定时上传告警脚本-功能分析及说明
9、Hdfs实战-文件上传告警脚本-需求分析及周边系统说明
10、Hdfs实战-文件上传告警脚本-编码开发
11、Hdfs实战-文件上传告警脚本-文件上传时的COPYING状态
第三天
1、wordcount运行-控制台过程分析、8088管理页面分析、面试技巧
2、wordcount驱动类分析
3、map，reduce生命周期，输入输出泛型格式，writeable实现类，自定义DataWriteable(保证顺序一致)
4、编写wordcount函数及运行分析
5、shuffle归并排序
6、Combiner概念分析-不是所有的combiner都能写成和reduce一样的
7、combiner补充说明
8、Partitioner的概念分析及说明
9、使用IK分词器对中文歌曲进行分词
10、自定义combiner实现文件倒排索引
11、通过工具查看fimage文件和edits文件
12、SecondaryNode的运行机制（只做合并操作）
13、在yarn资源调度管理器上运行hadoop mapreduce程序的流程
14、lucene搜索引擎分析
15、hadoop离线课程总结（重要）
第四天
1、实时计算课程安排
2、背景知识：企业日志收集的两种方式比较-点击流日志收集系统
3、Storm基础（离线计算的特点、流式计算的特点、Storm是什么、Storm与Hadoop的区别）
4、Storm集群搭建步骤-（请先准备好虚拟机和zk、JDK）,storm配置文件说明
5、Storm任务提交流程分析及拓扑任务界面分析
6、Storm常用命令说明
7、Storm的应用场景及典型案例
8、Storm核心组件概念及StreamGrouping（重要）
9、流式计算一般架构图（很灵活）
10、wordcount分析-spout、Bolt的声明周期、spout与bolt链接
11、自己编写storm任务执行的过程
12、案例：39女生节业务指标数据实时统计
附：zookeeper安装步骤
第五天
2、Storm任务提交过程总结
3、任务提交时worker数量与集群worker数量的关系
5、Storm任务提交流程
8、disruptor概念介绍-无锁的队列，每秒600万
10、Storm总结
附：Jstorm源码解读-组件启动流程
第六天
1、Kafka是什么-Kafka在流式计算中的位置-流式计算为什么需要Kafka
2、JMS规范-为什么要有消息队列、JMS模型、大数据领域下的消息系统
3、Kafka配置文件说明-Kafka集群安装
4、补充：Kafka配置文件说明-Kafka集群安装–必看
5、Kafka常用命令行使用
6、Kafka Java API 操作
7、Kafka核心组件的描述
8、Consumer与topic关系
9、Kafka消息的分发-Consumer的负载均衡
10、Kafka文件存储过程
11、Kakfa总结
附：Redis-String案例
第七天
1、redis哈希散列-案列，list-案例
2、redis set及sortset案例
redis set及sortset案例