1 项目需求分析

2 项目框架
2.1 技术选型

2.2 系统数据流程设计

2.3 框架版本选型
框架版本选型

具体版本型号

2.4 服务器选型

2.5 集群资源规划设计
集群规模

2)测试集群服务器规划
|
服务名称 |
子服务 |
服务器 hadoop102 |
服务器 hadoop103 |
服务器 hadoop104 |
|
HDFS |
NameNode |
√ |
||
|
DataNode |
√ |
√ |
√ |
|
|
SecondaryNameNode |
√ |
|||
|
Yarn |
NodeManager |
√ |
√ |
√ |
|
Resourcemanager |
√ |
|||
|
Zookeeper |
Zookeeper Server |
√ |
√ |
√ |
|
Flume(采集日志) |
Flume |
√ |
√ |
|
|
Kafka |
Kafka |
√ |
√ |
√ |
|
Flume(消费Kafka) |
Flume |
√ |
||
|
Hive |
Hive |
√ |
||
|
MySQL |
MySQL |
√ |
||
|
Sqoop |
Sqoop |
√ |
||
|
Presto |
Coordinator |
√ |
||
|
Worker |
√ |
√ |
||
|
Azkaban |
AzkabanWebServer |
√ |
||
|
AzkabanExecutorServer |
√ |
|||
|
Druid |
Druid |
√ |
√ |
√ |
|
服务数总计 |
13 |
8 |
9 |