hystrix-board服务监控
1、创建新项目:hystrixdashboard。在application.properties文件中添加配置文件
1 | spring.application.name=hystrixboard |
2、在pom文件中添加依赖
hystrix-board服务监控
1、创建新项目:hystrixdashboard。在application.properties文件中添加配置文件
1 | spring.application.name=hystrixboard |
2、在pom文件中添加依赖
Welcome to Hexo! This is your very first post. Check documentation for more info. If you get any problems when using Hexo, you can find the answer in troubleshooting or you can ask me on GitHub.
Hadoop 是 Apache 开源组织的一个分布式计算开源框架 (http://hadoop.apache.org/) ,用 java 语言实现开源软件框架,实现在大量计算机组成的集群中对海量数据进行分布式计算。Hadoop 框架中最核心设计就是:HDFS 和 MapReduce ,HDFS 实现存储,而MapReduce实现原理分析处理,这两部分是 hadoop 的核心。数据在 Hadoop 中处理的流程可以简单的按照下图来理解:数据通过 Haddop 的集群处理后得到结果,它是一个高性能处理海量数据集的工具 。
(1)、HDSF 文件存儲
(2)、HBASE 非关系型数据库
(3)、MapReduce 离线计算
(4)、hive 数据查询
(5)、spark 内存级别计算
(6)、stom 实时计算
(7)、kafka 消息队列
MapReduce (分布式计算框架)是一种基于磁盘的分布式并行批处理计算模型,用于处理大数据量的计算。其中Map对应数据集上的独立元素进行指定的操作,生成键-值对形式中间,Reduce则对中间结果中相同的键的所有值进行规约,以得到最终结果。
Jobtracker:master节点,只有一个,管理所有作业,任务/作业的监控,错误处理等,将任务分解成一系列任务,并分派给Tasktracker。
Tacktracker:slave节点,运行 Map task和Reduce task;并与Jobtracker交互,汇报任务状态。
Map task:解析每条数据记录,传递给用户编写的map()函数并执行,将输出结果写入到本地磁盘(如果为map—only作业,则直接写入HDFS)。
Reduce task:从Map 它深刻地执行结果中,远程读取输入数据,对数据进行排序,将数据分组传递给用户编写的Reduce()函数执行。