Flume负载均衡与故障转移原理及实现
发布日期:2021-09-27 12:34:39
浏览次数:2
分类:技术文章
本文共 1898 字,大约阅读时间需要 6 分钟。
原理
负载均衡:将多个sink逻辑上分为一个sink组,sink组配合不同的SinkProcessor将数据相对均匀的分发到指定目录或者其他agent实例。 故障转移:有主备agent,主agent负责数据的采集、传输、落地,备用agent一直处于监听状态,一旦主agent宕机,备用agent启动,进行主agent的工作,直到主agent恢复。案例
使用Flume1监控一个端口,其sink组中的sink分别对接Flume2和Flume3,采用FailoverSinkProcessor,实现故障转移的功能。
如图所示,flume1采集数据,根据SinkProcessor的类型分发数据到不同的Sink,如果SinkProcessor的类型指定为failover,就是故障转移实例;如果SinkProcessor的类型指定为load_balance,就是负载均衡的实例。配置文件
# agent1# 定义sources、channels、sinksa1.sources = r1a1.channels = c1a1.sinks = k1 k2# 配置sourcea1.sources.r1.type = netcata1.sources.r1.bind = hadoop01a1.sources.r1.port = 11111# 配置channela1.channels.c1.type = memory# 配置sink组a1.sinkgroups = g1a1.sinkgroups.g1.sinks = k1 k2# 配置SinkProcessor:failover是故障转移,load_balance是负载均衡# a1.sinkgroups.g1.processor.type = failovera1.sinkgroups.g1.processor.type = load_balance# 如果是负载均衡,还需要配置负载均衡策略 round_robin或者randoma1.sinkgroups.g1.processor.selector = round_robin# 配置sink:k1发送数据到hadoop02a1.sinks.k1.type = avroa1.sinks.k1.hostname = hadoop02a1.sinks.k1.port = 22222# 配置sink k2:数据发送到hadoop03的33333端口a1.sinks.k2.type = avroa1.sinks.k2.hostname = hadoop03a1.sinks.k2.port = 33333# 配置source、channel、sink关系a1.sources.r1.channels = c1a1.sinks.k1.channel = c1a1.sinks.k2.channel = c1
# agent2# 定义sources、channels、sinksa1.sources = r1a1.channels = c1a1.sinks = k1# 配置source 从指定地址的端口接收数据a1.sources.r1.type = avroa1.sources.r1.bind = hadoop02a1.sources.r1.port = 22222# 配置channela1.channels.c1.type = memory# 配置sink a1.sinks.k1.type = logger# 测试logger打印到控制台# 配置source、sink、channel关系a1.sources.r1.channels = c1a1.sinks.k1.channel = c1
# agent3# 定义sources、channels、sinksa1.sources = r1a1.channels = c1a1.sinks = k1# 配置source 从指定地址的端口接收数据a1.sources.r1.type = avroa1.sources.r1.bind = hadoop03a1.sources.r1.port = 33333# 配置channela1.channels.c1.type = memory# 配置sink a1.sinks.k1.type = logger# 测试logger打印到控制台# 配置source、sink、channel关系a1.sources.r1.channels = c1a1.sinks.k1.channel = c1
转载地址:https://blog.csdn.net/FlatTiger/article/details/114015942 如侵犯您的版权,请留言回复原文章的地址,我们会给您删除此文章,给您带来不便请您谅解!
发表评论
最新留言
逛到本站,mark一下
[***.202.152.39]2024年04月24日 01时41分20秒
关于作者
喝酒易醉,品茶养心,人生如梦,品茶悟道,何以解忧?唯有杜康!
-- 愿君每日到此一游!
推荐文章
mysql 压力测试脚本
2019-04-27
PHP代码保护——Zend Guard
2019-04-27
Javassist 使用指南
2019-04-27
Unix下C程序内存泄漏检测工具Valgrind安装与使用
2019-04-27
DFA和NFA
2019-04-27
CentOS装机必备-基本设置以及缺失文件
2019-04-27
自己开发操作系统
2019-04-27
phpize
2019-04-27
PHP安装eAccelerator
2019-04-27
PHP新的垃圾回收机制:Zend GC详解
2019-04-27
linux上使用strace查看C语言级别的php源码【一种方法】
2019-04-27
ACCEPT()和ACCEPT4()
2019-04-27
php内核探索方法与资源
2019-04-27
PHP安装扩展mcrypt以及相关依赖项 【PHP安装PECL扩展的方法】
2019-04-27
Javascript到PHP加密通讯的简单实现
2019-04-27
德国SNS交友/视频网站Poppen.de的技术架构分享
2019-04-27
UNIX环境编程
2019-04-27
一笔画问题【数据结构-图论】
2019-04-27
红黑树
2019-04-27
安装多个gcc
2019-04-27