Flume使用之监听指定端口并打印到控制台
发布日期:2021-09-27 12:34:35 浏览次数:2 分类:技术文章

本文共 1038 字,大约阅读时间需要 3 分钟。

  1. 本案例端口监听使用的是netcat,如果使用虚拟机模拟实现,可以先执行yum -y install nc
  2. 自定义flume的配置文件,注意文件名要以.conf结尾
# 定义agent名字 a1# 定义sources、channels、sinks  都可以有多个,空格隔开a1.sources = r1a1.channels = c1a1.sinks = k1# 定义source类型a1.sources.r1.type = netcat# 绑定source地址a1.sources.r1.bind = hadoop01# 绑定端口a1.sources.r1.port = 6666# 定义channel类型a1.channels.c1.type = memory# 定义channel中event的数量限制(可选,默认100)a1.channels.c1.capacity = 1000# 定义sink类型a1.sinks.k1.type = logger# 绑定source和channel 一个source可以对应多个channela1.sources.r1.channels = c1# 绑定sink和channel  一个sink只能对应一个channel,一个channel可以对应多个sinka1.sinks.k1.channel = c1
  1. 在flume所在节点输入执行命令
    $FLUME_HOME/bin/flume-ng agent --name 上面定义的agent名字 –conf $FLUME_HOME/conf/ –conf-file 上面定义的文件存放路径+文件名
    其中–name可以写作-n,–conf 可以写在-c ,–conf-file可以写作-f。
    比如:
$FLUME_HOME/bin/flume-ng agent --name a1 --conf  $FLUME_HOME/conf/ --conf-file $FLUME_HOME/datas/ncSource_loggerSink.conf -Dflume.root.logger=INFO,console

-Dflume.root.logger=INFO,console:表示将日志级别为INFO的信息打印到控制台

4. 监听source的指定端口
nc ip地址 端口号
比如:我上面的文件中定义的地址是hadoop01 端口是6666
nc hadoop01 6666

转载地址:https://blog.csdn.net/FlatTiger/article/details/113971555 如侵犯您的版权,请留言回复原文章的地址,我们会给您删除此文章,给您带来不便请您谅解!

上一篇:Flume使用之监听单个文件内容
下一篇:Hive 动态分区的使用

发表评论

最新留言

路过,博主的博客真漂亮。。
[***.116.15.85]2024年03月24日 13时09分42秒