Linux安装配置Flume

概述

Apache Flume是一个分布式,可靠且可用的系统,用于高效地收集,汇总和将来自多个不同源的大量日志数据移动到集中式数据存储。
Apache Flume的使用不仅限于日志数据聚合。由于数据源是可定制的,因此Flume可用于传输大量事件数据,包括但不限于网络流量数据,社交媒体生成的数据,电子邮件消息以及几乎任何可能的数据源。

Apache Flume是Apache Software Foundation的顶级项目,目前有两个发布代码行,版本0.9.x和1.x.

系统要求

1.Java运行时环境 - 一定要匹配(譬如flume1.8.0,使用jdk 1.8或更高版本)

2.内存 - 源,通道或接收器使用的配置具有足够的内存

3.磁盘空间 - 通道或接收器使用的配置有足够的磁盘空间

4.目录权限 - 代理使用的目录的读/写权限

安装配置

单节点Flume部署。该配置允许用户生成事件并随后将其记录到控制台。

1.官网下载自己想要的flume版本,上传至linux并解压到自己想要安装的路径下

2.配置环境变量:vim /etc/profile

3.立即生效 source /etc/profile

找到自己的安装路径:

例如/opt/apache-flume-1.8.0-bin/conf,在此路径下vim example.conf,再copy以下配置

#example.conf:单节点Flume配置

#命名此代理上的组件
a1.sources=r1
a1.sinks=k1
a1.channels=c1

#描述/配置源
a1.sources.r1.type=netcat
a1。 sources.r1.bind=localhost
a1.sources.r1.port=44444

#描述sink
a1.sinks.k1.type=logger

#使用缓冲内存中事件的通道
a1.channels.c1.type=memory
a1.channels .c1.capacity=1000
a1.channels.c1.transactionCapacity=100

#将信源和信宿绑定到信道
a1.sources.r1.channels=c1
a1.sinks.k1.channel=c1

该配置定义了一个名为a1的代理。a1有一个侦听端口44444上的数据的源,一个缓存内存中事件数据的通道,以及一个将事件数据记录到控制台的接收器。配置文件命名各种组件,然后描述它们的类型和配置参数。给定的配置文件可能会定义多个命名代理; 当给定的Flume进程启动时,会传递一个标志,告诉它哪个指定的代理要显示。

启动flume,在目录/opt/ apache-flume-1.6.0-bin/bin下,运行flume

flume-ng agent -n a1 -f /conf/example.conf -Dflume.root.logger=INFO,console

参数说明
-n 指定agent名称
-c 指定配置文件目录
-f 指定配置文件
-Dflume.root.logger=DEBUG,console 设置日志等级

打开另一个连接终端,远程到44444端口,然后发送flume事件进行测试

telnet localhost 44444

原文地址:https://www.cnblogs.com/Soy-technology/p/11645920.html

时间: 2024-09-29 11:11:42

Linux安装配置Flume的相关文章

Linux安装配置apache

Linux安装配置apache 1.获取软件: http://httpd.apache.org/  httpd-2.2.21.tar.gz 2.安装步骤: 解压源文件: 1 tar zvxf httpd-2.2.21.tar.gz 2 cd httpd-2.2.213 ./configure --prefix=/usr/local/apache2 --enable-so --enable-rewrite 4 make5 make install 运行./configure 命令进行编译源代码,

Linux安装配置varnish web加速器

Linux安装配置varnish web加速器 Varnish是一款高性能的开源HTTP加速器,它可以来做纯粹的代理服务器,负载均衡,但varnish最主要的功能是缓存加速,也是它最出色的地方.下面介绍如何安装和使用. wget -c http://repo.varnish-cache.org/source/varnish-3.0.1.tar.gz tar xzvf varnish-3.0.1.tar.gz cd varnish-3.0.1 ./configure --prefix=/usr/l

Linux安装配置MariaDB数据库全程详解

MariaDB在很多方面强于MySQL,在Linux下如何安装MariaDB数据库成为大家比较头疼的一个问题,下面用实例为大家讲解下 MariaDB是采用Maria存储引擎的MySQL分支版本,在很多方面强于MySQL,那么在Linux下如何安装MariaDB数据库呢?下面小编就给大家介绍下Linux安装配置MariaDB数据库的方法. 说明: 操作系统:CentOS 5.10 32位 MariaDB版本:mariadb-5.5.33a MariaDB数据库存放目录:/data/mysql 准备

Linux 安装配置maven3.0 以及搭建nexus私服

一.软件准备 1.apache-maven-3.0-bin.tar.gz 下载地址:http://www.apache.org/dyn/closer.cgi/maven/binaries/apache-maven-3.0-bin.tar.gz 2.nexus-oss-webapp-1.8.0-bundle.tar.gz 下载地址:http://nexus.sonatype.org/downloads/ 二.maven安装配置 1.创建需要操作maven的用户组以及用户(如果用root用户安装不用

linux常用(一)linux 安装配置 jdk之 安装后找不到安装后的文件目录 解决

linux 安装配置 jdk 应该算是一个很基本的东西.但是我到现在才自己第一次 正式安装.果然出现了问题.. 问题就是 安装之后 找不到 安装路径 ,进而没法配置环境变量. 现象如下: 提示 already installed 之后  用find命令查找 结果还是: 没有显示/usr/java/jdk-1.6.0_27/ 这样的目录 整了很长时间搞不定 ,没别的办法  看到了 安装的包 有.bin的 也有.rpm的 所以决定先百度下 搞清楚 这两种格式有什么区别 整理如下: 用bin文件和用w

Linux安装配置php环境的方法

本文实例讲述了Linux安装配置php环境的方法.分享给大家供大家参考,具体如下: 1.获取安装文件: http://www.php.net/downloads.php php-5.3.8.tar.gz 获取安装php需要的支持文件:http://download.csdn.net/download/netlong339/1351852 libxml2-2.6.32.tar.gz 2.安装libxml2 复制代码 代码如下: tar zxvf libxml2-2.6.32.tar.gz cd l

linux 安装配置 rsync服务

本文的原文连接是: http://blog.csdn.net/freewebsys/article/details/50456670 未经博主允许不得转载. 博主地址是:http://blog.csdn.net/freewebsys 1,rsync服务 摘自:http://www.oschina.net/p/rsync 官网:https://rsync.samba.org/ 文档:https://rsync.samba.org/documentation.html rsync是类unix系统下的

部署篇01:Linux 安装配置JDK

本文主题:在Centos7.2 Linux系统下,安装配置jdk8,验证安装结果. 1.查找需要卸载的OpenJDK [[email protected] tool] rpm -qa | grep java 如果为空,说明没有安装jdk2:依次卸载 rpm -e --nodeps javapackages-tools-3.4.1-6.el7_0.noarch rpm -e --nodeps python-javapackages-3.4.1-6.el7_0.noarch rpm -e --nod

Linux安装配置sun-java

1. 下载源码与解压 将下载的源码包,移动到/opt目录下: $ sudo mv ~/Downloads/jdk-8u65-linux-x64.tar.gz  /opt/ 解压: $ sudo tar -zxvf jdk-8u65-linux-x64.tar.gz 删除源码包: $ sudo rm jdk-8u65-linux-x64.tar.gz 2. 环境变量的配置 输入命令: $ sudo vim /etc/profile 打开之后在末尾添加 export JAVA_HOME=/opt/j