Ranger使用solrCloud存储审计日志

Ranger使用solrCloud存储审计日志

标签(空格分隔): Ranger


1, Zookeeper 搭建

1,忽略。默认已经搭建好zk 集群。
VECS17820:2181,VECS17821:2181,VECS17822:2181

2,SolrCloud模式安装(三台机器)

1,JDK,环境变量及 solr 用户默认已经建立,且安装包 及 log 等等目录均已赋权。

安装Solr 集群步骤:

1

[email protected]:/app$ ll
total 412840
lrwxrwxrwx  1 root      root             12 Oct 15 14:19 jdk -> jdk1.8.0_181
drwxr-xr-x  7        10       143      4096 Jul  7  2018 jdk1.8.0_181
drwxr-xr-x  9 root      root           4096 Oct 16 17:16 ranger-2.0.0-admin
-rw-r--r--  1 root      root      250254688 Oct 17 11:05 ranger-2.0.0-admin.tar.gz
lrwxrwxrwx  1 solr      solr             10 Oct 15 17:18 solr -> solr-7.7.2
drwxr-xr-x  9 solr      solr           4096 May 28 23:38 solr-7.7.2
-rw-r--r--  1 solr      solr      172470530 Oct 15 17:14 solr-7.7.2.zip
lrwxrwxrwx  1 zookeeper zookeeper        16 Oct 15 14:22 zookeeper -> zookeeper-3.4.10
drwxr-xr-x 10 zookeeper zookeeper      4096 Mar 23  2017 zookeeper-3.4.10

其中solr 集群机器上的ranger 安装包为临时需要copy,并不是ranger-admin 节点。(后续会用到这个包的conf 目录)

2

修改每台机器的solr配置文件solr.in.sh

SOLR_JAVA_MEM="-Xmx20g -Xms20g -Xmn5g  -Xss256k -XX:MaxPermSize=384m -XX:SurvivorRatio=6 -XX:+UseParNewGC  -XX:ParallelGCThreads=10 -XX:+UseConcMarkSweepGC -XX:ParallelCMSThreads=16 -XX:+CMSParallelRemarkEnabled -XX:+UseCMSCompactAtFullC
ollection -XX:+UseCMSInitiatingOccupancyOnly -XX:CMSInitiatingOccupancyFraction=70 -XX:CMSMaxAbortablePrecleanTime=500 -XX:CMSFullGCsBeforeCompaction=5 -XX:+CMSClassUnloadingEnabled -XX:+HeapDumpOnOutOfMemoryError -verbose:gc -XX:+PrintG
CDateStamps -XX:+PrintGCDetails -XX:+PrintGCTimeStamps -Xloggc:/app/solr/bin/gc-solr-`hostname`.log"

ZK_HOST="VECS17820:2181,VECS17821:2181,VECS17822:2181/ranger_audits"

3

在其中一台solr 集群节点上执行如下命令,用以在zookeeper上创建ranger_audits的chroot目录,该目录只需要创建一次

sudo su
cd /app/solr-7.7.2
server/scripts/cloud-scripts/zkcli.sh -zkhost VECS17820:2181,VECS17821:2181,VECS17822:2181 -cmd makepath /ranger_audits

4启动三台solr集群节点(每台都执行)

sudo su - solr
cd /app/solr-7.7.2/bin
./solr start -c

5 创建名为ranger_audits的连接

注:手动解压安装包搭建solr集群模式,必须使用ranger中的solr配置项创建连接

cd /app/solr-7.7.2

bin/solr create_collection -c ranger_audits -d /app/ranger-2.0.0-admin/contrib/solr_for_audit_setup/conf -shards 3 -replicationFactor 2
      上面命令执行时,会自动把默认配置集下的 conf 目录上传到zookeeper中并关联到默认的collection中。

3、Ranger-Admin配置

vim /app/ranger-2.0.0-admin/install.properties

#Source for Audit Store. Currently only solr is supported.
# * audit_store is solr
audit_store=solr

# * audit_solr_url URL to Solr. E.g. http://<solr_host>:6083/solr/ranger_audits
audit_solr_urls=http://VECS07820:8983/solr/ranger_audits
audit_solr_user=
audit_solr_password=
audit_solr_zookeepers=VECS17820:2181,VECS17821:2181,VECS17822:2181/ranger_audits

audit_solr_collection_name=ranger_audits
#solr Properties for cloud mode
audit_solr_config_name=ranger_audits
audit_solr_no_shards=3
audit_solr_no_replica=2
audit_solr_max_shards_per_node=1
audit_solr_acl_user_list_sasl=solr,infra-solr

在setup.sh 之后
/app/ranger/ews/webapp/WEB-INF/classes/conf/ranger-admin-site.xml
配置文件中将会加载 install.perproties 中的配置项。

、Ranger-Hbase-Plugin为例配置

vi ranger-2.0.0-hdfs-plugin/install.properties

XAAUDIT.SOLR.ENABLE=true

XAAUDIT.SOLR.ZOOKEEPER=VECS17820:2181,VECS17821:2181,VECS17822:2181/ranger_audits

原文地址:https://www.cnblogs.com/hit-zb/p/11691375.html

时间: 2024-11-04 03:28:56

Ranger使用solrCloud存储审计日志的相关文章

ABP应用层——审计日志

ABP应用层——审计日志 点这里进入ABP系列文章总目录 基于DDD的现代ASP.NET开发框架--ABP系列之19.ABP应用层——审计日志 ABP是“ASP.NET Boilerplate Project (ASP.NET样板项目)”的简称. ABP的官方网站:http://www.aspnetboilerplate.com ABP在Github上的开源项目:https://github.com/aspnetboilerplate 维基百科定义:审计跟踪(也称为审核日志)是一个安全相关的时间

ABP(现代ASP.NET样板开发框架)系列之19、ABP应用层——审计日志

点这里进入ABP系列文章总目录 基于DDD的现代ASP.NET开发框架--ABP系列之19.ABP应用层——审计日志 ABP是“ASP.NET Boilerplate Project (ASP.NET样板项目)”的简称. ABP的官方网站:http://www.aspnetboilerplate.com ABP在Github上的开源项目:https://github.com/aspnetboilerplate 维基百科定义:审计跟踪(也称为审核日志)是一个安全相关的时间顺序记录,记录这些记录的目

Ubuntu下rsyslog集中收集mysql审计日志

服务端 1.安装最新版本rsyslog sudo apt-get install software-properties-common python-software-properties sudo add-apt-repository ppa:adiscon/v8-stable sudo apt-get update sudo apt-get install rsyslog 2.配置目录存储mysql审计日志 vim /etc/rsyslog.d/50-default.conf # add:

最全Kubernetes审计日志方案

前言 当前Kubernetes(K8S)已经成为事实上的容器编排标准,大家关注的重点也不再是最新发布的功能.稳定性提升等,正如Kubernetes项目创始人和维护者谈到,Kubernetes已经不再是buzzword,当我们谈起它的时候,变得越发的boring,它作为成熟项目已经走向了IT基础设施的中台,为适应更大规模的生产环境和更多场景的应用不断延展迭代. 而现在我们更加专注于如何利用K8S平台进行CICD.发布管理.监控.日志管理.安全.审计等等.本期我们将介绍如何利用K8S中的Audit事

Kubernetes审计日志方案

前言当前Kubernetes(K8S)已经成为事实上的容器编排标准,大家关注的重点也不再是最新发布的功能.稳定性提升等,正如Kubernetes项目创始人和维护者谈到,Kubernetes已经不再是buzzword,当我们谈起它的时候,变得越发的boring,它作为成熟项目已经走向了IT基础设施的中台,为适应更大规模的生产环境和更多场景的应用不断延展迭代. 而现在我们更加专注于如何利用K8S平台进行CICD.发布管理.监控.日志管理.安全.审计等等.本期我们将介绍如何利用K8S中的Audit事件

ABP官方文档翻译 4.6 审计日志

审计日志 介绍 关于IAuditingStore 配置 通过特性启用/禁用 注意事项 介绍 维基百科:“审计追踪(也称为审计日志)是与安全相关的按时间先后的记录.记录集合.记录的目的地和源,提供一系列活动的纪实证据,这些活动可能在任何时刻影响一个特定操作.过程或事件.” ABP提供了基础设施自动记录应用所有的交互.它可以记录方法调用的调用者和参数. 基本上,保存的字段有:相关的tenant id,调用者user id,调用者service name(调用方法的类),调用者method name,

Percona5.6首次提供了审计日志功能

如果有一天数据库里丢失了一条记录,开发让你查什么时候被谁从哪个IP,执行了delete操作,那么在之前的版本是无法查到的,而Percona最新版本5.6.17首次提供了审计日志功能. (注:截止2014年5月19日,官方MySQL5.6.17和MariaDB10.0.11均没有提供该功能) 版本: 5.6.17-65.0-rel65.0-log Percona Server with XtraDB (GPL), Release rel65.0, Revision 587 安装插件: INSTAL

python 拉取rds 审计日志

此脚本可以拉取rds 审计日志 并且插入本地数据中. #!/usr/bin/env  python2.6 #coding=utf-8 import os from aliyunsdkcore import client from aliyunsdkrds.request.v20140815 import DescribeSQLLogRecordsRequest import json import urllib import datetime,time import subprocess fro

&lt;&lt;ABP文档&gt;&gt; 审计日志

文档目录 本节内容: 简介 关于 IAuditingStore 配置 通过特性启用/禁用 注意 简介 维基百科:“一个审计追踪(也叫审计日志)是一个安全相关的时序记录.记录组.和/或记录源和目标,作为任何时候一个特殊操作带来影响的一序列活动的书面文件”. ABP提供一个基础框架来自动记录所有与应用的交互,它能记录有意的方法调用和调用者信息与参数. 基本上,保存的字段有:相关的租户id,调用者id,被调用的服务名(被调用方法的类名),被调用的方法名,执行参数(序列化成Json),执行时间,执行时长