Hadoop完全云计算平台搭建

一.以之前搭建的为云计算平台为主节点

角色分配

Master:NameNode/DataNode ResourceManager/NodeManager

Slave1:DataNode NodeManager

Slave2:DataNode NodeManager

1. 修改hostname

2. 修改hosts,添加每个节点的ip地址以及对应的hostname

3. ping测试

二. ssh免密码登录

[[email protected] .ssh]# ssh-keygen -t rsa
##生成公钥
[[email protected] .ssh]# ssh-copy-id -i ~/.ssh/id_rsa.pub master
#分发公钥给master  slave1  slave2
[[email protected] .ssh]# ssh-copy-id -i ~/.ssh/id_rsa.pub slave1
[[email protected] .ssh]# ssh-copy-id -i ~/.ssh/id_rsa.pub slave2

分发

免密登录测试

ssh slave1

如果其他两台主机需要免密登录需要重复以上步骤,生成公钥然后分发给其他两台主机,实现免密码登录

三. 解压jdk和hadoop(以下操作均是在master节点操作,详细参考伪云计算平台搭建)

[[email protected] opt]# tar xvf hadoop-2.7.2.tar.gz
[[email protected] opt]# tar xvf jdk-8u172-linux-x64.tar.gz
[[email protected] opt]# mkdir Hadoop
[[email protected] opt]# mkdir Java
[[email protected] opt]# mv jdk1.8.0_172/ Java/
[[email protected] opt]# mv hadoop-2.7.2 Hadoop/

配置环境变量

vi  ~/.bashrc

添加

export JAVA_HOME=/opt/Java/jdk1.8.0_172
export PATH=$PATH:$JAVA_HOME/bin
export HADOOP_HOME=/opt/Hadoop/hadoop-2.7.2
export PATH=$PATH:$HADOOP_HOME/bin

[[email protected] opt]# source  ~/.bashrc
#使得配置生效

2.修改配置

[[email protected] hadoop]# cd /opt/Hadoop/hadoop-2.7.2/etc/hadoop

添加变量

[[email protected] hadoop]# vi hadoop-env.sh
添加这一条
export JAVA_HOME=/opt/Java/jdk1.8.0_172

修改配置

 [[email protected] hadoop]# vi slaves

添加内容为

master
slave1
slave2

3.分发安装包到slave1和slave2节点

[[email protected] ~]# scp ~/.bashrc [email protected]:~/
[[email protected] ~]# scp ~/.bashrc [email protected]:~/
[[email protected] ~]# scp -r /opt [email protected]:/
[[email protected] ~]# scp -r /opt [email protected]:/

分发需要一段时间,耐心等待就好

使得配置生效(slave1和slave2节点)

[[email protected] hadoop]# source  ~/.bashrc
[[email protected] hadoop]# echo  $JAVA_HOME
/opt/Java/jdk1.8.0_172

格式化

对slave1和slave2节点格式化

[[email protected] hadoop]# cd  /opt/Hadoop/hadoop-2.7.2/bin
[[email protected] bin]# ./hadoop  namenode  -format

slave1节点

启动服务,在master中启动

[[email protected] hadoop]# cd  /opt/Hadoop/hadoop-2.7.2/sbin
[[email protected] sbin]#./start-all.sh

至此,完全云计算平台搭建完成

浏览器访问

http://192.168.2.100:50070/

就可以看到Hadoop

原文地址:https://www.cnblogs.com/mke2fs/p/12401234.html

时间: 2024-12-18 14:36:17

Hadoop完全云计算平台搭建的相关文章

基于H3C CAS的云计算平台搭建

基于H3C CAS的云计算平台搭建 1.H3C CAS介绍 H3C CAS(CloudAutomation System)云计算管理平台是H3C 公司推出的构建云计算基础架构的资源管理平台,它为数据中心云计算基础架构提供虚拟化管理解决方案,实现对数据中心云计算环境的集中管理和控制.此外,CAS 还支持vStor 分布式存储管理功能,即整合多个宿主机内的硬盘资源,构建IP SAN 提供给本云计算资源平台或其他业务系统使用. 2.产品组件 CAS 由四个组件构成: CVK(Cloud Virtual

hadoop伪分布式平台搭建

1. 安装jdk1.7 JAVA_HOME=/home/hadoop/app/jdk1.7.0 vi /etc/profile.d CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar PATH=$JAVA_HOME/bin:$PATH export JAVA_HOME CLASSPATH PATH source /etc/profile.d 2.ssh免密码登陆 service iptables status chkconfig

Hadoop高可用平台搭建

文章概览: 1.机器规划和预配置 2.软件安装 3.集群文件配置 4.启动集群 机器规划和预配置 主机/进程 NN DN RM NM ZK(QP) ZKFC JN nna √    √    √  √   nns  √    √    √  √   dn1     √    √  √    √ dn2     √    √      √ dn3     √    √      √ 安装 所需工具:虚拟机CentOS-6.5,JDK-1.8,Hadoop-2.6,Zookeeper-3.4.6 ①

运用Hadoop能否搭建完整的云计算平台?

Apache Hadoop 是一个用java语言实现的软件框架,在由大量计算机组成的集群中运行海量数据的分布式计算,它可以让应用程序支持上千个节点和PB级别的数据. Hadoop并不完全代表云计算,所以,要用Hadoop搭建完整的云计算平台,答案是不够.我们常说云计算,实际上还是通过计算机的大规模或者说海量处理来为生活中各式各样的人和各行各业服务--所以,核心在"服务".关于服务,展开来就是常用的那3种(也是事实上的标准):SaaS,PaaS,IaaS.对云计算来说,公有和私有,虚拟和

ambari 搭建hadoop大数据平台系列4-配置ambari-server

ambari 搭建hadoop大数据平台系列4-配置ambari-server,分为三部分: 官网:  https://docs.hortonworks.com/HDPDocuments/Ambari-2.4.2.0/bk_ambari-installation/content/download_the_ambari_repo_lnx7.html 安装ambari-server  配置ambari-server  命令;ambari-server setup 启动ambari-server 命令

Hadoop集群大数据平台搭建

Hadoop集群环境搭建配置 前言 Hadoop的搭建分为三种形式:单机模式.伪分布模式.完全分布模式,只要掌握了完全分布模式,也就是集群模式的搭建,剩下的两种模式自然而然就会用了,一般前两种模式一般用在开发或测试环境下,Hadoop最大的优势就是分布式集群计算,所以在生产环境下都是搭建的最后一种模式:完全分布模式. 硬件选择 须知: 分布式环境中一个服务器就是一个节点 节点越多带来的是集群性能的提升 一个Hadoop集群环境中,NameNode,SecondaryNameNode和DataNo

云计算:利用叶子云桌面虚拟化管理平台搭建企业的桌面云,叶子云安装(二)

云计算:利用叶子云桌面虚拟化管理平台搭建企业的桌面云,叶子云安装(二) --企业轻松搭建kvm桌面云系列教程 一,安装准备 1.先下载叶子云的安装光盘文件,光盘文件是iso格式的. 2.如果你用虚拟机安装,则不用刻录光盘,如果你是用物理机安装,则应该刻录成光盘. 3.光盘文件可到下方的qq群下载. 二,安装演示 安装演示分为2种情况,1种是在虚拟机内进行安装演示,另一种是在物理服务器上进行演示. A.虚拟机安装叶子云虚拟化 1.创建一个虚拟机(会的建议跳过) 我们这里以 VMware演示如何安装

云计算教程学习入门视频课件:小型云计算平台怎么搭建?

俗话说"学起来简单,做起来就难了",小型云计算平台怎么搭建?估计很多人都毫无头绪不知道如何是好,所以下面来讲解一个小型方案的云计算实施例子. 在云计算蓬勃发展的今天,与其在家闲着,不如立即开始学习,当机遇爆发式来临时,能不能把握住,只看我们是否已经准备好了,是否足够强大.所以,现在开始,千锋900G+视频教程免费送!领取方式在下方留言即可,希望可以帮助你在"逆境"中成长,从容开启新的一年. 如果说需要满足 60 个以内的终端用户(使用场合为办公.教学.多媒体阅览.门

hadoop平台搭建(2.6.0)

最近闲来无事搭建了一个hadoop环境,将搭建步骤记录一下. 一.环境准备 环境:VMware,xshell OS: Ubuntu server(选择最简安装,只安装OpenSSH-Server) 版本:hadoop-2.6.0 三个节点: 192.168.16.131 master 192.168.16.132 node1 192.168.16.133 node2 编辑/etc/hosts文件 将节点信息添加进去(如上) 建立hadoop运行账号: groupadd hadoop //设置ha