hadoop学习(一)环境的搭建

  1、安装几台Linux虚拟机。安装的过程就不赘述了,网上教程很多。win7系统上装了一个VMWare,因为一些原因,VMWare版本不是最新的,是VMWare7.1版本,由于VMWare版本不高,所以也就不能支持太高版本的Linux,装了两台rhel-5、两台fedora14、一台CentOS5.11。

  安装系统的时候出现过一个很头疼的问题,开始下载的是CentOS7,装不了,再下载CentOS6还是安装不了,再把版本往下降,降到5.11,这才发现可以安装,所以VMWare的版本和Linux系统的版本匹配是个问题。

  2、系统安装好了之后,就是配IP,配置完IP,ping一下宿主机IP,发现居然ping不通,什么问题??几台分配好IP地址的都检查一次,发现都ping不通宿主机,但是几台虚拟机之间是可以ping通的。网关、掩码都和宿主机一致,IP都是局域网中没人用的。怎么回事呢?上网查了下,很多种说法,我一一照做了,还是没有解决问题。网上也介绍了几种联网的方式:桥接、NAT、Host-only,肯定是选择桥接,这种方式是直接连接到物理交换机上,模拟真实环境。这个问题困扰了我两天,一直在上网搜索答案,一次一次的实验,一次一次的失败,最后我点开我的虚拟机,发现我装的几台虚拟机的网络适配器居然全部选择的是NAT,太大意了。。。全部改为桥接,问题解决!!

  3、系统安装完后,IP配好之后,再就是Linux的免密码登录的配置。这个也是一个小问题让我纠结了一天,记录下来吧。免密码登录的步骤如下:

    (1)、切换到hadoop用户目录下,在该用户目录下创建.ssh目录(初始是没有这个目录的在看炼数成金的视频的时候,说的是在root用户下创建,这里更正一下)。

    (2)、进入.ssh目录,用ssh-genkey -t rsa命令生成密钥对,然后目录下会生成一个id_rsa的私钥和一个id_rsa.pub的公钥。

    (3)、使用cp id_rsa.pub authorized_keys命令来创建authorized_keys文件。

    (4)、对几台Linux系统重复上述操作。

    (5)、将每台系统中的authorized_keys文件的内容复制出来,组合成一个文件。然后将这个文件中的内容全部覆盖到几台Linux系统上的authorized_keys文件中。操作完成后,几台系统中的authorized_keys文件中的内容是一致的。炼数成金视频中讲到这里就说可以免密码登录了,扯淡,实践证明是不行的,还缺了下面个重要的步骤!

    (6)、设置文件和目录权限   

        设置authorized_keys权限:chmod 644 authorized_keys

        设置.ssh目录权限:chmod 700 -R .ssh

  这个免密码登录参考了CSDN上的一篇文章:linux远程登录ssh免密码

    

时间: 2024-08-30 06:44:38

hadoop学习(一)环境的搭建的相关文章

Jfinal学习和环境的搭建

问题?Jfinal学习和环境的搭建. 一.Jfinal是什么? JFinal是基于Java 语言的极速 web 开发框架,其核心设计目标是开发迅速.代码量少.学习简单.功能强大.轻量级.易扩展.Restful.在拥有Java语言所有优势的同时再拥有ruby.python等动态语言的开发效率. 二.Jfinal的优势及原则 JFinal 项目开发始于2011年初,作者詹波(James Zhan),JFinal将一直坚持以下设计目标:开发迅速.代码量少.学习简单.功能强大.轻量级.易扩展.Restf

Linux下Hadoop集群环境的搭建

本文旨在提供最基本的,可以用于在生产环境进行Hadoop.HDFS分布式环境的搭建,对自己是个总结和整理,也能方便新人学习使用. 基础环境 JDK的安装与配置 现在直接到Oracle官网(http://www.oracle.com/)寻找JDK7的安装包不太容易,因为现在官方推荐JDK8.找了半天才找到JDK下载列表页的地址(http://www.oracle.com/technetwork/java/javase/downloads/jdk7-downloads-1880260.html).因

安卓学习之环境的搭建(2)

在eclipse下搭建安卓开发环境.感觉这个写得很好,直接借鉴了.随便说一句,如果去安卓官网下的sdkhttp://developer.android.com/tools/index.html 就包含了安卓开发集成环境.eclipse也不用下载了.0.0 http://jingyan.baidu.com/article/60ccbceb165c7664cab197d8.html 以下这个地址是最新版的安卓4.2的环境: http://blog.csdn.net/wangjinyu501/arti

Hadoop伪分布式环境快速搭建

Hadoop分支 Apache Cloudera Hortonworks 本文是采用Cloudera分支的hadoop. 下载cdh-5.3.6 版本 下载地址:http://archive.cloudera.com/cdh5/cdh/5/ 各组件版本一定保持一致. cdh5.3.6-snappy-lib-natirve.tar.gz hadoop-2.5.0-cdh5.3.6.tar.gz hive-0.13.1-cdh5.3.6.tar.gz sqoop-1.4.5-cdh5.3.6.tar

hadoop学习—1.环境安装

如需视频或安装软件:请联系QQ:1974983704 所用系统及软件:Win10.Centos6.5.VMware10.MobaXtem_v8.1 1.安装VMware10  2.打开VMware10,安装Centos6.5 2.1选择创建新的虚拟机 2.2选择“自定义”,点击下一步 2.3选择已经下载的Centos6.5.iso 2.4输入用户名.密码,点击下一步 2.5.输入虚拟机名称,及选择存放位置,由于我已经创建过一台Master的虚拟机,所以此处的虚拟机名称为Slaves1   2.6

Hadoop初体验:快速搭建Hadoop伪分布式环境

0.前言 本文旨在使用一个全新安装好的Linux系统从0开始进行Hadoop伪分布式环境的搭建,以达到快速搭建的目的,从而体验Hadoop的魅力所在,为后面的继续学习提供基础环境. 对使用的系统环境作如下说明: 操作系统:CentOS 6.5 64位 主机IP地址:10.0.0.131/24 主机名:leaf 用户名:root hadoop版本:2.6.5 jdk版本:1.7 可以看到,这里直接使用root用户,而不是按照大多数的教程创建一个hadoop用户来进行操作,就是为了达到快速搭建Had

构建Hadoop伪分布式环境

构建Hadoop伪分布式环境 这篇文章介绍Hadoop伪分布式环境的搭建过程与原理,是个人的学习总结,以纪念在各个步骤中遇到的麻烦.踩过的坑! 这篇笔记包含这样几个内容: 配置伪分布式环境 运行一个简单的作业 可能遇到的问题及解决办法 配置伪分布式环境 本文中的内容基于Hadoop2,即MapReduce作业运行在Yarn平台之上. 打通SSH,实现无密码登陆 由于Hadoop控制脚本需要登陆到集群中的Slave节点执行操作(比如,启动守护进程),如果每一次登录都输入密码,显然不是个好办法.集群

大数据系列(1)——Hadoop集群坏境搭建配置

前言 关于时下最热的技术潮流,无疑大数据是首当其中最热的一个技术点,关于大数据的概念和方法论铺天盖地的到处宣扬,但其实很多公司或者技术人员也不能详细的讲解其真正的含义或者就没找到能被落地实施的可行性方案,更有很多数据相关的项目比如弄几张报表,写几个T-SQL语句就被冠以“大数据项目”,当然了,时下热门的话题嘛,先把“大数据”帽子扣上,这样才能显示出项目的高大上,得到公司的重视或者高层领导的关注. 首先,关于大数据的概念或者架构一直在各方争议的背景下持续的存在着.目前,关于大数据项目可以真正被落地

Hadoop学习笔记(4) ——搭建开发环境及编写Hello World

Hadoop学习笔记(4) ——搭建开发环境及编写Hello World 整个Hadoop是基于Java开发的,所以要开发Hadoop相应的程序就得用JAVA.在linux下开发JAVA还数eclipse方便. 下载 进入官网:http://eclipse.org/downloads/. 找到相应的版本进行下载,我这里用的是eclipse-SDK-3.7.1-linux-gtk版本. 解压 下载下来一般是tar.gz文件,运行: $tar -zxvf eclipse-SDK-3.7.1-linu

Hadoop学习笔记(3)——分布式环境搭建

Hadoop学习笔记(3) ——分布式环境搭建 前面,我们已经在单机上把Hadoop运行起来了,但我们知道Hadoop支持分布式的,而它的优点就是在分布上突出的,所以我们得搭个环境模拟一下. 在这里,我们采用这样的策略来模拟环境,我们使用3台ubuntu机器,1台为作主机(master),另外2台作为从机(slaver).同时,这台主机,我们就用第一章中搭建好的环境来. 我们采用与第一章中相似的步骤来操作: 运行环境搭建 在前面,我们知道,运行hadoop是在linux上运行的.所以我们单机就在