【2019/7/28】暑假自学——周进度报告3

  本周主要是熟悉HDFS的操作。

  在虚拟机安装好Hadoop后,我需要先熟悉下其自带的HDFS文件系统以及MapReduce的一系列操作,为接下来HBase的学习做好铺垫。因为HBase的文件存储系统是HDFS、数据处理方式是MapReduce,在很多操作上面有很多需要操作HDFS来进行的,所以我需要在实机上面配置好eclipse的插件和配置。

  首先是启动Hadoop。

  之前配置Hadoop时把core-site.xml中我用来测试的localhost改成虚机ip,并且之前就把Ubuntu的防火墙关闭,保证实机上的eclipse能够访问,否则会出现

java.lang.IllegalArgumentException: Wrong FS: hdfs://192.168.0.107:9000/user/hadoop/test.txt, expected: hdfs://192.168.0.106:9000

的情况。

  然后在eclipse上就可以创建一个java项目,导入hadoop-common-2.7.7.jar和hadoop-hdfs-2.7.7.jar(同时也必须导入这两个jar包所依赖的lib,所幸俩依赖的差不多一样),然后编写一个测试用例。

package Chapter3;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;

public class test {
    public static void main(String[] args)
    {
        try {
            String filename = "hdfs://192.168.0.106:9000/user/hadoop/test.txt";
            Configuration conf = new Configuration();
            FileSystem fs = FileSystem.get(conf);
            if(fs.exists(new Path(filename))){
                System.out.println("文件存在");
            }else{
                System.out.println("文件不存在");
            }
        } catch (Exception e) {
            e.printStackTrace();}
    }
}

  同时需要把Hadoop两个核心配置文件加入bin文件夹中——

  然后就可以顺利运行了。

  这次主要测试实机访问虚机Hadoop、eclipse的MapReduce插件以及几个HDFS的基本操作方式,之后HBASE里也会用到hdfs的操作,之后会加深学习。

原文地址:https://www.cnblogs.com/limitCM/p/11329396.html

时间: 2024-10-08 18:58:22

【2019/7/28】暑假自学——周进度报告3的相关文章

【2019/8/4】暑假自学——周进度报告4

这次来安装HBase到虚拟机上边. 把HBase1.4.0上传到usr/local/位置并解压完毕. 配置好环境变量. 改好权限后就可以查看数据库版本以检查安装是否完成. 之后就是单机模式的配置. 修改/usr/local/hbase/conf/hbase-env.sh,添加以下—— export JAVA_HOME=/usr/lib/jvm/java-7-openjdk-amd64 export HBASE_MANAGES_ZK=true 修改/usr/local/hbase/conf/hba

【2019/8/10】暑假自学——周进度报告5

本次博客主要记录HBASE的eclipse api编程访问,与shell方式操作HBASE数据库不同,用java代码形式运行可以封装打包运行,不过需要进行一些配置. 首先启动Hadoop和HBASE(因为之前设置好了虚拟机所以可以在Windows上使用eclipse,只需要启动就可以). 然后新建个实例项目,命名ExampleForHbase,以后要使用HBASE就可以直接采用这个实例. 导入hbase中lib(也就是依赖文件). 之后就是编写类,我直接参考了网上教程的代码,以后要用可以根据这个

暑假第一周进度报告

(1)本周9,10号待在家里,纯玩,刷了电视剧,看了综艺,没有学习任何东西.后来这几天,读了几篇心灵鸡汤,明白了知足常乐,用简单的心态过简单幸福的生活.我觉得这种心态对以后工作会很有益处的,我们以后可能会碰到各种各样的难题,但无论怎样,我们都不要把自己挤在逼仄的角落里动弹不得,很多难题换个角度看又是一片柳暗花明. 读了<大道至简>的一二章"编程的精义"和"是懒人造就了方法",明白了编程的第一要务是先把事情分析清楚,时间先后的逻辑关系和依赖关系搞清楚,然后

暑假第二周进度报告

1)本周读完了<大道至简>这本书,大约每天读一个小时吧.学习了Java中的各种运算符和和各种流程控制语句,数组等,每天大约一个小时.编过几个简单的代码,时间不长.读<大道至简>的时候遇到了相当多的名词不理解的问题,然后就上了百度查明了其含义. 2)下周要彻底学完Java,然后多编程序,花在代码上的时间要多起来,尝试用已学的Java解决实际问题. 3)本周没有达成上周目标,原本计划这周学完Java的.然而都浪费在了玩手机上,下周不能这样了 ,说到就要做到. 原文地址:https://

暑假假期周进度报告(第二周)

一.本周 1.继续学习eclipse的使用 2.了解了java建立对象时,内存的使用情况 3.了解java中的继承(无法多重继承),组合,重载,重写等操作 4.<大道至简>读后感 二.下周 1.加快学习java速度 三.问题 1.对于java继承中的格式问题还没十分的理解. 原文地址:https://www.cnblogs.com/heiyang/p/9343343.html

2018.5.28 ~ 6.3 周进度汇报

第十次会议上进行的周进度汇报记录,会议总记录见链接. 本周个人进度汇报如下:(个人按字母顺序排序) 陈兆庭: 完成android studio IDE的版本升级(注:由于我们敲定的版本服从大多数,所以只有陈兆庭.林静雯.涂涵越需要升级) 参加数据库与UI的对接,并进一步完善了数据库与UI的接口文档,设计文档见链接 进行数据同步的调研,并参加两次调研会议 学习mysql的使用 胡宇晨: (这位同学习惯非常好,维护了自己的项目进度,见链接) 5.29完成统计界面优化 5.30 完成日历界面的测试 优

暑假周进度报告3

在本周中,学到了一些新工具,JDK API帮助文档的使用,在其中有Java所有类以及java类的使用方法.在java编程中可通过此文件查找对类的使用方法以及查询导包.Scanner.Random以及ArrayList的使用,以上三个都属于lava.util的类,在对Scanner类的学习中,学习到Scanner  对象名=new Scanner(System.in)表示从键盘输入再配合nextInt等就可以达到C中scanf和C++中cin的效果,Random是对随机数字的生成以及ArrayLi

暑假周进度报告(五)

在这一周我曾经在配置环境变量时,不小心把path变量全部删除,找不回来.然后我在网上找了一些常用的path变量粘贴上.然后再某个晚上我把电脑调成了护眼模式,就是在正常的颜色上覆盖黄光,第二天就发现调不回正常的颜色.最后在找联想客服解决时,发现我电脑上的显卡找不到了.我只好重置了系统,后来在安装tomcat时出现了很多问题.所以这一周我花了很多时间在解决tomcat的安装问题.然后除了重装软件,就是继续学习python.有时候会不甘心的打开虚拟机,但是发现当初的那个问题还是解决不了. 原文地址:h

【2019/3/17】周进度报告

  第二周 所花时间 约7个小时 代码量 50多行 博客量 2篇 了解到的知识点 1.BigInterger的使用 2.Android生命周期 原文地址:https://www.cnblogs.com/limitCM/p/10548308.html