HDFS shell

bin/hdfs -help

bin/hdfs dfs -mkdir -p /yfq/test/

bin/hdfs dfs -put /etc/profile /yfq/test/profile 上传文件

bin/hdfs dfs -put /etc/* /yfq/test/上传文件夹

bin/hdfs dfs -cat /yfq/test/profile查看文件

bin/hdfs dfs -get /yfq/test/profile . 下载profile文件到当前目录

bin/hdfs dfs -rm -r /yfq/test/ 删除文件

被删除的文件默认放入回收站,过一段时间HDFS会清空回收站,这个时间可以设置,默认是0分钟

集中式缓存管理,将常用的文件放入内存

bin/hdfs cacheadmin -listpool 查看缓存池

bin/hdfs cacheadmin -laddpool test 添加名为test的缓存池

bin/hdfs cacheadmin -addDirective -path /yfq/test/ -pool test 将文件放入缓存池

bin/hdfs cacheadim -listDirective -pool test 查看某个缓存池中的文件

hdfs不适合存储小文件

hadoop会将小文件归档,将小文件合并为一个大文件

bin/hdfs dfs -mkdir -p /conf 创建归档文件夹

bin/hadoop archive -archiveName conf.har -p /yfq/test -r 1(备份数)  /conf

生成过程是个map/reduce任务

bin/hdfs dfs -ls har:///conf/conf.har查看压缩文件

bin/hdfs dfs -cp har:///conf/conf.har /har

将文件加压到har中

时间: 2024-11-08 08:10:21

HDFS shell的相关文章

hadoop2.5.2学习及实践笔记(五)—— HDFS shell命令行常见操作

附:HDFS shell guide文档地址 http://hadoop.apache.org/docs/r2.5.2/hadoop-project-dist/hadoop-common/FileSystemShell.html 启动HDFS后,输入hadoop fs命令,即可显示HDFS常用命令的用法 [[email protected] hadoop-2.5.2]$ hadoop fs Usage: hadoop fs [generic options] [-appendToFile <lo

hadoop 学习之hdfs shell命令

1.HDFS shell 1.0查看帮助  hadoop fs -help <cmd> 1.1上传  hadoop fs -put <linux上文件> <hdfs上的路径> 1.2查看文件内容  hadoop fs -cat <hdfs上的路径> 1.3查看文件列表  hadoop fs -ls / 1.4下载文件  hadoop fs -get <hdfs上的路径> <linux上文件>

Hadoop学习笔记_5_分布式文件系统HDFS --shell操作

分布式文件系统HDFS --shell操作 分布式文件系统[Distributed File System]概述 数据量越来越多,在一个操作系统管辖的范围存不下了,那么就分配到更多的操作系统管理的磁盘中,但是不方便管理和维护,因此迫切需要一种系统来管理多台机器上的文件,这就是分布式文件管理系统 . 分布式文件系统特点: 是一种允许文件通过网络在多台主机上分享的文件系统,可让多机器上的多用户分享文件和存储空间. 通透性.让实际上是通过网络来访问文件的动作,由程序与用户看来,就像是访问本地的磁盘一般

hadoop hdfs shell

1.查看帮助 hadoop fs -help <cmd> 2.上传 hadoop fs -put <linux上文件> <hdfs上的路径> 如:hadoop fs -put test.log / 3.查看文件内容 hadoop fs -cat <hdfs上的路径> 如:hadoop fs -cat /test.log 4.查看文件列表 hadoop fs -ls / 5.下载文件 hadoop fs -get <hdfs上的路径> <li

HDFS shell操作

1.hadoop集群的启动 cd $HADOOP_HOME  //进入hadoop安装目录 sbin/start-dfs.sh      //启动hdfs sbin/start-yarn.sh     //启动yarn (或start-all.sh) 集群关闭: cd $HADOOP_HOME  //进入hadoop安装目录 sbin/stop-yarn.sh      //启动hdfs sbin/stop-dfs.sh     //启动yarn (或stop-all.sh) 集群的架构: ma

HDFS的shell操作

既然HDFS 是存取数据的分布式文件系统,那么对HDFS的操作,就是对文件系统的基本操作,比如文件的创建.修改.删除.修改权限等,文件夹的创建.删除.重命名等.对 HDFS 的操作命令类似于Linux 的shell 对文件的操作,只是在HDFS中,hadoop fs是主命令,其他像ls,mv,cp都是被作为该命令的选项. 以下表格列出一些常用的HDFS shell命令选项. 选项名称 使用格式 含义 -ls -ls <路径> 查看指定路径的当前目录结构 -lsr -lsr <路径>

Hadoop大象之旅009-通过Shell操作hdfs

Hadoop大象之旅009-通过Shell操作hdfs 老帅 调用Hadoop分布式文件系统(HDFS)Shell命令应使用bin/hadoop fs <args>的形式. 1.查看hdfs都有哪些Shell命令 参照前面章节中所述方法,使用SecureCRTPortable.exe登录CentOS; 使用命令"hadoopfs"查看hdfs的命令列表,如下图所示: hdfs的所有命令的格式,都为:hadoop fs –xx,具体使用方法,可参考官方文档: http://h

Hadoop读书笔记(二)HDFS的shell操作

Hadoop读书笔记(一)Hadoop介绍:http://blog.csdn.net/caicongyang/article/details/39898629 1.shell操作 1.1所有的HDFS shell操作命名可以通过hadoop fs获取: [[email protected] ~]# hadoop fs Usage: java FsShell [-ls <path>] [-lsr <path>] [-du <path>] [-dus <path>

hadoop系列二:HDFS文件系统的命令及JAVA客户端API

转载请在页首明显处注明作者与出处 http://www.cnblogs.com/zhuxiaojie/p/6391518.html 一:说明 此为大数据系列的一些博文,有空的话会陆续更新,包含大数据的一些内容,如hadoop,spark,storm,机器学习等. 当前使用的hadoop版本为2.6.4 上一篇:hadoop系列一:hadoop集群安装 二:HDFS的shell命令 上一章说完了安装HADOOP集群部分,这一张讲HDFS. 其实基本上操作都是通过JAVA API来操作,所以这里的s