从本地上传到hdfs上出现异常

  • hdfs dfs -put  从本地上传到hdfs上出现异常

与namenode  同台机器的datanode错误日志信息如下:

2015-12-03 09:54:03,083 WARN org.apache.hadoop.hdfs.server.datanode.DataNode: Slow BlockReceiver write data to disk cost:727ms (threshold=300ms)

2015-12-03 09:54:03,991 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: Starting CheckDiskError Thread

2015-12-03 09:54:03,991 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: Exception for BP-254367353-10.172.153.46-1448878000030:blk_1073741847_1023

java.io.IOException: No space left on device

at java.io.FileOutputStream.writeBytes(Native Method)

at java.io.FileOutputStream.write(FileOutputStream.java:345)

at org.apache.hadoop.hdfs.server.datanode.BlockReceiver.receivePacket(BlockReceiver.java:613)

at org.apache.hadoop.hdfs.server.datanode.BlockReceiver.receiveBlock(BlockReceiver.java:781)

at org.apache.hadoop.hdfs.server.datanode.DataXceiver.writeBlock(DataXceiver.java:730)

at org.apache.hadoop.hdfs.protocol.datatransfer.Receiver.opWriteBlock(Receiver.java:137)

at org.apache.hadoop.hdfs.protoco2015-12-03 09:54:04,050 WARN org.apache.hadoop.hdfs.server.datanode.fsdataset.impl.FsDatasetImpl: Block BP-254367353-10.172.153.46-1448878000030:blk_1073741847_1023 unfinalized and removed.

2015-12-03 09:54:04,054 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: opWriteBlock BP-254367353-10.172.153.46-1448878000030:blk_1073741847_1023 received exception java.io.IOException: No space left on device

2015-12-03 09:54:04,054 ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: hd1:50010:DataXceiver error processing WRITE_BLOCK operation  src: /10.165.114.138:57315 dst: /10.172.153.46:50010

java.io.IOException: No space left on device

at java.io.FileOutputStream.writeBytes(Native Method)

at java.io.FileOutputStream.write(FileOutputStream.java:345)

at org.apache.hadoop.hdfs.server.datanode.BlockReceiver.receivePacket(BlockReceiver.java:613)

at org.apache.hadoop.hdfs.server.datanode.BlockReceiver.receiveBlock(BlockReceiver.java:781)

at org.apache.hadoop.hdfs.server.datanode.DataXceiver.writeBlock(DataXceiver.java:730)

at org.apache.hadoop.hdfs.protocol.datatransfer.Receiver.opWriteBlock(Receiver.java:137)

at org.apache.hadoop.hdfs.protocol.datatransfer.Receiver.processOp(Receiver.java:74)

at org.apache.hadoop.hdfs.server.datanode.DataXceiver.run(DataXceiver.java:235)

at java.lang.Thread.run(Thread.java:745)

datanode所在机器的错误日志信息如下:

2015-12-03 17:54:04,111 WARN org.apache.hadoop.hdfs.server.datanode.DataNode: DatanodeRegistration(10.172.218.18, datanodeUuid=7c882efa-f159-4477-a322-30cf55c84598, infoPort=50075, ipcPort=50020, storageInfo=lv=-56;cid=CID-183048c9-89b2-44b4-a224-21f04d2a8065;nsid=275180848;c=0):Failed to transfer BP-254367353-10.172.153.46-1448878000030:blk_1073741850_1026 to 10.172.153.46:50010 got

java.net.SocketException: Original Exception : java.io.IOException: Connection reset by peer

at sun.nio.ch.FileChannelImpl.transferTo0(Native Method)

at sun.nio.ch.FileChannelImpl.transferToDirectly(FileChannelImpl.java:433)

at sun.nio.ch.FileChannelImpl.transferTo(FileChannelImpl.java:565)

at org.apache.hadoop.net.SocketOutputStream.transferToFully(SocketOutputStream.java:223)

at org.apache.hadoop.hdfs.server.datanode.BlockSender.sendPacket(BlockSender.java:559)

at org.apache.hadoop.hdfs.server.datanode.BlockSender.sendBlock(BlockSender.java:728)

at org.apache.hadoop.hdfs.server.datanode.DataNode$DataTransfer.run(DataNode.java:2017)

at java.lang.Thread.run(Thread.java:745)

Caused by: java.io.IOException: Connection reset by peer

... 8 more

2015-12-03 17:54:04,146 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: Starting CheckDiskError Thread

2015-12-03 17:57:39,288 INFO org.apache.hadoop.hdfs.server.datanode.BlockPoolSliceScanner: Verification succeeded for BP-254367353-10.172.153.46-1448878000030:blk_1073741850_1026

从日志可以看出设备上空间不足,服务器磁盘空间较小,只好删除一些垃圾数据。

时间: 2024-10-24 18:14:19

从本地上传到hdfs上出现异常的相关文章

上传到HDFS上的文件遇到乱码问题

1.通过eclipse中的hdfs插件上传文件,上传成功,但是查看是乱码. 查阅文件本身的编码方式,发现是utf-8,同时文件在项目目录下,显示正常,因为我把它的编码格式也设成了utf-8. 2.通过xftp将文件上传到linux中,通过vi命令查看文件,显示正常. 3.通过hadoop fs /opt/friend /root/input/data,再次在eclipse插件中查看文件显示乱码 4.设置workspace的编码为utf-8,全部显示正常. 修改方式: windows->Prefe

C# winform把本地文件上传到服务器上,和从服务器上下载文件

昨天在做项目过程中遇到需要把本地文件上传到服务器上的问题,在这里记录一下,方便大家互相学习! /// <summary> /// 上传文件方法/// </summary> /// <param name="filePath">本地文件所在路径(包括文件)</param> /// <param name="serverPath">文件存储服务器路径(包括文件)</param> public voi

如何通过TortoiseGit(小乌龟)把本地项目上传到github上

1.第一步: 安装git for windows(链接:https://gitforwindows.org/)一路next就好了, 如果遇到什么问题可以参考我另外一篇文章~^ - ^ 2.第二步:安装小乌龟(我习惯把TortoiseGit叫成小乌龟,所以接下来所有的TortoiseGit我都代替为小乌龟啦) 小乌龟安装步骤(安装完小乌龟之后再安装语言包): 步骤我就不贴出来了,跟git一样一路next就OK了,我把安装需求的安装包贴在下面,可以参考一下~ 别忘记下载中文语言包(看到这里要注意呀 

mui 获取本地的图片的绝对路径本,上传到OSS上

mui(".img ul").on("tap", "li.addImgge", function() { if (mui.os.plus) { var a = [{ title: "拍照" }, { title: "从手机相册选择" }]; plus.nativeUI.actionSheet({ title: "请选择图片来源", cancel: "取消", butt

JAVA基础知识之InputStreamReader流 和 将本地文件通过前端上传到服务器上

将本地文件通过前端上传到服务器上 public BaseResponseSwagger resolveFile(@Valid @ApiParam(value = "file")@RequestParam(name = "file",required = true) MultipartFile file){ if(file.isEmpty()){ throw new SoftwareException(ComStatusCodeEnum.COM_PARAM_VALID

文件上传利器JQuery上传插件Uploadify

在做日常项目中,经常在后台需要上传图片等资源文件,之前使用过几次这个组件,感觉非常好用 ,但是每次使用的时候都是需要经过一番查阅,所以还不如记住在这里,以后使用的时候就翻翻. 他的官方网站如下:http://www.uploadify.com/ 插件下载地址:http://www.uploadify.com/download 说明文档:http://www.uploadify.com/documentation 在此之前,先说明下插件使用流程,该插件是基于jQuery的,所以我们在使用之前需要引

文件上传之普通上传

前言 记得去年十月份离开基础邮箱项目组,进入云邮局项目组之后,领导曾经嘱咐我将邮箱的上传模块整理成文档,方便其他同事接手.由于各方面原因迟迟未动手,最近终于下定决心,整理自己的笔记,记录邮箱用到的所有上传方式.大概包括:普通上传.139邮箱小工具上传.Flash上传.HTML5上传(含拖拽上传,分块上传,断点续传,妙传等功能) 普通上传流程如下: 一.应用场景: 单个小文件无需显示上传进度可采用普通上传 二.实现效果: 无刷新上传文件 三.操作步骤: 步骤一.美化原生的input type='f

WebApi 文件上传,断点上传,分块上传,断点下载,查询 (图片的直接预览,视频边加载边播放)

using Manjinba.Communication.Common.Caching;using Manjinba.Communication.Common.Logging;using Manjinba.Communication.Common.Utils;using Manjinba.Communication.IRepository;using Manjinba.Communication.IService;using Manjinba.Communication.Model;using

Windows下如何将一个文件夹通过Git上传到GitHub上(转)

在通过windows系统的电脑上写代码,需要将项目上传到GitHub上去.比如在Pycharm上写Django后端,整个项目是一个文件夹的形式,那么怎么才能这个文件夹通过Git命令上传到GitHub上呢? 以下给出详细步骤: 1.首先得安装git客户端 安装方法很简单,跟安装QQ之类的一样,进入官网:https://git-scm.com/ ,点击右侧下载windows版本的软件包,然后双击安装,一步一步下一步就可以了. 安装完成之后,在开始菜单可以看到如下就算是成功了: 此时,在任一文件夹上右