hadoop 日常问题汇总(持续更新)

问题描述:每次执行hadoop的shell命令时均出现如下警告:
[[email protected] ~]$ hadoop fs -ls /
16/09/25 07:59:13 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable

问题定位:

用ldd命令查看依赖库
[[email protected] native]$ ldd libhadoop.so
./libhadoop.so: /lib64/libc.so.6: version `GLIBC_2.14‘ not found (required by ./libhadoop.so)
        linux-vdso.so.1 =>  (0x00007ffff3837000)
        libdl.so.2 => /lib64/libdl.so.2 (0x00007fa27ce68000)
        libc.so.6 => /lib64/libc.so.6 (0x00007fa27cad3000)
        /lib64/ld-linux-x86-64.so.2 (0x000000333de00000)
[[email protected] native]$ ldd libhadoop.so.1.0.0
./libhadoop.so.1.0.0: /lib64/libc.so.6: version `GLIBC_2.14‘ not found (required by ./libhadoop.so.1.0.0)
        linux-vdso.so.1 =>  (0x00007fff4b9ff000)
        libdl.so.2 => /lib64/libdl.so.2 (0x00007f2a22745000)
        libc.so.6 => /lib64/libc.so.6 (0x00007f2a223b0000)
        /lib64/ld-linux-x86-64.so.2 (0x000000333de00000)
[[email protected] native]$ 

看到报错,GLIBC_2.14找不到,现在检查系统的glibc库,  ldd --version即可检查:
[[email protected] native]$ ldd --version
ldd (GNU libc) 2.12
Copyright (C) 2010 Free Software Foundation, Inc.
This is free software; see the source for copying conditions.  There is NO
warranty; not even for MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.
由 Roland McGrath 和 Ulrich Drepper 编写。
[[email protected] native]$ 

原来系统预装的glibc库是2.12版本,而hadoop期望是2.14版本,所以打印警告信息。

解决方案:
第一个办法重新编译glibc重新编译glibc.2.14版本,安装后专门给hadoop使用,这个有点危险。
第二个办法直接在log4j日志中去除告警信息。在//usr/local/hadoop/etc/hadoop/log4j.properties文件中添加
log4j.logger.org.apache.hadoop.util.NativeCodeLoader=ERROR

参考:http://blog.csdn.net/l1028386804/article/details/51538611
如何查看识别hadoop是32位还是64位:hadoop-2.6.0 

[[email protected] native]$ pwd
/usr/local/hadoop/lib/native
[[email protected] native]$ ls
libhadoop.a       libhadoop.so        libhadooputils.a  libhdfs.so
libhadooppipes.a  libhadoop.so.1.0.0  libhdfs.a         libhdfs.so.0.0.0
[[email protected] native]$ file libhadoop.so.1.0.0
libhadoop.so.1.0.0: ELF 64-bit LSB shared object, x86-64, version 1 (SYSV), dynamically linked, not stripped
[[email protected] native]$ 
时间: 2024-10-28 15:46:02

hadoop 日常问题汇总(持续更新)的相关文章

Xcode编译异常和警告汇总(持续更新中)

1.Method definition for 'xxx' not found xxx的方法没有实现 出现原因.h声明了xxx方法但是.m没有实现xxx方法 解决方法:在类的.m文件实现xxx方法 2. Instance variable ‘xxx' accessed in class method  在类方法中访问了'xxx’实例变量 出现原因:在类方法中使用了实例变量 解决方法:如果真得需要在类方法中使用某个变量,可以把这个变量定义成全局变量,而不要实例变量,如在类方法外面定义变量(就是定义

跟我学SpringCloud | 终篇:文章汇总(持续更新)

SpringCloud系列教程 | 终篇:文章汇总(持续更新) 我为什么这些文章?一是巩固自己的知识,二是希望有更加开放和与人分享的心态,三是接受各位大神的批评指教,有任何问题可以联系我: [email protected]. Github源码下载:https://github.com/meteor1993/SpringCloudLearning <跟我学SpringCloud>系列: Greenwich版 Spring Cloud Greenwich.SR1; Spring Boot 2.1

C++ 基础知识汇总 持续更新

摘录一些C++面试常考问题,写一些自己的理解,欢迎来摘果子. static关键字 用于声明静态对象: 静态函数只在本文件可见.(默认是extern的) 全局静态对象:全局静态对象,存储在全局/静态区,作用域整个程序,在程序结束才销毁: 局部静态对象:在函数内部加上static声明的变量,在首次调用时初始化,然后一直驻留在内存,作用域是该函数,可用于函数调用计数(primary有例子),程序结束释放: 静态数据成员:归属于类,类对象共享,类外初始化,类对象可访问: 静态函数成员:归属于类,只能访问

痞子衡嵌入式:史上最强i.MX RT学习资源汇总(持续更新中...)

大家好,我是痞子衡,是正经搞技术的痞子.今天痞子衡给大家介绍的是i.MX RT学习资源. 类别 资源 简介 官方汇总 i.MXRT产品主页 恩智浦官方i.MXRT产品主页,最权威的资料都在这里,参考手册/数据手册,官方EVK板设计文件,各种应用笔记,各种参考设计方案.培训视频.软件SDK开发包,官方IDE/CFG工具,第三方软件支持等应有尽有,如果这上面文档你都能全部仔细看一遍,软件都能下载用起来,不用怀疑,你就是资深专家了. 其中痞子衡特别推荐你把所有应用笔记都看一遍,这些笔记凝结了所有恩智浦

Type Script在Visual Studio 2013中的问题汇总(持续更新…)

◆ TypeScript在vs2012下的问题 TypeScript对VS2012支持度比较低,建议升级为VS2013版本. ◆ 在VS2013中无法创建TypeScript项目 VS2013默认不支持TypeScript. 需要在[工具]-[扩展和更新]中安装TypeScript,目前为止(2015年9月16日)for VS2013的最新版TS为1.5版本,但是实测有一些问题,建议安装比较稳定的1.4版本 ◆ 编译提示“TypeScript\1.4\1.4\tsc.exe 无效”的问题 解决方

[Linux] PuTTY指令汇总(持续更新中...)

写在前面: 以前真心没有玩过Linux系统,总感觉整天摆弄Linux的同学都是大牛.如今,在公司里实习需要远程登录Linux服务器,所有的代码都要在开发板上完成,所以被逼无奈也不得不定下心来好好学学Linux系统的各种操作.我现在用的远程登录软件是PuTTY,所以简单总结一下常用的PuTTY指令,方便以后进行查阅. 1. PuTTY介绍 随着Linux在服务器端应用的普及,Linux系统管理越来越依赖于远程.在各种远程登录工具中,PuTTY是出色的工具之一.PuTTY是一个免费的.Windows

Angular 学习资源汇总(持续更新ing)

AngularJS 是Google 推出的一套前端JS开发的 MV* (Model-View-Whatever)框架,它引入了一些编译器的概念,比如编译.链接,具有强大的双向数据绑定(Two-way binding)和前端模板功能(directive),使得我们可以轻易实现高服用.高可扩展性的脚本,大大提高编程的效率 鉴于国内Angular 的使用者比较少,这里主要汇总一些本人学习 Angular 以来看到的优质资源,一些是基本教程,一些是核心概念的讨论,还有一些是编程指导原则,希望对初学者有用

HiGIS期刊:GIS专业期刊汇总——持续更新!!!!

GIS专业期刊汇总,欢迎各位大神补充,各位研究僧们加油哇!!!!!!!!!!! Journal Name Journal Frequency Remote Sensing of Environment Monthly ISRPS Journal of Photogrammetry and Remote Sensing Bi-monthly IEEE Transactions on Geoscience & Remote Sensing Monthly Journal of Geodesy Rem

企业Linux运维几百个重点面试题汇总(持续更新)

目录: 第一部分:合格linux运维十五个必会原理知识(老男孩教育出品) http://user.qzone.qq.com/49000448/blog/1426386594 第二部分:合格linux运维必会MySQL 实战面试题近百个(老男孩教育出品)http://user.qzone.qq.com/49000448/blog/1427333863 第三部分:企业优秀运维人员20道必会iptables面试题 数十个(老男孩教育出品)http://oldboy.blog.51cto.com/256