博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Hadoop学习之Ubuntu12.04 Hadoop 环境搭建笔记
阅读量:7212 次
发布时间:2019-06-29

本文共 1498 字,大约阅读时间需要 4 分钟。

  • SSH无密码配置
  • Hadoop在Ubuntu12.04上搭建环境
  • 报错及问题

SSH无密码配置

参考:


注意问题:

Hadoop集成环境三台机器都要配置无密码环境,互相要可以ssh通。如果你想用主机名称来连接ssh的话要注意:

在每台机器(共三台)的 /etc/hosts 这个文件中的IP和主机各要对应,如下:主机IP        主机名192.168.139.134 master192.168.139.136 slaver192.168.139.135 slaner

Hadoop在Ubuntu12.04上搭建环境

参考:


按照参考认真配置完成后,注意如下问题:

每次修改任何一个文件都要记得执行如下命令:/etc/profile

Hadoop conf/目录下的slaves文件要配置你的所有非Master机器的IP或者主机名,前提是你已经在/etc/hosts文件中配置好了IP对应主机名主机名在:/etc/hostname 中修改

有时候你配置完成了,但是启动遇到很多问题,你可以执行下面语句:rm -rf /usr/local/hadoop/tmpmkdir /usr/local/hadoop/tmprm -rf /tmp/hadoop*source /etc/profilehadoop namenode -format

配置好Eclipse环境后,你会遇到这个界面:

这里写图片描述


如果在DFS locations 中的文件夹中提示 ”拒绝连接“ 那就是你没有把Hadoop配置好,重新配置。切记,所有的机器都要配置好。

Cannot connect to the Map/Reduce location: Hadoop1.0.3 Call to ubuntu/192.168.139.128:9000 failed on connection exception: java.net.ConnectException: 拒绝连接

如果你已经连接上了,但是,System中的目录下是空的,那也只能说明你没有配置好,有一种情况是我遇到的:我的非Master机器上的Hadoop配置文件写的Ip不是Master的IP,而是各机器自己的IP,这样是错误的。如下 图:

这里写图片描述


报错及问题

参考:

参考:
参考:


在Eclipse中运行你的小程序的时候,你可能会遇到 如下问题 :

org.apache.hadoop.hdfs.server.datanode.DataNode: java.io.IOException: Call to /192.168.139.135:9000 failed on local exception: java.io.IOException: 连接被对端重置

出现这种情况的原因 有一种情况就是你在Eclipse配置死了,如下:

右键配置Run Config


当你在上传文件到DFS中的时候,有时候会上传空文件,或者会报如下错误:

WARN hdfs.DFSClient: DataStreamer Exception: org.apache.hadoop.ipc.RemoteException: java.io.IOException: File /tmp/wordcount/word5.txt could only be replicated to 0 nodes, instead of 1

出现这种情况的一种原因是你没有关闭防火墙

sudo ufw disable #关闭防火墙

转载于:https://www.cnblogs.com/ChickenTang/p/5655413.html

你可能感兴趣的文章
林洋能源:布局能源互联网 分布式光伏龙头再扬帆
查看>>
理解 Linux/Unix 登录脚本
查看>>
C++程序设计:原理与实践(进阶篇)15.4 链表
查看>>
《C++面向对象高效编程(第2版)》——3.16 从函数中返回引用
查看>>
《JavaScript精粹(修订版)》——1.6 使用括号和分号结束符(一致的编码方式)...
查看>>
2.4 表单数据的验证
查看>>
《Android游戏开发详解》——第2章,第2.10节使用对象
查看>>
《OpenGL ES 2.0游戏开发(上卷):基础技术和典型案例》一第6章 让场景更逼真——光照效果...
查看>>
MongoDB介绍与安装
查看>>
《C语言接口与实现:创建可重用软件的技术》一1.5 习题
查看>>
《网页设计与前端开发 Dreamweaver+Flash+Photoshop+HTML+CSS+JavaScript 从入门到精通》—— 第1章 网页设计基础知识...
查看>>
Maven实战. 3.7NetBeans Maven插件简单使用
查看>>
Android开发技术周报 Issue#17
查看>>
《iOS 9 开发指南》——第6章,第6.7节iOS 9控件的属性
查看>>
this is incompatible with sql_mode=only_full_group_by
查看>>
TableView编辑状态下跳转页面的崩溃处理
查看>>
java操作阿里云的对象存储OSS
查看>>
linux 如何判断当前用户
查看>>
ERROR 1045 (28000): Access denied for user 'root'@'localhost' (using password: YES)
查看>>
魔兽世界客户端数据研究(四):M2文件头分析
查看>>