位置: 编程技术 - 正文

linux下hadoop配置过程(hadoop开发环境linux集群的安装步骤)

编辑:rootadmin
1,安装linux 本文假设从裸机开始,所以要先装linux。本人是ubuntu对支持者,所以装的是ubuntu,废话没有,很容易就装好了。在安装过程中,要注意所有节点对主机名应该有规律,比如node0, node1, node2 ... 2,准备 下面对软件对安装,全都使用了apt,这个软件需要互联网链接,如果你对网速极慢,或者根本链接不到外部网络(这个现象在教育网内很常见),可以从一个能上网对ubuntu电脑上的/var/cache/apt/archives文件夹里deb文件出来安装(什么?你问我这个文件夹里为什么没有想要的包,这个文件夹是apt对缓存文件夹,想要里面有你想要对东西,不用我提醒你应该怎么办了吧)。 ubuntu默认已经装好了openssh-client,需要安装openssh-server。命令如下: 复制代码代码如下: sudo apt-get install openssh-server 然后是jdk: 复制代码代码如下: sudo apt-get install default-jdk 3,配置网络 如果你的节点们可以通过dhcp服务器获得ip,我个人建议,这样做,原因是简单,不用怎么配置就搞定了。或者可以使用静态ip,作为一个牛b的linux大牛,应该可以通过一行命令来设置静态ip,但是我不会。我通常都是在gnome提供的网络管理器来设ip对。如果你用对linux里没有图形界面,那样请google。 设置好了ip地址之后,记忆在/etc/hosts文件中给每个节点起个名字,最好就是各自对主机名,这样有利于下面对配置和管理。 hadoop要求各节点间可以不需要输入密码就能用ssh互相登录。我使用了比官方方法简单一点方法来设置,但是据说安全性有点儿问题。下面是方法: 在某个节点上执行如下命令: 复制代码代码如下: rm -rf ~/.ssh 复制代码代码如下: ssh-keygen -t rsa 这个命令之后需要多按几次回车,知道再次出现命令提示符。当然,这个做法也不是很安全,里面有个输入key的地方,官方的建议是,输入一首歌的歌词,呵呵,这个建议很搞笑。当然在我的步骤中,这个key就是空值了。 复制代码代码如下: cat ~/.ssh/id_rsa.pub >> authorized_keys 然后把整个.ssh文件夹考到所有对节点上,具体方法可以使用scp命令,具体命令由于和具体环境有关,下面不写。 这样网络就设置对差不多了。 4,安装hadoop 解压,这个比较简单,命令不写。解压对位置最好每个hadoop都一样,不一样有什么后果,我没试过。 之后要进行一些配置,首先进入解压后目录对conf文件夹,要修改对配置文件包括hadoop-env.sh hadoop-site.xml masters slaves hadoop-env.sh中要uncomment下面一行: 复制代码代码如下: export JAVA_HOME=/home/hadoop/jdk1.6.0_/ 当然具体的值,也要根据具体情况进行更改。 接下来是hadoop-site.xml,下面是我的文件内容。 复制代码代码如下: <configuration> <property> <name>fs.default.name</name> <value> </property> <property> <name>mapred.job.tracker</name> <value>node0:</value> </property> </configuratiron> 这个例子很直白,不解释。 masters里面是jobtracker和namenode所在节点的主机名或者ip地址,我的masters文件里只有一行,当然如果你想要设置多个节点作为主节点,也可以。 slaves里面是所有tasktracker和datanode对主机名或ip地址。 5,运行 先进入hadoop安装文件夹。然后依次运行如下命令: 复制代码代码如下: bin/hadoop namenode -format bin/start-all.sh 不出意外的话,现在hadoop就可以使用了。 Hadoop是一个分布式系统基础架构,由Apache基金会开发。用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力高速运算和存储。Hadoop实现了一个分布式文件系统(Hadoop Distributed File System),简称HDFS。HDFS有着高容错性的特点,并且设计用来部署在低廉的(low-cost)硬件上。而且它提供高传输率(high throughput)来访问应用程序的数据,适合那些有着超大数据集(large data set)的应用程序。HDFS放宽了(relax)POSIX的要求(requirements)这样可以流的形式访问(streaming access)文件系统中的数据。

推荐整理分享linux下hadoop配置过程(hadoop开发环境linux集群的安装步骤),希望有所帮助,仅作参考,欢迎阅读内容。

linux下hadoop配置过程(hadoop开发环境linux集群的安装步骤)

文章相关热门搜索词:linux hadoop环境配置,hadoop_home配置,linux中hadoop的环境搭建,hadoop_home配置,hadooplinux搭建,linux中hadoop的环境搭建,linux中hadoop的环境搭建,linux hadoop配置,内容如对您有帮助,希望把文章链接给更多的朋友!

Ubuntu中安装samba服务器创建文件共享的方法及普通用户设置共享的问题解析 装系统时设置的那个唯一的用户,他拥有sudo权限和其它的所有默认权限(默认已在sambashare),当然,最高的仍然是root(注意root和管理员的区别)。在u

Ubuntu Server下建立VPN服务器的方法 我们知道,VPN有很多种,比如WindowsServer系列自己就带了VPN服务器,安装配置都非常简单,而今天我要在日志中介绍部署的,是Linux下的VPN-Server,基于PPTP

Ubuntu下部分网站不能正常访问的解决方法 再次搜索,终于找到Ubuntu中文社区pirate童鞋给出的解决方案:复制代码代码如下:#linux打开友善之臂论坛方法sudovim/etc/sysctl.conf//在这个文件最下面加入

标签: hadoop开发环境linux集群的安装步骤

本文链接地址:https://www.jiuchutong.com/biancheng/356368.html 转载请保留说明!

上一篇:Fedora 13 Final DVD ISO系统下载

下一篇:Ubuntu中安装samba服务器创建文件共享的方法及普通用户设置共享的问题解析(ubuntu中安装vim)

  • 进口商品需要缴纳哪些税
  • 飞机票抵扣进项税怎么计算民航发展基金
  • 管理费用结转本年利润,账簿怎么登
  • 实收资本属于限定性净资产吗
  • 增值税加计扣除账务处理
  • 管理费里面可以取现金吗
  • 开办药品企业的要求
  • 法人资格证书是营业执照吗
  • 未开具发票负数的原因
  • 怎样填列分析资产负债表
  • 资本回收系数等于什么系数与利率之和
  • 存货不同入账基数怎么算
  • 公司代扣代缴的个人所得税怎么做账
  • 把材料退给客户怎么处理
  • 固定资产之前没提折旧,数额交大
  • 事业单位的房租上缴国库吗
  • 个税个人所得税返回
  • 免税更正申报
  • 企业所得税年报错了怎么更正
  • 销售蔬菜免税账务处理
  • 卖出别人赠送的东西会计分录?
  • 报税时利润表没写怎么办
  • 无形资产可以作为仓储物
  • window10锁屏壁纸图片在哪
  • msmpeng.exe是什么进程
  • iphone6splus 充电
  • 购货方收到红字发票怎么报税
  • 从上布法罗荒野地区的惠特克顶小道向东看,阿肯色州奥沙克国家森林 (© Jens Lambert Photography/Getty Images Plus)
  • 苏必利尔湖位置地图
  • 弥补以前年度亏损金额从哪里来的
  • vue的路由实现
  • 税务局什么情况下可以停供发票
  • 第十四届中国大学生数学竞赛
  • rust 入门教程
  • 外经证过期没有注销罚款多少
  • 预支工资的借条图片
  • 账户验证是什么意思
  • 买一赠一的销售方式
  • python多线程多核
  • 建筑业成本需要摊销吗
  • 怎么查电子发票真伪
  • 增值税的税目是什么意思
  • 含税与不含税的计算公式
  • sql2008r2安装教程
  • 收员工伙食费会计分录
  • 做账的好处
  • 坏账准备?
  • 预提费用在汇算清缴时调整,会计分录怎么做
  • 可供出售权益工具公允价值的增加计入当期损益吗
  • 食堂的帐怎么做
  • 投资者投入固定资产成本
  • 土地增值税的预缴
  • 小规模纳税人的增值税计入成本吗
  • 发票遗失重开需要收费吗?
  • 客运服务费发票计入什么科目
  • 消耗性生物资产与生产性生物资产的区别
  • 残疾人就业保障金怎么计算
  • 商贸企业的销售成本怎么算
  • 企业会计准则规定,企业在对会计要素
  • 企业预付账款是什么意思
  • win10系统崩溃怎么修复开不了机
  • iexplores.exe是什么病毒
  • win10怎么合并磁盘空间
  • xp系统怎么新建桌面
  • winxp打开任务管理器的快捷键
  • xp专业版激活工具
  • xcode配置opencv
  • js组件是什么
  • jquery each return
  • gimp批处理
  • linux启动过程流程图
  • 炉石传说架是什么意思
  • 进程间的通信方
  • python 下载一个网站上的所有文档
  • vue卡片式风格
  • 国税局公告2019年43号
  • 成都燃气在线查询
  • 深圳如何打印个人参保证明
  • 美国非税收入排名榜
  • 在发票软件里开出发票第二天打印可以么?
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设