加入收藏 | 设为首页 | 会员中心 | 我要投稿 湖南网 (https://www.hunanwang.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 教程 > 正文

Hadoop大数据通用处理赏罚平台

发布时间:2019-03-15 07:26:05 所属栏目:教程 来源:Java的小本家
导读:Hadoop是一款开源的大数据通用处理赏罚平台,其提供了漫衍式存储和漫衍式离线计较,得当大局限数据、流式数据(写一次,读多次),不得当低延时的会见、大量的小文件以及频仍修改的文件。 *Hadoop由HDFS、YARN、MapReduce构成。 假如想进修Java工程化、高机能及分

4.设置YARN(yarn-site.xml)

  1. <configuration> 
  2.  <!-- 设置Reduce取数据的方法是shuffle(随机) --> 
  3.  <property> 
  4.  <name>yarn.nodemanager.aux-services</name> 
  5.  <value>mapreduce_shuffle</value> 
  6.  </property> 
  7. </configuration> 

5.设置MapReduce(mapred-site.xml)

  1. <configuration>  
  2.  <!-- 让MapReduce使命行使YARN举办调治 -->  
  3.  <property>  
  4.  <name>mapreduce.framework.name</name>  
  5.  <value>yarn</value>  
  6.  </property>  
  7. </configuration> 

6.设置SSH

因为在启动hdfs、yarn时都必要对用户的身份举办验证,因此可以设置SSH配置免暗码登录。

  1. //天生秘钥 
  2. ssh-keygen -t rsa  
  3. //复制秘钥到本机 
  4. ssh-copy-id 192.168.1.80 

3.3 启动HDFS

1.名目化NameNode

Hadoop大数据通用处理赏罚平台

2.启动HDFS,将会启动NameNode、DataNode、SecondaryNameNode三个历程,可以通过jps呼吁举办查察。

Hadoop大数据通用处理赏罚平台

*若启动时呈现错误,则可以进入logs目次查察响应的日记文件。

当HDFS启动完毕后,可以会见http://localhost:50070进入HDFS的可视化打点界面,可以在此页面中监控整个HDFS集群的状况而且举办文件的上传以及下载。

*进入HDFS监控页面下载文件时,会将哀求重定向,重定向后的地点的主机名为NameNode的主机名,因此客户端当地的host文件中必要设置NameNode主机名与IP的映射相关。

3.4 启动YARN

Hadoop大数据通用处理赏罚平台

(编辑:湖南网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

热点阅读