加入收藏 | 设为首页 | 会员中心 | 我要投稿 湖南网 (https://www.hunanwang.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 教程 > 正文

Hadoop运行在Kubernetes平台实践

发布时间:2018-12-17 22:50:28 所属栏目:教程 来源:店家小二
导读:Hadoop与Kubernetes就仿佛江湖里的两大绝世好手,一个是成名已久的父老,至今如故名声远扬,一个则是初出茅庐的青涩少年,骨骼诧异,不走通俗路,一脱手便惊诧了整个武林。Hadoop与Kubernetes之间有很深的渊源,由于都出自IT权门Google,只不外,后者是亲

对应的Pod界说如下:

  1. apiVersion: v1 
  2. kind: Pod 
  3. metadata: 
  4. name: yarn-master 
  5. labels: 
  6. app: yarn-master 
  7. spec: 
  8. containers: 
  9. - name: yarn-master 
  10.   image: kubeguide/hadoop 
  11.   imagePullPolicy: IfNotPresent 
  12.   ports: 
  13.     - containerPort: 9000 
  14.     - containerPort: 50070     
  15.   env: 
  16.     - name: HADOOP_NODE_TYPE 
  17.       value: resourceman 
  18.     - name: HDFS_MASTER_SERVICE 
  19.       valueFrom: 
  20.         configMapKeyRef: 
  21.           name: ku8-hadoop-conf 
  22.           key: HDFS_MASTER_SERVICE 
  23.     - name: HDOOP_YARN_MASTER 
  24.       valueFrom: 
  25.         configMapKeyRef: 
  26.           name: ku8-hadoop-conf 
  27.           key: HDOOP_YARN_MASTER           
  28. restartPolicy: Always 

今朝这个方案,还遗留了一个题目有待办理:HDFS NameNode节点重启后的文件体系名目化题目,这个题目可以通过启动脚原来办理,即判定HDFS文件体系是否已经名目化过,假如没有,就启动时辰执行名目化呼吁,不然跳过名目化呼吁。

安装完毕后,我们可以通过赏识器会见Hadoop的HDFS打点界面,点击主页上的Overview页签会表现我们认识的HDFS界面:

Hadoop 运行在 Kubernetes平台实践

切换到Datanodes页签,可以看到每个Datanodes的的信息以及当前状态:

Hadoop 运行在 Kubernetes平台实践

接下来,我们可以登录到NameNode地址的Pod里并执行HDSF呼吁举办成果性验证,下面的呼吁执行功效是成立一个HDFS目次,而且上传一个文件到此目次中:

  1. root@hadoop-master:/usr/local/hadoop/bin# hadoop fs -ls  / 
  2. root@hadoop-master:/usr/local/hadoop/bin# hadoop fs -mkdir /leader-us 
  3. root@hadoop-master:/usr/local/hadoop/bin# hadoop fs -ls / 
  4. Found 1 items 
  5. drwxr-xr-x   - root supergroup          0 2017-02-17 07:32 /leader-us 
  6. root@hadoop-master:/usr/local/hadoop/bin# hadoop fs -put hdfs.cmd /leader-us 

然后,我们可以在HDFS打点界面中赏识HDFS文件体系,验证适才的操纵功效:

Hadoop 运行在 Kubernetes平台实践

(编辑:湖南网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

热点阅读