Spark on Kubernetes 的现状与挑战
发布时间：2019-08-02 21:56:45 所属栏目：移动互联 来源：尼不要逗了
导读：云原生期间，Kubernetes 的重要性日益凸显，这篇文章以 Spark 为例来看一下大数据生态 on Kubernetes 生态的近况与挑衅。 1. Standalone 模式 Spark 运行在 Kubernetes 集群上的第一种可行方法是将 Spark 以 Standalone 模式运行，可是很快社区就提出行使
|
在 Kubernetes 中，资源分为可压缩资源(好比 CPU)和不行压缩资源(好比内存)，当不行压缩资源不敷的时辰就会将一些 Pod 遣散出当前 Node 节点。海内某个大厂在行使 Spark on kubernetes 的时辰就碰着由于磁盘 IO 不敷导致 Spark 功课失败，从而间接导致整个测试集都没有跑出来功效。怎样担保 Spark 的功课 Pod (Driver/Executor) 不被遣散呢?这就涉及到优先级的题目，1.10 之后开始支持。可是说到优先级，有一个不行停止的题目就是怎样配置我们的应用的优先级?通例来说，在线应用可能 long-running 应用优先级要高于 batch job，可是显然对付 Spark 功课来嗣魅这并不是一种好的方法。 4.功课日记。 （编辑：湖南网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
