加入收藏 | 设为首页 | 会员中心 | 我要投稿 湖南网 (https://www.hunanwang.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 站长百科 > 正文

oracle – 在不增进Cores的环境下增进Spark Executor中的并行度

发布时间:2021-03-06 05:14:13 所属栏目:站长百科 来源:网络整理
导读:我正在运行一个Spark-Kafka Streaming功课,有4个执行器(每个1个焦点).而kafka源主题有50个分区. 在流式java措施的foreachpartition中,我正在毗连到oracle并做一些事变. Apache DBCP2用于毗连池. Spark-streaming措施与数据库成立4个毗连 – 每个执行措施也许

我正在运行一个Spark-Kafka Streaming功课,有4个执行器(每个1个焦点).而kafka源主题有50个分区.

在流式java措施的foreachpartition中,我正在毗连到oracle并做一些事变. Apache DBCP2用于毗连池.

Spark-streaming措施与数据库成立4个毗连 – 每个执行措施也许为1.可是,我的祈望是 – 因为有50个分区,应该有50个线程在运行而且存在50个数据库毗连.

如安在不增进内核数目的环境下增进并行度.

办理要领

你的祈望是错误的.一个焦点是Spark定名法中的一个可用线程和一个可以在其时处理赏罚的分区.

4“焦点” – > 4个主题 – > 4个分区颠末全心处理赏罚.

(编辑:湖南网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    热点阅读