2.3 Spark运行架构与原理

作者：小丑西瓜9 | 2024-05-15 10:47:31

踩

2.3 Spark运行架构与原理

Spark运行架构由SparkContext、Cluster Manager和Worker构成。在集群模式下，Driver进程初始化SparkContext并向Cluster Manager申请资源，后者根据算法在Worker节点上启动Executor。Executor负责任务执行，反馈状态给Cluster Manager。任务由Task Scheduler发送给Executor执行，完成后Driver注销资源。 Spark的基本流程确保资源管理和任务执行的高效协作，支持并行计算作业的顺利完成。在这里插入图片描述

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/小丑西瓜9/article/detail/572487