SparkCore的组件Components怎么用
这期内容当中小编将会给大家带来有关SparkCore的组件Components怎么用,文章内容丰富且以专业的角度为大家分析和叙述,阅读完这篇文章希望大家可以有所收获。
创新互联主要从事网页设计、PC网站建设(电脑版网站建设)、wap网站建设(手机版网站建设)、自适应网站建设、程序开发、网站优化、微网站、成都小程序开发等,凭借多年来在互联网的打拼,我们在互联网网站建设行业积累了丰富的成都网站设计、网站制作、外贸营销网站建设、网站设计、网络营销经验,集策划、开发、设计、营销、管理等多方位专业化运作于一体。
一.组件Components
1.官网位置体现
2.术语位置
3.数据解释与注意事项
Application:SparkContext a driver program + executors Spark-shell 是一个 Application 一个程序里面只能有一个SparkContext Driver program 主要理解为main方法 The process running the main() function of the application and creating the SparkContext Cluster manager --master 设置上去的 Deploy mode 区分Driver 运行在哪里 区分client 还是集群 Worker node 相当于nodemanager Executor(进程)无代码,通过driver发过去的 相当于contain容器 大部分executors自己管自己独立,也有共享的 A process launched for an application on a worker node, that runs tasks and keeps data in memory or disk storage across them. Each application has its own executors. Task 一个工作单元,可以发送到executor 上去 A unit of work that will be sent to one executor Job 触发action产生 task并行执行,遇到action产生job main program 也叫 driver program cluster managers 集群管理器
4.组件图的总结
解释:下图 刚开始需要申请资源,后来是传代码运行,发送到executor spark 应用程序独立的运行在集群上,在program 运行sparkcontext 在集群上运行,sc连接到集群管理器,sc 去获取应用程序要的资源 一旦连接,spark请求集群上的executors资源, 在executors 资源中计算和存储数据对于你的应用程序 接下里会发送代码通过sc,发送到executors,最终task会在 executors 中运行
5.application组成
右 n jobs 包含 n stages 包含 n tasks stage默认就一个除非遇到shuffer 最终: application = n jobs + n stages + n tasks
二.组件的官网笔记注意事项
1.官网位置体现
2.解释
agnostic 不知道 executor 与driver间有通信,防止挂了 资源管理器申请资源 action产生job 每个应用程序有它自己的应用进程,executor一直保持整个应用程序,并且 task在里面一直运行,对于互相有好处,一方面是调度反面(每个应用调度有它自己 的task),另一个方面是executor里面运行的task运行在自己的JVM中不影响互相 但是,它也意味着数据不可以共享对于不同的应用程序,但是你要写到 外部系统可以共享 spark是不用关心你运行在什么模式上 这个应用程序必须监听和接受executo的通知,保持活性,防止挂掉 任务放在集群上,最好放在离worker 近的位置,特别同一个网络
上述就是小编为大家分享的SparkCore的组件Components怎么用了,如果刚好有类似的疑惑,不妨参照上述分析进行理解。如果想知道更多相关知识,欢迎关注创新互联行业资讯频道。
文章标题:SparkCore的组件Components怎么用
新闻来源:http://ybzwz.com/article/ggdodh.html