网赢中国专注大数据营销 [会员登录][免费注册][网赢中国下载]我要投稿|加入合伙人|设为首页|收藏|RSS
网赢中国是大数据营销代名词。
大数据营销
当前位置:网赢中国 > 行业资讯 > 技术文章 > 大数据营销技术文章 > Hadoop作业提交深度剖析1–作业提交与初始化概述-Hadoop
Hadoop作业提交深度剖析1–作业提交与初始化概述-Hadoop
编辑:wuyudon 发布时间: 2015-7-9    文章来源:工学1号馆
大数据营销

在这个系列中,我将深入分析一个MapReduce作业的提交与初始化过程


 


从用户输入提交作业命令到作业初始化的整个过程,该过程涉及JobClient、JobTrack和TaskScheduler三个组件,它们的功能分别是:准备运行环境、接收作业、初始化作业。


作业的提交过程比较简单,主要是为后续的作业执行准备环境,主要涉及创建目录、上传文件等操作,而一旦用户提交作业后,JobTrack端便会对作业进行初始化。


作业初始化的主要工作是根据输入数据量和作业配置参数将作业分解成若干个Map Task以及Reduce Task,并添加到相关数据结构中,以等待后续被调用执行,总之,可用下图来表示MapReduce作业提交与初始化过程:


20150625212440


具体分为下面几个步骤:


步骤1:用户使用Hadoop提供的Shell命令提交作业。


步骤2:JobClient按照作业配置信息(JobConf)将作业运行需要的全部文件上传到JobTracker文件系统(通常为HDFS)的某个目录下。


步骤3:JobClient调用RPC接口向JobTracker提交作业。


步骤4:JobTracker接收到作业后,将其告知TaskScheduler,由TaskScheduler对作业进行初始化。


大数据营销
编辑推荐
图片行业资讯
  • 雷军隔空喊话董明珠:格力 小米欢迎你
  • 杨元庆:Moto在华上市一周预定量超100万
  • 小米洪锋谈O2O布局:做商城不做具体服务
  • 盖茨向不知名实体捐赠15亿美元微软股票 持股降至3%
  • 刘强东:允许我获取数据 冰箱免费送给你
营销资讯搜索
大数据营销
推荐工具
    热点关注
    大数据营销
    大数据营销
    大数据营销
    大数据营销
     

    大数据营销之企业名录

    网络营销之邮件营销

    大数据营销之搜索采集系列

    大数据营销之QQ号采集

    大数据营销之QQ精准营销

    大数据营销之QQ消息群发

    大数据营销之空间助手

    大数据营销之QQ联盟

    大数据营销之QQ群助手
     
    设为首页 | 营销资讯 | 营销学院 | 营销宝典 | 本站动态 | 关于网赢中国 | 网站地图 | 网站RSS | 友情链接
    本站网络实名:网赢中国  国际域名:www.softav.com  版权所有 2004-2015  深圳爱网赢科技有限公司
    邮箱:web@softav.com 电话:+86-755-26010839(十八线) 传真:+86-755-26010838
    在线咨询:点击这里给我发消息 点击这里给我发消息 点击这里给我发消息  点击这里给我发消息  点击这里给我发消息

    深圳网络警
    察报警平台
    公共信息安
    全网络监察
    经营性网站
    备案信息
    不良信息
    举报中心
    中国文明网
    传播文明
    分享