发明名称 |
为ETL任务分配节点的方法和调度系统 |
摘要 |
本发明实施例公开了一种为ETL任务分配节点的方法,包括:调度系统查询数据库中存储的ETL任务中是否存在当前能够运行的ETL任务;如果存在,则从当前能够运行的ETL任务中选择一个当前能够运行的ETL任务;所述调度系统判断是否存在专用于运行所述选择的ETL任务的节点;如果存在,则所述调度系统命令所述专用于运行所述选择的ETL任务的节点运行所述选择的ETL任务,否则,所述调度系统从专用于运行优先级低的ETL任务的节点和能够运行所有优先级的ETL任务的节点中选择一个节点,命令选择的节点运行所述选择的ETL任务,所述优先级低的ETL任务是指优先级比所述选择的ETL任务低的ETL任务。本申请实施例还提供了一种调度系统。 |
申请公布号 |
CN102236580A |
申请公布日期 |
2011.11.09 |
申请号 |
CN201010157778.5 |
申请日期 |
2010.04.26 |
申请人 |
阿里巴巴集团控股有限公司 |
发明人 |
杨柏刚;蒋延辉;刘敏戌 |
分类号 |
G06F9/50(2006.01)I;G06F17/30(2006.01)I |
主分类号 |
G06F9/50(2006.01)I |
代理机构 |
北京集佳知识产权代理有限公司 11227 |
代理人 |
逯长明;王宝筠 |
主权项 |
一种为抽取 转换 加载ETL任务分配节点的方法,其特征在于,适用于包括调度系统、用于运行ETL任务的节点和数据库的数据仓库系统,所述数据库中存储的多个ETL任务中的每个都对应一个优先级,当前至少有一组节点专用于运行当前最高优先级的ETL任务,所述方法包括:所述调度系统查询所述数据库中存储的ETL任务中是否存在当前能够运行的ETL任务;如果存在,则从当前能够运行的ETL任务中选择一个当前能够运行的ETL任务;所述调度系统判断是否存在专用于运行所述选择的ETL任务的节点;如果存在,则所述调度系统命令所述专用于运行所述选择的ETL任务的节点运行所述选择的ETL任务,否则,所述调度系统从专用于运行优先级低的ETL任务的节点和能够运行所有优先级的ETL任务的节点中选择一个节点,命令选择的节点运行所述选择的ETL任务,所述优先级低的ETL任务是指优先级比所述选择的ETL任务低的ETL任务。
|
地址 |
英属开曼群岛大开曼岛资本大厦一座四层847号邮箱 |