队列管理
队列管理
使用场景:空间管理员对本空间的调度作业运行队列进行管理,当多个作业任务并发运行时,超过队列槽位数的作业任务会排队等待,以避免平台资源消耗过大。
使用角色:空间管理员。
功能描述:平台支持各空间管理员维护本空间可用的队列,后续可关联至数据加工、指标加工、标签加工、数据质检等作业,以实现通过队列控制作业任务并发,并支持新建、修改、删除、查看队列信息。
队列配置
新建
进入系统管理 > 队列管理界面,点击队列管理列表上方的 “新建队列” 按钮。出现弹窗后按照页面内容填写相关内容,点击弹窗页面下方的 “保存” 按钮即可新建队列。
- 队列信息项说明
- 名称:必填项,根据业务实际场景填写队列名称;
- 槽位数:必填项,根据实际资源情况填写槽位数量,一个队列最大支持10个槽位,即10个作业任务并发运行;
- 描述:非必填,对此队列作用或其他方面信息进行描述。
注意
- 系统提供默认队列,各作业可以直接使用默认队列;如若需要可调整默认队列槽位数,默认队列不可删除
- 一个空间最多支持创建10个队列
- 不建议创建过多队列,当前资源为所有空间共用,过多队列会造成资源抢夺,无法达到控制资源消耗的目的
修改
检索到目标队列后,在操作列点击 “修改” 按钮,出现弹窗后在根据界面内容填写相关信息项后点击下方 “保存” 按钮,即可对当前队列相关信息进行修改。
- 说明:拥有队列修改系统权限可修改队列,修改后作业下次调度按新队列信息运行
删除
通过查询找到目标队列,在操作列点击 “删除” 按钮,出现弹框后点击 “确定” 经二次确认后即可删除当前队列。
- 说明:拥有队列删除系统权限可删除队列;若已关联,则抽屉展示已关联内容,确定后删除队列,并将关联作业自动切换关联默认队列
相关使用配置
资源权限
授权使用:若已开启“资源权限管控”,使用以下功能时只可选择有资源权限的队列,授权操作详见权限管理-资源权限
- 数据加工-调度配置:运行队列,无资源权限队列过滤不可见
- 指标加工-调度配置:运行队列,无资源权限队列过滤不可见
- 标签加工-调度配置:运行队列,无资源权限队列过滤不可见
- 质检作业-调度配置:运行队列,无资源权限队列过滤不可见
权限回收:当队列资源权限回收,相关作业下次调度自动切换至默认队列。
查看
通过查询找到目标队列,点击 “队列名称” 链接即可查看当前队列相关信息,包括队列基本信息、关联作业、运行队列、等待队列。
- 关联作业,展示在调度配置-运行策略绑定使用当前队列的作业,可点击作业名称快速跳转查看;支持“调整优先级”,调整后“调度配置”界面自动同步变更,下次调度即使用调整后的优先级;
- 运行队列,展示当前时间该队列中正在运行的作业任务,可点击作业名称、作业任务ID快速跳转查看;支持手动“终止”正在运行的作业任务;
- 等待队列:展示当前时间正在排队等待进入该队列的作业任务,可点击作业名称、作业任务ID快速跳转查看;支持手动“取消排队”,则任务实例直接取消不再运行,需等待下次调度生成新的任务实例;支持手动“调整优先级”,此处调整仅针对当前排队的任务实例,即通过调整优先级可改变该任务进入运行队列的顺序,作业配置的优先级不会同步调整,后续依旧按配置的优先级运行。
注意
- 同一个作业在同一队列中只允许占用运行队列一个槽位,即同一个作业若产生了多个任务实例堆积,也只会有一个任务先进入运行队列,其余均排队直至队列中无同一个作业的任务实例后再进入一个;
- 因调度冲突忽略的作业任务实例不进入等待队列;
- 队列存在空槽位且等待队列无任务时,新任务直接进入运行队列执行,否则会先进入等待队列以判定执行顺序;
- 进入等待队列的作业任务,会通过以下算法计算该任务的排队码,以判定进入运行队列时机:
- 每个作业实例在等待队列都有个排队码,排队码= 时间戳(计划执行时间)-(3-优先级)*权重
- 其中优先级 1 高、2中、3低;权重默认60s;
- 立即运行任务因场景需要会特殊处理,立即运行排队码=时间戳(计划执行时间-10年)-(3-优先级)*权重
使用方式
平台提供空间级队列管理,数据开发人员可在调度配置-运行策略绑定使用本空间的队列,以通过队列槽位数控制任务并发,避免同一时刻资源消耗过大,影响系统运行。