作业运维（新版）
MaxCompute作业运维功能支持查看历史作业和正在运行的作业，方便您了解作业运行详情及分析作业运行时的资源负载情况，帮助您对作业进行运维管理。功能介绍 MaxCompute的作业运维功能支持查看并运维您当前项目下 历史作业和正在运行的作业。...
作业编辑
背景信息 本文为您提供作业编辑的相关操作，具体如下：新建作业 设置作业 在作业中添加注解 运行作业 作业可执行操作 作业提交模式说明 前提条件 已创建项目或已被加入到项目中，详情请参见 项目管理。新建作业 进入数据开发的项目列表页面...
管理作业模板
通过作业模板，您无需配置作业参数，即可快速创建作业，提高工作效率。本文介绍如何创建、使用、编辑、删除作业模板。创建作业模板 创建作业模板时，一个地域下最多可创建20个作业模板。登录 弹性高性能计算控制台。在顶部菜单栏左上角处，...
通过控制台提交作业
E-HPC管理控制台提供了作业相关的提交作业、停止作业、查看作业状态等功能，本文介绍如何使用E-HPC管理控制台提交作业。前提条件 集群和集群节点状态都为 运行中。已创建用户，具体操作，请参见 管理用户。已准备好作业文件。E-HPC支持多种...
管理作业
在项目中，您可以通过创建作业来进行任务开发。本文为您介绍如何创建作业、设置和删除作业。前提条件 已创建项目，详情请参见 新建项目。创建作业 进入 项目空间 页面。使用阿里云账号登录 Databricks数据洞察控制台。在Databricks数据洞察...
创建和执行Spark作业
本文介绍如何在数据湖分析控制台创建和执行Spark作业。准备事项 您需要在提交作业之前先创建虚拟集群。说明 创建虚拟集群时注意选择引擎类型为 Spark。如果您是子账号登录，需要配置子账号提交作业的权限，具体请参考 细粒度配置RAM子账号...
ACID语义
作业类型 INSERT OVERWRITE/TRUNCATE作业（后结束）INSERT INTO作业（后结束）UPDATE/DELETE作业（后结束）MERGE小文件作业（后结束）INSERT OVERWRITE/TRUNCATE作业（先结束）先、后结束的作业都会执行成功。INSERT OVERWRITE/TRUNCATE...
提交作业
作业是E-HPC集群进行高性能计算的基本工作单元，包括Shell脚本、可执行文件等。本文介绍如何使用E-HPC客户端提交作业。准备工作 提交作业前，您需要准备好作业文件，并上传到E-HPC集群中。E-HPC客户端支持以下两种方式上传作业文件：通过...
作业智能诊断
Flink Advisor作业智能诊断服务能够帮您监控作业健康状况，分析和诊断错误日志、异常运行和风险情况，并提供可理解和可操作的诊断建议，全面保障您的业务稳定可靠运行。本文为您介绍如何使用作业智能诊断服务。背景信息 Flink Advisor作业...
MaxCompute作业运维管理
功能入口 重要 MaxCompute管家将于北京时间 2024年1月10日 陆续下线，请您使用新版作业运维，新版作业运维提供更丰富的过滤参数、作业参数和提供作业统计图、作业分析等功能，更好地帮助您进行作业运维管理，详情请参见 作业运维（新版）。...
临时查询
在 新建交互式作业 对话框中，填写 作业名称 和 作业描述，从 作业类型 列表中，选择新建的作业类型。E-MapReduce数据开发支持Shell、SparkSQL、Spark Shell和HiveSQL四种类型的临时查询作业。注意 创建作业时作业类型一经确定，不能修改。...
查询作业
提交作业后，您可以在E-HPC客户端查询作业数据，包括作业名称、作业状态、作业运行开始和结束时间，以及作业详情等，便于您了解集群运行作业的情况，及时调整作业任务。使用限制 如果集群采用标准方式部署，则仅支持具有sudo权限的用户查询...
作业状态集管理
系统检查点（Checkpoint）和作业快照（Savepoint）统称为状态集。本文为您介绍如何管理作业的状态集，包括创建、查看、删除和从指定状态恢复。背景信息 概念 详情 系统检查点（对应Apache Flink中的Checkpoint）生命周期完全由Flink系统...
作业运行常见问题
导致MaxCompute作业运行时长不达预期（作业运行慢）的原因通常可分为资源不足、作业问题、模式回退三种：资源不足 对于使用 包年包月 计算资源的作业，可能由于总体作业运行数据量大、申请资源多、作业优先级低而导致该作业出现资源等待...
引擎运维
在DataWorks实例任务中，E-MapReduce计算引擎任务会被分为若干作业有序执行。您可以使用DataWorks的引擎运维功能，查看各个E-MapReduce作业的详细信息，及时查找并清理运行有误的作业，避免该类作业阻塞下游任务，影响实例任务的正常运行。...
作业启动
完成作业开发和部署后，您需要在作业运维页面启动作业至运行阶段。此外，作业在停止后需要恢复、更新了非动态生效的参数配置需要生效时，也需要启动作业。本文为您介绍如何启动作业。前提条件 已完成作业部署，详情请参见 部署作业。使用...
部署作业
完成作业开发后，您需要将作业部署。部署将开发和生产隔离，部署后不影响运行中的作业，只有（重新）启动后才会正式上线运行。本文为您介绍如何部署SQL作业、JAR作业和Python作业。前提条件 已完成作业开发。SQL作业开发，详情请参见 SQL...
Flink SQL作业快速入门
本文通过简单的示例，带您快速体验Flink SQL作业的创建、部署和启动等操作，以了解Flink SQL作业的操作流程。前提条件 如果您使用RAM用户或RAM角色等身份访问，需要确认已具有Flink控制台相关权限，详情请参见 权限管理。已创建Flink工作...
监控作业
提交作业到E-HPC集群后，您可以在控制台查看作业监控数据，包括运行、提交、排队和完成作业数，便于您了解集群内作业的运行情况，及时调整集群规模和作业任务，提升集群工作效率。前提条件 支持作业监控的集群需满足以下条件：调度器为PBS...
计算资源使用
作业类型取值如下：SQL：SQL作业 SQLRT：查询加速SQL作业 SQLCost：SQL预估作业 LOT：MapReduce作业 CUPID：Spark或Mars作业 AlgoTask：机器学习作业 作业优先级 输入需要配置到规则里的作业优先级。输入 0-9 优先级区间，如：[0,3]表示...
设置调度器参数
假设集群只有一个8 vCPU的节点，如果Backfill周期设置为10s，则提交两个高优先级需要6 vCPU、运行时间为60 min的作业A和作业B后，再提交一个低优先级需要2 vCPU、运行时间为40 min的作业C时，作业运行情况如下：0s：开始调度，作业A开始...
作业引擎版本升级
升级流程 步骤一：备份作业状态 您可以在 作业运维 页面，单击目标作业，在作业详情中的 状态集管理 页签查看作业状态集，详情请参见 查看状态生成总览。如果您的作业属于有状态计算，那么在升级版本时，首要考虑的是状态能否复用。升级前...
事务管理
作业类型 INSERT OVERWRITE/TRUNCATE（后结束）INSERT INTO（后结束）UPDATE/DELETE（后结束）MINOR COMPACT（后结束）MAJOR COMPACT（后结束）INSERT OVERWRITE/TRUNCAT（先结束）先、后结束的作业都会执行成功。后结束的结果会覆盖先结束...
基础使用
本文为您介绍如何在E-MapReduce上提交Flink作业以及查看作业。背景信息 Dataflow集群中的Flink服务是以YARN模式部署的，您可以通过SSH方式登录Dataflow集群，在命令行中进行Flink作业提交。基于YARN模式部署的Dataflow集群支持以Session...
作业类型
背景 批量计算依据您使用集群方式的区别，将作业分为固定集群作业，自动集群作业，组合集群作业三种类型。下面分别介绍三种作业的优缺点，您可依据业务需求选择相应的作业类型。作业概述 固定集群作业 优点：集群支持分布式缓存，适用大...
JobItem
名称 类型 描述 示例值 object 作业详情信息 JobId string 作业 ID dlc-20210126170216-*JobType string 作业类型 TFJob DisplayName string 作业名称 tf-mnist-test UserId string 作业所属用户的 UID 123456789 Username string 作业提交...
计算成本优化
当您需要在保证作业完成的前提下降低包年包月规格计算资源的费用或遇到基于现有资源配置作业完成时间达不到预期的情况时，MaxCompute为您提供 计算成本优化 功能，可基于实际作业请求量和资源配置期望，对 包年包月一级Quota 类型的计算...
查看与修改作业运行状态
本文为您介绍如何查看和修改作业运行状态，以及不同状态所代表的含义。前提条件 其他阿里云账号或RAM用户共同使用实时计算Flink版产品时，需要为阿里云账号或RAM用户授权，以进行查看与修改作业运行状态等相关操作，详情请参见 作业操作...
迁移操作
本文为您介绍如何将Bayes上的作业迁移到 实时计算开发控制台，包括迁移步骤、使用限制和注意事项。前提条件 您已具备Bayes对应项目的Owner权限和目标Flink项目空间的Owner权限，Flink权限管理详情，请参见 权限管理。Flink工作空间和Bayes...
客户端功能概述
提交作业 运行应用 应用中心支持界面化提交作业，目前支持以下应用：GROMACS HPL iPerf FIO AutoDock Vina 运行GROMACS进行分子动力学模拟 运行HPL、iPerf和FIO以测试集群性能 使用AutoDock Vina软件进行药物筛选 查询作业 提交作业后，...
API概览
作业实例 API 标题 API概述 StopJob 停止作业实例 停止一个作业实例。StartJobWithParams 启动作业实例 创建并启动一个作业实例。StartJob 启动作业实例（废弃）创建并启动一个作业实例。GetJob 获取作业实例 获取作业实例的详细信息。...
作业实例详情
本文为您介绍如何查看作业实例详情。查看作业实例详情 MaxCompute Studio支持2种方式查看MaxCompute作业实例详情。通过Logview URL或本地的Logview离线文件以只读方式打开作业详情。使用Logview查看作业的详细信息是比较常用的方式。使用...
Flink Python作业快速入门
本文带您快速体验Flink Python流作业和批作业的创建、部署和启动，以了解实时计算Flink版Python作业的操作流程。前提条件 如果您使用RAM用户或RAM角色等身份访问，需要确认已具有Flink控制台相关权限，详情请参见 权限管理。已创建Flink...
API概览
QueryAnalysisJobList 查询模板分析作业 查询模板分析作业，模板分析作业完成后，返回可用的预置模板列表。自定义转码模板接口 API 标题 API概述 AddTemplate 新增自定义转码模版 创建自定义模板，包含容器信息，视频跟音频流等设置。...
通过控制台管理作业
本文介绍通过 云原生多模数据库 Lindorm 控制台管理计算引擎作业，包括创建、查看和终止Spark作业。前提条件 已开通计算引擎。如何开通，请参见 开通与变配。已完成作业开发。如何开发，请参见 JAR作业开发实践 或 Python作业开发实践。已...
停止作业
当作业运行失败或不再需要运行该作业时，您可以停止处于QUEUE或RUNNING状态的作业。本文介绍如何停止作业。前提条件 作业必须处于 QUEUE 或 RUNNING 状态。操作步骤 登录 弹性高性能计算控制台。在顶部菜单栏左上角处，选择地域。在左侧...
使用Logview 2.0查看作业运行信息
作业详情 您可以通过作业详情区域全方位了解作业，作业详情区域包含如下功能区：Job Details 作业执行图 Job Detail 页签的上半部分为作业执行图。执行图以可视化方式展示三个维度的子任务依赖关系：Fuxi Job层、Fuxi Task层和Operation层...
计算费用（按量付费）
计费公式 类型 价格 说明 示例 MapReduce作业当日计算费用=当日总计算时×单价 一个执行成功的MapReduce作业计算时=作业运行时间（小时）×作业调用的Core数量 标准MapReduce作业（指使用按量付费标准版计算配额的MapReduce作业）一般情况...
作业投递
AnalyticDB MySQL 数仓版（3.0）的作业投递功能支持将资源组中满足一定条件的查询作业（通常为资源消耗大、耗时久的大查询）投递至指定一资源组中，避免影响资源组中其他查询作业。本文介绍如何开启并使用作业投递功能。前提条件 ...
作业浏览
通过MaxCompute Studio的Job Explorer可以方便查看当前用户提交的MaxCompute实例情况，包括运行状态、作业类型、起止时间等。打开Job Explorer 在顶部菜单栏，单击 View>Tool Windows>Job Explorer 打开 Job Explorer。查看项目的作业实例 ...
- 产品推荐
- 这些文档可能帮助您