阿里云文档 2024-11-28

发布中心功能介绍

在数据权限管控严格的研发流程下,开发者通常会在开发项目内完成任务开发、基础属性和调度属性配置、补数据测试后,提交任务至发布中心,发布成功的任务才能在生产环境生效并调度运行,以实现开发和生产运维的数据隔离,保证资产质量。

文章 2024-10-17 来自:开发者社区

Dataphin功能Tips系列(31)-自定义资源组

场景 某零售企业最近在做促销活动,希望保证某些数据处理任务(订单处理、库存更新)任务能够快速按时完成,如何保证这些高优任务的调度资源不被其他任务占用,能按时执行? 解决方案及功能 Dataphin提供了自定义资源组的功能,为高优先级任务分配一个单独的资源组,保证高峰期能够有足够的调度资源,任务及时产出 1、【系统设置-资源设置】可以...

Dataphin功能Tips系列(31)-自定义资源组
文章 2024-10-17 来自:开发者社区

Dataphin功能Tips系列(30)-限流配置

场景 某大型电商平台在每天的凌晨时段需要进行大量的数据处理任务,比如订单处理、库存同步、用户行为分析等。此外,平台还需要定期进行历史数据的补数据工作,以确保数据完整性和一致性。在进行补数据时,如果需要补的历史时间周期比较长,这些批处理任务会消耗大量的计算资源,导致批处理任务(如订单处理、库存同步)响应变慢甚至超时失败,这是我们应该怎么保障每天的批处理任务(订单处理、库存同步)的...

Dataphin功能Tips系列(30)-限流配置
文章 2024-10-17 来自:开发者社区

Dataphin功能Tips系列(29)-计算任务版本对比/版本回滚

场景 开发人员小张先前编写的一个脚本,在进行了修订之后,发现逻辑出现了偏差,但他已经不记得前一版本的具体内容了。在这种情况下,应该怎样通过版本对比来看出两版脚本之间的差别,并且回滚到之前的版本呢? 解决方案及功能 1、在编辑器右边的【历史】侧边栏中会列出历史的所有版本,可以点击版本对比,查看两版脚本的区别,系统会自动用不同的颜色标注出差异点...

Dataphin功能Tips系列(29)-计算任务版本对比/版本回滚
文章 2024-10-17 来自:开发者社区

Dataphin功能Tips系列(28)-跨节点参数

场景 某经销零售企业,需要每天定时查询供应商的某个服务,以确认产品目录是否有变更,如果有变更,则全量拉取最新目录数据(数据量比较大,拉取一次成本很高),如果无变更则继续沿用上一次拉取的数据,在dataphin如何实现? 解决方案及功能 可以将检测产品目录是否变更的程序写入一个输出节点任务,将产品目录更新状态作为跨节点参数输出,拉取同步产品目...

Dataphin功能Tips系列(28)-跨节点参数
文章 2024-10-17 来自:开发者社区

Dataphin功能Tips系列(27)-排他编辑锁

场景 在实际开发中,为了避免多人同时编辑同一份代码而导致的问题,通常会采用锁机制来保护代码。然而,普通的锁机制有时并不能完全阻止其他开发人员在编辑时抢占锁,这使得用户可互相覆盖锁定状态,在dataphin中如何解决这一问题? 解决方案及功能 【管理中心-系统设置-平台设置-研发平台】中提供了排他编辑锁,开启后,用户锁定某个对象后其他用户不可...

Dataphin功能Tips系列(27)-排他编辑锁
文章 2024-10-17 来自:开发者社区

Dataphin功能Tips系列(26)-事实逻辑表配置数据延迟

场景 零售行业中,订单数据是每天晚上由pos系统同步至数据中台,但门店人员经常会没有及时将订单信息录入pos,也许隔天或是隔几天才录入,这会导致指标的不准确性,数据中台的开发人员往往需要进行批量补历史分区的数据,这时怎么才能减轻开发人员的工作,让系统能够自动补前几天分区中的事实逻辑表中的数据呢? 解决方案及功能 Dataphin在事实逻辑表...

Dataphin功能Tips系列(26)-事实逻辑表配置数据延迟
文章 2024-09-09 来自:开发者社区

Dataphin功能Tips系列(23)-如何通过kafka构建实时标签

场景 在电商公司中常见的一个场景:当用户浏览商品页面时,系统可以从Kafka中抽取用户的行为事件(如点击、加入购物车、购买等),实时分析用户的兴趣和购买意向,构建诸如“母婴产品爱好者”、“对科技产品有兴趣”等实时标签。这些标签可以立即用于推荐系统,向用户推荐相关的产品,提高转化率和用户满意度 今天以“母婴产品爱好者”为例,我们计算用户近12小时内,用户对于母婴产品的点击...

Dataphin功能Tips系列(23)-如何通过kafka构建实时标签
文章 2024-09-03 来自:开发者社区

Dataphin功能Tips系列(25)-已上架标签如何删除

场景 有时系统中有多个标签表达相同或相似的意义,造成混乱或误导,可能需要删除其中一个或多个标签以保持标签系统的简洁性,那么我们已经上架到标签市场的标签如果进行删除呢? 解决方案及功能 ①在工作台找到需要删除的标签,此时我们可以看到标签状态是已上架,点击下架 ...

Dataphin功能Tips系列(25)-已上架标签如何删除
文章 2024-09-03 来自:开发者社区

Dataphin功能Tips系列(24)-如何通过元数据共享模型获取Dataphin的元数据

场景 在建立客户自研的数据门户时,经常需要用到Dataphin中的元数据进行二次开发和分析,如数据开发情况和资产治理情况等,今天我们来讲一下如何通过元数据共享模型来获取Dataphin的元数据 解决方案及功能 元数据共享模型是一系列元数据相关的物理表,基于Dataphin的系统元数据和相应计算引擎的元数据加工汇总而成,存在Dataphin元...

Dataphin功能Tips系列(24)-如何通过元数据共享模型获取Dataphin的元数据

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。