阿里云文档 2024-11-13

DataWorks中EMR Serverless Spark版本的用户画像分析的加工数据阶段

本文为您介绍如何用Spark SQL创建外部用户信息表ods_user_info_d_spark以及日志信息表ods_raw_log_d_spark访问存储在私有OSS中的用户与日志数据,通过DataWorks的EMR Spark SQL节点进行加工得到目标用户画像数据,阅读本文后,您可以了解如何通过Spark SQL来计算和分析已同步的数据,完成数仓简单数据加工场景。

阿里云文档 2024-11-13

Hologres数据访问权限管控

DataWorks为您提供访问Hologres数据时的权限管控能力,包括设置授权身份、权限申请、权限审批,还支持您查看权限申请记录、权限审批记录。本文为您详细介绍Hologres数据访问权限管控。

阿里云文档 2024-10-24

DataWorks中如何同步数据至EMR Serverless Spark

本教程以MySQL数据源中的用户基本信息ods_user_info_d表和HttpFile中的网站访问日志数据user_log.txt文件为例,通过数据集成离线同步任务分别同步至私有OSS中,再通过Spark SQL创建外部表来访问私有OSS数据存储。本章节旨在完成数据同步操作。

阿里云文档 2024-09-26

JSON解析组件可以在来源与去向组件间新增JSON解析组件来解析来远侧的JSON数据。

DataWorks数据集成实时ETL支持JSON解析组件使用,可以在来源与去向组件间新增JSON解析组件,对来源侧的JSON数据解析成相应的表数据。

阿里云文档 2024-09-24

分区数据批量同步到以分区名为特征的MySQL表中

本文利用DataWorks赋值节点与for-each节点的特性,实现将MaxCompute中以年月日和地域划分的二级分区数据,批量同步到以二级分区内容为特征的MySQL表中,本文以「年月日_地域」为后缀特征介绍。

文章 2024-06-10 来自:开发者社区

DataWorks操作报错合集之数据源同步时,使用脚本模式采集mysql数据到odps中,使用querySql方式采集数据,在脚本中删除了Reader中的column,但是datax还是报错OriginalConfPretreatmentUtil - 您的配置有误。如何解决

问题一:DataWorks是什么原因? DataWorks是什么原因?{"commonInfo":{"regionCode":"cn-shanghai","projectId":398148,"datasourceName":"new_api","resourceGroup":"group_632594213143490","resourceGroupName":"公共资源组"...

DataWorks操作报错合集之数据源同步时,使用脚本模式采集mysql数据到odps中,使用querySql方式采集数据,在脚本中删除了Reader中的column,但是datax还是报错OriginalConfPretreatmentUtil - 您的配置有误。如何解决
文章 2024-06-10 来自:开发者社区

DataWorks操作报错合集之从MongoDB同步数据到MaxCompute(ODPS)时,出现报错,该怎么解决

问题一:DataWorks中Mongol同步数据到odps转换成脚本报错? DataWorks中Mongol同步数据到odps转换成脚本报错?"query":"{ updated_at:{$gte:ISODate('$[yyyy-mm-dd]T00:00:00.000+0800')}}" 参考回答: 在阿里云DataWorks中,从MongoDB同步数...

DataWorks操作报错合集之从MongoDB同步数据到MaxCompute(ODPS)时,出现报错,该怎么解决
文章 2024-04-30 来自:开发者社区

DataWorks操作报错合集之DataWorks使用数据集成整库全增量同步oceanbase数据到odps的时候,遇到报错,该怎么处理

问题一:DataWorks这种报错是啥原因 源表和目标表是同构的? DataWorks这种报错是啥原因 源表和目标表是同构的? ... 8 more 2023-11-02 16:13:25.863 [72432510-0-1-writer] ERROR StdoutPluginCollector - java.sql.SQLException: Incorrec...

DataWorks操作报错合集之DataWorks使用数据集成整库全增量同步oceanbase数据到odps的时候,遇到报错,该怎么处理

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

大数据开发治理平台 DataWorks数据相关内容

大数据开发治理平台 DataWorks更多数据相关

产品推荐

大数据开发治理DataWorks

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。

+关注