问答 2024-09-26 来自:开发者社区

Dataworks 里的 ODPS spark 节点访问不到 maxcompute 里的表

Dataworks 里的 ODPS spark 节点访问不到 maxcompute 里的表,show tables 结果是空的

阿里云文档 2024-09-06

DataWorks中EMR Serverless Spark用户画像系统中对数据加工成所需数据

本文为您介绍如何用Spark SQL创建外部用户信息表ods_user_info_d_spark以及日志信息表ods_raw_log_d_spark访问存储在私有OSS中的用户与日志数据,通过DataWorks的SparkSQL节点进行加工得到目标用户画像数据,阅读本文后,您可以了解如何通过SparkSQL来计算和分析已同步的数据,完成数仓简单数据加工场景。

阿里云文档 2024-09-06

DataWorks调度Spark

DataWorks是基于MaxCompute作为计算和存储引擎的海量数据离线加工分析平台,用于工作流可视化开发和托管调度运维,支持按照时间和依赖关系的任务全面托管调度。您可以在DataWorks中,通过Shell节点或自定义节点调度和管理云原生数据仓库 AnalyticDB MySQL 版的Spark作业。

阿里云文档 2024-09-05

DataWorks中如何同步数据至EMR Serverless Spark

本教程以MySQL数据源中的用户基本信息ods_user_info_d表和HttpFile中的网站访问日志数据user_log.txt文件为例,通过数据集成离线同步任务分别同步至私有OSS中,再通过Spark SQL创建外部表来访问私有OSS数据存储。本章节旨在完成数据同步操作。

阿里云文档 2024-09-05

DataWorks中EMR Serverless Spark空间流程的环境准备

本教程以用户画像为例,在华东2(上海)地域演示如何使用DataWorks完成数据同步、数据加工和质量监控的全流程操作。为了确保您能够顺利完成本教程,您需要准备教程所需的 EMR Serverless Spark空间、DataWorks工作空间,并进行相关的环境配置。

文章 2024-08-19 来自:开发者社区

DataWorks产品使用合集之如何开发ODPS Spark任务

问题一:DataWorks为什么这个用不了 怎么选择? DataWorks为什么这个用不了 怎么选择? ...

DataWorks产品使用合集之如何开发ODPS Spark任务
问答 2024-08-05 来自:开发者社区

dataworks调用odps的spark中的pyspark代码报错找不到main函数什么情况啊?

dataworks 调用odps的spark中的pyspark代码,报错找不到main函数,这个可能是什么情况啊?用的官网的demo代码似的

问答 2024-07-23 来自:开发者社区

DataWorks中ODPS spark sql 是这个模版开发么?

DataWorks中ODPS spark sql 是这个模版开发么?本地测试的话是不是还要装客户端

问答 2024-07-09 来自:开发者社区

dataworks用python写odps spark任务有任何办法引用到额外的jar包吗?

odps spark任务只有使用java时才可以选择jar包资源,python时只能选择python或者archives资源。我想使用graphframes,该包不只需要python还需要jar包。请问该如何把jar包在提交python odps spark任务的时候加进去呢?

文章 2024-06-30 来自:开发者社区

DataWorks产品使用合集之ODPS Spark找不到自己的stdout,该如何解决

问题一:dataworks支持循环嵌套吗? dataworks支持循环嵌套吗? 参考回答: 循环节点不支持嵌套循环 可以考虑用pyodps shell等节点 关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/603378 问题二:DataWorks小时调度依赖日调...

DataWorks产品使用合集之ODPS Spark找不到自己的stdout,该如何解决

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

DataWorks

DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。作为阿里巴巴数据中台的建设者,DataWorks从2009年起不断沉淀阿里巴巴大数据建设方法论,同时与数万名政务/金融/零售/互联网/能源/制造等客户携手,助力产业数字化升级。

+关注