阿里云文档 2026-05-09

Spark读写OSS-HDFS数据源

云原生数据仓库 AnalyticDB MySQL 版Spark支持访问OSS-HDFS数据源,本文介绍如何使用Spark来操作OSS-HDFS数据。

问答 2024-06-10 来自:开发者社区

DMS任务编排跨库Spark SQL节点是否支持将数据导出到OSS单个文件

DMS任务编排跨库Spark SQL节点是否支持将数据导出到OSS单个文件

问答 2024-05-29 来自:开发者社区

MaxComopute如何处理spark读ossWARN oss: [Client]Unabl...

MaxComopute如何处理spark读ossWARN oss: [Client]Unable to execute HTTP request: ConnectionTimeout报错

问答 2024-05-29 来自:开发者社区

MaxCompute spark访问oss外部表报错Odps external table i...

MaxCompute spark访问oss外部表报错Odps external table is not enable”,Table or view not found

文章 2024-05-28 来自:开发者社区

基于阿里云 EMR Serverless Spark 版快速搭建OSS日志分析应用

背景 随着互联网服务的广泛普及与技术应用的深入发展,日志数据作为记录系统活动、用户行为和业务操作的宝贵资源,其价值愈发凸显。然而,当前海量日志数据的产生速度已经远远超出了传统数据分析工具的处理能力,这不仅要求我们具备高效的数据收集和存储机制,更呼唤着强大、灵活且易用的数据分析平台的诞生。在此背景下,Apache Spark,这一专为大规模数据处理而设计的计算引擎,成为了构建高性能日志分...

基于阿里云 EMR Serverless Spark 版快速搭建OSS日志分析应用
问答 2024-03-04 来自:开发者社区

大数据计算MaxCompute文档中有 spark 访问 OSS 部分。这个您知道是什么问题吗?

大数据计算MaxCompute文档中有 spark 访问 OSS 部分。我想实现的是 通过 spark 写入 hudi 文件到 oss ,再用 maxcomputer 进行读取外部表。但是我 spark 访问 oss 一直说我证书错误。这个您知道是什么问题吗?Exception in thread "main" com.aliyun.oss.ClientException: java.secur....

问答 2024-02-25 来自:开发者社区

ADB MySQL湖仓版数据都在oss,如果想跑spark作业,这个数据库合适吗?

ADB MySQL湖仓版数据都在oss,如果想跑spark作业,这个数据库合适吗?我看maxcompute,EMR等好几个服务都支持spark,不知道哪个合适,主要场景是oss做离线计算后,再放入oss

问答 2024-02-25 来自:开发者社区

大数据计算MaxCompute中Spark跑oss数据,这几个有啥区别?

大数据计算MaxCompute中Spark跑oss数据,用MC 合适还是AnalysDB, 我看EMR,mc, ADB好几个产品都支持,不知道哪个合适,成本低点?另外这几个有啥区别?

问答 2024-02-25 来自:开发者社区

阿里云E-MapReduce中在spark里使用jingdo访问oss, 是啥原因?

阿里云E-MapReduce中在spark里使用jingdo访问oss, 出现400 请求错误, 是啥原因? spark-3.4.2, jindosdk-6.3.0. 谢谢。是版本问题么?24/02/20 13:40:57 INFO SQLHadoopMapReduceCommitProtocol: Using output committer class org.apache.hadoop......

问答 2024-01-23 来自:开发者社区

在大数据计算MaxCompute中,云下的spark程序如何才能访问oss外表数据呢?

在大数据计算MaxCompute中,客户在云下使用spark访问odps数据,当前如果odps中的表为oss外表(使用内网)运行报错。分析:在云下 ping不通 这个 internal 的地址,想修改为公网试试,如果不能通过公网访问,云下的spark程序如何才能访问oss外表数据呢?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注