阿里云EMR Serverless Spark Notebook集成DuckDB，支持免密访问OSS/OSS-HDFS并高效操作多种数据格式。
阿里云EMR Serverless Spark Notebook集成了DuckDB，并增强了其与云上数据源的集成能力。用户除了可以免密访问OSS/OSS-HDFS并高效操作多种格式的数据文件外，还可以直接通过SQL查询DLF（数据湖构建）中定义的元数据表，实现对数据湖的一站式、轻量化探索与分析。
使用Hadoop命令操作OSS/OSS-HDFS
在使用阿里云EMR Serverless Spark的Notebook时，您可以通过Hadoop命令直接访问OSS或OSS-HDFS数据源。本文将详细介绍如何通过Hadoop命令操作OSS/OSS-HDFS。
Spark读写OSS-HDFS数据源
云原生数据仓库 AnalyticDB MySQL 版Spark支持访问OSS-HDFS数据源，本文介绍如何使用Spark来操作OSS-HDFS数据。
Serverless Spark支持通过自动或手动解冻OSS归档文件，确保SQL作业连续执行，需版本esr-4.4.0及以上。
当Spark作业需读取OSS归档存储中的数据时，因文件处于冻结状态无法直接访问，导致任务失败。本功能支持自动或手动触发解冻流程，确保作业正常执行，提升冷数据处理效率。
Spark作业读写OSS数据
本文以Spark自带的PageRank作业为例，介绍如何在ACK集群中运行Spark作业，并配置读写位于阿里云OSS（对象存储服务）中的数据。
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
apache spark您可能感兴趣
- apache spark报错
- apache spark任务
- apache spark yarn
- apache spark开源
- apache spark学习
- apache spark架构
- apache spark节点
- apache spark日志
- apache spark程序
- apache spark Python
- apache spark SQL
- apache spark streaming
- apache spark数据
- apache spark Apache
- apache spark Hadoop
- apache spark大数据
- apache spark rdd
- apache spark MaxCompute
- apache spark集群
- apache spark运行
- apache spark summit
- apache spark模式
- apache spark分析
- apache spark flink
- apache spark Scala
- apache spark机器学习
- apache spark应用
- apache spark实战
- apache spark技术
- apache spark操作
Apache Spark 中国技术社区
阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区，定期推送精彩案例，问答区数个 Spark 技术同学每日在线答疑，只为营造 Spark 技术交流氛围，欢迎加入！
+关注