阿里云文档 2026-06-07

阿里云EMR Serverless Spark Notebook集成DuckDB,支持免密访问OSS/OSS-HDFS并高效操作多种数据格式。

阿里云EMR Serverless Spark Notebook集成了DuckDB,并增强了其与云上数据源的集成能力。用户除了可以免密访问OSS/OSS-HDFS并高效操作多种格式的数据文件外,还可以直接通过SQL查询DLF(数据湖构建)中定义的元数据表,实现对数据湖的一站式、轻量化探索与分析。

阿里云文档 2025-10-16

Serverless Spark 提供多种内置函数,包括兼容开源函数和特有函数,用于高效处理数据,如 PARQUET_SCHEMA、PARQUET_METADATA、URL_DECODE 等,支持复杂数据操作与解析。

Serverless Spark 内置了多种函数,能够满足大部分数据处理需求。本文将为您介绍 Serverless Spark 内置提供的函数及其使用说明。

阿里云文档 2025-09-19

密文管理通过加密存储和动态引用敏感信息,提升云环境中数据安全与维护效率。

在数据开发与任务执行过程中,明文存储AccessKey或密码等信息容易引发安全风险。通过密文管理功能,您可以将敏感信息进行加密存储,并在数据开发及会话配置中进行动态引用,从而避免代码泄露风险,提升敏感信息的维护效率。

文章 2025-01-27 来自:开发者社区

Spark 与 MapReduce 的 Shuffle 的区别?

park 和 MapReduce 在 Shuffle 过程中有一些重要的区别。以下是它们的主要区别: 1. 执行模型 MapReduce:MapReduce 是一个两阶段的执行模型,包括 Map 阶段和 Reduce 阶段。在 Map 阶段,数据被处理并生成中间键值对;在 Reduce 阶段,这些键值对被聚合和处理。 Spark:Spark 使用基于内存的执...

文章 2024-10-14 来自:开发者社区

大数据-80 Spark 简要概述 系统架构 部署模式 与Hadoop MapReduce对比

点一下关注吧!!!非常感谢!!持续更新!!! 目前已经更新到了: Hadoop(已更完) HDFS(已更完) MapReduce(已更完) Hive(已更完) Flume(已更完) Sqoop(已更完) Zookeeper(已更完) HBase(已更完) Redis (已更完) Kafka(已更完) ...

大数据-80 Spark 简要概述 系统架构 部署模式 与Hadoop MapReduce对比
问答 2024-07-29 来自:开发者社区

Spark相比MapReduce在编程友好性上有哪些优势?

Spark相比MapReduce在编程友好性上有哪些优势?

问答 2024-06-09 来自:开发者社区

在ECS部署的airflow如何将spark作业提交到E-MapReduce集群上

在ECS部署的airflow如何将spark作业提交到E-MapReduce集群上

问答 2024-06-04 来自:开发者社区

Spark SQL如何实现访问E-MapReduce HBase组件

Spark SQL如何实现访问E-MapReduce HBase组件

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐