阿里云文档 2024-10-28

Spark读写OSS-HDFS数据源

云原生数据仓库 AnalyticDB MySQL 版Spark支持访问OSS-HDFS数据源,本文介绍如何使用Spark来操作OSS-HDFS数据。

文章 2024-10-14 来自:开发者社区

大数据-96 Spark 集群 SparkSQL Scala编写SQL操作SparkSQL的数据源:JSON、CSV、JDBC、Hive

点一下关注吧!!!非常感谢!!持续更新!!! 目前已经更新到了: Hadoop(已更完) HDFS(已更完) MapReduce(已更完) Hive(已更完) Flume(已更完) Sqoop(已更完) Zookeeper(已更完) HBase(已更完) Redis (已更完) Kafka(已更完) ...

大数据-96 Spark 集群 SparkSQL Scala编写SQL操作SparkSQL的数据源:JSON、CSV、JDBC、Hive
问答 2024-08-01 来自:开发者社区

云数据仓库ADB Spark SQL访问MaxCompute数据源-支持的库表操作

云数据仓库ADB Spark SQL访问MaxCompute数据源-支持的库表操作

问答 2024-07-29 来自:开发者社区

针对Lindorm数据源分区数量少导致Spark执行效率低的问题,有哪些处理策略?

针对Lindorm数据源分区数量少导致Spark执行效率低的问题,有哪些处理策略?

问答 2024-06-08 来自:开发者社区

DMS任务编排跨库Spark SQL节点支持什么数据源

DMS任务编排跨库Spark SQL节点支持什么数据源

文章 2024-01-19 来自:开发者社区

Spark Streaming与数据源连接:Kinesis、Flume等

在大数据领域,实时数据处理变得越来越重要。Apache Spark Streaming是一个强大的工具,可用于处理实时数据流。本文将介绍如何使用Spark Streaming连接各种数据源,包括Amazon Kinesis、Apache Flume等,并提供详细的示例代码,以帮助大家构建实时数据处理应用程序。 什么是Spark Streaming? Apache Spark Streamin...

Spark Streaming与数据源连接:Kinesis、Flume等
文章 2023-12-26 来自:开发者社区

Spark Day05:Spark Core之Sougou日志分析、外部数据源和共享变量

01-[了解]-内容回顾主要讲解:RDD函数,分为两类Transformation转换函数和Action触发函数。1、RDD函数类型 - 转换函数 当RDD调用转换函数,产生新的RDD lazy懒惰,不会立即执行 - 触发函数 当RDD调用Action函数,返回值不是RDD,要么没有返回值Unit,要么就是非RDD 立即执行 2、RDD 常用函数 - ...

Spark Day05:Spark Core之Sougou日志分析、外部数据源和共享变量
文章 2023-12-25 来自:开发者社区

Note_Spark_Day08:Spark SQL(Dataset是什么、外部数据源、UDF定义和分布式SQL引擎)

Spark Day08:Spark SQL01-[了解]-昨日课程内容回顾上次课程主要讲解3个方面内容:SparkSQL模块概述、DataFrame数据集及综合案例分析。1、SparkSQL 模块概述 - 发展史【前世今生】 Shark -> SparkSQL(1.0) -> DataFrame(1.3) -> Dataset(1.6) -> Dataset/...

Note_Spark_Day08:Spark SQL(Dataset是什么、外部数据源、UDF定义和分布式SQL引擎)
阿里云文档 2023-09-21

如何添加Spark数据源_云原生多模数据库 Lindorm(Lindorm)

添加Spark数据源可以实现批量快速导入数据功能,本文介绍添加Spark数据源的方法。

文章 2023-09-13 来自:开发者社区

大数据Spark外部数据源

1 HBase 数据源Spark可以从外部存储系统读取数据,比如RDBMs表中或者HBase表中读写数据,这也是企业中常常使用,如下两个场景:1)、要分析的数据存储在HBase表中,需要从其中读取数据数据分析日志数据:电商网站的商家操作日志订单数据:保险行业订单数据2)、使用Spark进行离线分析以后,往往将报表结果保存到MySQL表中网站基本分析(pv、uv。。。。。)Spark可以从HBas....

大数据Spark外部数据源

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注