阿里云文档 2025-04-17

通过Spark SQL读写SQL Server数据

云原生数据仓库 AnalyticDB MySQL 版支持提交Spark SQL作业,您可以通过View方式访问自建SQL Server数据库或云数据库 RDS SQL Server 版数据库。本文以云数据库 RDS SQL Server 版为例,介绍如何通过Spark SQL访问SQL Server数据。

阿里云文档 2025-03-31

通过Spark SQL读写OSS外表

本文以OSS Parquet格式为例介绍如何通过Spark SQL读写OSS外表。

阿里云文档 2025-03-27

通过Spark SQL读写Iceberg外表

本文主要介绍如何在云原生数据仓库 AnalyticDB MySQL 版中使用Spark SQL读写Iceberg外表。

阿里云文档 2024-10-17

通过Spark SQL读写Azure Blob Storage外表

本文主要介绍如何在云原生数据仓库 AnalyticDB MySQL 版中使用Spark SQL读写Azure Blob Storage中的数据。

文章 2024-09-09 来自:开发者社区

Flink实践:通过Flink SQL进行SFTP文件的读写操作

在大数据处理领域,Apache Flink 出类拔萃,它是一个高性能、易扩展、用于处理有界和无界数据流的分布式处理引擎。Flink SQL 是 Apache Flink 提供的一种声明式 API,允许开发者以 SQL 的形式,轻松实现复杂的数据流和批处理分析。本文将重点探讨如何通过 Flink SQL 来实现对 SFTP 文件的读写操作&#...

阿里云文档 2024-08-16

通过Spark SQL读写AWS S3外表

本文主要介绍如何在云原生数据仓库 AnalyticDB MySQL 版(AnalyticDB for MySQL)中使用Spark SQL读写AWS S3中的数据。

文章 2023-12-20 来自:开发者社区

【大数据技术Spark】Spark SQL操作Dataframe、读写MySQL、Hive数据库实战(附源码)

需要源码和依赖请点赞关注收藏后评论区留言私信~~~一、Dataframe操作步骤如下1)利用IntelliJ IDEA新建一个maven工程,界面如下2)修改pom.XML添加相关依赖包3)在工程名处点右键,选择Open Module Settings4)配置Scala Sdk,界面如下5)新建文件夹scala,界面如下:6) 将文件夹scala设置成Source Root,界面如下:7) 新建....

【大数据技术Spark】Spark SQL操作Dataframe、读写MySQL、Hive数据库实战(附源码)
文章 2023-12-06 来自:开发者社区

Spark【Spark SQL(二)RDD转换DataFrame、Spark SQL读写数据库 】

从 RDD 转换得到 DataFrameSaprk 提供了两种方法来实现从 RDD 转换得到 DataFrame:利用反射机制推断 RDD 模式使用编程方式定义 RDD 模式下面使用到的数据 people.txt :Tom, 21 Mike, 25 Andy, 181、利用反射机制推断 RDD 模式        在利用反射机制推断 RDD 模式的过程时,....

Spark【Spark SQL(二)RDD转换DataFrame、Spark SQL读写数据库 】
问答 2022-11-28 来自:开发者社区

表格存储中用SQL写入,不知道为什么读写数量大小有差异,而且差那么大呀?

表格存储中用SQL写入,1600W数据,330M大小,耗时也得12分钟。读入是330M,但是输出是64.22G,就是select insert into from,不知道为什么读写数量大小有差异,而且差那么大呀? MAP跟REDUCE两个阶段,我们各set了64的并行度,加到128也没写入速度提升。

文章 2022-08-28 来自:开发者社区

SQL:sqlite读写数据示例(namedtuple)

# SQLite测试.py import sqlite3 from collections import namedtuple # 连接数据库,创建游标 conn=sqlite3.connect("test.db") cursor=conn.cursor() # 创建数据库 rows = cursor.execute("""create table if not exists user ( ...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

数据库

分享数据库前沿,解构实战干货,推动数据库技术变革

+关注