如何使用AnalyticDB MySQL湖仓版Spark访问Hive数据
云原生数据仓库 AnalyticDB MySQL 版Spark支持通过Thrift协议和JDBC协议访问Hive数据。您也可以对Hive数据源启用Kerberos认证，确保只有经过Kerberos认证的客户端能够访问集群、正常提交作业，以此保证数据安全性。本文以E-MapReduce集群的Hive服务为例，介绍访问Hive数据源的方法。
【大数据技术Hadoop+Spark】Hive基础SQL语法DDL、DML、DQL讲解及演示（附SQL语句）
Hive基础SQL语法1：DDL操作DDL是数据定义语言，与关系数据库操作相似，创建数据库CREATE DATABASE|SCHEMA [IF NOT EXISTS] database_name显示数据库SHOW databases；查看数据库详情DESC DATABASE|SCHEMA database_name切换数据库USE database_name修改数据库ALTER (DATABAS....
【大数据技术Hadoop+Spark】Hive数据仓库架构、优缺点、数据模型介绍（图文解释 超详细）
一、Hive简介Hive起源于Facebook，Facebook公司有着大量的日志数据，而Hadoop是实现了MapReduce模式开源的分布式并行计算的框架，可轻松处理大规模数据。然而MapReduce程序对熟悉Java语言的工程师来说容易开发，但对于其他语言使用者则难度较大。因此Facebook开发团队想设计一种使用SQL语言对日志数据查询分析的工具，而Hive就诞生于此，只要懂SQL语言，....
在MaxCompute中，如果你想让Spark的行为更接近Hive
在MaxCompute中，如果你想让Spark的行为更接近Hive，你可以设置odps.sql.hive.compatible为TRUE。然后，你可以使用CONCAT_WS函数来连接字符串，其中null值将被忽略。 你的查询应该修改为： SET odps.sql.hive.compatible=TRUE; SELECT...
Spark SQL实战(08)-整合Hive
1 整合原理及使用Apache Spark 是一个快速、可扩展的分布式计算引擎，而 Hive 则是一个数据仓库工具，它提供了数据存储和查询功能。在 Spark 中使用 Hive 可以提高数据处理和查询的效率。场景历史原因积累下来的，很多数据原先是采用Hive来进行处理的，现想改用Spark操作数据，须要求Spark能够无缝对接已有的Hive的数据，实现平滑过渡。MetaStoreHive底层的元....
有人遇到这个问题没有 spark 写 hudi 同步 hive 这是 BUG吗？
有人遇到这个问题没有 spark 写 hudi 同步 hive 这是 BUG吗？数据也写过去了。
为什么通过spark 写 hudi 同步 hive 设置的主键是 通过join写过来的
为什么通过spark 写 hudi 同步 hive 设置的主键是 通过join写过来的 然后 数据进入hudi后 通过flink 查询 就提示 找不到主键 此时 spark 查询是正常 如果通过 单独生成主键比如 直接定义一个数值 此时 flink是可以查询。做了测试 hudi主键 必须是 int 或者 bigint 类型 并且不能通过 join的方式传入 否则 spark写入进去后 flin.....
如何查看spark与hadoop、kafka、Scala、flume、hive等兼容版本【适用于任何版本】
方法当我们安装spark的时候，很多时候都会遇到这个问题,如何找到对应spark的各个组件的版本，找到比较标准的版本兼容信息。答案在spark源码中的pom文件。首先我们从官网下载源码。进入官网http://spark.apache.org选择download，然后我们看到下面内容# Master development branch git clone git://github.com/apa....
HADOOP MapReduce 处理 Spark 抽取的 Hive 数据【解决方案一】
开端：今天咱先说问题，经过几天测试题的练习，我们有从某题库中找到了新题型，并且成功把我们干趴下，昨天今天就干了一件事，站起来。沙问题？java mapeduce 清洗 hive 中的数据 ，清晰之后将driver代码 进行截图提交。坑号1: spark之前抽取的数据是.parquet格式的， 对 mapreduce 不太友好，我决定从新抽取， 还是用spark技术，换一种文件格式坑号2....
使用Spark 编码 写入 hive 的过程中 hive字段乱码 [解决方案]
由于元数据中的表结构中包含中文，我在抽取到spark过程中已经解决了一次乱码问题，具体显示为问题？？？？,解决方法是在mysql连接上加参数spark 字段乱码 def readMysql(sparkSession: SparkSession,table: String): DataFrame = { val frame: DataFrame = sparkSession ...
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。