文章 2024-09-02 来自:开发者社区

学习使用Spark

要开始学习使用Spark,你需要掌握其基础概念、组件和运行模式。Spark是一个高速、通用和可扩展的大数据处理框架,广泛应用于批处理、交互式查询、实时流处理、机器学习和图计算[^1^]。以下是学习使用Spark的详细指南: 了解基础掌握编程语言知识:Spark支持多种编程语言,如Scala、Python和Java[^1^]。选...

文章 2024-08-31 来自:开发者社区

如何开始学习使用Spark?

要开始学习使用Spark,你需要掌握其基础概念、组件和运行模式。Spark是一个高速、通用和可扩展的大数据处理框架,广泛应用于批处理、交互式查询、实时流处理、机器学习和图计算[^1^]。以下是学习使用Spark的详细指南: 了解基础掌握编程语言知识:Spark支持多种编程语言,如Scala、Python和Java[^1^]。选...

文章 2023-06-12 来自:开发者社区

【大数据学习篇12】 Spark项目实战-数据可视化(三)

5. 实现各区域热门商品Top3数据可视化5.1  创建实体类Top3Entity        为了便于各区域热门商品Top3分析结果数据的传递,在项目的entity包中创建实体类Top3Entity,存储Phoenix中表top3的数据。public class Top3Entity {    private String....

【大数据学习篇12】 Spark项目实战-数据可视化(三)
文章 2023-06-12 来自:开发者社区

【大数据学习篇12】 Spark项目实战-数据可视化(二)

3. 创建Spring Boot项目通过IntelliJ IDEA开发工具创建并配置Spring Boot项目,为数据可视化系统的实现奠定基础。步骤一:创建项目        打开IntelliJ IDEA开发工具,使用Spring Initializr初始化Spring Boot项目,构建Spring Boot项目结构。选择使用的JDK版本步骤二:配置项....

【大数据学习篇12】 Spark项目实战-数据可视化(二)
文章 2023-06-12 来自:开发者社区

【大数据学习篇12】 Spark项目实战-数据可视化(一)

学习目标/Target了解数据可视化系统架构掌握Phoenix集成HBase 熟悉建立Phoenix与HBase表映射了解Spring Boot项目的创建掌握Java Web项目中实体类的创建掌握Java Web项目中数据库访问接口的创建掌握Java Web项目中控制器类的创建熟悉Java Web项目中HTML页面的创建 熟悉如何运行Spring Boot项目概述     &a...

【大数据学习篇12】 Spark项目实战-数据可视化(一)
文章 2023-06-12 来自:开发者社区

【大数据学习篇10】Spark项目实战~网站转化率统计

学习目标/Target掌握网站转化率统计实现思路了解如何生成用户浏览网页数据掌握如何创建Spark连接并读取数据集掌握利用Spark SQL统计每个页面访问次数 掌握利用Spark SQL获取每个用户浏览网页的顺序掌握利用Spark SQL合并同一用户浏览的网页 掌握利用Spark SQL统计每个单跳的次数掌握利用Spark SQL计算页面单跳转化率掌握将数据持久化到HBase数据库熟悉通过Sp....

【大数据学习篇10】Spark项目实战~网站转化率统计
文章 2023-06-12 来自:开发者社区

【大数据学习篇6】 Spark操作统计分析数据操作(二)

2. MySQL操作[hd@master ~]$ mysql -u hive -p Enter password: Welcome to the MariaDB monitor. Commands end with ; or \g. Your MariaDB connection id is 48 Server version: 10.4.18-MariaDB MariaDB Server C.....

文章 2023-06-12 来自:开发者社区

【大数据学习篇6】 Spark操作统计分析数据操作(一)

通过前面的文章安装好环境下面我们就可以开始来操作1. Spark操作[hd@master ~]$ spark-shell Setting default log level to "WARN". To adjust logging level use sc.setLogLevel(newLevel). For SparkR, use setLogLevel(newLevel). 2022-09-....

文章 2023-06-12 来自:开发者社区

【大数据学习篇5】 Spark安装实验

1. Spark安装与测试1.1 安装Scala语言#上传安装scala安装包 /home/hd/apps [hd@master apps]# pwd /home/hd/apps #解压 [hd@master apps]$ tar -zxvf scala-2.11.0.tgz #改名 [hd@master apps]$ mv scala-2.11.0 scala #切换root用户 [hd@m.....

文章 2022-10-20 来自:开发者社区

基于mac构建大数据伪分布式学习环境(七)-部署Scala及Spark学习环境

1.解压scala 2.12.112.配置环境变量exportSCALA_HOME=/data/soft/scala-2.12.11exportPATH=.:$JAVA_HOME/bin:$HADOOP_HOME/sbin:$HADOOP_HOME/bin:$SCALA_HOME/bin:$PATH网络异常,图片无法展示|10.部署Spark1.解压spark-2.4.3-bin-hadoop2....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注