文章 2024-03-16 来自:开发者社区

SparkStreaming(SparkStreaming概述、入门、Kafka数据源、DStream转换、输出、关闭)

这是本人的学习过程,看到的同道中人祝福你们心若有所向往,何惧道阻且长; 但愿每一个人都像星星一样安详而从容的,不断沿着既定的目标走完自己的路程; 最后想说一句君子不隐其短,不知则问,不能则学。 如果大家觉得我写的还不错的话希望可以收获关注、点赞、收藏(谢谢大家) 一、SparkStreaming概述 SparkStreaming是什么 Spark...

SparkStreaming(SparkStreaming概述、入门、Kafka数据源、DStream转换、输出、关闭)
文章 2023-08-04 来自:开发者社区

Spark学习---6、SparkStreaming(SparkStreaming概述、入门、Kafka数据源、DStream转换、输出、关闭)(二)

4、DStream转换DStream上的操作和RDD类型,分为转换和输出两种类型,此外转换操作中还有一些比较特殊的原语,如:transform()以及各种Window相关的原语。4.1 无状态转换操作无状态转换操作就是把RDD转换操作应用到DStream每个批次上,每个批次相互独立,自己算自己的。4.1.1 常规无状态转换操作DStream的部分无状态转换操作列表需要注意的是,尽管这些函数看起来....

Spark学习---6、SparkStreaming(SparkStreaming概述、入门、Kafka数据源、DStream转换、输出、关闭)(二)
文章 2023-08-04 来自:开发者社区

Spark学习---6、SparkStreaming(SparkStreaming概述、入门、Kafka数据源、DStream转换、输出、关闭)(一)

这是本人的学习过程,看到的同道中人祝福你们心若有所向往,何惧道阻且长;但愿每一个人都像星星一样安详而从容的,不断沿着既定的目标走完自己的路程;最后想说一句君子不隐其短,不知则问,不能则学。如果大家觉得我写的还不错的话希望可以收获关注、点赞、收藏(谢谢大家)一、SparkStreaming概述1.1 SparkStreaming是什么SparkStreaming用于流式数据的处理。(1)Spark....

Spark学习---6、SparkStreaming(SparkStreaming概述、入门、Kafka数据源、DStream转换、输出、关闭)(一)
文章 2023-05-23 来自:开发者社区

1.5万字长文:从 C# 入门 Kafka

1, 搭建 Kafka 环境本章的内容比较简单,我们将使用 Docker 快速部署一个单节点的 Kafka 或 Kafka 集群,在后面的章节中,将会使用已经部署好的 Kafka 实例做实验,然后我们通过不断地实验,逐渐了解 Kafka 的知识点以及掌握客户端的使用。这里笔者给出了单机和集群两种部署方式,但是为了便于学习后面的章节,请以集群的方式部署 Kafka。安装 docker-compos....

1.5万字长文:从 C# 入门 Kafka
文章 2022-09-11 来自:开发者社区

iLogtail社区版使用入门 - 如何将业务日志采集到Kafka

iLogtail是阿里云日志服务(SLS)团队自研的可观测数据采集Agent,拥有的轻量级、高性能、自动化配置等诸多生产级别特性,可以署于物理机、虚拟机、Kubernetes等多种环境中来采集遥测数据。iLogtail在阿里云上服务了数万家客户主机和容器的可观测性采集工作,在阿里巴巴集团的核心产品线,如淘宝、天猫、支付宝、菜鸟、高德地图等也是默认的日志、监控、Trace等多种可观测数据的采集工具....

iLogtail社区版使用入门 - 如何将业务日志采集到Kafka
文章 2022-05-27 来自:开发者社区

带你入门Kafka,你知道的越多不知道的也越多!

初始Kafka1、介绍Kafka 起初是由 Linkedin 公司采用 Scala 语言开发的一个多分区、多副本且基于 ZooKeeper协调的分布式消息系统,现己被捐献给 Apache 基金会 。 目前 Kafka 已经定位为一个分布式流式处理平台,它以高吞吐、可持久化、可水平扩展、支持流数据处理等多种特性而被广泛使用。2、使用场景消息系统:Kafka 和传统的消息系统(消息中间件)都具备系统....

文章 2022-01-04 来自:开发者社区

iLogtail使用入门-iLogtail本地配置模式部署(For Kafka Flusher)

阿里已经正式开源了可观测数据采集器iLogtail。作为阿里内部可观测数据采集的基础设施,iLogtail承载了阿里巴巴集团、蚂蚁的日志、监控、Trace、事件等多种可观测数据的采集工作。​iLogtail作为阿里云SLS的采集Agent,一般情况下都是配合SLS进行使用,通常采集配置都是通过SLS控制台或API进行的。那是否可以在不依赖于SLS的情况下使用iLogtail呢?​本文将会详细介绍....

文章 2022-01-04 来自:开发者社区

iLogtail使用入门-iLogtail本地配置模式部署(For Kafka Flusher)

阿里已经正式开源了可观测数据采集器iLogtail。作为阿里内部可观测数据采集的基础设施,iLogtail承载了阿里巴巴集团、蚂蚁的日志、监控、Trace、事件等多种可观测数据的采集工作。iLogtail作为阿里云SLS的采集Agent,一般情况下都是配合SLS进行使用,通常采集配置都是通过SLS控制台或API进行的。那是否可以在不依赖于SLS的情况下使用iLogtail呢?本文将会详细介绍如何....

文章 2015-12-03 来自:开发者社区

Spark修炼之道(进阶篇)——Spark入门到精通:第十六节 Spark Streaming与Kafka

作者:周志湖 主要内容 Spark Streaming与Kafka版的WordCount示例(一) Spark Streaming与Kafka版的WordCount示例(二) 1. Spark Streaming与Kafka版本的WordCount示例 (一) 启动kafka集群 root@sparkslave02:/hadoopLearning/kafka_2.10-0.8.2....

文章 2015-12-02 来自:开发者社区

Spark修炼之道(进阶篇)——Spark入门到精通:第十五节 Kafka 0.8.2.1 集群搭建

作者:周志湖 微信号:zhouzhihubeyond 本节为下一节Kafka与Spark Streaming做铺垫 主要内容 1.kafka 集群搭建 1. kafka 集群搭建 kafka 安装与配置 到下面的地址下载:Scala 2.10 - kafka_2.10-0.8.2.1.tgz http://kafka.apache.org/downloads.html 下...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

消息队列

消息队列是构建分布式互联网应用的基础设施,通过消息队列实现的松耦合架构设计可以提高系统可用性以及可扩展性,是适用于现代应用的优秀设计方案。

+关注