问答 2016-06-07 来自:开发者社区

测试LogService,spark Streaming 读取不到数据?

测试LogService,spark Streaming 读取不到数据?

文章 2016-05-19 来自:开发者社区

Spark-Spark Streaming例子整理(三)

一、解密SparkStreaming另类在线实验 二、瞬间理解SparkStreaming本质 Spark源码定制,自己动手改进Spark源码,通常在电信、金融、教育、医疗、互联网等领域都有自己不同的业务,如果Sprak官方版本没有你需要的业务功能,你自己可以定制、扩展Spark的功能,满足公司的业务需要。 选择SparkStreaming框架源码研究、二次开发的原因 1、Spark起...

文章 2016-05-19 来自:开发者社区

Spark-Spark Streaming例子整理(二)

Spark Streaming从Flume Poll数据 一、Spark Streaming on Polling from Flume实战 二、Spark Streaming on Polling from Flume源码 第一部分: 推模式(Flume push SparkStreaming) VS 拉模式(SparkStreaming poll Flume) 采...

文章 2016-05-19 来自:开发者社区

Spark-Spark Streaming例子整理(一)

(摘自王家林) 流(Streaming),在大数据时代为数据流处理,就像水流一样,是数据流;既然是数据流处理,就会想到数据的流入、数据的加工、数据的流出。 日常工作、生活中数据来源很多不同的地方。例如:工业时代的汽车制造、监控设备、工业设备会产生很多源数据;信息时代的电商网站、日志服务器、社交网络、金融交易系统、黑客攻击、垃圾邮件、交通监控等;通信时代的手机、平板、智能设备、物联网等会产生很...

文章 2016-05-11 来自:开发者社区

Spark-Spark Streaming-广告点击的在线黑名单过滤

任务 广告点击的在线黑名单过滤 使用 nc -lk 9999 在数据发送端口输入若干数据,比如: 1375864674543 Tom 1375864674553 Spy 1375864674571 Andy 1375864688436 Cheater 1375864784240 Kelvin 1375864853892 Steven 1375864979347 John 代码 ...

文章 2016-04-21 来自:开发者社区

Spark-spark streaming

概念 关联 初始化streamingcontext 离散流 输入dstream dstream的转化 dstream的输出操作 缓存或者持久化 checkpointing 部署应用程序 监控应用程序 性能调优 减少批数据的执行事件 设置正确的批容量 内存调优 容错语义

问答 2016-04-19 来自:开发者社区

在e-mapreduce跑spark streaming,计划1分钟打印一条日志发现没有打印

在e-mapreduce跑spark streaming,1分钟打印一条日志发现没有打印。

文章 2016-04-13 来自:开发者社区

Kafka+Spark Streaming+Redis实时计算整合实践

Kafka+Spark Streaming+Redis实时计算整合实践

Kafka+Spark Streaming+Redis实时计算整合实践
文章 2016-03-13 来自:开发者社区

基于Spark Streaming预测股票走势的例子(二)

上一篇博客中,已经对股票预测的例子做了简单的讲解,下面对其中的几个关键的技术点再作一些总结。 1、updateStateByKey   由于在1.6版本中有一个替代函数,据说效率比较高,所以作者就顺便研究了一下该函数的用法。 def mapWithState[StateType, MappedType](spec :StateSpec[K, V, StateType, MappedType]) ....

基于Spark Streaming预测股票走势的例子(二)
文章 2016-02-19 来自:开发者社区

基于Spark Streaming预测股票走势的例子(一)

  最近学习Spark Streaming,不知道是不是我搜索的姿势不对,总找不到具体的、完整的例子,一怒之下就决定自己写一个出来。下面以预测股票走势为例,总结了用Spark Streaming开发的具体步骤以及方法。   一、数据源。   既然预测股票走势,当然要从网上找一下股票数据的接口,具体可以参考 http://blog.sina.com.cn/s/blog_540f22560100ba....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注