文章 2020-06-04 来自:开发者社区

阿里云发起首届 Spark “数字人体” AI 挑战赛 — 聚焦上班族脊柱健康

2020年6月4日,首届 Apache Spark AI 智能诊断大赛在天池官网上线。Spark “数字人体” AI挑战赛——脊柱疾病智能诊断大赛,聚焦医疗领域应用,召集全球开发者利用人工智能技术探索高效准确的脊柱退化性疾病自动诊断。现已面向全社会开放,为所有大数据技术爱好者以及相关的科研企业提供挑战平台,个人参赛或高等院校、科研单位、互联网企业等人员均可报名参赛。 本次大赛将由阿里云计算有限公....

阿里云发起首届 Spark “数字人体” AI 挑战赛 — 聚焦上班族脊柱健康
文章 2020-05-28 来自:开发者社区

Maxcompute Spark 访问 阿里云 Hbase

引子 本来这个东西是没啥好写的,但是在帮客户解决问题的时候,发现链路太长,不能怪客户弄不出来,记录一下 需求列表 MaxCompute Spark包 (写文章时刻为版本 0.32.1, 请自行更新,本文不是文档) Spark 配置 spark.hadoop.odps.project.name = <安全信息> spark.hadoop.odps.access.id = <...

Maxcompute Spark 访问 阿里云 Hbase
文章 2020-05-27 来自:开发者社区

如何使用MaxCompute Spark读写阿里云Hbase

背景 Spark on MaxCompute可以访问位于阿里云VPC内的实例(例如ECS、HBase、RDS),默认MaxCompute底层网络和外网是隔离的,Spark on MaxCompute提供了一种方案通过配置spark.hadoop.odps.cupid.vpc.domain.list来访问阿里云的vpc网络环境的Hbase。Hbase标准版和增强版的配置不同,本文通过访问阿里云的标....

如何使用MaxCompute Spark读写阿里云Hbase
文章 2020-02-22 来自:开发者社区

Spark on Kubernetes与阿里云的深度整合

最近,笔者尝试将Spark on Kubernetes与阿里云深度整合,设计一个开箱即用的Spark on Kubernetes镜像。 首先通过Terraform在阿里云上一键创建和销毁Kubernetes集群。然后写了一个脚本生成Spark镜像,使其在Kubernetes上运行时可以直接读写阿里云OSS上的数据。最后还写了一个spark-submit脚本,可以让镜像动态地从阿里云OSS上下载需....

文章 2019-11-27 来自:开发者社区

使用阿里云InfluxDB®和Spark Streaming实时处理时序数据

本文重点介绍怎样利用阿里云InfluxDB®和spark structured streaming来实时计算、存储和可视化数据。下面将介绍如何购买和初始化阿里云InfluxDB®,扩展spark foreach writer,以及设计阿里云InfluxDB®数据库时需要注意的事项。在大数据处理中,一个主要的趋势是人们希望看到metric是如何随着时间变化发展。这使得管理和处理时序数据(数值随时间....

文章 2019-01-29 来自:开发者社区

阿里云分析引擎Spark On 多数据源介绍

主题:阿里云分析引擎Spark On 多数据源介绍 讲师:云覆(周广成)--阿里数据库产品专家 内容概要:阿里云的分析引擎基于开源Spark构建分析HBase数据、Phoenix、MongoDB、RDS等多数据源的能力,本次分享主要介绍分析引擎Spark分析多数据库的原理、用法和场景介绍。 视频回看地址:https://yq.aliyun.com/live/854 PPT下载地址:https:/....

文章 2017-09-01 来自:开发者社区

阿里云E-MapReduce Spark SQL 作业配置

.注意:Spark SQL 提交作业的模式默认是 yarn-client` 模式。 2.进入阿里云E-MapReduce控制台作业列表。 3.单击该页右上角的创建作业,进入创建作业页面。 4.填写作业名称。 5.选择 Spark SQL 作业类型,表示创建的作业是一个 Spark SQL 作业。Spark SQL 作业在 E-MapReduce 后台使用以下的方式提交: spark-sql [o....

文章 2017-09-01 来自:开发者社区

阿里云E-MapReduce Spark 作业配置

1.进入阿里云 E-MapReduce 控制台作业列表。 2.单击该页右上角的创建作业,进入创建作业页面。 3.填写作业名称。 4.选择 Spark 作业类型,表示创建的作业是一个 Spark 作业。Spark 作业在 E-MapReduce 后台使用以下的方式提交: spark-submit [options] --class [MainClass] xxx.jar args5.在应用参数选.....

文章 2017-05-17 来自:开发者社区

欢迎加入阿里云 HBase+Spark技术交流群

首选欢迎各位同学使用云HBase产品,地址为:https://cn.aliyun.com/product/hbase?spm=5176.51065.416540.50.EgxJI1为了让营造一个针对云HBase+Spark的技术交流平台,我们特别新建了交流群:目前国内HBase+Spark没有较大的社区及交流群体,但是很多公司都有HBase及Spark的应用,阿里云云HBase技术团队愿意补充这....

问答 2017-04-01 来自:开发者社区

阿里云搭建Spark集群,出现问题

买了9块 一块作为master 其余八块作为slave 之前在master上关闭了防火墙,然后对9个机器进行ssh免密通信设置 设置以后,重新打开master防火墙时,发现master死机 重启以后,依然无法连接master 求问怎么办!! 谢谢大佬们!!

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注