阿里云文档 2025-04-18

如何使用分布式训练框架StarServer进行分布式训练

分布式训练框架用于加速模型训练、处理海量数据并提高系统稳定性和资源利用率。它通过将模型分布在多个计算节点上实现并行计算,从而缩短训练时间,适应大数据集和大模型的训练需求。本文介绍如何使用分布式训练框架StarServer进行分布式训练。

文章 2024-05-20 来自:开发者社区

Spark分布式内存计算框架

一、Spark简介 (一)定义        Spark是一种基于内存的、用以实现高效集群计算的平台。准确地讲,Spark是一个大数据并行计算框架,是对广泛使用的MapReduce计算模型的扩展。 (二)Spark和MapReduce区别     Spark有着自己的生态系统,但同时兼容HD...

Spark分布式内存计算框架
阿里云文档 2024-01-30

如何使用分布式通信框架gRPC++进行分布式训练

使用DLC进行深度学习训练时,您可以使用gRPC++分布式训练,从而加速模型训练。本文介绍如何开启分布式通信框架gRPC++。

阿里云文档 2023-12-26

如何在SpringBoot框架下使用消息队列收发消息

本文介绍如何在 SpringBoot 框架下用 SOFAStack 消息队列收发消息。

阿里云文档 2023-09-03

Spring框架存在远程命令执行漏洞攻击风险通告和解决方案_企业级分布式应用服务(EDAS)

本文介绍Spring框架存在远程命令执行漏洞攻击风险以及如何解决。

文章 2023-08-02 来自:开发者社区

Spark分布式计算框架之SparkStreaming+kafka

1、SparkStreaming的介绍SparkStreaming 是流式处理框架,是 Spark API 的扩展,支持可扩展、高吞吐量、容错的实时数据流处理,实时数据的来源可以是:Kafka, Flume,Twitter, ZeroMQ 或者 TCP sockets,并且可以使用高级功能的复杂算子来处理流数据。2、MR&Storm&Spark&flink的区别MR:针对....

阿里云文档 2023-04-17

如何在ECS中创建和部署Java微服务框架的应用

在EDAS的ECS集群中,可以创建和部署基于Java微服务框架开发的应用。

文章 2022-02-17 来自:开发者社区

02. Spark Streaming实时流处理学习——分布式日志收集框架Flume

2. 分布式日志收集框架Flume 2.1 业务现状分析 如上图,大量的系统和各种服务的日志数据持续生成。用户有了很好的商业创意想要充分利用这些系统日志信息。比如用户行为分析,轨迹跟踪等等。如何将日志上传到Hadoop集群上?对比方案存在什么问题,以及有什么优势? 方案1: 容错,负载均衡,高延时等问题如何消除? 方案2: Flume框架 2.2 Flume概述 flume官网 http...

02. Spark Streaming实时流处理学习——分布式日志收集框架Flume
文章 2022-02-16 来自:开发者社区

Storm、Spark和MapReduce 开源分布式计算系统框架比较

比较项 Storm Spark Streaming 分布式计算在许多领域都有广泛需求,目前流行的分布式计算框架主要有 Hadoop MapReduce, Spark Streaming, Storm; 这三个框架各有优势,现在都属于 Apache 基金会下的顶级项目,下文将对三个框架的特点与适用场景进行分析,以便开发者能快速选择适合自己的框架进行开发。 Hadoop MapReduce 是三者中....

问答 2022-02-15 来自:开发者社区

Spark(分布式计算框架)是什么?

Spark(分布式计算框架)是什么?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云分布式应用服务

企业级分布式应用服务 EDAS(Enterprise Distributed Application Service)是应用全生命周期管理和监控的一站式PaaS平台,支持部署于 Kubernetes/ECS,无侵入支持Java/Go/Python/PHP/.NetCore 等多语言应用的发布运行和服务治理 ,Java支持Spring Cloud、Apache Dubbo近五年所有版本,多语言应用一键开启Service Mesh。

+关注