创建GPU实例
如果您购买的是包年包月实例，请阅读《云服务器ECS服务条款》、《镜像商品使用条款》和《云服务器ECS退订说明》，如无疑问，请选中《云服务器ECS服务条款》|《镜像商品使用条款》|《云服务器ECS退订说明》。单击 确定下单。在支付页面，...
使用DeepGPU-LLM镜像快速构建模型的推理环境
说明 DeepGPU-LLM是阿里云研发的基于GPU云服务器的大语言模型（Large Language Model，LLM）推理引擎，可以帮助您实现大语言模型在GPU上的高性能推理优化功能。更多信息，请参见 什么是推理引擎DeepGPU-LLM。准备工作 获取DeepGPU-LLM容器...
实例规格分类与命名
其作为阿里云弹性计算家族的一员，结合了GPU计算力与CPU计算力，满足您在人工智能、高性能计算、专业图形图像处理等场景中的需求，例如，在并行运算方面，使用GPU云服务器可显著提高计算效率。异构服务型：异构服务型实例video-trans适用于...
配置共享GPU调度节点选卡策略
配置项 说明 实例规格 架构 选择 GPU云服务器，选择多个GPU实例规格。由于只有在节点有多张GPU卡的情况下，节点选卡策略才能看出效果，建议选择带有多张GPU卡机型。期望节点数 设置节点池初始节点数量。如无需创建节点，可以填写为0。节点...
安装并使用DeepGPU-LLM
在处理大语言模型任务中，您可以根据实际业务部署情况，选择在不同环境（例如GPU云服务器环境或Docker环境）下安装推理引擎DeepGPU-LLM，然后通过使用DeepGPU-LLM工具实现大语言模型（例如Llama模型、ChatGLM模型、百川Baichuan模型或通义...
快速部署TensorRT-LLM构建大语言模型的推理环境
说明 购买镜像时，系统镜像本身是免费的，您只需要支付GPU云服务器的费用。在实例购买页的 镜像 区域，查看 云市场镜像 页签下是否已选中所购买镜像。下图以购买的镜像被选中为例，如果镜像未被选中，则您需要继续单击 重新选择镜像，选择...
安装并使用DeepGPU-LLM进行模型推理
在处理大语言模型（LLM）任务中，您可以根据实际业务部署情况，选择在不同环境（例如GPU云服务器环境或Docker环境）下安装推理引擎DeepGPU-LLM，然后通过使用DeepGPU-LLM实现大语言模型（例如Llama模型、ChatGLM模型、百川Baichuan模型或...
实例简介
通用X86裸金属规格 本地盘 VPC网络 预付费 需要直接访问物理资源 兼容第三方Hypervisor 高网络包收发场景 异构计算 异构计算主要包括GPU云服务器，通过专用硬件去服务特定业务场景，提供比普通云服务器高出一个甚至更多数量级的性价比和...
通过ack-co-scheduler使用共享GPU调度
chmod+x/usr/local/bin/kubectl-inspect-cgpu 步骤三：创建GPU节点 创建GPU云服务器，并安装驱动和nvidia-container-runtime。具体操作，请参见 创建节点池。说明 如果您添加节点池时已经创建GPU节点并配置好环境，可以跳过此步骤。如果您...
集群系列
应用场景 通过只读实例分担流量高峰读请求 例如，对于新零售类企业，在应对双十一等活动期间的流量高峰时，通过增加高规格只读实例来承担业务主要读请求。通过在业务层实现读写分离和流量控制，只读实例可以有效支撑数倍于原业务的流量，...
配置共享GPU调度仅共享不隔离策略
配置项 说明 实例规格 架构 选择 GPU云服务器，选择多个GPU实例规格。本文以使用GPU卡V100为例进行说明。期望节点数 设置节点池初始节点数量。如无需创建节点，可以填写为0。节点标签 单击，添加如下记录：键 为 ack.node.gpu.schedule，值...
什么是弹性高性能计算E-HPC
高可用性 E-HPC集群节点基于云服务器ECS、超级计算集群SCC和GPU云服务器组建，大大提高了集群的可用性。结果可视 E-HPC提供可视化服务功能，您可以通过可视化服务功能将计算结果转换为可读的图形化数据。例如您可以直接观看渲染后的动画...
蚂蚁中间件十年
特别是自 2008 年双十一以来，在每年双十一超大规模流量的冲击上，蚂蚁集团不断突破现有技术的极限，在金融领域取得了前所未有的技术成就，特别是历时十年自研的中间件技术可以满足 2019 年双十一 54.4 万笔/秒的交易峰值，而在 2010 年双...
应用场景
高并发应用服务负载分摊 企业在线上大促活动类似双十一等情况下，都会对业务做临时的扩容，以应对突然增大数倍的用户访问请求。一般来说，会在同区域购买多个SLB实例，期望达到使用不同IP地址进行访问流量卸载的效果。使用 GTM 时，只需在...
支持RAM的云服务
云服务器ECS GPU云服务器 ecs√资源级别 AliyunECSFullAccess AliyunECSReadOnlyAccess AliyunECSAssistantFullAccess AliyunECSAssistantReadonlyAccess AliyunECSNetworkInterfaceManagementAccess 云服务器ECS的鉴权规则 云服务器ECS ...
应用场景
双十一使用场景 每年一度的双十一购物狂欢节，数据库自治服务DAS以持续的创新为之保驾护航，同时也在延续着它一次次华美的蜕变。DAS从最初面向DBA的工具化辅助诊断，到Self-driving Platform理念提出，开始孵化和锤炼数据库自治能力，随后...
使用EAIS实例部署ChatGLM2-6B
更多GPU实例信息，请参见 什么是GPU云服务器。节省部署成本：在您使用ECS实例（非GPU实例）完成环境搭建之前，您无需创建EAIS实例，此时，仅有ECS实例（非GPU实例）在计费。如果您直接购买GPU实例然后在GPU实例上部署环境，将花费更多的...
（推荐）使用EAIS提供的镜像快速部署ChatGLM-6B
更多GPU实例信息，请参见 什么是GPU云服务器。节省部署成本：在您使用ECS实例（非GPU实例）完成环境搭建之前，您无需创建EAIS实例，此时，仅有ECS实例（非GPU实例）在计费。如果您直接购买GPU实例然后在GPU实例上部署环境，将花费更多的...
（推荐）使用EAIS提供的镜像快速部署Stable-Diffusion
更多GPU实例信息，请参见 什么是GPU云服务器。节省部署成本：在您使用ECS实例（非GPU实例）完成环境搭建之前，您无需创建EAIS实例，此时，仅有ECS实例（非GPU实例）在计费。如果您直接购买GPU实例然后在GPU实例上部署环境，将花费更多的...
弹性扩缩容应对流量高峰
本文介绍如何设置弹性配置应对流量高峰场景，例如618大促、双十一等。背景信息 双十一是一年一度的购物盛宴，顾客访问量会短时间内激增，弹性扩容应运而生，可以帮助您轻松应对短时间的业务高峰期。弹性配置可以临时提升实例的规格（内存和...
客户案例
《云速搭部署 EIP 实现共享带宽/流量包管理》《云速搭 – NAT 网关部署及应用最佳实践》《云速搭部署 GPU 云服务器》云上会展有限公司立足于打造线上会展数字基础设施，充分发挥阿里巴巴集团在人工智能、数据技术、云计算等方面的积累，...
申通快递迁移Oracle到Lindorm
方案亮点：去Oracle、云Lindorm宽表引擎+LTS+搜索引擎一体化架构。客户感言 物流订单、巴枪等业务为非强事务要求的业务，最初选择...Lindorm云原生分布式及存储计算分离架构，具备极致弹性伸缩能力，助力客户轻松应对双十一大促业务峰值。
使用EAIS软件包手动部署ChatGLM-6B
更多GPU实例信息，请参见 什么是GPU云服务器。节省部署成本：在您使用ECS实例（非GPU实例）完成环境搭建之前，您无需创建EAIS实例，此时，仅有ECS实例（非GPU实例）在计费。如果您直接购买GPU实例然后在GPU实例上部署环境，将花费更多的...
DeepGPU-LLM API接口说明及示例
DeepGPU-LLM作为阿里云开发的一套推理引擎，旨在优化大语言模型在GPU云服务器上的推理过程，为您提供免费的高性能、低延迟推理服务。DeepGPU-LLM提供了一系列的API接口（例如模型加载、模型推理等功能），在GPU云服务器上成功安装DeepGPU-...
支持资源组的云服务
云服务 云服务代码 控制台 API 资源类型 资源元数据 相关文档 云服务器ECS、FPGA云服务器、GPU云服务器、块存储 ecs 是 是 ddh：DDH 资源ID、资源名称、标签 云服务转组API：JoinResourceGroup 统一转组API：MoveResources-资源转组 控制台...
品牌升级
PolarDB-X 融合分布式SQL引擎与分布式自研存储X-DB，专注解决海量数据存储、超高并发吞吐、大表瓶颈以及复杂计算效率等数据库瓶颈问题，历经各届天猫双十一及阿里云各行业客户业务的考验。此次品牌升级，存量DRDS实例不受影响，可正常续费...
新零售：杭州数云信息技术有限公司
客户感言“通过 PolarDB 的高弹性能力，我们在双十一之前一两天做弹性升级，在双十一结束后弹性降配，满足数据库计算能力的分钟级弹性，在解决了我们大促弹升需求的同时，也帮我们节约了数据库的成本。同时由于业务数据量较大，单个实例...
超级计算集群概述
SCC与阿里云ECS、GPU云服务器等计算类产品一起，为 阿里云弹性高性能计算平台E-HPC 提供了极高性能的并行计算资源，实现真正的云上超算。高性能计算优化型包含以下规格族：通用型超级计算集群实例规格族sccg7 计算型超级计算集群实例规格族...
基于eRDMA增强型实例部署AI训练集群
方式1 通过ECS实例启动AI训练 搭建GPU环境 GPU云服务器提供GPU加速计算能力，实现GPU计算资源的即开即用和弹性伸缩。更多信息，请参见 什么是GPU云服务器。在 步骤一：创建eRDMA实例 时，配置镜像时需按以下步骤配置：选择所需的操作系统及...
使用EAIS软件包手动部署Stable-Diffusion
更多GPU实例信息，请参见 什么是GPU云服务器。节省部署成本：在您使用ECS实例（非GPU实例）完成环境搭建之前，您无需创建EAIS实例，此时，仅有ECS实例（非GPU实例）在计费。如果您直接购买GPU实例然后在GPU实例上部署环境，将花费更多的...
支持的产品
全局 弹性计算 29款 云服务器ECS 可用区级 部署集 区域级 弹性裸金属服务器(神龙)可用区级 云服务器GPU 可用区级 FPGA云服务器 可用区级 专有宿主机DDH 区域级 弹性伸缩ESS VPC级 无影云桌面 区域级 无影云桌面工作区 区域级 无影云桌面...
什么是EMAS
双十一应用基础设施，千亿级API日调用，并发能力和稳定性经受多年双十一洪峰流量考验。2-20-60端应用安全盒体系，提供航空器级别应用质量保障。亿级App用户运营工具方法论，超级App应用开放框架，互联互通阿里巴巴商业生态，10亿级流量触达...
使用GPU拓扑感知调度（Tensorflow版）
前提条件 已创建ACK Pro集群，且集群的实例规格类型选择为 GPU云服务器。更多信息，请参见 创建Kubernetes托管版集群。已安装 Arena。已安装GPU拓扑感知调度组件。系统组件版本满足以下要求。组件 版本要求 Kubernetes 1.18.8及以上版本 ...
什么是容器服务 Kubernetes 版
大类 关联产品说明 计算 云服务器ECS（以及弹性裸金属EBM、GPU云服务器）：提供节点池工作节点。弹性容器实例ECI：提供 ACK Serverless集群 的容器实例。弹性伸缩ESS：支持节点池的配置和弹性伸缩。网络 专有网络VPC：提供集群私网网络。...
使用MPS实现GPU共享调度和显存隔离
添加GPU节点时，您需要将实例规格架构设置为 GPU云服务器。具体操作，请参见 添加已有节点 或 创建节点池。节点标签 单击 节点标签 的，设置 键 为ack.node.gpu.schedule，值 为mps。重要 每个GPU节点只有打上标签 ack.node.gpu.schedule=...
使用GPU拓扑感知调度（Pytorch版）
前提条件 已创建ACK Pro集群，且集群的实例规格类型选择为 GPU云服务器。更多信息，请参见 创建Kubernetes托管版集群。已安装 Arena。已安装GPU拓扑感知调度组件。系统组件版本满足以下要求。组件 版本要求 Kubernetes 1.18.8及以上版本 ...
GPU云服务器（gn/vgn/sgn系列）
作为阿里云弹性计算家族的一员，GPU云服务器结合了GPU计算力与CPU计算力，满足您在人工智能、高性能计算、专业图形图像处理等场景中的需求。背景信息 在阅读各个实例规格族的特点及详细指标之前，您需要提前学习以下信息：了解实例规格命名...
节点分布
双十一期间，凭借中国内地加速节点、智能弹性调度系统及安全防护能力，完美支持过亿QPS峰值，保障全球数亿买家快速浏览高清图片和视频，实现流畅下单，抵挡住了双十一流量洪峰。高性能节点全球分布 阿里云 CDN 单节点存储容量达40 TB~1.5 ...
助力双十一天猫精灵的智能设备接入
场景介绍 双十一售卖的天猫精灵生态的WiFi智能家电、家装设备，全部通过阿里云IoT生活物联网平台接入。平台在双十一前支撑了上百个SKU（库存量单位）的智能产品接入，并在双十一消费者收到设备后，支撑近百万台设备的连网和设备同时在线。...
弹性配置（临时升配）
本文介绍专属集群MyBase数据库实例如何通过临时设置CPU、内存等提升实例整体性能，从而应对618大促、双十一等流量高峰场景。功能介绍 弹性配置可以临时提升实例的规格（内存和CPU等），提升实例整体性能，并且在到达指定的还原时间后，实例...
- 产品推荐
- 这些文档可能帮助您