API参考
如果您熟悉网络服务协议和一种以上编程语言，推荐您调用API管理您的云上资源和开发自己的应用程序。GPU云服务器适用的API和云服务器ECS一致，详情请参见 ECS API简介 和 ECS API概览。
云速搭部署GPU云服务器
通过云速搭实现GPU云服务器的部署，这里使用 ECS 的 UserData 特性自动安装GPU 驱动、AIACC 等组件，减少配置工作量。涉及产品 专有网络VPC GPU云服务器 弹性公网IP 云速搭CADT 方案架构 操作步骤 具体操作步骤请参考《云速搭部署 GPU ...
什么是神行工具包（DeepGPU）
神行工具包（DeepGPU）是阿里云专门为GPU云服务器搭配的GPU计算服务增强工具集合，旨在帮助开发者在GPU云服务器上更快速地构建企业级服务能力。GPU云服务器搭配神行工具包（DeepGPU）中的组件可以帮助您更方便地利用阿里云的云上GPU资源，...
在GPU集群中加速AI模型训练
本文适用于AI图片的训练场景，使用文件存储CPFS/NAS作为共享存储，使用容器服务Kubernetes版管理GPU云服务器集群实现AI图片的训练加速。方案优势 使用阿里云的容器服务ACK可快速搭建AI图片训练基础环境。使用CPFS存储训练数据，支持多个...
应用场景
GPU云服务器适用于视频转码、图片渲染、AI训练、AI推理、云端图形工作站等场景，神行工具包（DeepGPU）为了配合GPU云服务器的计算服务增强能力，也适用于所有AI训练场景和AI推理场景。本文主要介绍GPU云服务器和神行工具包（DeepGPU）的...
异构计算产品最佳实践概览
GPU AI模型训练最佳实践 适用于AI图片训练场景，使用CPFS/NAS作为共享存储，利用容器服务Kubernetes版管理GPU云服务器集群进行AI图片训练。在GPU实例上使用RAPIDS加速机器学习任务 在GPU实例上基于NGC环境使用RAPIDS加速库，加速数据科学和...
产品优势
阿里云GPU云服务器具有广阔的覆盖范围、超强的计算能力、出色的网络性能和灵活的购买方式，神行工具包（DeepGPU）是专门为GPU云服务器搭配的具有GPU计算服务增强能力的免费工具集。本文主要介绍GPU云服务器和神行工具包（DeepGPU）的优势。...
GPU云服务器计费
GPU云服务器计费相关功能与云服务器ECS一致，本文为您介绍GPU云服务器涉及的计费项、计费方式、续费和退费说明等。计费项及其计费方式 一台GPU实例包括计算资源（vCPU、内存和GPU）、镜像、块存储等资源，其中涉及计费的GPU资源如下表所示...
ACK集群实现GPU AI模型训练
场景描述 本方案适用于AI图片训练场景，使用CPFS和NAS作为共享存储，利用容器服务Kubernetes版管理GPU云服务器集群进行图片AI训练。解决问题 搭建AI图片训练基础环境。使用CPFS存储训练数据。使用飞天AI加速训练工具加速训练。使用Arena一...
DNS服务器状态
当前域名的DNS服务器是云解析DNS，但是和云解析系统分配的DNS版本不一致（免费版和付费版）；探测超时 因网络/其他不定性原因导致域名DNS服务器信息查询超时，过几分钟刷新即可恢复；正常 当前使用的DNS服务器符合云解析DNS分配的DNS服务器...
使用AIACC-Training（AIACC训练加速）加速BERT Fine...
本文适用于自然语言训练场景，例如，通过使用GPU云服务器和极速型NAS训练BERT Finetune模型，同时使用AIACC-Training（AIACC训练加速）进行该模型的训练加速，可有效加快多机多卡的训练速度，提升模型的训练效率和性能。说明 BERT...
什么是推理引擎DeepGPU-LLM
产品简介 DeepGPU-LLM作为阿里云开发的一套推理引擎，具有易用性和广泛适用性，旨在优化大语言模型在GPU云服务器上的推理过程，通过优化和并行计算等技术手段，为您提供免费的高性能、低延迟推理服务。DeepGPU-LLM的关联布局图如下所示：...
使用FastGPU加速AI训练/推理
选用的产品列表 产品名称 说明 GPU云服务器 该服务提供了GPU算力的弹性计算服务，具有超强的计算能力，可有效缓解计算压力，提升您的业务效率，帮助您提高企业竞争力。对象存储OSS 是一款海量、安全、低成本、高可靠的云存储服务，多种存储...
准实时推理场景
与函数计算同等GPU规格的GPU云服务器单价约为 14元/小时。更多计费详情，请参见 GPU云服务器计费。示例一 假设您的GPU函数一天调用量为3600次，每次为1秒钟，使用4 GB显存规格的GPU实例（模型大小为3 GB左右）。您的日均资源利用率（仅时间...
快速搭建AI对话机器人
本文介绍如何使用阿里云GPU云服务器，基于ChatGLM-6B语言模型快速搭建AI对话机器人。背景信息 ChatGLM-6B是一个开源的、支持中英双语对话的语言模型，它基于General Language Model（GLM）架构，具有62亿参数；并使用了和ChatGPT相似的技术...
准实时推理场景
与函数计算同等GPU规格的GPU云服务器单价约为 14元/小时。更多计费详情，请参见 GPU云服务器计费。示例一 假设您的GPU函数一天调用量为3600次，每次为1秒钟，使用4 GB显存规格的GPU实例（模型大小为3 GB左右）。您的日均资源利用率（仅时间...
云产品范围
专属区域可以支持的云产品范围 专属区域支持的云产品范围 IaaS产品：云服务器 ECS、弹性裸金属服务器 EBM、GPU 云服务器、FPGA 云服务器、Alibaba Cloud Linux、容器服务 ACK、容器镜像服务 ACR、块存储 EBS、对象存储 OSS、文件存储 NAS、...
AIGC文本生成视频
本文介绍如何使用GPU云服务器搭建Stable Diffusion模型，并基于ModelScope框架，实现使用文本生成视频。背景信息 自多态模型GPT-4发布后，AIGC（AI Generated Content，AI生成内容）时代正扑面而来，从单一的文字文本，演化到更丰富的图片...
产品到期规则说明
DNS实例到期后第7天，系统会自动释放DNS实例，所以无法通过对DNS实例续费恢复使用，请参考：① 重新购买云解析DNS② 将域名绑定到新购买的DNS实例上③ 阿里云注册域名系统自动实现将DNS服务器从免费版升级为付费版；第三方注册域名请人工...
云解析DNS付费版使用FAQ
whois 查询，域名状态会显示【注册商设置禁止更新】）或网络超时，则会导致云解析DNS自动降级失败，并导致DNS业务异常，所以需要您手动到域名控制台，将DNS修改为云解析DNS免费版，免费版DNS服务器名称可以登录云解析DNS控制台获取。...
什么是GPU云服务器
对比项 GPU云服务器 GPU自建服务器 灵活性 能够快速开通一台或多台GPU云服务器实例。实例规格（vCPU、内存及GPU）支持灵活变更，并且支持在线升降配。带宽升降自由。服务器购买周期长。服务器规格固定，无法灵活变更。带宽一次性购买，无法...
实例升级/解绑/更换/降级
重要 场景一：若从免费版DNS升级至付费版DNS，会涉及域名DNS服务器名称修改操作：若您的域名为阿里云注册域名，云解析DNS会尝试在实例升级成功后，自动为您进行对应的DNS服务器名称修改。但是如果域名 开启禁止更新锁，那么需要您先关闭...
阿里云异构计算产品总览
GPU云服务器 GPU云服务器是基于GPU应用的计算服务器。GPU在执行复杂的数学和几何计算方面有着独特的优势。特别是浮点运算、并行运算等方面，GPU可以提供上百倍于CPU的计算能力。作为阿里云弹性计算家族的一员，GPU云服务器结合了GPU计算力...
基础安全服务
说明 云安全中心提供免费版、防病毒版、高级版、企业版和旗舰版多个版本，轻量服务器默认享有免费版云安全中心防护，但防护项有限，如果您有更高的安全要求，请购买其他版本。不同版本的功能差异，具体请参见 功能特性。查看和处理告警事件...
与云服务器ECS对比
如果您需要使用更丰富的实例类型，如通用型、计算型、大数据型、弹性裸金属服务器、GPU/FPGA/NPU异构计算型等，支持高并发网站、视频编解码、大型游戏、复杂分布式集群应用等业务场景，请使用云服务器ECS产品。关于云服务器ECS的更多实例...
Tesla或GRID驱动安装指引
GPU实例本身并未配备相关驱动，只有安装了驱动的GPU实例，才能实现计算加速或图形渲染等功能。根据不同GPU实例规格安装与之匹配的Tesla或GRID驱动，...如果GPU实例安装驱动后，在使用过程中遇到黑屏或其他问题，请参见 GPU云服务器常见问题。
阿里云托管实例
将非阿里云服务器注册为阿里云托管实例，该服务器即可使用阿里云提供的多种在线服务（例如云助手、系统运维管理 和云效）来管理或使用该服务器。例如，您可以通过云助手免登录管理此服务器。使用限制 第三方服务器限制 操作系统限制：...
重启实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。本文介绍如何通过控制台重启实例。前提条件 待重启的实例必须处于 运行中 状态。背景信息 重启操作是维护云服务器的一种常用方式，如系统更新、重启保存相关配置等...
创建弹性裸金属服务器实例
背景信息 创建弹性裸金属服务器实例和创建普通云服务器实例的步骤类似，本文仅介绍弹性裸金属特有的基本配置项，如果您想了解其他通用配置，请参见 自定义购买实例。操作步骤 登录 ECS管理控制台。在左侧导航栏，选择 实例与镜像>实例。...
云安全中心免费版简介
服务器如何使用免费版防护能力 在ECS服务器或非阿里云服务器上安装云安全中心客户端后，该服务器即可使用云安全中心 免费版 服务。安装客户端的具体方法如下所示：阿里云ECS服务器 在购买ECS时选择 免费安全加固，选择后系统会自动为ECS...
指定GPU规格创建Pod
ECI GPU实例内置了显卡设备驱动及CUDA驱动，因此运行ECI GPU实例只需使用内置了CUDA Toolkit等软件的基础镜像即可，无需关心驱动安装。本文介绍如何使用ECI GPU实例。规格说明 GPU规格含有GPU计算卡，适用于深度学习、图像处理等场景。GPU...
关闭对应用的GPU隔离能力
适用场景 本文示例适用于已开启共享GPU显存隔离能力的专有版GPU集群及ACK Pro版集群。前提条件 已安装共享GPU组件。具体操作，请参见 安装共享GPU组件 或 安装共享GPU调度组件。操作步骤 执行以下命令查询集群的GPU共享能力。kubectl ...
镜像检测操作系统限制
操作系统 版本 Windows Server 2008 Windows Server 2008 标准版 64位中文版 Windows Server 2008 标准版 64位英文版 Windows Server 2008 标准版 SP2 32位中文版 Windows Server 2008 企业版 32位中文版 Windows Server 2008 标准版 SP2 ...
指定GPU规格创建Pod
本文介绍如何指定ECS GPU规格创建一个ECI Pod，以及如何修改GPU驱动版本。规格说明 GPU规格含有GPU计算卡，适用于深度学习、图像处理等场景。GPU对应的Docker镜像可以直接运行在ECI GPU实例上。实例内已预装NVIDIA显卡设备驱动，不同GPU...
LLM智能问答版计费概述
相应的计算资源消耗越大 专业版 存储 GB[1,100]1GB 固定存储费用，按照选购时的配额付费 专业版 GPU租用 个[1,10]1 固定租用费用，按照不同GPU规格的单价付费 价格 存储价格（标准版/专业版）区域 价格（元/GB/小时）费用示例 上海 0.232 ...
迁移ECS实例至轻量应用服务器
迁移涉及的工具 工具 说明 宝塔面板 免费版 一款服务器运维面板。本文将借助 宝塔面板，在轻量应用服务器中重新部署与ECS实例内一致的LNMP环境。scp 命令 该命令是基于SSH协议的远程拷贝文件的命令。ECS实例中的网站程序（不包含数据库数据...
无法连接ECS实例中自建的MySQL服务器
概述 在Linux系统的ECS实例上自建MySQL服务器，可能会出现无法远程连接异常情况，本文主要介绍该情况下的常见错误及解决办法。详细信息 阿里云提醒您：如果您对实例或数据有修改、变更等风险操作，务必注意实例的容灾、...适用于 云服务器 ECS
常见问题
购买页面实际购买金额主要受以下两个因素的影响：保有服务器台数 保有服务器台数是指云安全中心保护的服务器总数，包括已购买的阿里云ECS服务器和安装了云安全中心Agent的非阿里云服务器，默认值是当前账号下拥有的ECS服务器和安装了云安全...
Token鉴权概述
MQTT服务器 云消息队列 MQTT 版 权限认证和消息收发服务器，用来处理应用服务器发起的Token相关的请求以及消息收发业务。使用流程 Token鉴权模式相比签名模式更加复杂，您需要按照下图所示的流程，部署您的应用服务器。而且在初始化时，...
Token鉴权概述
MQTT服务器 云消息队列 MQTT 版 权限认证和消息收发服务器，用来处理应用服务器发起的Token相关的请求以及消息收发业务。使用流程 Token鉴权模式相比签名模式更加复杂，您需要按照下图所示的流程，部署您的应用服务器。而且在初始化时，...
- 产品推荐
- 这些文档可能帮助您