阿里云文档 2026-03-06

使用TensorRT-LLM构建模型的推理环境

在GPU的实例上安装推理引擎TensorRT-LLM,可以帮助您快速且方便地构建大语言模型(例如Llama模型、ChatGLM模型、百川Baichuan模型或千问Qwen模型)的推理环境,主要应用在智能对话系统、文本分析等自然语言处理业务场景。本文为您介绍如何在GPU实例上安装和使用TensorRT-LLM来快速构建大语言模型的高性能推理优化功能。

阿里云文档 2025-12-12

ECS实例网络存储带宽配置功能支持按需调整网络与EBS存储带宽,适用于特定规格实例,调整后总带宽不变但可能间接影响IOPS性能。

ECS实例网络与存储带宽配置功能,允许根据业务负载需求,调整ECS实例的网络带宽和存储带宽。

问答 2025-10-23 来自:开发者社区

阿里云GPU服务器与普通ECS实例在性能上有什么不同?

阿里云GPU服务器与普通ECS实例在性能上有何本质区别?GPU服务器专为并行计算设计,配备NVIDIA A10、V100或A100等专业加速卡,具备高显存带宽和强大浮点运算能力,适用于深度学习训练、科学计算等场景;而普通ECS依赖CPU计算,适合Web服务、数据库等通用任务。两者在计算架构、I/O性能、软件生态(如CUDA支持)及成本结构上差异显著,应如何根据业务负载类型合理选型?阿里云ECS服....

阿里云文档 2025-09-24

规避Split Lock性能争抢最佳实践

Intel CPU架构支持不对齐的内存访问。Intel将跨缓存行(cache line)的原子操作称为Split Lock。在并发或高性能计算场景中,频繁的Split Lock会影响系统性能,并可能导致系统卡顿或崩溃。

问答 2025-07-11 来自:开发者社区

阿里云GPU服务器上的显卡主要有哪些,性能怎么样?

阿里云GPU服务器提供哪些显卡型号?主要关注:1) NVIDIA Tesla系列(如A100/A10)的FP32/FP64算力对比;2) 显存容量(16GB-80GB)对LLM训练的影响;3) 不同实例规格(vgn7i/vgn6i)的性价比。针对千问大模型微调场景,推荐哪种GPU配置能平衡成本与性能?阿里云ECS服务器99元,续费同价:https://www.aliyun.com/minisit....

阿里云文档 2025-07-11

性能风险事件通知

当实例的CPU、存储以及网络性能达到实例规格上限或者实例的连通性存在异常时,阿里云会发送实例性能风险事件通知。

问答 2025-06-16 来自:开发者社区

阿里云GPU服务器,A10、V100、T4卡的性能分别属于什么水平?

阿里云GPU服务器,A10、V100、T4卡的性能分别属于什么水平?GPU云服务器:https://www.aliyun.com/product/ecs/gpu

文章 2025-05-08 来自:开发者社区

阿里云GPU服务器gn6v、gn7i、gn6i性能特点、区别及选择参考

在当今数字化飞速发展的时代,深度学习、科学计算、图形渲染等领域对于计算性能的要求日益严苛。阿里云GPU云服务器产品线凭借其强大的计算能力和广泛的应用价值,在这些领域中发挥着举足轻重的作用。阿里云GPU云服务器能够为各类复杂的计算任务提供高效、稳定的计算支持,助力企业和开发者在技术创新和业务拓展的道路上加速前行。本文将详细介绍阿里云GPU云服务器中的gn6...

阿里云GPU服务器gn6v、gn7i、gn6i性能特点、区别及选择参考
文章 2024-11-21 来自:开发者社区

阿里云GPU云服务器性能、应用场景及收费标准和活动价格参考

GPU云服务器作为阿里云提供的一种高性能计算服务,通过结合GPU与CPU的计算能力,为用户在人工智能、高性能计算等领域提供了强大的支持。其具备覆盖范围广、超强计算能力、网络性能出色等优势,且计费方式灵活多样,能够满足不同用户的需求。目前用户购买阿里云gpu云服务器gn5 规格族(P100-16G)、gn6i 规格...

阿里云GPU云服务器性能、应用场景及收费标准和活动价格参考

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

云服务器ECS

做技术先进、性能优异、稳如磐石的弹性计算!

+关注