阿里云文档 2025-01-24

创建GPU实例时自动安装或加载Tesla驱动

针对通用计算场景或图形加速场景,您可以在创建GPU实例时自动安装或加载Tesla驱动,也可以在创建GPU实例后手动安装Tesla驱动,配备了驱动的GPU实例才能提供更好的计算性能和图形渲染能力。本文介绍如何在创建GPU实例时自动安装或加载Tesla驱动。

阿里云文档 2024-12-27

使用TensorRT-LLM构建模型的推理环境

在GPU的实例上安装推理引擎TensorRT-LLM,可以帮助您快速且方便地构建大语言模型(例如Llama模型、ChatGLM模型、百川Baichuan模型或通义千问Qwen模型)的推理环境,主要应用在智能对话系统、文本分析等自然语言处理业务场景。本文为您介绍如何在GPU实例上安装和使用TensorRT-LLM来快速构建大语言模型的高性能推理优化功能。

阿里云文档 2024-12-23

安装并使用DeepGPU-LLM进行大语言模型的推理服务

在处理大语言模型(LLM)任务中,您可以根据实际业务部署情况,选择在不同环境(例如GPU云服务器环境或Docker环境)下安装推理引擎DeepGPU-LLM,然后通过使用DeepGPU-LLM实现大语言模型(例如Llama模型、ChatGLM模型、百川Baichuan模型或通义千问Qwen模型)在GPU上的高性能推理优化功能。

阿里云文档 2024-08-23

更换GPU实例的操作系统时如何取消自动安装GPU(Tesla)驱动功能

创建GPU实例时,选择镜像后并同时选择了安装GPU驱动选项,则创建实例后会自动安装GPU(Tesla)驱动。如果因某种原因(例如当前使用的操作系统不能满足业务需求),您需要更换该GPU实例的操作系统,则同时也需要取消自动安装Tesla驱动功能,单独手动安装适配新操作系统的Tesla驱动,确保正常使用GPU实例的高性能特性。

阿里云文档 2024-08-20

通过YUM方式快速安装NVIDIA Tesla驱动(Alibaba Cloud Linux 3)

针对Alibaba Cloud Linux 3系统的GPU计算型实例,如果创建实例时未自动安装NVIDIA Tesla驱动,通过手动方式安装该驱动时,需要您先下载软件包,然后编译安装并配置CUDA等组件,操作比较繁琐,而采用YUM方式可以快速安装NVIDIA Tesla驱动及相关组件(例如CUDA、PyTorch以及TensorFlow等),可以更快更好地发挥GPU的高性能计算能力,或提供更流畅的...

问答 2024-05-01 来自:开发者社区

如果要用gpu的版本直接安装pytorch是gpu的,ModelScope默认也是gpu的吗?

如果要用gpu的版本直接安装pytorch是gpu的,ModelScope默认也是gpu的吗?

问答 2024-02-28 来自:开发者社区

modelscope-funasr的GPU版本的docker按步骤安装完,之后的步骤和CPU一样吗?

modelscope-funasr的GPU版本的docker按步骤安装完成了,也能进入docker,之后的步骤和CPU基本一样吗?

文章 2023-12-23 来自:开发者社区

DeepFace【部署 04】轻量级人脸识别和面部属性分析框架deepface使用Docker部署CPU+GPU两个版本及cuDNN安装

1.CPU本说明基于DeepFace的Docker镜像文件deepface_image.tar进行说明。# 1.导入镜像 docker load -i deepface_image.tar # 2.创建模型文件夹【并将下载好的模型文件上传】 mkdir -p /root/.deepface/weights/ # 3.启动容器 # 网络隔离性受影响但性能好 docker run --name de....

问答 2023-03-14 来自:开发者社区

请问一下函数计算使用GPU实例,CUDA版本是多少,安装Pytorch需要安装哪个版本?

请问一下函数计算使用GPU实例,CUDA版本是多少,安装Pytorch需要安装哪个版本?

文章 2023-01-13 来自:开发者社区

基于Windows环境下CPU和GPU版本Tensorflow详细安装过程

一、Tensorflow简介TensorFlow 是一个开源的、基于 Python 的机器学习框架,它由 Google 开发,并在图形分类、音频处理、推荐系统和自然语言处理等场景下有着丰富的应用,是目前最热门的机器学习框架。二、安装Anaconda参考下面的文章中的Anaconda那部分进行安装:基于Windows中学习DeepLearning之搭建Anaconda+Pytorch(Cuda+C....

基于Windows环境下CPU和GPU版本Tensorflow详细安装过程

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

云服务器ECS

做技术先进、性能优异、稳如磐石的弹性计算!

+关注