文章 2025-05-06 来自:开发者社区

在AMD GPU上部署AI大模型:从ROCm环境搭建到Ollama本地推理实战指南

在人工智能和机器学习领域,NVIDIA 公司凭借其 CUDA 计算生态系统和高性能 GPU 架构,已成为大型语言模型(LLM)训练与推理的主导力量。从基础实验到前沿研究,NVIDIA 的技术方案几乎成为了行业标准。作为其主要竞争对手,AMD(YES!)在 AI 计算领域的发展潜力值得关注。 AMD 在 CPU 和 GPU 市场已深耕多年。在处理器领域,AMD 不仅与英特尔形成有效竞争,近期在数据....

在AMD GPU上部署AI大模型:从ROCm环境搭建到Ollama本地推理实战指南
文章 2023-01-10 来自:开发者社区

软件测试|Pytorch GPU 环境搭建

之前⼀直使⽤ Tensorflow 训练模型,第⼀次训练Pytorch模型的时候,发现速度很慢,仔细观察,发现GPU 内存占⽤为0,基本没有使⽤GPU。AssertionError: CUDA unavailable, invalid device 0 requested cuda不可⽤报错,现实没有有效的驱动可使⽤ 测试cuda是否配置正确import torch print(torch.cu....

软件测试|Pytorch GPU 环境搭建
文章 2022-02-17 来自:开发者社区

GPU编程(一): Ubuntu下的CUDA8.0环境搭建

目录 前言 开发环境一览 显卡驱动安装 下载驱动 禁用nouveau 安装驱动 安装CUDA8.0 第一个CUDA程序 向世界问好 最后 前言 在Linux下安装驱动真的不是一件简单的事情, 尤其是显卡驱动, 一失败直接进不去系统都是很可能的. 我在经历了无数折磨之后终于搭起了CUDA编程环境. 我是很心水老黄的, 但是, 我还是想说"So, Nvidia: FUCK YOU!"(...

GPU编程(一): Ubuntu下的CUDA8.0环境搭建
问答 2022-02-15 来自:开发者社区

关于opencv中调用GPU库的环境搭建问题,麻烦大神们帮忙解决下!

以前电脑上安装有opencv2.4.11和VS2013,由于现在项目需要用到GPU处理,需要调用opencv中的GPU库,现在电脑上安装有的软件和配置有:WIN10+VS2013+opencv2.4.11+CUDA9.1+TBB,自己搭建过程中通过cmake无法编译出opencv中所需的库,希望有经验的大神能帮忙搭建下所需环境,有偿,感谢!

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

云服务器ECS

做技术先进、性能优异、稳如磐石的弹性计算!

+关注