文章 2025-05-06 来自:开发者社区

在AMD GPU上部署AI大模型:从ROCm环境搭建到Ollama本地推理实战指南

在人工智能和机器学习领域,NVIDIA 公司凭借其 CUDA 计算生态系统和高性能 GPU 架构,已成为大型语言模型(LLM)训练与推理的主导力量。从基础实验到前沿研究,NVIDIA 的技术方案几乎成为了行业标准。作为其主要竞争对手,AMD(YES!)在 AI 计算领域的发展潜力值得关注。 AMD 在 CPU 和 GPU 市场已深耕多年。在处理器领域,AMD 不仅与英特尔形成有效竞争,近期在数据....

在AMD GPU上部署AI大模型:从ROCm环境搭建到Ollama本地推理实战指南
问答 2025-04-15 来自:开发者社区

在GPU服务器上使用魔搭部署deepseek70b大模型时,有一个文件出现校验之类的错误?

具体报错如下:modelscope - ERROR - File /mnt/data1/._temp/model-00015-of-000017.safetensors integrity check failed, expected sha256 signature isxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx....

文章 2025-04-10 来自:开发者社区

119K star!无需GPU轻松本地部署多款大模型,DeepSeek支持!这个开源神器绝了

嗨,大家好,我是小华同学,关注我们获得“最新、最全、最优质”开源项目和高效工作学习方法 "只需一行命令就能在本地运行Llama 3、DeepSeek-R1等前沿大模型,支持Windows/Mac/Linux全平台,这个开源项目让AI开发从未如此简单!" ...

119K star!无需GPU轻松本地部署多款大模型,DeepSeek支持!这个开源神器绝了
文章 2025-02-27 来自:开发者社区

D1net阅闻|20万张GPU!马斯克旗下xAI公司正式发布新一代大模型Grok 3

(来源:企业网D1net) 20万张GPU!马斯克旗下xAI公司正式发布新一代大模型Grok 3 2月18日午间,马斯克旗下xAI公司正式发布新一代大模型Grok 3。马斯克在发布会直播中首次披露了Grok 3的训练成本,称Grok 3训练过程累计消耗20万块英伟达GPU,训练在xAI公司的数据中心完成。Grok 3 发布后有人就第一时间指出:它消耗的算力是...

阿里云文档 2025-02-14

在阿里云GPU云服务器上基于Alpaca大模型搭建个人版“对话大模型”

本教程介绍如何在阿里云GPU云服务器上基于Alpaca大模型快速搭建个人版“对话大模型”。

问答 2024-06-10 来自:开发者社区

函数计算serverless哪里设置gpu,能跑大模型吗?

函数计算serverless哪里设置gpu,能跑大模型吗?

文章 2024-02-22 来自:开发者社区

【求助】使用免费GPU计算实例尝试模型库中的大模型,报错:无法利用GPU,找不到模型文件

开启了如下GPU的实例: 运行如下代码: from modelscope import AutoModelForCausalLM, AutoTokenizer import torch torch.manual_seed(0) path = 'OpenBMB/MiniCPM-2B-dpo-bf16' tokenizer = AutoTokenizer.from_pretrained(pat...

【求助】使用免费GPU计算实例尝试模型库中的大模型,报错:无法利用GPU,找不到模型文件
文章 2023-12-08 来自:开发者社区

阿里云GPU加速:大模型训练与推理的全流程指南

引言 随着深度学习和大规模模型的普及,GPU成为训练和推理的关键加速器。本文将详细介绍如何利用阿里云GPU产品完成大模型的训练与推理。我们将使用Elastic GPU、阿里云深度学习镜像、ECS(云服务器)等阿里云产品,通过代码示例和详细说明,带你一步步完成整个流程。 第一步:Elastic GPU简介 Elas...

文章 2023-11-03 来自:开发者社区

探秘英伟达显卡的制造之路 | 英伟达断供GPU,中国大模型何去何从?

★AI,人工智能;大数据;L40S;H100;H800;A100;A800;Gaudi 2;Gaudi 3;MI250X;MI300;L40;Ascend 910;美光;DRAM;DUV;芯片禁令;数据湖;数据仓库;通用大模型;行业大模型;CV大模型;多模态大模型;台积电;TSMC在当今时代,人工智能技术正以前所未有的速度发展,推动着各个领域的创新与变革。作为人工智能技术的核心引擎之一,高性能G....

探秘英伟达显卡的制造之路 | 英伟达断供GPU,中国大模型何去何从?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

云服务器ECS

做技术先进、性能优异、稳如磐石的弹性计算!

+关注