文章 2024-11-28 来自:开发者社区

【AI系统】GPU 架构回顾(从2018年-2024年)

Turing 架构 2018 年 Turing 图灵架构发布,采用 TSMC 12 nm 工艺,总共 18.6 亿个晶体管。在 PC 游戏、专业图形应用程序和深度学习推理方面,效率和性能都取得了重大进步。相比上一代 Volta 架构主要更新了 Tensor Core(专门为执行张量/矩阵操作而设计的专门执行单元,深度学习计算核...

【AI系统】GPU 架构回顾(从2018年-2024年)
文章 2024-11-28 来自:开发者社区

【AI系统】GPU 架构回顾(从2010年-2017年)

1999 年,英伟达发明了 GPU(graphics processing unit),本文将介绍英伟达 GPU 从 Fermi 到 Blackwell 共 9 代架构,时间跨度从 2010 年至 2024 年,具体包括费米(Feimi)、开普勒(Kepler࿰...

【AI系统】GPU 架构回顾(从2010年-2017年)
文章 2024-11-28 来自:开发者社区

【AI系统】GPU 架构与 CUDA 关系

本文会讲解英伟达 GPU 硬件的基础概念,其次会讲解 CUDA(Compute Unified Device Architecture)并行计算平台和编程模型,详细讲解 CUDA 线程层次结构,最后将讲解 GPU 的算力是如何计算的,这将有助于计算大模型的算力峰值和算力利用率。 GPU 硬件基础概念 A100 G...

【AI系统】GPU 架构与 CUDA 关系
文章 2024-11-28 来自:开发者社区

【AI系统】为什么 GPU 适用于 AI

为什么 GPU 适用于 AI 计算或者为什么 AI 训练需要使用 GPU,而不是使用 CPU 呢?本文内容主要探究 GPU AI 编程的本质,首先回顾卷积计算是如何实现的,然后探究 GPU 的线程分级,分析 AI 的计算模式和线程之间的关系,最后讨论矩阵乘计算如何使用 GPU 编程去提升算力利用率或者提升算法利用...

【AI系统】为什么 GPU 适用于 AI
文章 2024-11-27 来自:开发者社区

【AI系统】GPU 工作原理

前面的文章对 AI 计算体系和 AI 芯片基础进行讲解,在 AI 芯片基础中关于通用图形处理器 GPU 只是简单地讲解了主要概念,将从 GPU 硬件基础和英伟达 GPU 架构两个方面讲解 GPU 的工作原理。英伟达 GPU 有着很长的发展历史,整体架构从 Fermi 到 Blankwell 架构演变了非常多代,其中和 AI 特别相关的就有 ...

【AI系统】GPU 工作原理
文章 2024-11-27 来自:开发者社区

【AI系统】GPU 基础

GPU 是 Graphics Processing Unit(图形处理器)的简称,它是计算机系统中负责处理图形和图像相关任务的核心组件。GPU 的发展历史可以追溯到对计算机图形处理需求的不断增长,以及对图像渲染速度和质量的不断追求。从最初的简单图形处理功能到如今的高性能计算和深度学习加速器,GPU 经历了一系列重要的技术突破和...

【AI系统】GPU 基础
阿里云文档 2024-10-16

Alibaba Cloud Linux 3系统中使用GPU进行加速的容器启动后,容器内无法使用GPU的解决方案

本文介绍了Alibaba Cloud Linux 3系统中使用GPU进行加速的容器启动后,容器内无法使用GPU的原因及解决方案。

阿里云文档 2024-09-18

在Linux系统GPU实例中使用PyTorch时,出现“undefined symbol: __nvJitLinkAddData_12_1, version libnvJitLink.so.12”报错

在Linux系统GPU实例中,可能会因为GPU实例所安装的CUDA版本与PyTorch版本不兼容,导致使用PyTorch时出现报错现象,本文介绍这种情况的解决方案。

问答 2024-07-31 来自:开发者社区

在ModelScope上部署大模型RAG对话系统时,推荐使用的GPU服务器配置是什么?

在ModelScope上部署大模型RAG对话系统时,推荐使用的GPU服务器配置是什么?

阿里云文档 2024-01-23

在Windows和Linux系统中卸载GRID驱动_GPU云服务器(EGS)

如果当前NVIDIA GRID驱动因某种原因需要卸载,请按照该驱动的操作系统选择相应的卸载方法。

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

云服务器ECS

做技术先进、性能优异、稳如磐石的弹性计算!

+关注