技术GPU云服务器的相关内容

阿里云文档 2024-07-15

GPU容器共享技术cGPU

GPU容器共享技术cGPU是阿里云基于内核虚拟GPU隔离的容器共享技术。即多个容器共享一张GPU卡，从而实现业务的安全隔离，提高GPU硬件资源的利用率并降低使用成本。

文章 2023-12-13 来自：开发者社区

技术改变AI发展：RDMA能优化吗？GDR性能提升方案（GPU底层技术系列二）

背景GPUDirect RDMA 是 Kepler 级 GPU 和 CUDA 5.0 中引入的一项技术，可以让使用pcie标准的gpu和第三方设备进行直接的数据交换，而不涉及CPU。传统上，当数据需要在 GPU 和另一个设备之间传输时，数据必须通过 CPU，从而导致潜在的瓶颈并增加延迟。使用 GPUDirect，网络适配器和存储驱动器可以直接读写 GPU 内存，减少不必要的内存消耗，减少 CPU....

文章 2023-12-11 来自：开发者社区

技术改变AI发展：CUDA Graph优化的底层原理分析（GPU底层技术系列一）

CUDA 异步执行模型对于GPU运算集中的AI应用场景，为了提升系统的性能，最大化地利用GPU资源是一个重要的优化方向。比较常用的方式是尽量将GPU运算转换为异步操作，CPU侧负责任务提交，保证有足够的cuda kernel发送到GPU，GPU按照CUDA Stream流队列中的Kernel顺序执行。只要这中间不存在同步操作，GPU完全可以不用等待，顺序地将所有的kernel执行完，然后再通知C....

文章 2022-02-17 来自：开发者社区

【技术系列】浅谈GPU虚拟化技术（第一章）

第一章 GPU虚拟化发展史 GPU的虚拟化发展历程事实上与公有云市场和云计算应用场景的普及息息相关。如果在10年前谈起云计算，大部分人的反应是“不知所云“。但是随着云计算场景的普及，概念的深入人心，慢慢地大家都对云计算有一个较清晰的概念和实例化的理解。自然，随着应用场景从单一依赖CPU的计算单元的应用扩展到多种体系架构，异构计算场景的应用上来后，对GPU，FPGA，TPU等专业计算芯片...

文章 2022-02-16 来自：开发者社区

一起谈.NET技术，使用Brahma在GPU上执行LINQ

Brahma是一个用于并行计算的开源库，它由C#编写并支持在多种处理器上运行。目前，Brahma仅包含一个图形处理器（GPU）模块，但是它的模块化结构可以支持更多种类的处理器。使用Brahma，同一个C#方法中的语句可以同时运行在CPU和GPU上，而不需要额外的代码。 Brahma通过将LINQ语句转换成目标处理器代码来执行并行计算，所生成的代码会跟据目标处理器的不同而不同。例如针对Direct....

文章 2022-02-16 来自：开发者社区

三星与AMD、英伟达洽谈许可技术事宜欲开发GPU

北京时间9月11日消息，据科技网站phoneArena报道，今天有消息称，三星在与AMD和英伟达洽谈许可图形芯片技术事宜。目前三星Exynos片上系统采用ARM的Mali图形芯片技术。三星似乎希望获得相关技术，自主开发图形芯片解决方案。2年前就有传言称三星有意许可AMD或英伟达的图形芯片技术。三星希望加大对移动设备零部件的控制是明智的。有传言称三星在为Exynos系列芯片增添CDMA技术，为此....