文章 2025-04-17 来自:开发者社区

K8S 部署 Deepseek 要 3 天?别逗了!Ollama+GPU Operator 1 小时搞定

最近一年我都在依赖大模型辅助工作,比如 DeepSeek、豆包、Qwen等等。线上大模型确实方便,敲几个字就能生成文案、写代码、做表格,极大提高了效率。但对于企业来说:公司内部数据敏感、使用外部大模型会有数据泄露的风险。 尤其是最近给 Rainbond 开源社区的用户答疑时,发现大家对大模型私有化部署有需求,都希望把大模型部署到企业内网,既能按需定制优化,又能保障安全合规。 网上教程虽多,但大多....

K8S 部署 Deepseek 要 3 天?别逗了!Ollama+GPU Operator 1 小时搞定
文章 2022-02-17 来自:开发者社区

NVIDIA GPU Operator分析六:NVIDIA GPU Operator原理分析

背景我们知道,如果在Kubernetes中支持GPU设备调度,需要做如下的工作:节点上安装nvidia驱动节点上安装nvidia-docker集群部署gpu device plugin,用于为调度到该节点的pod分配GPU设备。除此之外,如果你需要监控集群GPU资源使用情况,你可能还需要安装DCCM export...

NVIDIA GPU Operator分析六:NVIDIA GPU Operator原理分析
文章 2022-02-17 来自:开发者社区

NVIDIA GPU Operator分析五:GPU Feature Discovery安装

背景我们知道,如果在Kubernetes中支持GPU设备调度,需要做如下的工作:节点上安装nvidia驱动节点上安装nvidia-docker集群部署gpu device plugin,用于为调度到该节点的pod分配GPU设备。除此之外,如果你需要监控集群GPU资源使用情况,你可能还需要安装DCCM export...

文章 2022-02-17 来自:开发者社区

NVIDIA GPU Operator分析四:DCGM Exporter安装

背景我们知道,如果在Kubernetes中支持GPU设备调度,需要做如下的工作:节点上安装nvidia驱动节点上安装nvidia-docker集群部署gpu device plugin,用于为调度到该节点的pod分配GPU设备。除此之外,如果你需要监控集群GPU资源使用情况,你可能还需要安装DCCM export...

NVIDIA GPU Operator分析四:DCGM Exporter安装
文章 2022-02-17 来自:开发者社区

NVIDIA GPU Operator分析三:NVIDIA Device Plugin安装

背景我们知道,如果在Kubernetes中支持GPU设备调度,需要做如下的工作:节点上安装nvidia驱动节点上安装nvidia-docker集群部署gpu device plugin,用于为调度到该节点的pod分配GPU设备。除此之外,如果你需要监控集群GPU资源使用情况,你可能还需要安装DCCM export...

文章 2022-02-17 来自:开发者社区

NVIDIA GPU Operator分析二:NVIDIA Container Toolkit安装

背景我们知道,如果在Kubernetes中支持GPU设备调度,需要做如下的工作:节点上安装nvidia驱动节点上安装nvidia-docker集群部署gpu device plugin,用于为调度到该节点的pod分配GPU设备。除此之外,如果你需要监控集群GPU资源使用情况,你可能还需要安装DCCM export...

NVIDIA GPU Operator分析二:NVIDIA Container Toolkit安装
文章 2022-02-17 来自:开发者社区

NVIDIA GPU Operator分析一:NVIDIA驱动安装

背景我们知道,如果在Kubernetes中支持GPU设备调度,需要做如下的工作:节点上安装nvidia驱动节点上安装nvidia-docker集群部署gpu device plugin,用于为调度到该节点的pod分配GPU设备。除此之外,如果你需要监控集群GPU资源使用情况,你可能还需要安装DCCM export...

NVIDIA GPU Operator分析一:NVIDIA驱动安装

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

云服务器ECS

做技术先进、性能优异、稳如磐石的弹性计算!

+关注