方案优势
通过使用云原生AI套件帮助企业完成模型训练
提高资源利用率
通过GPU共享调度，多个推理服务可以部署在同一张GPU卡上共享显存，提升GPU利用率。还可以结合阿里云cGPU技术实现显存和错误隔离。
简化运维
基于容器服务ACK对GPU等异构资源进行统一管理、运维和分配，提供多维度监控、健康检查、自动异常发现、自愈和告警等自动化运维能力。
提升AI工程效率
通过命令行工具Arena，屏蔽底层资源、Kubernetes、运行环境等复杂度，以统一的方式管理系统、任务，模型开发、训练、推理等全生命周期。
架构与部署
一键训练大模型及部署GPU共享推理服务
通过创建ACK集群Pro版，您可以为集群挂载NAS实例作为集群的共享存储卷，用于存放模型训练数据。集群中部署云原生AI套件后，您可以基于其能力提交Bloom模型训练任务进行模型训练，并通过GPU显存共享调度的能力，将多个推理服务部署在同一块GPU卡上以提高GPU的利用率。
部署时长：80分钟
预估费用：16元（假设您配置ACK集群、云原生AI套件和NAS实例时选择本文指导的规格资源，且资源运行时间不超过1小时。实际情况可能会因您操作过程中使用的资源规格和流量差异，而导致费用有所变化，请以控制台显示的实际报价以及最终账单为准）
优惠购买
阿里云为你推荐优惠购买云产品
技术解决方案咨询
