Soul 是任意门旗下基于兴趣图谱和游戏化玩法的社交 App,是为新一代年轻人而设的虚拟社交平台。Soul App 基于用户的社交画像和兴趣图谱,通过机器学习为用户推荐志趣相投的伙伴,支持丰富的 AI 业务场景,包括语音匹配、聊天机器人、文本 OCR 识别、图像识别、多模态等。
AI 机器学习是公司核心业务,但在传统的虚拟机部署方式下,缺乏一个统一的管控平台,导致业务工作流不流畅,开发迭代效率低下,运维管理复杂且资源利用率低下。具体表现为:
业务迭代慢
研发工程师需要花费大量时间在底层基础设施资源准备、业务集成部署、日志监控等 AI 工程化上,无法专注于业务开发,难以快速响应业务研发需求。
运维工作重复
日常重复处理 Nvidia GPU 驱动、CUDA 版本、OSS 数据源等环境搭建工作,人力投入大,运维效率低。
资源利用率低
CPU 机器处理能力不足,为应对高负载需求,不得不大量部署额外的机器,导致资源的闲置与浪费。此外,GPU 资源利用率低,大量资源空置。
任意门通过阿里云容器服务 ACK 云原生 AI 套件,构建了符合开源标准、且具备高度自主控制能力的 Al PaaS 平台。该平台有以下优势:
全生命周期管理的一站式平台,涵盖了数据管理、AI 任务发布和模型评测等多个环节,大幅缩短了开发周期。
统一的异构资源管理和运维平台降低运维成本,实现了 GPU 节点的自动化管理、算法代码与标准镜像的解耦、按需自动伸缩的推理服务,有效降低了运维复杂度。
提供专业的 GPU 共享机制及 Fluid 数据加速能力,显著提升了业务处理效能,同时有效提供了资源的利用率。
任意门 Soul App 基于阿里云容器服务 ACK 云原生 AI 套件,成功打造了 AI PaaS 平台,结合先进的算法驱动和数据分析技术,高效地管理了从初期的数十张 GPU 卡到近千张的超大规模,日承载 AI 业务发布数百次,很好地支撑了业务的高速发展。同时,整体开发迭代效率提升 2~5 倍,运维成本节省了 1 倍多,GPU 等资源利用率提升后带来了 50% 的成本节省。