阿里云文档 2025-02-14

基于ACK部署DeepSeek蒸馏模型推理服务

本文介绍如何在阿里云容器服务ACK中使用KServe部署生产可用的DeepSeek模型推理服务。

阿里云文档 2025-02-10

ACK中ACS BestEffort Pod回收感知

为了提高训练任务的灵活性、稳定性和效率,建议使用云原生AI套件中的弹性训练功能。对于短时运行的任务和容错率高的无状态应用,可以在ACK中使用ACS BestEffort容器算力来降低成本。结合弹性训练SDK Kubeai,可以有效监控和快速响应实例状态。当资源紧张时,系统会立即通知应用层采取措施。BestEffort实例不保证具体资源量,适合对延迟和性能要求较低的应用,如可弹性伸缩的Web服务、图...

阿里云文档 2025-01-22

【产品变更】关于云原生AI套件AI控制台转为白名单开放的公告

阿里云提供的云原生AI套件的AI控制台(包括开发控制台、运维控制台)于2025年01月22日起以白名单功能的形式开放。如果您已部署开发控制台或运维控制台,您的使用将不会受到影响。AI控制台组件已在社区开源,您也可以通过开源社区下载安装。更多信息,请参见开源AI控制台。如果您在使用阿里云提供的AI控制...

阿里云文档 2025-01-16

开启并使用Fluid JindoRuntime FUSE客户端监控

Fluid支持对ACK集群中的各个JindoRuntime(JindoCache分布式缓存引擎)的监控指标进行采集,并提供开箱即用的JindoRuntime监控大盘。可被采集的监控指标包括缓存引擎服务端指标和FUSE客户端指标。出于性能考虑,默认配置下JindoRuntime FUSE客户端指标不对外暴露,因此无法在JindoRuntime监控大盘中查看到FUSE客户端的实时指标数据。本文介绍如何...

文章 2024-12-23 来自:开发者社区

容器化时代的领航者:Docker 和 Kubernetes 云原生时代的黄金搭档

一、Docker   添加图片注释,不超过 140 字(可选) docker是一种开源的应用容器引擎,可以将应用程序和依赖打包成一个可移植的镜像,然后发布到任何支持docker的平台上,也可以实现虚拟化。docker的核心概念有三个:镜像(image)、容器(contain...

容器化时代的领航者:Docker 和 Kubernetes 云原生时代的黄金搭档
文章 2024-11-19 来自:开发者社区

探索Kubernetes:云原生应用的基石

概要:本文深入探讨了Kubernetes(K8s)这一云原生应用的核心平台,从基本概念、架构设计到实战操作,帮助读者构建和管理大规模容器化应用。 内容摘要: Kubernetes简介:概述Kubernetes的历史、目标及其在云原生生态中的位置。核心组件与架构:详细解析Kubernet...

阿里云文档 2024-11-14

利用PyTorch Profiler实现大模型的性能分析和故障排查

本文介绍PyTorch Profiler结合TensorBoard分析模型性能,分别从数据加载、数据传输、GPU计算、模型编译等优化思路去提升模型训练的性能。最后总结了一些会导致CPU和GPU同步的常见的PyTorch API,在使用这些API时需要考虑是否会带来性能影响。

文章 2024-11-12 来自:开发者社区

Kubernetes云原生架构深度解析与实践指南####

随着云计算技术的飞速发展,云原生(Cloud-Native)概念应运而生,成为现代软件开发的重要趋势。云原生应用以其微服务架构、敏捷性、弹性伸缩和持续交付等特性,极大地提升了开发效率和系统稳定性。在众多云原生工具中,Kubernetes无疑是最为耀眼的明星,它凭借强大的容器编排能力,成...

文章 2024-10-12 来自:开发者社区

Flink-12 Flink Java 3分钟上手 Kubernetes云原生下的Flink集群 Rancher Stateful Set yaml详细 扩容缩容部署 Docker容器编排

代码仓库 会同步代码到 GitHub https://github.com/turbo-duck/flink-demo 背景介绍 单机模式 在之前的章节中,已经验证过,但是实际运行的时候,我们是需要提交到服务器去运行的。 集群模式 在之...

Flink-12 Flink Java 3分钟上手 Kubernetes云原生下的Flink集群 Rancher Stateful Set yaml详细 扩容缩容部署 Docker容器编排
文章 2024-09-19 来自:开发者社区

探索未来编程新纪元:Quarkus带你秒建高性能Kubernetes原生Java应用,云原生时代的技术狂欢!

Quarkus 是一个为 Kubernetes 和云原生环境设计的全栈 Kubernetes 原生 Java 框架,它以其轻量级、快速启动和高效执行的特点,迅速在 Java 社区中崭露头角。Quarkus 通过在编译时优化和原生镜像支持,极大地提升了 Java 应用的性能,同时保持了 Java 开发者的熟悉度和灵活性。下面,我...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云云原生

关注云原生中间件、微服务、Serverless、容器、Service Mesh等技术领域、聚焦云原生技术趋势、云原生大规模的落地实践

+关注