基于请求队列、KVCache以及LoRA感知等多维度的智能路由与流量管理
针对部署在Kubernetes集群中的LLM推理服务，由于LLM推理流量和工作负载的特殊性，经典的负载均衡方法效果不佳，且无法从日志和监控指标中获取LLM推理相关信息。本文将介绍如何在服务网格ASM中为vLLM推理服务声明推理服务池和路由定义，以提升负载均衡性能，并实现推理流量的路由和可观测性。
为熔断降级和限流防护配置Grafana大盘和告警规则
服务网格 ASM（Service Mesh）支持无侵入式熔断、限流及流量监控。本文介绍熔断和限流常用的大盘配置及告警规则。
服务网格容灾系列：配置集群高可用应对可用区级故障容灾
可用区级故障是云上业务可能遭遇的一种较为极端的故障类型。当可用区故障发生时，发生故障的可用区内的工作负载都将面临不可用、不可访问或数据错误等风险。本文介绍通过结合阿里云容器服务 Kubernetes 版 ACK（Container Service for Kubernetes）与阿里云服务网格 ASM（Service Mesh），应对可用区级故障容灾。
基于虚拟服务配置的渐进式迁移实践：Istio集群至ASM集群的平滑切换
场景介绍 在上云的浪潮中，许多企业选择将业务从自建的Istio+k8s环境迁移到阿里云的服务网格ASM（Alibaba Cloud Service Mesh）和ACK（Alibaba Cloud Container Service Kubernetes）环境中。这种迁移不仅能够充分利用阿里云的托管服务优势，还能显著提升资源利用率和运维效率。 然而，在实际迁移过程中，由于网络限制、...
配置ASM监控指标定期清理
服务网格 ASM（Service Mesh）会为所有流入、流出及网格内部的服务流量生成指标，以便监控服务行为。这些指标包括总流量数、错误率和请求响应时间等信息。然而，长时间运行会生成大量的指标数据，显著增加了Envoy和Prometheus的资源消耗。为此，ASM提供了定期清理监控指标的配置，支持定期清理Envoy中缓存的一段时间内未使用的指标，以减少Envoy内存消耗，并降低Prometheus...
在ASM宽松泳道中部署并配置消息队列
服务网格 ASM（Service Mesh）的宽松泳道能力可以帮助用户实现在一个全量版本的基础上部署多套非全量环境。但在一些场景中，调用链路上存在消息队列，而ASM暂时还不支持消息队列协议，因此需要进行一些适配工作，以使得流量标签能够在消息队列中传递。本文介绍如何在宽松泳道中适配消息队列。
uboot配置时ln: failed to create symbolic link ‘asm’
学习朱老师嵌入式课程时，配置UBOOT的时候错误原因分析：根源：uboot放在linux虚拟机与windows共享的文件下，由于在配置uboot文件的时候需要建立一些软连接，而在windows下不支持此操作解决方案：将uboot复制一份到linux的非共享文件夹下，然后再执行配置操作，出现此提示表示配置成功：Configuring for x210_sd board…
【错误记录】Visual Studio 中配置 NDK 头文件路径 ( NDK 的三个头文件路径 | 与 CPU 架构相关 asm 头文件路径选择 )
文章目录一、报错信息二、解决方案1、NDK 的三个头文件路径2、与 CPU 架构相关 asm 头文件路径选择一、报错信息参考 【Android 逆向】Android 进程注入工具开发 ( Visual Studio 开发 Android NDK 应用 | 使用 Makefile 构建 Android 平台 NDK 应用 ) 博客 , 此处涉及到 打开一个 " 生成文件项目 " ;打开后 , 由于....
红帽Linux 6.5上配置ASM流程
ASM（Automatic Storage Management）是Oracle官方推荐的软件存储解决方案。自10g版本正式推出以来，软件架构层面上ASM的地位是在不断的提升。首先是11g将ASM从数据库层面剥离出来，并归入Grid Infrastructure进行管理。其次就是ASM Disk成为ACFS（Automatic Cluster File System）的基础组件。原有以RAW D....
Centos4.8配置Oracle10g_R2 ASM自动存储管理
ASM 是 Oracle 数据库 10g 中一个非常出色的新特性，它以平台无关的方式提供了文件系统、逻辑卷管理器以及软件 RAID 等服务。ASM 可以条带化和镜像磁盘，从而实现了在数据库被加载的情况下添加或移除磁盘以及自动平衡 I/O 以删除“热点”。它还支持直接和异步的 I/O 并使用 Oracle9i 中引入的 Oracle 数据管理器 API（简化的 I/O 系统调用接口）；ASM 不是....
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
阿里云微服务引擎 MSE
微服务引擎 MSE是一个面向业界主流开源微服务生态的一站式微服务平台，提供注册&配置中心全托管、云原生网关和无侵入的开源增强服务治理能力。在这里我们可以分享关于微服务、MSE的一切。
+关注