阿里云文档 2025-09-04

为LLM推理服务配置推理网关智能路由

传统的HTTP请求,经典负载均衡算法可以将请求均匀地发送给不同的工作负载。然而,对于LLM推理服务来说,每个请求给后端带来的负载是难以预测的。推理网关(Gateway with Inference Extension)是基于Kubernetes社区Gateway API及其Inference Extension规范实现的增强型组件,它能够通过智能路由优化在多个推理服务工作负载之间的负载均衡性能,根...

阿里云文档 2025-07-29

基于ACK One ALB多集群网关实现异地容灾

ACK One支持通过ALB多集群网关来实现异地容灾系统,异地容灾可以防范地域性质的灾难损害,例如地震、水灾等灾害,但同时会带来更高的延迟、更高的费用及维护成本。本文将介绍通过ALB多集群网关来实现异地容灾系统的架构和使用场景。

阿里云文档 2025-03-13

基于ACK One ALB多集群网关实现异地容灾

ACK One支持通过ALB多集群网关来实现异地容灾系统,异地容灾可以防范地域性质的灾难损害,例如地震、水灾等灾害,但同时会带来更高的延迟、更高的费用及维护成本。本文将介绍通过ALB多集群网关来实现异地容灾系统的架构和使用场景。

阿里云文档 2025-01-13

基于ACK One ALB多集群网关实现同城容灾

通过ACK One ALB多集群网关,结合ACK One GitOps或多集群应用分发,可以快速实现应用的同城多活容灾,保证应用高可用,并在故障发生时自动平滑迁移。本文介绍如何通过多集群网关构建同城容灾系统。

阿里云文档 2024-12-06

基于ACK One ALB多集群网关实现混合云容灾

为了为当前在IDC或第三方公共云的Kubernetes集群中的业务提供同城灾备的高可用冗余能力,可以利用ACK One实现统一的流量、应用和集群管理,从而实现业务流量的多集群路由,并在灾难情况下自动平滑容灾。本文介绍如何通过ACK One快速构建混合云同城多活容灾系统。

问答 2022-06-29 来自:开发者社区

请问,mse云原生网关调用k8s集群的svc的时候,会自动在保密字典里面创建xxx-svc-toke

请问,mse云原生网关调用k8s集群的svc的时候,会自动在保密字典里面创建xxx-svc-token这个文件?而且删除后又自动创建了。

问答 2022-06-11 来自:开发者社区

针对云原生网关里面的路由,直接访问k8s服务的svc,但是svc后端是php-fpm 9000的端口

针对云原生网关里面的路由,直接访问k8s服务的svc,但是svc后端是php-fpm 9000的端口,导致没有代理解析,无法访问,出现503的情况,有没有什么好的方案或者建议呢?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。