阿里云文档 2025-09-04

为LLM推理服务配置推理网关智能路由

传统的HTTP请求,经典负载均衡算法可以将请求均匀地发送给不同的工作负载。然而,对于LLM推理服务来说,每个请求给后端带来的负载是难以预测的。推理网关(Gateway with Inference Extension)是基于Kubernetes社区Gateway API及其Inference Extension规范实现的增强型组件,它能够通过智能路由优化在多个推理服务工作负载之间的负载均衡性能,根...

阿里云文档 2025-07-29

基于ACK One ALB多集群网关实现异地容灾

ACK One支持通过ALB多集群网关来实现异地容灾系统,异地容灾可以防范地域性质的灾难损害,例如地震、水灾等灾害,但同时会带来更高的延迟、更高的费用及维护成本。本文将介绍通过ALB多集群网关来实现异地容灾系统的架构和使用场景。

阿里云文档 2025-03-13

基于ACK One ALB多集群网关实现异地容灾

ACK One支持通过ALB多集群网关来实现异地容灾系统,异地容灾可以防范地域性质的灾难损害,例如地震、水灾等灾害,但同时会带来更高的延迟、更高的费用及维护成本。本文将介绍通过ALB多集群网关来实现异地容灾系统的架构和使用场景。

阿里云文档 2025-01-13

基于ACK One ALB多集群网关实现同城容灾

通过ACK One ALB多集群网关,结合ACK One GitOps或多集群应用分发,可以快速实现应用的同城多活容灾,保证应用高可用,并在故障发生时自动平滑迁移。本文介绍如何通过多集群网关构建同城容灾系统。

文章 2025-01-07 来自:开发者社区

ACK One多集群网关:实现高效容灾方案

【阅读原文】戳:ACK One多集群网关:实现高效容灾方案 概述       从业务架构上来说,企业的业务系统自上而下通常分为接入层、应用层和数据层。   • 接入层:流量入口,负责接收流量,根据路由转发规则将流量转发到后端应用层。   • 应用层:应用服...

ACK One多集群网关:实现高效容灾方案
阿里云文档 2024-12-06

基于ACK One ALB多集群网关实现混合云容灾

为了为当前在IDC或第三方公共云的Kubernetes集群中的业务提供同城灾备的高可用冗余能力,可以利用ACK One实现统一的流量、应用和集群管理,从而实现业务流量的多集群路由,并在灾难情况下自动平滑容灾。本文介绍如何通过ACK One快速构建混合云同城多活容灾系统。

文章 2024-08-27 来自:开发者社区

微服务从代码到k8s部署应有尽有系列(二、网关)

我们用一个系列来讲解从需求到上线、从代码到k8s部署、从日志到监控等各个方面的微服务完整实践。 整个项目使用了go-zero开发的微服务,基本包含了go-zero以及相关go-zero作者开发的一些中间件,所用到的技术栈基本是go-zero项目组的自研组件,基本是go-zero全家桶了。 实战项目地址:https://github.com/Mikaelemmmm/go-zero-...

微服务从代码到k8s部署应有尽有系列(二、网关)
文章 2024-07-14 来自:开发者社区

有了k8s还需要gateway网关,nacos配置中心吗

在Kubernetes(k8s)环境中,您可能仍然需要使用服务网关(Gateway)和配置中心如Nacos,尽管k8s本身提供了一些类似的功能。以下是一些分析: 1. 服务发现与注册 虽然k8s通过其内置的Service资源和服务发现机制提供了服务注册和发现的功能,但在某些情况下,您可能需要更高级的动态路由和负载均衡功能,这些是服务网关(如Spring Cloud Gateway...

问答 2023-12-13 来自:开发者社区

容器服务ACK 这个mac地址是网关的mac地址吗 ?

ip neigh命令看到的mac地址都是: ee:ff:ff:ff:ff:ff , 容器服务ACK 这个mac地址是网关的mac地址吗 ?

文章 2023-12-05 来自:开发者社区

阿里云 ACK One 新特性:多集群网关,帮您快速构建同城容灾系统

近日,阿里云分布式云容器平台 ACK One[1]发布“多集群网关”[2](ACK One Multi-cluster Gateways)新特性,这是 ACK One 面向多云、多集群场景提供的云原生网关,用于对多集群南北向流量进行统一管理。基于 ACK One 多集群网关可以快速构建多集群应用的同城容灾系统,帮助企业以更简单、高效的方式为应用数据的连续性和可用性提供保障。为什么需要同城容灾由于....

阿里云 ACK One 新特性:多集群网关,帮您快速构建同城容灾系统

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。