阿里云文档 2025-04-01

通过会话日志进行流量溯源帮助企业快速定位和排查故障

如需在业务故障发生后迅速定位故障原因并解决问题,建议您提前开启会话日志功能,以便随时查看日志内容,协助故障定位。

阿里云文档 2025-03-24

为云原生API网关配置内网DNS server

为服务配置DNS服务器可以实现高效、安全的内部域名解析,确保内部服务的访问稳定性和可靠性。通过合理配置DNS服务器,可以实现对内部服务域名的集中管理,避免因外部DNS故障或网络波动导致的服务不可用问题。

阿里云文档 2025-03-21

内容安全防护

AI 网关能够保护和大模型交互时的数据安全,一方面对输入到外部模型的数据进行隐私保护,另一方面对输出给用户的数据进行内容过滤。

阿里云文档 2025-03-21

缓存

在重复性强的 AI 请求场景,通过将大语言模型(LLM)生成的响应结果缓存到 Redis 数据库中,避免重复调用大语言模型,提升响应速度。本文将为您介绍缓存策略的功能优势,以及开启步骤。

阿里云文档 2025-03-21

限流

API限流策略专为大模型服务及高并发调用场景设计,采用基于调用Token量的动态控制机制,取代传统请求数或请求体积的限流方式。该策略可针对消费者身份、请求Header参数、Query参数、客户端IP等多维度配置限流规则,根据单次API调用消耗的Token总量进行实时计费和流量管控。这种以Token消耗为核心的限流模式能精准匹配大模型计算资源消耗特性,有效防止系统过载、接口滥用及恶意调用,同时保障核...

文章 2024-11-10 来自:开发者社区

Gateway服务网关

1.为什么需要网关 Gateway网关是我们服务的守门神,所有微服务的统一入口。网关的核心功能特性: 请求路由 权限控制 限流 其架构图如下: 权限控制:网关作为微服务入口,需要校验用户是是否有请求资格,如果没有则进行拦截。 路由...

Gateway服务网关
文章 2024-08-25 来自:开发者社区

【Azure API 管理】APIM Self-Host Gateway 自建本地环境中的网关数量超过10个且它们的出口IP为同一个时出现的429错误

问题描述 Azure API Management服务支持使用自建网关来实现API服务,这样APIM的所有请求都可以走在自管理的企业内网中。流量都更加安全。当根据官网文档搭建后,如果在本地环境中部署超过10个Self-host gateway,并且这些Self-host gateway的主机出口IP地址(公网IP)都是同一个的时候,就会遇见429错误: [HeartbeatError],...

【Azure API 管理】APIM Self-Host Gateway 自建本地环境中的网关数量超过10个且它们的出口IP为同一个时出现的429错误
文章 2024-08-06 来自:开发者社区

Gateway服务网关

cloud-demo(1).zip 1.为什么需要网关 Gateway网关是我们服务的守门神,所有微服务的统一入口。网关的核心功能特性: 请求路由 权限控制 限流 其架构图如下: ...

Gateway服务网关
文章 2024-07-23 来自:开发者社区

SpringCloud怎么搭建GateWay网关&统一登录模块

项目介绍 项目中现在有如下几个模块: blog-auth:认证服务,目前只提供了基本的登录逻辑处理。 blog-common:公共依赖模块,一些公共的依赖、工具类、配置等都封装在这里,其它的微服务都引入这个模块 blog-gateway:API网关服务,是所有流量的入口。目前做了路径重写、登录校验功能。 blog-web:web端api服...

SpringCloud怎么搭建GateWay网关&统一登录模块
文章 2024-07-14 来自:开发者社区

有了k8s还需要gateway网关,nacos配置中心吗

在Kubernetes(k8s)环境中,您可能仍然需要使用服务网关(Gateway)和配置中心如Nacos,尽管k8s本身提供了一些类似的功能。以下是一些分析: 1. 服务发现与注册 虽然k8s通过其内置的Service资源和服务发现机制提供了服务注册和发现的功能,但在某些情况下,您可能需要更高级的动态路由和负载均衡功能,这些是服务网关(如Spring Cloud Gateway...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

开发与运维

集结各类场景实战经验,助你开发运维畅行无忧

+关注