为LLM推理服务配置推理网关智能路由
传统的HTTP请求，经典负载均衡算法可以将请求均匀地发送给不同的工作负载。然而，对于LLM推理服务来说，每个请求给后端带来的负载是难以预测的。推理网关（Gateway with Inference Extension）是基于Kubernetes社区Gateway API及其Inference Extension规范实现的增强型组件，它能够通过智能路由优化在多个推理服务工作负载之间的负载均衡性能，根...
通过配置XFF请求头使ASM网关获得客户端IP
在营销、审计和反作弊等场景中，通常需要网关获取客户端源IP以提升安全性、优化体验或满足合规要求。本文介绍在ASM场景下，如何配置X-Forwarded-For请求头来使ASM网关获取客户端源IP。
在ASM入口网关上配置mTLS服务并限制特定客户端访问
ASM网关支持对外提供mTLS服务。mTLS协议要求客户端提供自身证书，证书中包含了用户的身份信息。您可以在授权策略中配置只有特定的用户才可以成功访问该服务，进而为服务提供更加高级别的保护。本文将介绍如何在ASM入口网关上配置mTLS服务，并且通过授权策略实现对特定用户的访问限制。
请问，采用docker镜像启动的服务地址是docker内地址，现在尝试配置为ecs的IP访问原生网关
请问，采用docker镜像启动的服务地址是docker内地址，现在尝试配置为ecs的IP访问原生网关是没有问题的，如果是用数据源是nacos来的注册发现时，在服务列表里看到的服务启动正常但IP是docker内的IP，请问这个如何解决啊？
记录贴-配置HTTPS域名访问到本地局域网网关
前言 记录点点滴滴 每日一句：I am more vulnerable than I thought, but much stronger than I ever imagined. 缘由 在我们前后端本地联调的时候，通过域名请求网关，网关转发到业务服务，但是某一天小伙伴们希望是通过HTTPS访问（其实只是微信小程序需要HTTPS），因此把整个流程做个记录 过程 部署网关 找一台本地局域网的服务....
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
