为LLM推理服务配置推理网关智能路由
传统的HTTP请求，经典负载均衡算法可以将请求均匀地发送给不同的工作负载。然而，对于LLM推理服务来说，每个请求给后端带来的负载是难以预测的。推理网关（Gateway with Inference Extension）是基于Kubernetes社区Gateway API及其Inference Extension规范实现的增强型组件，它能够通过智能路由优化在多个推理服务工作负载之间的负载均衡性能，根...
使用ASM网关的流量路由功能
服务网格 ASM（Service Mesh）为网关提供了直观的图形化界面，您可以直接在控制台创建目标规则和虚拟服务，而无需编写YAML文件，大幅简化了流量管理操作。本文介绍如何使用图形化的方式创建流量策略和路由策略。
在ASM网关上基于Client IP进行路由
基于客户端IP进行路由是较为常见的需求，例如内网和公网的用户需要访问不同版本的应用、不同地区的用户需要访问不同类别的内容等。因此ASM提供了自定义插件能力，可以将请求的客户端IP转换为请求Header进行路由。本文将介绍如何在ASM中利用自定义插件实现基于客户端IP的路由。
计算机网络概念:网关，DHCP，IP寻址，ARP欺骗，路由，DDOS等
计算机主机网关的作用是什么? 假设你的名字叫小不点，你住在一个大院子里，你的邻居有很多小伙伴，在门口传达室还有个看大门的李大爷，李大爷就是你的网关。当你想跟院子里的某个小伙伴玩，只要你在院子里大喊一声他的名字，他听到了就会回应你，并且跑出来跟你玩。 但是你不被允许走出大门，你想与外界发...
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
