联网搜索
联网搜索策略能够扩展大语言模型的知识范围，通过实时检索互联网数据（支持夸克和必应搜索引擎），提升生成内容的准确性与时效性。本文将为您介绍AI API 联网搜索策略的功能优势，以及开启步骤。
为云原生API网关配置内网DNS server
为服务配置DNS服务器可以实现高效、安全的内部域名解析，确保内部服务的访问稳定性和可靠性。通过合理配置DNS服务器，可以实现对内部服务域名的集中管理，避免因外部DNS故障或网络波动导致的服务不可用问题。
缓存
在重复性强的 AI 请求场景，通过将大语言模型（LLM）生成的响应结果缓存到 Redis 数据库中，避免重复调用大语言模型，提升响应速度。本文将为您介绍缓存策略的功能优势，以及开启步骤。
限流
API限流策略专为大模型服务及高并发调用场景设计，采用基于调用Token量的动态控制机制，取代传统请求数或请求体积的限流方式。该策略可针对消费者身份、请求Header参数、Query参数、客户端IP等多维度配置限流规则，根据单次API调用消耗的Token总量进行实时计费和流量管控。这种以Token消耗为核心的限流模式能精准匹配大模型计算资源消耗特性，有效防止系统过载、接口滥用及恶意调用，同时保障核...
【APIM】Azure API Management Self-Host Gateway是否可以把请求的日志发送到Application Insights呢？让它和使用Azure上托管的 Gateway一样呢？
问题描述 Azure API Management Self-Host Gateway是否可以把请求的日志发送到Application Insights呢？让它和使用Azure上托管的 Gateway一样呢？ 这是在...
【Azure API 管理】APIM Self-Host Gateway 自建本地环境中的网关数量超过10个且它们的出口IP为同一个时出现的429错误
问题描述 Azure API Management服务支持使用自建网关来实现API服务，这样APIM的所有请求都可以走在自管理的企业内网中。流量都更加安全。当根据官网文档搭建后，如果在本地环境中部署超过10个Self-host gateway，并且这些Self-host gateway的主机出口IP地址（公网IP)都是同一个的时候，就会遇见429错误： [HeartbeatError],...
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
