首发，Higress AI 网关率先支持 QwQ-32B，推理成本可再降 90%
在各类基准测试中，拥有 320 亿参数的 QwQ 模型，其性能可与具备 6710 亿参数（其中 370 亿被激活）的 DeepSeek-R1 媲美。这意味着： 个人用户可以在更小的移动设备上、本地就能运行。企业用户推理大模型 API 的调用成本，可再降 90%。 📊 价格对比： 如果...
用 Higress AI 网关降低 AI 调用成本 - 阿里云天池云原生编程挑战赛参赛攻略
1. 背景 我们要在 Higress 网关中编写 WebAssembly（wasm）插件，使得在 http 请求的各个阶段（requestHeader，requestBody，responseHeader，responseBody）能够将相应的请求或返回捕获进行业务逻辑的处理。具体到本比赛，主要需要实现的是缓存对大模型的请求（openai 接口的形式）在本地（或云数据库），并设...
基于龙蜥操作系统指令加速，降低云原生网关的构建成本
技术背景网络信息传输的可靠性、机密性和完整性要求日渐提升，HTTPS协议已经广泛应用。HTTPS的SSL/TLS协议涉及加解密、校验、签名等密码学计算，消耗较多CPU计算资源。因此CPU硬件厂商推出过多种加速卸载方案，如AES-NI, QAT, KAE, ARMv8安全扩展等。业界软件生态在优化HTTPS的性能上也做了诸多探索（参考[1]），传统的软件优化方案有Session复用、OCSP St....
基于龙蜥操作系统指令加速，降低云原生网关的构建成本
技术背景网络信息传输的可靠性、机密性和完整性要求日渐提升，HTTPS 协议已经广泛应用。HTTPS 的 SSL/TLS 协议涉及加解密、校验、签名等密码学计算，消耗较多 CPU 计算资源。因此 CPU 硬件厂商推出过多种加速卸载方案，如 AES-NI，QAT，KAE，ARMv8 安全扩展等。业界软件生态在优化 HTTPS 的性能上也做了诸多探索（参考[1]），传统的软件优化方案有 Session....
下一代网关：MSE云原生网关如何降低网关资源成本
下一代网关：MSE云原生网关如何降低网关资源成本——耿蕾蕾（如葑）阿里云智能研发工程师一、云原生网关的诞生背景传统网关分为流量网关和业务网关。流量网关指提供全局性的、与后端业务无关的策略配置，比如 Nginx 就是流量网关。业务网关是指提供独立于业务域级的、与后端业务紧耦合的策略配置。随着分布式微服务的演进，业务网关又衍生出了新的分类——微服务网关，比如典型的 Spring ....
使用API网关降低API管理成本
随着企业的发展，开放了大批量的API，用于衔接内部系统，用于链接移动、智能设备，用于链接我们的供应商、代理商和合作伙伴，打通了企业企业的上下游。API承载了企业的关键业务、连接了企业的重要客户，随着API数量的增多，API的管理成本不断提升，从而大大影响了开发效率。 主要体现在： API在不同的不同系统/软件中中开放，无法统一管理，API管理挑...
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
