[帮助文档] 使用InferenceService部署Transformer服务

Transformer是InferenceService的一个组件,用于前置预处理、后置处理和模型推理。使用REST协议与Transformer服务进行交互,可以方便地将原始输入数据转换为模型服务器所需的格式,并实现端到端的数据处理和模型推理流程。

[帮助文档] 使用ASMCircuitBreaker为服务间调用流量配置熔断规则

本文介绍如何使用ASMCircuitBreaker CRD为东西向调用流量配置熔断规则。

深度解读服务网格的未来

1 课时 |
152 人已学 |
免费

Nacos 服务网格生态

1 课时 |
150 人已学 |
免费

服务网格技术最佳实践

3 课时 |
193 人已学 |
免费
开发者课程背景图

[帮助文档] 使用模型服务网格部署和管理多模型推理服务

当您需要同时运行多个机器学习模型并进行推理时,可以使用模型服务网格部署和管理多模型推理服务。模型服务网格基于KServe ModelMesh实现,针对大容量、高密度和频繁变化的模型用例进行了优化,可以智能地将模型加载到内存中或从内存中卸载,以在响应性和计算之间取得平衡,简化多模型推理服务的部署和运维...

[帮助文档] 如何配置服务主机重定向

配置主机重定向可以使得在请求发往指定服务主机时,将请求重定向到另一个服务主机。本文介绍如何配置服务主机重定向。

[帮助文档] 如何配置服务主机重定向

配置主机重定向可以使得在请求发往指定服务主机时,将请求重定向到另一个服务主机。本文介绍如何配置服务主机重定向。

通过ASM入口网关实现HTTP请求网格内GRPC服务

通过ASM入口网关实现HTTP请求网格内GRPC服务

概述 本文将介绍ASM入口网关(ingressgateway)支持协议转码的能力,使用户及其客户端可以使用HTTP/JSON访问服务网格内的gRPC服务。 ASM入口网关可将HTTP/JSON转码为gRPC。完整的http请求、grpc转码,以及grpc请求流程,如下图所示。 ASM控制平面下发用于...

基于ASM的GRPC服务部署实践

基于ASM的GRPC服务部署实践

继MicroServices之后,ServiceMesh是又一个推动软件工业的革命性技术。其服务治理的方法论,不仅改变了技术实现的方式和社会分工。 运行于数据平面的用户服务与治理服务的各种规则彻底解耦。运行于控制平面的规则定义组件,将流量控制的具体规则推送给运行于数据平面的proxy,proxy通过...

如何使用 ASM 为网格内 gRPC 服务实现负载均衡?

如何使用 ASM 为网格内 gRPC 服务实现负载均衡?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

社区圈子

阿里云微服务引擎 MSE
阿里云微服务引擎 MSE
微服务引擎 MSE是一个面向业界主流开源微服务生态的一站式微服务平台,提供注册&配置中心全托管、云原生网关和无侵入的开源增强服务治理能力。在这里我们可以分享关于微服务、MSE的一切。
92+人已加入
加入
相关电子书
更多
基于英特尔®架构的阿里云服务网格ASM技术加速应用服务加密通
阿里云总监课第五期第四节:从容器到云原生–服务网格
立即下载 立即下载