使用ASM回退功能构建高可用的LLM服务
在LLM场景中，业务应用需要对接内部或外部的基础模型服务。服务网格 ASM（Service Mesh）支持同时对接多个基础模型服务，并且可以实现当一个模型服务不可用时，自动回退到另一个模型服务，助力企业实现LLM应用的高可用。本文介绍如何在对接LLM服务时使用流量回退功能。
如何基于服务网格构建高可用架构
【阅读原文】戳：如何基于服务网格构建高可用架构 引言 在业务迭代演进的过程中，伴随着业务承载的价值逐步增长，稳定性成为了企业建设数字化系统最重要的基石。在建设业务架构时，如何高可用成为了首当其冲的课题，或许没有之一。对于云产品来说，天生构建在多地域、多可用区的基础设施之上，因此利用云产品为客户搭建可靠的高...
使用ASM构建分布式系统的容错能力
分布式系统存在高度复杂性的特点，在基础设施、应用逻辑、运维流程等环节都可能存在稳定性风险而导致业务系统的失效。因此构建一个具有容错能力的分布式系统非常重要。本文介绍如何通过ASM设置超时、重试、隔板和熔断机制构建分布式系统的容错能力。
使用ASM构建分布式系统的容错能力
分布式系统存在高度复杂性的特点，在基础设施、应用逻辑、运维流程等环节都可能存在稳定性风险而导致业务系统的失效。因此构建一个具有容错能力的分布式系统非常重要。本文介绍如何通过ASM设置超时、重试、隔板和熔断机制构建分布式系统的容错能力。
CNStack 服务网格：构建统一的服务治理和零信任安全能力
作者：古琦随着云技术的发展与普及，以 K8s 为代表的云原生概念越来越被企业所接受，成为企业数字化转型的坚实基础。其所倡导的不可变基础设施、以资源为管理对象、描述性的 API、最终一致性等等理念，已经成为行业对基础设施的统一认知标准。如何实现微服务应用的快速上云，实现标准化的治理能力，服务网格是一个重要的组成部分，服务网格是一个专门处理服务通讯的基础设施层，它的职责是在复杂的拓扑结构下进行微服务....
如何构建Sidecarless模式的高性能服务网格
构建Sidecarless模式的高性能服务网格需要考虑以下关键步骤： 设计服务接口和协议： 在服务网格中，每个服务都应该有一个清晰定义的接口，以及一个用于通信的协议。HTTP/2和gRPC是常见的选择，它们都支持高效的二进制数据传输和多路复用。实现服务发现： 服务发现是服务网格中的重要组成部分。你可以使用DN...
构建无缝的服务网格体验：分享在生产环境中构建和管理服务网格的最佳实践
博主猫头虎 带您 Go to New World.✨ 博客首页——猫头虎的博客《面试题大全专栏》 文章图文并茂生动形象简单易学！欢迎大家来踩踩~ 《IDEA开发秘籍专栏》学会IDEA常用操作，工作效率翻倍~ 《100天精通Golang(基础入门篇）》学会Golang语言，畅玩云原生，走遍大小厂~ 希望本文能够给您带来一定的帮助文章粗浅，敬请批评指正！《构建无缝的服务网格体验：分享在生产环境中构.....
如何构建 Sidecarless 模式的高性能服务网格
作者：王夕宁 阿里云服务网格负责人，以下内容基于 2023 全球软件工程创新技术峰会的演讲内容整编而成01 服务网格数据面的演进以 Istio 为代表的 Service Mesh 技术已经存在四五年的时间了，阿里云也是第一批支持 Service Mesh 云服务的厂商。在 Service Mesh 技术中，通过把服务治理的能力进行 Sidecar 化，实现与应用程序本身的解耦。这些若干个 Sid....
如何用 Nacos 构建服务网格生态？
作者 | 怀成Nacos 简介Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称。目标是构建一个更易于构建云原生应用的动态服务发现、配置管理和服务管理平台。Nacos 在阿里巴巴起源于 2008 年五彩石项目（该项目完成微服务拆分和业务中台建设），成长于十年的阿里双十一峰值考验，这一阶段主要帮助业务解决微....
如何用 Nacos 构建服务网格生态
作者：怀成， Nacos committerNacos 简介Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service的首字母简称。目标是构建一个更易于构建云原生应用的动态服务发现、配置管理和服务管理平台。Nacos 在阿里巴巴起源于 2008 年五彩石项目（该项目完成微服务拆分和业务中台建设），成长于十年的阿里双十一峰值考验，这一阶段主....
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
