服务网格容灾系列：配置集群高可用应对可用区级故障容灾
可用区级故障是云上业务可能遭遇的一种较为极端的故障类型。当可用区故障发生时，发生故障的可用区内的工作负载都将面临不可用、不可访问或数据错误等风险。本文介绍通过结合阿里云容器服务 Kubernetes 版 ACK（Container Service for Kubernetes）与阿里云服务网格 ASM（Service Mesh），应对可用区级故障容灾。
使用ASM回退功能构建高可用的LLM服务
在LLM场景中，业务应用需要对接内部或外部的基础模型服务。服务网格 ASM（Service Mesh）支持同时对接多个基础模型服务，并且可以实现当一个模型服务不可用时，自动回退到另一个模型服务，助力企业实现LLM应用的高可用。本文介绍如何在对接LLM服务时使用流量回退功能。
如何基于服务网格构建高可用架构
【阅读原文】戳：如何基于服务网格构建高可用架构 引言 在业务迭代演进的过程中，伴随着业务承载的价值逐步增长，稳定性成为了企业建设数字化系统最重要的基石。在建设业务架构时，如何高可用成为了首当其冲的课题，或许没有之一。对于云产品来说，天生构建在多地域、多可用区的基础设施之上，因此利用云产品为客户搭建可靠的高...
服务网格ServiceMesh和高并发、高可用设计手段（下）
8点前的请求保证什么时候处理完？1、不优雅：每层打不打日志 如果打印日志这一层还在处理 2、优雅：前端请求 有超时时间 若超时时间5秒 则8点05秒的时候 超时 关机从上层往下层停止服务不具备热开关机器防火墙配置在某一个时间点只出不进请求流程高并发设计缩短延迟 提高吞吐量 让系统处于合理状态空间换时间缓存数据库数据 因数据库比内存昂贵时间换空间网络传输 http通讯 gz压缩 解压会消耗cpu.....
服务网格ServiceMesh和高并发、高可用设计手段（中）
最开始的时候 业务简单 人少 业务都放在一个进程 好维护 粒度粗垂直方向拆分公共逻辑层 1、组件化 jar包 2、服务化 下沉为独立服务 提供兼容接口继续水平拆分互联网核心技术实践1、高可用设计手段 2、高并发设计手段（从架构、代码、算法） 3、服务无状态化（高可用其中一个手段之一） 4、负载均衡 （常用的负载均衡算法 更多广义角度阐述） 5、服务幂等性（依赖于分布式锁） a 请求重复执行多次.....
服务网格ServiceMesh和高并发、高可用设计手段（上）
前言承接上文 互联网架构演进之路1、ServiceMesh架构设计 2、高可用设计手段 3、高并发设计手段先推荐大家一个很好用的画软件设计图的工具gitmind此图仅仅为了展示使用gitmind画出来效果 请忽略内容简洁、清晰、有效正文开始ServiceMesh架构设计公共业务逻辑下沉多编程语言之间 通信 问题 每种语言都要写一套基础设施 成本大 因为通讯组件和应用程序耦合在一起业务研发团队和基....
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
阿里云微服务引擎 MSE
微服务引擎 MSE是一个面向业界主流开源微服务生态的一站式微服务平台，提供注册&配置中心全托管、云原生网关和无侵入的开源增强服务治理能力。在这里我们可以分享关于微服务、MSE的一切。
+关注