文章 2025-10-03 来自:开发者社区

135_负载均衡:Redis缓存 - 提高缓存命中率的配置与最佳实践

引言 在现代大型语言模型(LLM)部署架构中,缓存系统扮演着至关重要的角色。随着LLM应用规模的不断扩大和用户需求的持续增长,如何构建高效、可靠的缓存架构成为系统性能优化的核心挑战。Redis作为业界领先的内存数据库,因其高性能、丰富的数据结构和灵活的配置选项,已成为LLM部署中首选的缓存解决方案。 本教程将深入...

135_负载均衡:Redis缓存 - 提高缓存命中率的配置与最佳实践
文章 2024-06-28 来自:开发者社区

Redis系列学习文章分享---第十四篇(Redis多级缓存--封装Http请求+向tomcat发送http请求+根据商品id对tomcat集群负载均衡)

Redis的实战篇-多级缓存 在实际应用中,为了提高系统性能和减少对后端资源的依赖,常常会采用多级缓存策略,其中Redis作为高速缓存扮演着重要的角色。本文将介绍如何在实际项目中应用多级缓存,并提供相关的代码案例和实现方法。 1-多级缓存-怎么封装Http请求工具? 封装Http请求工具可以提高代码的复用性和可维护性,常用的工具有Apache HttpClient、OkH...

问答 2023-07-04 来自:开发者社区

有哪位实现了Nacos下线并清除ribbon的负载均衡的缓存的技术方案吗?

有哪位实现了Nacos下线并清除ribbon的负载均衡的缓存的技术方案吗?

文章 2022-08-27 来自:开发者社区

使用sidekick为minio集群提供负载均衡和高速缓存

现在很多云原生应用程序都是用http作为主要的传输机制,但是为web应用程序构建的负载均衡却不能满足一些高性能的场景。如nginx,haproxy虽然能够处理负载的应用场景,但是让它们去支撑一些高性能和一些数据密集型工作,却不能很好的应用。在minio cluster虽然可以使用nginx作为负载均衡,但是性能在一些高性能场景下很容易达到瓶颈,因此我选择sidekick作为minio clust....

文章 2022-04-14 来自:开发者社区

Nginx应用:配置文件详解、反向代理、负载均衡,做限流、缓存、黑白名单

Nginx应该是现在最火的web和反向代理服务器,没有之一。她是一款诞生于俄罗斯的高性能web服务器,尤其在高并发情况下,相较Apache,有优异的表现。那除了负载均衡,她还有什么其他的用途呢,下面我们来看下。一、静态代理Nginx擅长处理静态文件,是非常好的图片、文件服务器。把所有的静态资源的放到nginx上,可以使应用动静分离,性能更好。二、负载均衡Nginx通过反向代理可以实现服务的负载均....

Nginx应用:配置文件详解、反向代理、负载均衡,做限流、缓存、黑白名单
文章 2022-02-16 来自:开发者社区

Nginx 反向代理、负载均衡、页面缓存、URL重写及读写分离详解(二)

Nginx 反向代理、负载均衡、页面缓存、URL重写及读写分离详解(一): http://douer.blog.51cto.com/6107588/1922682 七、Nginx之URL重写 1.URL重写模块(Rewrite) 摘要 这个模块允许使用正则表达式重写URI(需PCRE库),并且可以根据相关变量重定向和选择不同的配置。如果这个指令在server字段中指定,那么将在被请求的lo...

Nginx 反向代理、负载均衡、页面缓存、URL重写及读写分离详解(二)
文章 2022-02-16 来自:开发者社区

Nginx 反向代理、负载均衡、页面缓存、URL重写及读写分离详解(一)

大纲 一、前言 二、环境准备 三、安装与配置Nginx 四、Nginx之反向代理 五、Nginx之负载均衡 六、Nginx之页面缓存 七、Nginx之URL重写 八、Nginx之读写分离 注,操作系统为 CentOS 6.4 x86_64 , Nginx 是版本是最新版的1.4.2,所以实验用到的软件请点击这里下载:http://yunpan.cn/QXIgqMmVmuZrm 一、前言  ...

Nginx 反向代理、负载均衡、页面缓存、URL重写及读写分离详解(一)
文章 2022-02-16 来自:开发者社区

nginx反向代理、负载均衡、页面缓存、url重写详解

http://www.360doc.com/content/13/1114/12/7694408_329125489.shtml       本文转自Tenderrain 51CTO博客,原文链接:http://blog.51cto.com/tenderrain/1642494,如需转载请自行联系原作者

文章 2022-02-15 来自:开发者社区

Nginx 反向代理、负载均衡、页面缓存、URL重写以及读写分离

1.环境准备 前端Nginx:10.160.65.44 后端WEB服务器两台:10.160.65.49/10.160.65.50 2.安装Nginx: 下载nginx-1.9.15.tar.gz,放置在目录/usr/local/src目录下面,解压。 ./configure make & make install 在/usr/local/目录下生成了nginx目录 con...

问答 2022-02-15 来自:开发者社区

SLB有缓存吗?

SLB有缓存吗?前端一个SLB,后面挂两个后端服务器,发现将其中的一个后端服务器撤下后,发现SLB还是将流量发送到已撤下的服务器上,所以想问问,SLB有没有缓存,缓存有多长时间?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

飞天洛神云网络

阿里云飞天洛神云网络

+关注