阿里云文档 2024-09-04

在ECS中演练内存溢出(OOM)来测试服务在面对内存资源不足时的表现

通过注入进程不断消耗内存,模拟云服务器ECS发生OOM(即内存溢出)情况,测试业务进程是否会被终止、检测系统恢复能力、验证监控和告警机制的有效性等,并基于演练结果制定应对策略,确保生产环境发生OOM时系统能够迅速恢复正常运行,降低业务中断风险。

文章 2024-08-24 来自:开发者社区

为大型语言模型 (LLM) 提供服务需要多少 GPU 内存?

$stringUtil.substring( $!{XssContent1.description},200)...

为大型语言模型 (LLM) 提供服务需要多少 GPU 内存?
问答 2024-08-14 来自:开发者社区

请教下阿里云OpenAPI,调用IOT服务,客户这个ecs服务内存一直增加,一天增加100M左右?

$stringUtil.substring( $!{XssContent1.description},200)...

问答 2024-08-13 来自:开发者社区

如何监控mysqld服务的内存使用情况,并在其超过系统内存70%时通过gdb调用

如何监控mysqld服务的内存使用情况,并在其超过系统内存70%时通过gdb调用jemalloc的malloc_stats_print函数?

问答 2024-07-31 来自:开发者社区

函数计算可以像ECI一样设置服务的requests和limit配置 而不是固定的cpu和内存吗?

函数计算可以像ECI一样设置服务的requests和limit配置 而不是固定的cpu和内存吗?

问答 2024-07-29 来自:开发者社区

通义灵码本地服务在PyCharm已经停止的情况下未释放内存

在PyCharm24.1版本中,启动通义灵码本地补全服务后,关闭PyCharm后通义灵码本地服务未正常结束运行,在任务管理器中仍有(LingmaLocal.exe)占用较大资源,请问能否有办法让他自动关闭或者在今后版本优化这个问题

问答 2024-07-24 来自:开发者社区

modelscope-funasr的服务内存一直增加是为什么?

modelscope-funasr的服务内存一直增加是为什么?

阿里云文档 2024-07-23

EAS服务部署:配置本地目录内存缓存

在大部分模型推理场景中,业务进程通过OSS或NAS将模型文件挂载到本地目录,进行模型读取、模型切换以及容器的扩缩容等操作时,会受网络带宽的影响,存在较大的延时问题。为了解决这个问题,EAS提供了本地目录内存缓存加速的功能。通过将模型文件缓存到内存中,可以提高读取数据的速度,减少延时。本文为您介绍如何配置本地目录内存缓存并详细说明其带来的加速效果。

阿里云文档 2024-07-19

服务接入点有哪些

亚太地域名称地域ID公网接入地址VPC接入地址华北1(青岛)cn-qingdaor-kvstore.aliyuncs.comr-kvstore-vpc.cn-qingdao.aliyuncs.com华北2(北京)cn-beijingr-kvstore.aliyuncs.comr-kvstore-vp...

问答 2024-07-17 来自:开发者社区

2核2GB的ECS部署了2个服务内存很高正常吗

问题描述2核2GB的ECS部署了3个服务内存很高正常吗?我用TOP命令看了下,每个服务占用了20%内存,整个示例的内存监控一直在75~80%,而且现在无人使用就这么高了。。。有无大佬看看为啥就运行了2个springboot服务的jar,还有一个eureka的jar。期望结果...已尝试的方法...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。