数据加工(新版)过程中的脱敏场景、方法和示例
数据脱敏可以有效地减少敏感数据在加工、传输、使用等环节中的暴露,降低敏感数据泄露的风险,保护用户权益。本文介绍日志服务数据加工(新版)过程中常见的脱敏场景、对应的脱敏方法及示例。
突破极限: 高负载场景下的单机300M多行正则日志采集不是梦
作者:裘文成(翊韬) 问题背景 在当今数字化时代,日志数据已成为企业 IT 运营和业务分析的关键资源。然而,随着业务规模的扩大和系统复杂度的提升,日志数据的体量呈现爆发式增长,给日志采集和处理系统带来了巨大挑战。最近,我们遇到了一个典型案例,充分体现了当前日志服务采集在高负载场景下面临的困境,以下为客户现状: 海量日志与正则采集:...

函数计算场景中使用Prometheus SDK上报时序数据
SLS SDK支持写入时序数据,但手动维护一系列自定义指标的方式较为繁琐。Prometheus能自动生成多种维度的监控指标并内置维护标签信息,然而,它通常要求对外暴露一个HTTP接口,通过第三方采集器以Pull模式拉取时序数据。在函数计算场景中,由于计算服务无法直接提供此类HTTP接口,无法通过前述Pull模式上报时序数据。本文介绍一种利用Prometheus SDK并基于Push模式上报时序数据...
JVM实战—7.如何模拟GC场景并阅读GC日志
大纲 1.动手模拟出频繁Young GC的场景 2.JVM的Young GC日志应该怎么看 3.代码模拟动态年龄判定规则进入老年代 4.代码模拟S区放不下部分进入老年代 5.JVM的Full GC日志应该怎么看 6.问题汇总 1.动手模拟出频繁Young GC的场景 (1)程序的JVM参数示范 (2)如...

金融场景 PB 级大规模日志平台:中信银行信用卡中心从 Elasticsearch 到 Apache Doris 的先进实践
导读:中信银行信用卡中心每日新增日志数据 140 亿条(80TB),全量归档日志量超 40PB,早期基于 Elasticsearch 构建的日志云平台,面临存储成本高、实时写入性能差、文本检索慢以及日志分析能力不足等问题。因此使用 Apache Doris 替换 Elasticsearch,实现资源投入降低 50%、查询速度提升 2~4 倍,同时显著提高了运维效率。 本文转录自陈地长(中信信用.....

阿里泛日志设计与实践问题之在写多查少的降本场景下,通过SLS Scan方案降低成本,如何实现
问题一:传统grep上云场景面临哪些挑战?SLS日志存储方案如何解决这些挑战? 传统grep上云场景面临哪些挑战?SLS日志存储方案如何解决这些挑战? 参考回答: 传统grep上云场景面临的挑战包括日志文件的存储、管理和查询效率问题。企业通常将日志文件进行logrotate并压缩存储在云盘上,查询时需要在云盘上找到对应的目录和文件,然后执行grep/z...
这种Higress场景下怎么处理,两个日志需要单独打印吗?
生产环境如果底层envoy异常了,业务日志比较多,开启debug日志,会被淹没,这种Higress场景下怎么处理,两个日志需要单独打印吗?
日志存储问题之志格式的乱象如何解决
问题一:哪些场景可能让人产生新增日志文件的冲动? 哪些场景可能让人产生新增日志文件的冲动? 参考回答: 希望单独监控某个类产生的日志、新增了一个业务并想单独监控、针对服务化链路单独监控、某个业务想采集用户行为但又不想全接日志消息、资损敞口的场景需要特别关注以及特殊时期内产生的日志如大促等。这些场景都可能需要新增日志文件来满足特定的监控或分析需求。 ...
本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。