产品优势
高可用性 双副本：数据采集、处理和存储组件支持多副本横向扩展，保证核心数据链路高可用。水平扩展：基于集群规模可直接进行弹性扩容。数据重传：支持数据自动重传，彻底解决丢弃逻辑弊病，确保数据完整性与准确性。可观测监控 Prometheus...
产品优势
高可用性 双副本：数据采集、处理和存储组件支持多副本横向扩展，保证核心数据链路高可用。水平扩展：基于集群规模可直接进行弹性扩容。数据重传：支持数据自动重传，彻底解决丢弃逻辑弊病，确保数据完整性与准确性。可观测监控 Prometheus...
快速体验
注意事项 本案例中，数据采集和数据加工的部分任务可以通过ETL工作流模板一键导入。在导入模板后，您可以前往目标空间，并自行完成后续的数据质量监控和数据可视化操作。仅 空间管理员 角色可导入ETL模板至目标工作空间，为账号授权空间...
可视分析创作间和传统BI软件差异比较
对比项 可视分析创作间 传统BI软件 数据源 数据连接类型：支持Excel上传，支持数据库连接 数据连接类型：支持Excel上传，支持数据库连接 支持临时业务数据，也支持建模后的数据内容 通常需要前期IT人员完成数据建模 数据采集和准备 零代码...
基于GitHub公开事件数据集的离线实时一体化实践
降低系统复杂度：减少数据管理和处理的复杂度，使数据管理和处理更加简单和高效。提高数据应用价值：更加充分地发挥数据的应用价值，为企业提供更好的决策支持。阿里云在此方向上进行了诸多方案设计，推出了化繁为简的实时离线一体化数仓，...
快速接入
产品准备-创建组织和应用 在使用Quick Tracking产品时，首先需要创建一个组织和应用，后续的SDK集成、用户行为日志采集和数据分析都需在此基础之上。组织管理 应用管理 角色授权 埋点方案录入 将业务准备中梳理好的埋点方案内容录入到Quick...
应用场景
该方案优势如下：全托管免运维 弹性扩展能力 开放数据湖架构 一站式的数据开发平台 数据查询与分析场景 在传统数据平台下，数据仓库工程师和数据分析师通常面临两个不同的环境，甚至使用不同的引擎和语法，导致数据指标和算子行为存在差异...
外部表概述
该机制使得用户可以无需将数据导入到MaxCompute内部存储，直接对外部数据进行操作，从而提供了数据处理的灵活性和方便性。背景信息 MaxCompute SQL作为分布式数据处理的主要入口，可实现EB级别离线数据的快速处理和存储。随着大数据业务的...
水处理行业页面模板
组态编辑器中水处理行业模板的使用介绍。水处理行业模板是组态编辑器中专门为水处理行业设计的页面模板。该模板包含了水处理行业常用的数据展示方式和功能...同时，用户需要了解水处理行业相关的数据采集和处理技术，以便更好地应用该模板。
Logtail限制说明
宕机时的处理 由于CheckPoint是定期保存，因此宕机恢复时将从上一个完整保存的CheckPoint开始恢复，可能导致数据采集重复。调整Checkpoint保存策略以减少数据被重复采集。Logtail采集配置 限制项 限制说明 配置更新生效的延时 从通过控制台...
Logtail
宕机时的处理 由于CheckPoint是定期保存，因此宕机恢复时将从上一个完整保存的CheckPoint开始恢复，可能导致数据采集重复。调整Checkpoint保存策略以减少数据被重复采集。Logtail采集配置 限制项 限制说明 配置更新生效的延时 从通过控制台...
什么是阿里云Logstash
Elasticsearch作为实时分布式搜索和分析引擎，Logstash提供了数据采集、转换、优化和输出的能力，Kibana提供了强大的可视化界面，可以被广泛应用于实时日志处理、全文搜索和数据分析等领域。Logstash数据传输原理 数据采集与输入：Logstash...
概述
高性能版Spark全密态计算引擎密钥处理机制 数据加密 在数据加密过程中，高性能版Spark全密态计算引擎会从应用配置中获取用户主密钥（MEK），并为每个列或文件随机生成密钥加密密钥（KEK）和数据密钥（DEK）。其中，密钥加密密钥（KEK）用于...
节点诊断
数据采集：根据异常识别结果采集和诊断上下文相关的数据。例如，节点诊断采集节点在K8s中的信息、节点对应的ECS信息、节点内Docker、Kubelet等进程运行状态信息。检查项评估：根据采集到的数据，判断关键指标是否正常。例如，节点诊断检查...
Pod诊断
数据采集：根据异常识别结果采集和诊断上下文相关的数据。例如，节点诊断采集节点在K8s中的信息、节点对应的ECS信息、节点内Docker、Kubelet等进程运行状态信息。检查项评估：根据采集到的数据，判断关键指标是否正常。例如，节点诊断检查...
如何选取统计信息自动采集策略
本文介绍了统计信息采集的三种策略和采集建议。SQL查询执行计划的好坏对数据库性能有重要的影响，为了给优化器CBO提供准确的统计信息用于生成更优的执行计划，PolarDB-X 会在后台发起统计信息采集任务。统计信息采集说明 PolarDB-X 包括...
DAS Auto Scaling弹性能力
垂直扩容则是在现有规格基础上进行升级，其一般流程为先对备库做升级，然后主备切换，再对新备库做规格升级，通过这样的流程来降低对业务的影响，但是备库升级后切换主库时依然存在数据同步和数据延迟的问题。因此，在什么条件下选择哪种扩...
阿里云Elasticsearch数据采集解决方案
本文提供了将数据采集到阿里云Elasticsearch服务中的几种解决方案。背景信息 对于数据搜索和分析来说，Elasticsearch无处不在。开发人员和社区可使用Elasticsearch寻找各种各样的使用场景，从 应用程序搜索 和 网站搜索，到日志、基础架构...
播放数据统计常见问题
由于采集、处理方式的不同，目前点播视频的播放数据统计和流量统计都有一定的时间延迟，且延迟时间不一致。因此您在查询最新数据时，看到的播放次数和流量数据在同一时间可能无法完全匹配。在查询大于延迟时间窗口的历史数据时（如查询前一...
数据上云工具
通过简单的配置即可完成数据的采集和传输，结合MaxCompute和StreamCompute可以轻松构建流式数据从采集到分析的一站式解决方案。LogStash的DataHub插件可以将日志数据实时上传到DataHub，并归档到MaxCompute表中。具体示例请参见 Logstash+...
米连科技
但是随着业务发展、架构的升级、数据量的增长，伊对需要寻找更强大的数据采集、处理和分析平台来满足运营团队日益增长的数据分析需求，保持伊对高速的用户增长率。业务痛点 伊对面临的主要挑战如下：数据来源分散 客户使用不同的计算存储...
技术架构选型
在数据模型设计之前，您需要首先完成技术架构...其中，DataWorks的数据集成负责完成数据的采集和基本的ETL。MaxCompute作为整个大数据开发过程中的离线计算引擎。DataWorks则包括数据开发、数据质量、数据安全、数据管理等在内的一系列功能。
上海新能源汽车车辆基础数据
由上海市经济和信息化委员会负责业务指导，是上海市的新能源汽车市级监管平台，其主要职责是对上海市推广的全部新能源汽车进行数据采集和分析应用，以支撑政府政策制订和安全监管。截至2021年1月31日，数据中心累计接入新能源汽车41.8万辆...
图扑案例
新技术在创造新机遇带动产业升级的同时也带来了新的技术挑战，更加复杂的系统架构和更高的性能、稳定性要求制约了工业物联网系统实施落地，企业需要专业技术公司来帮助解决数据采集、传输、存储、分析及可视化全链数据处理系统建设难点。...
技术架构选型
其中，DataWorks的数据集成负责完成数据的采集和基本的ETL。MaxCompute作为整个大数据开发过程中的离线计算引擎。DataWorks则包括数据开发、数据质量、数据安全、数据管理等在内的一系列功能。icmsDocProps={'productMethod':'created','...
产品概述
数据总线 DataHub服务可以对各种移动设备，应用软件，网站服务，传感器等产生的大量流式数据进行持续不断的采集，存储和处理。用户可以编写应用程序或者使用流计算引擎来处理写入到数据总线 DataHub的流式数据比如实时Web访问日志、应用...
Logtail配置
通过在创建Logtail配置时设置数据源、采集模式等参数，实现定制化的采集策略。本文介绍API模式下Logtail配置相关的参数说明。Logtail配置基础参数说明 参数名称 数据类型 是否必填 示例值 描述 configName string 是 config-sample Logtail...
实现原理
RMS 实现原理示意图 采集层 DaemonSet Agent（又称 Pontus-Agent）日志采集代理 负责所有的数据的最终采集，包括原始日志拉取和指标型数据采集。具有插件化的能力，统一本地调度能力，负责拉起插件和解析数据，解析完了之后做一次聚合计算...
Delta Lake概述
Delta Lake以数据为中心，围绕数据流走向（数据从流入数据湖、数据组织管理和数据查询到流出数据湖）推出了一系列功能特性，协助您搭配第三方上下游工具，搭建快捷、易用和安全的数据湖。背景信息 通常的数据湖方案是选取大数据存储引擎...
管理应用和标签
在应用设置页面上，您可以控制是否显示机器名称和采集应用数据，也可以管理应用的自定义标签和删除应用。背景信息 在 可观测链路 OpenTelemetry 版 控制台上，当需要显示应用所部署的机器时，默认情况下显示的是机器的IP地址，但是您也可以...
Iceberg概述
而Iceberg简化了工作流程，整个数据处理过程是一条完整的、可靠的实时流，其数据的清洗、转换和特征化等操作都是流上的节点动作，无需处理历史数据和实时数据。此外，Iceberg还支持原生的Python SDK，对于机器学习算法的开发者非常友好。
管理应用和标签
在应用设置页面上，您可以控制是否显示机器名称和采集应用数据，也可以管理应用的自定义标签和删除应用。背景信息 在 可观测链路 OpenTelemetry 版 控制台上，当需要显示应用所部属的机器时，默认情况下显示的是机器的IP地址，但是您也可以...
基本概念
DBGateway：DBGateway是部署在用户环境中的守护进程，负责数据库性能数据的采集和计算。但它不读取业务数据，且数据传输会进行加密压缩。更多关于DBGateway的信息，请参见 DBGateway简介。索引：索引是数据库管理系统对数据库表中一个或多...
性能体验定价及计费说明
新功能会设置开关，如果您在开关与采样配置中或者在新功能的功能页面中开启新功能，并造成数据采集上报，则会将新功能的日志量也统计到您的总日志量中。以下为当前App端套餐的功能表 功能类 功能 功能说明 查询 查询时间范围 90天 管理 ...
Napatech案例
业务挑战 随着网络数据流量的爆增以及业务可用性要求的不断提升，Napatech公司的用户可以将数据包采集和分析的能力提升至200G，然而上层软件产生的流量数据包元数据也爆增，给后台数据库（比如开源的HBase/ElasticSearch）的存储和索引能力...
Kafka实时入湖
本文为您介绍如何在数据湖构建（Data Lake Formation，简称DLF）中使用Kafka实时入湖任务将数据同步到数据湖中。重要 数据入湖功能已经停止更新，如果您有数据入湖需求请参考：数据入湖停止更新公告。前提条件 已开通数据湖构建服务，尚未...
什么是Logtail
Logtail多年来一直承载着阿里巴巴集团重要服务的数据采集。每天采集数百万服务器上的实时数据，日流量数十PB，并历经多次双十一挑战。相关性能指标，请参见 Logtail提升采集性能。相关技术分享，请参见 Logtail技术分享一 和 Logtail技术...
最佳实践
接入Kubernetes Ingress链路数据 智能异常分析 多维指标智能巡检 日志聚合多维指标智能巡检 对云监控指标进行智能巡检 开发指南 监控日志服务 监控日志服务 其他 SLS多云日志采集、处理及分析 微服务架构日志采集运维管理
数据血缘
背景信息 DataWorks数据地图是在元数据基础上提供的企业数据目录管理模块，提供元数据详情查看、数据血缘和数据类目管理等功能。数据地图可以帮助您更好地查找、理解和使用数据，详情请参见 数据地图概述。使用限制 仅Hologres V1.1及以上...
东软案例
企业面向客户、合作伙伴和内部员工建设IT系统及应用复杂度和数量会随着产品智能、互联化的深入持续增长，对映可用性保障运维监控采集数据采集种类，以及需要存储的数据量同步激增，现有监控系统基于RRD数据库或关系数据库搭建的单模引擎的...
- 产品推荐
- 这些文档可能帮助您