入门概述
数据采集器使用 Filebeat 轻量型日志采集器，用于转发和汇总日志与文件。参见以下文档，快速使用Filebeat。通过Filebeat采集Apache日志数据 Metricbeat 轻量型指标采集器，输送各种系统和服务统计数据。参见以下文档，快速使用Metricbeat。...
概述
方案设计 传感器数据采集上云解决方案如下图所示。数据链路为：测温器将物理信号转换成数字信息，组装成结构化数据，通过无线网络传输，采用MQTT协议接入阿里云物联网平台。物联网平台的规则引擎模块对原始数据进行过滤、富化、转换，实时...
ADAM概览
敏感数据保护：为保证数据库的敏感信息不被泄漏，数据采集器会对采集到的数据进行脱敏。兼容性分析：源库特性匹配：识别对象使用了哪些特性，并给出在目标库上的解决方案。源库使用场景匹配：针对一些特定的使用场景（通常可能会影响性能）...
数据血缘
元数据采集完成后，您可以在数据总览页面查看当前地域下，配置了数据采集器的Hologres数据库统计信息和表信息，详情请参见 数据总览。如果需要查找表，可参见 通用数据查询与管理。查看血缘详情。查找到目标表后，您可以单击目标表名称进入...
通过接入中心接入数据
云服务环境：对于常规云服务数据采集，通常按地域划分，为每个地域创建各自的云服务环境。每一个环境默认关联一个Prometheus实例的存储指标数据。对于应用监控和链路追踪等组件，目前数据存储不严格对齐指标数据的存储划分。组件 接入中心...
iOS SDK概述
日志服务iOS SDK封装了日志服务的日志采集相关API接口。您可以通过日志服务iOS SDK方便地采集iOS日志。...采集Unity3D游戏引擎插件数据 Unity4SLS.unitypackage Unity3D游戏引擎数据采集插件。更多信息，请参见 通过Unity Plugin接入数据。
Android SDK概述
日志服务Android SDK封装了日志服务的日志采集相关API接口。您可以通过日志服务Android SDK方便地采集...采集Unity3D游戏引擎插件数据 Unity4SLS.unitypackage Unity3D游戏引擎数据采集插件。更多信息，请参见 通过Unity Plugin接入数据。
SQL周期性采集
说明 数据库采集器运行环境要求：数据库采集器所在的机器网络可连接Oracle源数据库即可，无需安装在源数据库物理机上。内存需达到6 GB以上，同时硬盘空间需满足50 GB以上。源库结构采集时，对收集结果数据自动进行参数脱敏。源库结构采集时...
数据库评估常见问题
请使用 ADAM 数据库采集器采集的 ZIP 包进行上传并创建画像。画像报错，采集数据中缺乏某信息？ADAM 画像必须分析完整的采集数据，如果缺乏某些必要信息，请重启采集或联系 ADAM 工作人员。画像内容，如何查看兼容度？ADAM 数据库画像主要...
通过迁移评估采集器采集数据库对象
您可以自行采集数据库对象定义，也可以下载迁移评估采集器完成数据库对象的采集。本文为您介绍如何通过迁移评估采集器采集数据库对象。背景信息 迁移评估采集器是用于在公有云环境采集用户 Schema 数据的工具。您在公有云环境下不可以使用...
执行离线评估
采集文件：您可以下载迁移评估采集器进行数据采集，采集完成后的文件将上传至云上进行评估。详情请参见 通过迁移评估采集器采集数据库对象。上传文件 单击 上传文件，选择需要评估的文件进行上传。支持上传多个文件，生成一个评估报告。...
基于GitHub公开事件数据集的离线实时一体化实践
前提条件 已创建云服务器ECS实例并绑定弹性公网IP，用于提取GitHub API中的实时事件数据，详情请参见 创建方式导航 和 绑定和解绑弹性公网IP。已开通对象存储OSS并在ECS中安装ossutil工具，用于存储 GH Archive 提供的JSON数据文件，详情请...
迁移评估概述
您可以自行采集数据库对象定义，也可以安装迁移评估采集器完成数据库对象的采集。详情请参见 通过迁移评估采集器采集数据库对象。在线评估需要连接目标数据库，采集源端数据库的对象、SQL 语句和数据库负载等信息。离线评估需要上传 SQL ...
采集客户端数据的高可用方案
针对该单集群故障风险，日志服务提供两种异地多活的客户端数据采集方案。方案比较 对比项 方案1：双写 方案2：数据加工复制+写入切换 部署复杂度 低 需要额外部署数据加工、切换写入。客户端资源占用 方案1是方案2的2倍 低 数据一致性 较强...
查看设备网络状态
采集时间 设备采集网络状态数据的时间。说明 设备采集到异常指标或根据您设定的时间采集数据后，会立即上报；日常诊断中，设备采集到网络正常的数据，可能不会立即上报。如果设备没有上报时间戳，则无时间展示。RSSI（dBm）信号接收强度。...
配置数据识别规则
说明 对CDH引擎中数据进行识别和脱敏时，您需要通过DataWorks的数据抽样采集器功能，从CDH Hive表中随机抽取表的部分数据用于数据保护伞的敏感数据识别，抽样采集的数据不会存储至DataWorks中，没有数据泄漏风险。详情请参见：CDH Hive数据...
什么是阿里云Elasticsearch
Beats数据采集中心 Beats是轻量级的数据采集工具，集合了多种单一用途的数据采集器。它们从成百上千或成千上万台机器和系统向Logstash或Elasticsearch发送数据。阿里云Elasticsearch的Beats采集中心支持Filebeat、Metricbeat、Auditbeat和...
快速入门
Logstash快速入门 Beats Beats是轻量级的数据采集工具，支持一键部署采集器，可视化采集与配置日志文件、网络数据、容器指标等多种类型数据，并集中管理多个采集器。Beats快速入门 高级监控报警 基于Elasticsearch开发的，具备采集、监控、...
采集Beats和Logstash数据源
本文以使用PacketBeat软件采集本地网络数据包，并使用Logtail Lumberjack插件上传到日志服务为例，进行说明。配置PacketBeat输出方式为 Logstash，示例如下所示。output.logstash:hosts:["127.0.0.1:5044"]背景信息 基于Logstash、Beats...
功能发布记录 2022年之前
数据地图>数据发现 支持自动及批量创建元数据采集器，帮助您在数据地图中快速查看表的内部结构及与表相关的关联关系。2021.02.17 全部地域。采集元数据 迁移助手支持Airflow。迁移助手支持将Airflow调度系统中的任务迁移至DataWorks。2021....
通过Metricbeat收集系统数据及Nginx服务数据
本文介绍如何通过阿里云Metricbeat采集器收集系统数据（CPU使用率、内存、磁盘IO和网络IO统计数据）和Nginx服务数据，并生成可视化图表。前提条件 您已完成以下操作：创建阿里云Elasticsearch（简称ES）实例。详情请参见 创建阿里云...
采集ECS服务日志
通过采集器（Beats），您可以采集云服务器ECS（Elastic Compute Service）中的日志文件、网络数据、服务器指标等数据，发送到阿里云Elasticsearch或Logstash中进行监控、分析等操作。本文以Filebeat为例，介绍如何配置ECS服务日志采集。...
服务器数据采集方案概述
通过Metricbeat收集系统数据及Nginx服务数据 您可以通过阿里云Metricbeat采集器收集系统数据和Nginx服务数据，并生成可视化图表。通过Auditbeat收集系统审计数据并监控文件更改 您可以通过阿里云Auditbeat收集Linux系统的审计框架数据，...
东软案例
东软基于Lindorm打造，面向政企互联网化数字信息系统运维监控场景的新一代IT智能运维系统部署架构如下图所示，其中Lindorm作为核心运维数据存储、检索引擎全量接收来自移动终端、网络嗅探器、业务监控探针、日志采集器等多种数据来源实时...
产品概述
产品为客户提供资产建模、数据采集、数据分析、设备监控和数据分析五大产品能力：资产建模：定义设备资产标准模型，管理设备资产数据 提供设备资产全维度数据建模工具 快速构建实体资产数据模型 对设备资产进行全生命周期管理 为数据应用...
产品系列概述
各产品系列对比 系列 说明 适用场景 基础版 单节点实例 个人学习、中小规模DevOps监控、应用指标和IoT传感器的时序数据采集分析、中小企业开发测试。高可用版 采用Raft一致性协议的三节点架构，适合80%以上的用户场景 大中型企业的指标采集...
应用场景
智能农业设备 使用各种传感器设备和通信网络，实时监控采集农业大棚中数据。传感器设备可通过RS485总线连接网关，再通过网关将其连接到物联网平台，实现在云端展示和管理数据。智能停车场 一个智能的停车场，可以实时展示车位使用现状、...
通过接入中心接入数据
ECS（VPC）环境：对于ECS主机下的各类数据采集，由于大多数情况下需要通过网络进行数据拉取，因此一个VPC对应一个环境。ARMS优先通过网络的形式采集数据，尽可能降低安装到ECS中的探针数量。云服务环境：对于常规云服务数据的采集，云服务...
播放数据统计常见问题
阿里云目前已上线相关服务，支持以官方播放器SDK为数据采集端的视频播放统计，并将一个终端识别为一个用户。基于上述原理，对于未使用阿里云播放器SDK的视频播放行为（包括同时使用SDK和地址播放的用户，其中地址播放的部分），因为难以...
修改采集器配置
采集器安装完成后，您可以通过采集器配置功能，修改采集器的配置信息。前提条件 已完成采集器的安装，详情请参见 采集ECS服务日志。操作步骤 登录 阿里云Elasticsearch控制台。在左侧导航栏，单击 Beats数据采集中心。在 采集器管理 区域，...
数据库评估概览
单击 在线数据库采集 或 下载采集器，采集源库数据。具体操作，请参见 数据库采集。数据库采集完成后，单击 下一步查看源库画像，单击 新建画像 上传采集的数据包进行数据库分析。具体操作，请参见 数据库画像。在 源库画像 页签，选中目标...
DataCollection
字段 类型 描述 id String 数据采集ID name String 数据采集名称 type String 数据采集端的类型-server-web-app注：目前只支持 server status Integer 状态-0 未开通-1 开通中-2 开通成功-3 开通失败 dataCollectionType String 数据采集的...
DataCollection
字段 类型 描述 id String 数据采集ID name String 数据采集名称 type String 数据采集端的类型-server-web-app注：目前只支持 server status Integer 状态-0 未开通-1 开通中-2 开通成功-3 开通失败 dataCollectionType String 数据采集的...
CDH Hive数据抽样采集器
您可以通过DataWorks的数据抽样采集器功能，从CDH Hive表中随机抽取表的部分数据用于数据保护伞的敏感数据识别。如果您在数据保护伞中配置了脱敏规则，那么在数据地图表详情页面进行数据预览时，命中的敏感字段将会被脱敏。本文为您介绍...
DescribeDataCollction-DescribeDataCollection
获取指定应用的数据采集详情。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求语法 GET/v4/openapi/app-...
A/B测试报表
在翻页或者加载的过程中，如果结果重复出现在第二页算一个新的曝光PV，结果不去重 如果开通数据采集功能并上传了曝光数据，则每次曝光记1否则，记每次返回的Item数 依赖开通数据采集功能，并且上传了用户曝光行为数据/也可不开通或上传，但...
通过Filebeat采集Apache日志数据
操作流程 步骤一：准备工作 步骤二：配置并安装Filebeat采集器 步骤三：配置Logstash管道过滤并同步数据 步骤四：查看数据采集结果 步骤一：准备工作 创建阿里云Elasticsearch实例和Logstash实例，两者版本相同，并且在同一专有网络VPC...
业务运营报表
在翻页或者加载的过程中，如果结果重复出现在第二页算一个新的曝光PV，结果不去重 如果开通数据采集功能并上传了曝光数据，则每次曝光记1否则，记每次返回的Item数 依赖开通数据采集功能，并且上传了用户曝光行为数据/也可不开通或上传，但...
设备协议
设备协议模块可创建的协议以及各协议的功能如下：设备采集协议：将设备数据自动推送到云控平台数据采集端口。数据转化协议：将数据采集协议推动上来的设备数据转化为交通云控平台的标准格式。数据（控制）下发协议：使交通云控平台下发的...
管理问题数据
问题数据采集最终将基于您的规则生成数据采集SQL，并在MaxCompute引擎侧执行，此过程将产生MaxCompute计算引擎费用。问题数据采集结果将存储与MaxCompute临时表中，此过程将产生MaxCompute计算引擎存储费用。保留问题数据配置入口 您可在按...
- 产品推荐
- 这些文档可能帮助您