通过自建Metricbeat收集系统指标信息
背景信息 Beats是一个集合了多种单一用途的数据采集器的平台，这些采集器安装后可用作轻量型代理，从成百上千或成千上万台机器向Logstash或Elasticsearch实例发送数据。Metricbeat是一个轻量级的指标采集器，可以从系统和服务中收集指标。...
采集及分析Nginx监控日志
具体操作，请参见 安装Logtail（Linux系统）或 安装Logtail（Windows系统）。说明 目前支持Linux Logtail 0.16.0及以上版本，Windows Logtail 1.0.0.8及以上版本。步骤一：准备环境 请按照以下步骤，开启Nginx status插件。执行以下命令...
基于GitHub公开事件数据集的离线实时一体化实践
降低系统复杂度：减少数据管理和处理的复杂度，使数据管理和处理更加简单和高效。提高数据应用价值：更加充分地发挥数据的应用价值，为企业提供更好的决策支持。阿里云在此方向上进行了诸多方案设计，推出了化繁为简的实时离线一体化数仓，...
集群管理常见问题
采集使用异步方式，不会阻塞任务主进程，当采集造成的压力过大时，会自动丢弃采集数据，并且您可以根据参数调整采集频率等。TPC-DS部分测试的数据如下表所示。SQL及使用引擎 使用EMR Doctor采集时间（10次平均）不使用EMR Doctor采集时间...
文档修订记录
QueryPublicModelEngine 2023.10.20 新增功能 上传与下载 DataWorks的上传与下载模块，提供了便捷的数据上传功能，支持将多种来源（例如，本地文件、OSS文件）的数据上传至MaxCompute大数据引擎中进行分析处理及相关管理操作，致力于为您...
监控分析平台对比
在完成数据采集后，还需要有一套合适的系统进行转换、存储、处理、分析，满足多样的需求。数据问题主要包括：数据多样 各类系统数据：cpu、mem、net、disk等通用硬件指标，系统日志。业务黄金指标：延时、流量、错误、饱和度。业务访问日志...
Windows
接收裸数据回调 void onCaptureVideoSample(AliRtcVideoSource videoSource,AliRtcVideoDataSample*videoSample){/处理本地采集视频数据 } void onRemoteVideoSample(const AliRtc:String&uid,AliRtcVideoSource videoSource,...
采集主机监控数据
日志服务Logtail支持采集主机CPU、内存、负载、磁盘、网络等监控数据。本文介绍通过Logtail采集主机监控数据的操作步骤。前提条件 已创建Project和MetricStore。具体操作，请参见 创建项目Project 和 创建MetricStore。使用限制 不支持...
创建集群
通过阿里云E-MapReduce（简称EMR），您可以轻松构建和运行Hadoop、Spark、Hive、Presto等开源大数据框架，以进行大规模数据处理和分析等操作。本文为您介绍在EMR on ECS上创建集群的操作步骤和相关配置，帮助您快速搭建和管理大数据集群。...
创建IP地址机器组
已安装Logtail，安装步骤请参见 安装Logtail（Linux系统）、安装Logtail（Windows系统）。对于本账号与 日志服务 Project相同地域的ECS实例，安装步骤请参见 安装Logtail（ECS实例）。已配置用户标识。对于本账号的ECS实例，无需配置用户...
业务运营报表
在翻页或者加载的过程中，如果结果重复出现在第二页算一个新的曝光PV，结果不去重 如果开通数据采集功能并上传了曝光数据，则每次曝光记1否则，记每次返回的Item数 依赖开通数据采集功能，并且上传了用户曝光行为数据/也可不开通或上传，但...
通过Sidecar-控制台方式采集容器文本日志
本文介绍通过Sidecar方式在容器上部署Logtail后，如何在 日志服务 控制台上创建Logtail配置采集容器文本日志。前提条件 已创建Project和Logstore。具体操作，请参见 创建Project、创建Logstore。目标容器持续产生日志。重要 Logtail只采集...
通过DaemonSet方式采集Kubernetes容器文本日志
但是，容器内的文件系统都是由宿主机的文件系统挂载形成，通过将宿主机根目录所在的文件系统挂载到Logtail容器，就可以访问宿主机上的任意文件，从而间接采集业务容器文件系统的文件。容器内文件路径与宿主机文件路径之间的关系被称为文件...
采集主机文本日志
本文介绍如何使用Logtail采集主机文本日志。前提条件 已创建Logtail机器组并添加相应服务器，创建机器组的步骤，请参见 创建用户自定义标识机器组（推荐）或 创建IP地址机器组。安装Logtail的主机需开放80（HTTP）端口和443（HTTPS）端口。...
安装Agent
数据库审计系统的Agent程序是部署在用户终端或目标数据库服务器上的功能插件，用来转发数据库访问流量到审计系统。您需要根据数据库服务器的类型，选择合适的方式来安装Agent，才能使数据库审计服务收集目标数据库的访问流量信息。本文介绍...
采集SNMP协议机器信息
具体操作，请参见 安装Logtail（Linux系统）或 安装Logtail（Windows系统）。手动安装Logtail后，您必须在该服务器上手动配置用户标识。具体操作，请参见 配置用户标识。安装完成后，单击 确认安装完毕。在 创建机器组 页面，输入 名称，...
在调度中使用EMR Doctor任务采集功能
创建EMR集群时，已默认安装EMR Doctor环境并开通EMR Doctor任务信息采集用于健康度评估，但部分客户端参数配置可能导致任务采集失效。本文为您介绍如何在客户端追加采集参数以保证EMR Doctor任务采集正常工作。EMR Doctor配置 通常情况下，...
接入无侵入服务观测
Kubernetes数据面监控基于日志服务与龙蜥社区合作共建的无侵入监控能力，您可以直观地分析整个Kubernetes的数据流向与瓶颈问题，轻松应对复杂的云原生环境。前提条件 已创建全栈可观测实例。具体操作，请参见 创建实例。如果是控制台方式接...
App端性能体验功能说明
时间范围 支持最近90天的数据查询 维度筛选 支持应用版本、设备机型、操作系统、运营商、渠道、地域的维度筛选 高级功能 新增异常：在时间范围与筛选维度条件下，首次生成错误ID的异常（错误ID是错误摘要唯一识别）屏蔽系统级别的错误：...
什么是智能众包
人工智能众包（AI Crowdsourcing）基于共享人力资源模式，为人工智能算法提供数据采集、清洗、标注等服务，帮助企业快速构建算法数据集。人工智能众包（AI Crowdsourcing）基于共享人力资源模式，为人工智能算法提供数据采集、清洗、标注等...
数据库采集
下载采集器：如果源库不能对外使用公网，或者无法从云上去访问，可以通过ADAM数据采集器采集数据库。更多信息，请参见 采集器采集。在线采集 登录 数据管理DMS 5.0。在顶部菜单栏中，选择 集成与开发（DTS）>异构数据库迁移（ADAM）>数据库...
通过Sidecar-CRD方式采集容器文本日志
本文介绍如何安装Sidecar及使用CRD方式创建Logtail配置，完成容器文本日志的采集。前提条件 目标容器持续产生日志。重要 Logtail只采集增量日志。如果下发Logtail配置后，日志文件无更新，则Logtail不会采集该文件中的日志。更多信息，请...
机器组简介
背景信息 日志服务支持通过一个 Logtail采集配置 来采集多台服务器上的数据，这些服务器可以组成一个单独的 机器组，也可以组成多个独立的 机器组。通过将 Logtail采集配置 应用到指定的 机器组，日志服务会将该采集配置下发至机器组内的...
转换IP地址
配置说明 说明 Logtail安装包中没有GeoIP数据库，您需要手动下载GeoIP数据库到Logtail所在服务器并配置，建议下载精确到 City 粒度的数据库。更多信息，请参见 MaxMind GeoLite2。请确保数据库格式为MMDB类型。表单配置方式 参数说明 配置 ...
什么是自动驾驶开发平台
能够解决的问题如下 海量非结构化数据快速预处理 利用数据管理并行计算框架，在阿里云上以云原生的方式分布式处理海量非结构化数据，采集到的感知数据处理效率提高10倍。感知数据多模态检索 无论是经过标注还是未经标注的传感器输出数据，...
安装Logtail组件（阿里云Kubernetes集群）
在安装Logtail组件过程中，系统自动完成以下操作：创建alibaba-log-configuration ConfigMap，该ConfigMap中包含日志服务配置信息，例如Project等。（可选）创建AliyunLogConfig CRD资源。（可选）部署alibaba-log-controller Deployment，...
设置Logtail启动参数
为防止Logtail消耗过多服务器资源，影响其他服务运行，日志服务对Logtail采集性能做了限制。当您需要提升Logtail采集性能时，可修改Logtail启动参数。设置场景 遇到以下场景时，可修改Logtail启动参数。需要采集的日志文件数目大（同时采集...
通过Heartbeat检测ICMP及HTTP服务
单击 前往采集中心查看，返回 Beats数据采集中心 页面，在 采集器管理 区域中，查看启动成功的Heartbeat采集器。等待 采集器状态 变为 已生效1/1 后，单击右侧 操作 栏下的 查看运行实例。在 查看运行实例 页面，查看 采集器安装情况，当...
如何使用Linux系统的atop监控工具
其以一定的频率记录系统和进程活动，采集的数据包含CPU、内存、磁盘、网络的资源使用情况和进程运行情况，并能以日志文件的方式保存在磁盘中。对于每个进程，会显示CPU使用率、内存增长、磁盘使用率、优先级、用户名、状态和退出码等。当...
通过Auditbeat收集系统审计数据并监控文件更改
本文介绍如何通过阿里云Auditbeat收集Linux系统的审计框架数据，监控系统文件的更改情况，并生成可视化图表。背景信息 Auditbeat是轻量型的审计日志采集器，可以收集Linux审计框架的数据，并监控文件完整性。例如使用Auditbeat从Linux ...
采集标准Docker容器日志
本文介绍如何部署Logtail容器以及创建Logtail配置，用于采集标准Docker容器日志（文本日志和标准输出）。前提条件 已创建Project和Logstore。更多信息，请参见 创建项目Project 和 创建Logstore。目标容器持续产生日志。重要 Logtail只采集...
如何排查容器日志采集异常
x86_64","update_time":"2018-02-05 06:09:01"} 误删由CRD创建的Logstore后，如何处理 如果您删除了由CRD自动创建出的Logstore，则已采集的数据无法恢复，并且针对此Logstore的CRD配置会失效，您可以选择以下方案避免日志采集异常。...
iOS SDK概述
日志服务iOS SDK封装了日志服务的日志采集相关API接口。您可以通过日志服务iOS SDK方便地采集iOS日志。...采集Unity3D游戏引擎插件数据 Unity4SLS.unitypackage Unity3D游戏引擎数据采集插件。更多信息，请参见 通过Unity Plugin接入数据。
对接DataV
具体操作，请参见 数据采集。已创建索引。具体操作，请参见 创建索引。背景信息 实时大屏广泛应用于大型在线促销活动。实时大屏基于流式计算架构，该架构包含以下模块：数据采集：将来自各源头数据实时采集。中间存储：利用类Kafka Queue...
使用Spark处理JindoFS上的数据
Spark中读写JindoFS上的数据，与处理其他文件系统的数据类似，以RDD操作为例，直接使用jfs的路径即可：val a=sc.textFile("jfs:/emr-jfs/README.md")写入数据：scala>a.collect().saveAsTextFile("jfs:/emr-jfs/output")SparkSQL 创建数据...
资产全景
数据经采集、集成、加工等流程处理完成后，可以在数据资产模块进行系统化管理。本文为您介绍数据资产全景的全局、流动和结构化模式。资产全景介绍 资产全景页面仅为您展示生产环境中的元数据及加工所得的应用数据，包括以下三种模式：全局...
资产全景
数据经采集、集成、加工等流程处理完成后，可以在数据资产模块进行系统化管理。本文为您介绍数据资产全景的全局、流动和结构化模式。资产全景介绍 资产全景页面仅为您展示生产环境中的元数据及加工所得的应用数据，包括以下三种模式：全局...
Android SDK概述
日志服务Android SDK封装了日志服务的日志采集相关API接口。您可以通过日志服务Android SDK方便地采集...采集Unity3D游戏引擎插件数据 Unity4SLS.unitypackage Unity3D游戏引擎数据采集插件。更多信息，请参见 通过Unity Plugin接入数据。
trace
SystemView 不但可以实时分析和展示数据，而且可以帮助用户进行系统调试和问题诊断，尤其是在开发和处理具有多个任务的复杂系统时。SystemView 由两个部分组成：SystemView 嵌入式端程序：用于记录嵌入式系统的行为，通过实时传输（Real ...
通过Logtail采集Zabbix数据
日志服务支持将Zabbix中的监控数据采集到Logstore中。本文介绍将Zabbix数据采集到日志服务的操作步骤。前提条件 已下载及安装Zabbix。具体操作，请参见 下载与安装Zabbix。本教程中，将Zabbix安装在阿里云ECS上为例。已创建Project和...
- 产品推荐
- 这些文档可能帮助您