DescribeDataCollction-DescribeDataCollection
获取指定应用的数据采集详情。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求语法 GET/v4/openapi/app-...
导入历史日志文件
已加载Logtail采集配置但未采集到数据，是什么原因？Logtail采集配置不合法。local_event.json文件配置不合法。日志文件不在Logtail采集配置已设定的路径下。该日志文件已被Logtail采集过。后续操作 导入历史文件采集成功后，查询和分析请...
推送采集数据
方法 POST URI/v3/openapi/app-groups/{appName}/data-collections/{dataCollectionName}/data-collection-type/{dataCollectionType}/actions/bulk appName 指的是 opensearch 应⽤名称 dataCollectionName 指的是数据采集名称，...
数据迁移与同步FAQ
什么是数据迁移、数据同步？DTS的数据迁移与数据同步工作原理是什么？DTS的数据迁移与数据同步有什么区别？使用DTS遇到预检查报错，如何解决？什么是数据迁移、数据同步？数据迁移：将Redis数据库中的数据（即键值对）迁移至另一个Redis...
云产品集成
在 DataV 添加 OceanBase for MySQL 数据源的详细操作，请参见：什么是DataV数据可视化 配置数据库白名单 添加OceanBase for MySQL数据源 Quick BI 数据分析与展现 Quick BI 是一款全场景数据消费式的BI平台，秉承全场景消费数据，让业务...
RDS术语
更多信息，请参见 什么是数据库备份DBS。DMS Data Management，数据管理，是一种阿里云提供的图形化的数据管理工具，集数据管理、结构管理、访问安全、BI图表、数据趋势、数据轨迹、性能与优化和服务器管理于一体的数据管理服务。支持MySQL...
离线同步并发和限流之间的关系
脏数据限制 阅读此部分，您可以解决和理解如下问题：问题一：什么是数据同步的脏数据？问题二：如何配置数据同步任务脏数据限制？问题三：数据同步速率和脏数据有哪些关联关系？脏数据限制能力用来控制任务在遇到脏数据时的行为，所谓脏...
采集-多渠道数据
数据采集一般有两种方式，区别如下。本文档主要讨论通过LogHub流式导入（实时）采集数据。方式 优势 劣势 例子 批量导入 吞吐率大，面向历史存量数据 实时性较差 FTP、OSS上传、邮寄硬盘、SQL 数据导出 流式导入 实时，所见即所得，面向...
作业运维（新版）
说明 目前已知如下作业信息无法采集：作业快照数据是三分钟采集一次，因此有些作业快照数据采集不到，即在采集前三分钟以内启动的作业，采集不到快照数据。通过PAI发起的部分MaxCompute作业（特别是RAM用户发起的作业）暂时采集不到。开发...
QT事件授权
在通过阿里云Quick Tracking（简称为QT）进行的埋点数据采集上报前，需要进行以下操作，Quick Audience工作空间才能顺利接收通过Quick Tracking应用上报的事件数据。完整的Quick Tracking埋点数据采集上报，请参见 Quick Tracking上报流程...
哈啰出行
业务痛点 哈啰出行原有架构是将数据采集到Kafka，然后将日志写入ELK做查询，同时写入ClickHouse做分析。由于每天增量数据在TB级别，对ES稳定性压力比较大。当查询数据操作，会影响ES的写入延时。由于写入量大，查询基本处于不可用状态。...
确定需求
建议您思考下列问题，对后续的数据建模将有巨大的帮助：业务数据是根据什么（维度、粒度）汇总的，衡量标准是什么？例如，成交量是维度，订单数是成交量的度量。明细数据层和汇总数据层应该如何设计？公共维度层该如何设计？是否有公共的...
确定需求
建议您思考下列问题，对后续的数据建模将有巨大的帮助：业务数据是根据什么（维度、粒度）汇总的，衡量标准是什么？例如，成交量是维度，订单数是成交量的度量。明细数据层和汇总数据层应该如何设计？公共维度层该如何设计？是否有公共的...
透明数据加密概述
什么是透明数据加密 透明数据加密指对数据文件执行实时I/O加密和解密。通过在数据库层执行静态数据加密，阻止可能的攻击者绕过数据库直接从存储中读取敏感信息。经过数据库身份验证的应用和用户可以继续透明地访问应用数据（不需要更改应用...
什么是数据传输服务DTS
数据传输服务DTS（Data Transmission Service）是阿里云提供的实时数据流服务，支持关系型数据库（RDBMS）、非关系型的数据库（NoSQL）、数据多维分析（OLAP）等数据源间的数据交互，集数据同步、迁移、订阅、集成、加工于一体，助您构建...
常见问题索引
移动数据分析常见问题索引 统计原理常见问题 Q1:如何识别一个用户？Q2:用户在一台设备上反复卸载并重新安装启动应用，新增用户算几个？Q3:同一个用户由老渠道升级到新渠道，是否会被算到新渠道中？Q4:什么是活跃用户？哪里可以看到下载和...
创建ClickHouse数据源
阿里云数据库ClickHouse的更多信息，请参见 云数据库 ClickHouse-什么是云数据库ClickHouse。使用限制 Dataphin仅支持超级管理员、数据源管理员、板块架构师、项目管理员角色创建数据源。操作步骤 在Dataphin首页，单击顶部菜单栏 管理中心...
环境分类说明
容器环境 考虑到容器集群可能涉及大量数据采集，通常是将单个容器集群定位为一个监控环境。针对此类环境，为 ACK、ACK Serverless集群 以及 ACS 等阿里云容器服务实施了一套自动化管理流程，助力您轻松部署采集探针并处理数据。针对您自建...
环境分类说明
容器环境 考虑到容器集群可能涉及大量数据采集，通常是将单个容器集群定位为一个监控环境。针对此类环境，为 ACK、ACK Serverless集群 以及 ACS 等阿里云容器服务实施了一套自动化管理流程，助力您轻松部署采集探针并处理数据。针对您自建...
创建ClickHouse数据源
阿里云数据库ClickHouse的更多信息，请参见 什么是云数据库ClickHouse。前提条件 若您需在Dataphin中创建基于阿里云产品的数据源，创建数据源前，需确保Dataphin的IP已添加至数据库白名单（或安全组）中，使数据源与Dataphin网络互通。具体...
使用Terraform管理Prometheus实例的集成中心
12020 ting_metrics_path TiControlServer Metrics采集路径 是 String TiControlServer监控数据采集路径。metrics scrape_interval Metrics采集间隔（秒）是 Integer 监控数据采集时间间隔。单位：秒。30 E-MapReduce 参数名 参数中文名 ...
使用Terraform管理Prometheus实例的集成中心
12020 ting_metrics_path TiControlServer Metrics采集路径 是 String TiControlServer监控数据采集路径。metrics scrape_interval Metrics采集间隔（秒）是 Integer 监控数据采集时间间隔。单位：秒。30 E-MapReduce 参数名 参数中文名 ...
阿里云Elasticsearch数据采集解决方案
本文提供了将数据采集到阿里云Elasticsearch服务中的几种解决方案。背景信息 对于数据搜索和分析来说，Elasticsearch无处不在。开发人员和社区可使用Elasticsearch寻找各种各样的使用场景，从 应用程序搜索 和 网站搜索，到日志、基础架构...
常见问题参考
写入到TSDB的数据点是什么形态？默认情况下，当日志服务采集到的记录出现内容错误，或者因为类型不兼容等原因，无法正确转换为TSDB数据点时，数据导出任务会将对应的数据点字段设置为默认值（数值类型为0，字符串类型为空串，布尔类型为...
应用场景
网页上的数据批量采集 无论是何种网页数据，通过阿里云RPA都能轻松的完成数据采集。您可以随时来调整采集规则，无需担心在分析需求激增时带来的资源不足问题。重复繁琐的工作自动化完成 某些工作，如电商活动报名，可能需要准备成百上千个...
加工数据
注意事项 本案例中，数据采集和数据加工的部分任务可以通过ETL工作流模板一键导入。在导入模板后，您可以前往目标空间，并自行完成后续的数据质量监控和数据可视化操作。仅 空间管理员 角色可导入ETL模板至目标工作空间，为账号授权空间...
什么是阿里云Elasticsearch
Beats数据采集中心 Beats是轻量级的数据采集工具，集合了多种单一用途的数据采集器。它们从成百上千或成千上万台机器和系统向Logstash或Elasticsearch发送数据。阿里云Elasticsearch的Beats采集中心支持Filebeat、Metricbeat、Auditbeat和...
加工数据
步骤三：配置ODPS SQL节点 本案例需要将每层加工逻辑通过ODPS SQL调度实现，由于各层节点间存在强血缘依赖，并且在数据采集阶段已将同步任务产出表手动添加为 节点的输出，所以本案例数据加工类的任务依赖关系通过DataWorks 自动解析机制 ...
业务运营报表
在翻页或者加载的过程中，如果结果重复出现在第二页算一个新的曝光PV，结果不去重 如果开通数据采集功能并上传了曝光数据，则每次曝光记1否则，记每次返回的Item数 依赖开通数据采集功能，并且上传了用户曝光行为数据/也可不开通或上传，但...
数据源权限管理
什么是私有模式的数据源？哪些用户能够收回数据源的分享权限？如何检查数据源分享关系的移除、关联情况？分享数据源后，其资源组的连通状态是否会被同步分享？分享数据源后，引用过该数据源的任务关联信息是否会被同步分享？哪些角色可以...
DataCollection
字段 类型 描述 id String 数据采集ID name String 数据采集名称 type String 数据采集端的类型-server-web-app注：目前只支持 server status Integer 状态-0 未开通-1 开通中-2 开通成功-3 开通失败 dataCollectionType String 数据采集的...
DataCollection
字段 类型 描述 id String 数据采集ID name String 数据采集名称 type String 数据采集端的类型-server-web-app注：目前只支持 server status Integer 状态-0 未开通-1 开通中-2 开通成功-3 开通失败 dataCollectionType String 数据采集的...
常见问题
云数据库Redis版与Redis是什么关系？云数据库Redis版是否存在CPU处理能力、带宽和连接数等限制？单个实例有多少个数据库？云数据库Redis版是否都有主从节点？云数据库Redis版能否配置从节点数量？云数据库Redis版是否开放了从节点？云数据...
功能特性
数据迁移 数据迁移功能帮助您实现同构或异构数据源之间的数据迁移，适用于数据上云迁移、阿里云内部跨实例数据迁移、数据库拆分扩容等业务场景 功能集 功能 功能描述 参考文档 同构迁移 逻辑迁移 支持同构数据库间的数据迁移。自建MySQL...
什么是可观测监控 Prometheus 版
什么是Prometheus实例 Prometheus实例是阿里云 可观测监控 Prometheus 版 服务提供的管理Prometheus数据采集和数据存储分析的逻辑单元，每个 Prometheus实例 提供对应的Prometheus数据采集配置、时序数据库实例、Dashboard监控大盘和报警...
入门概述
Beats是轻量型的数据采集工具，阿里云Elasticsearch支持Filebeat、Metricbeat、Auditbeat和Heartbeat采集器。本文介绍如何通过使用场景选择对应的采集器，并完成数据采集。数据采集器使用 Filebeat 轻量型日志采集器，用于转发和汇总日志与...
元数据采集
管理中心-注册开源集群 自动启动采集 是 实时 实时 实时 Hologres 数据开发-绑定数据源 手动启动采集 是 取决于自定义采集计划 不支持 实时 AnalyticDB for PostgreSQL 数据开发-绑定数据源 手动启动采集 是 取决于自定义采集计划 不支持 ...
基于MaxCompute进行大数据BI分析
DataWorks：可实现ETL功能，对复杂数据集进行采集、加工及分析处理，详情请参见 什么是DataWorks。Quick BI：对处理后的数据进行报表制作，实现数据可视化展示及分析，详情请参见 什么是Quick BI。应用场景 互联网行业、电商、游戏行业等...
设备协议
设备协议模块可创建的协议以及各协议的功能如下：设备采集协议：将设备数据自动推送到云控平台数据采集端口。数据转化协议：将数据采集协议推动上来的设备数据转化为交通云控平台的标准格式。数据（控制）下发协议：使交通云控平台下发的...
什么是智能众包
人工智能众包（AI Crowdsourcing）基于共享人力资源模式，为人工智能算法提供数据采集、清洗、标注等服务，帮助企业快速构建算法数据集。人工智能众包（AI Crowdsourcing）基于共享人力资源模式，为人工智能算法提供数据采集、清洗、标注等...
- 产品推荐
- 这些文档可能帮助您