质量规则模板类型
实时多链路对比 高可用场景下，需要构建多条链路，以便数据出现异常时，能够及时切换。对于多链路之间的数据计算进度监控则可以发现一些数据滞留、统计偏差问题，提升实时数据质量。稳定性 实时统计值检测 实时数据为指标值或可统计数据时...
质量规则模板类型
实时多链路对比 高可用场景下，需要构建多条链路，以便数据出现异常时，能够及时切换。对于多链路之间的数据计算进度监控则可以发现一些数据滞留、统计偏差问题，提升实时数据质量。稳定性 实时统计值检测 实时数据为指标值或可统计数据时...
通过Logstash导入数仓版
更多参数配置：max_flush_exceptions：当写入数据出现异常时，设置最大重试次数，默认值100。skip_exception：设置是否跳过异常，默认为FALSE，表示出现异常时将重试直到到达最大重试次数 max_flush_exceptions，如果仍然失败，则同步程序...
在程序中通过AnalyticDB MySQL版Client高效写入数据到...
COMMIT_ERROR_DATA_LIST 101 提交中某些数据出现异常，会返回异常的数据，通过 e.getErrData()即可获得异常数据List。此错误码在 addMap(s)、addRow(s)和提交操作的时候都可能会发生，需要单独处理此错误码的异常。COMMIT_ERROR_OTHER 102 ...
实例告警
及时发现数据库异常是数据库日常运维的重要...当数据库出现异常情况或达到预设的告警阈值时，系统会立即通知设定的告警联系人，以帮助您及时发现数据库异常并维护数据库的稳定性。操作步骤 为实例配置警规则和告警模板，详情请参见 配置告警。
质量规则参数配置
跨数据源对比字段会被自动转换为string类型，部分特殊字段类型可能会出现异常情况。建议码表中的字段类型和校验字段类型都是string或其他相同类型。码表：选择目标码表。码表名称：输入码表名称，作为质量规则配置时的提示信息。码表参照...
质量规则参数配置
跨数据源对比字段会被自动转换为string类型，部分特殊字段类型可能会出现异常情况。建议码表中的字段类型和校验字段类型都是string或其他相同类型。码表：选择目标码表。码表名称：输入码表名称，作为质量规则配置时的提示信息。码表参照...
使用创建反向任务功能
请根据业务数据库出现异常后的预估恢复时间，合理设置数据库Binlog的保存时间。若原实例为Serverless实例，则创建的反向实例的计费方式将为按量付费，且规格为 micro；若原实例的计费方式为包年包月或按量付费，则创建的反向实例的计费方式...
实例告警
当数据库出现异常情况或达到预设的告警阈值时，系统会立即通知设定的告警联系人，以帮助您及时发现数据库异常并维护数据库的稳定性。操作步骤 登录 DAS控制台。在左侧导航栏中，单击 实例监控。找到目标实例，单击实例ID，进入目标实例详情...
错误码
DTX-513 insert branchInfo error,branchInfo:[%s]保存 undo log 至业务数据库出现异常 检查业务数据库是否正常。DTX-514 lock table row failed,data may be locked by another transaction.db:[%s],tableName:[%s],primaryKey:[%s]添加行...
异常检测
及时发现数据库的异常问题是数据库日常运维的重点。数据库自治服务DAS提供异常检测功能，基于...相关文档 您可以利用DAS的自治功能，在数据库出现异常时进行自动处理。自动SQL限流 自动SQL优化 自动性能扩展 自动空间扩展 空间碎片自动回收
告警服务
当数据库出现异常情况或达到预设的告警阈值时，系统会立即通知设定的告警联系人，以帮助您及时发现数据库异常并维护数据库的稳定性。背景信息 了解以下概念，能帮助您更好地配置告警：告警规则：定义了触发告警的监控项、触发次数、告警...
资产质量概述
质量校验过程中，发现质量异常，根据规则设置的强弱属性，判断是否需要熔断下游任务防止异常数据扩散。如果是强规则，则质量规则校验的结果为异常时报警并阻塞下游任务节点。如果是弱规则，则质量规则校验的结果为异常时报警但不阻塞下游...
资产质量概述
质量校验过程中，发现质量异常，根据规则设置的强弱属性，判断是否需要熔断下游任务防止异常数据扩散。如果是强规则，则质量规则校验的结果为异常时报警并阻塞下游任务节点。如果是弱规则，则质量规则校验的结果为异常时报警但不阻塞下游...
查询结果不符合预期的常见原因
Lindorm宽表经常会被应用在大数据链路中，如果写入链路出现问题，则可能导致写入延迟或无法正常写入数据，此时进行数据查询，该行数据还未写入，因此会产生无法查询到数据的情况。如果您在使用中遇到数据写入一段时间后才能查到的情况，...
概述
通过配置核对点，全面覆盖业务资金链路；同时系统将会按照核对规则，对各数据做相互核对，或对数据内容做逻辑检查，以监控业务资损风险。变更风险检查 业务变更发布前，您可以添加变更业务表的核对点，或者变更业务表与关联表的核对点，...
数据质量教程概述
在本教程中，您需要重点关注数据的生产环节（MaxCompute外部表引用的表格存储数据）和加工环节（数据仓库CDM及ADS层）中表行数是否大于0、表行数波动是否正常以及字段是否出现空值或重复的情况。准确性 准确性是指数据记录中信息和数据是否...
数据质量教程概述
在本教程中，您需要重点关注数据的生产环节（MaxCompute外部表引用的表格存储数据）和加工环节（数据仓库CDM及ADS层）中表行数是否大于0、表行数波动是否正常以及字段是否出现空值或重复的情况。准确性 准确性是指数据记录中信息和数据是否...
Tair Proxy特性说明
在某些极端场景下某个数据分片出现异常后，对数据的影响及优化方案如下。场景 影响与优化方案 图 2.多Key命令场景 影响：客户端通过4个连接发送4个请求，当数据分片2处于异常状态时，仅有请求1（GET Key1 可正常读取到数据），其他请求会...
Hive服务异常排查及处理
可继续对HiveMetaStore或者HiveServer2的日志进行排查，日志路径一般位于/mnt/disk1/log/hive/中，可逐步检查组件的.log、.err、.out 及GC等日志，判断HiveMetastore或者HiveServer2出现异常的真实原因。HiveMetaStore后端数据库问题 常见...
Redis Proxy特性说明
在某些极端场景下某个数据分片出现异常后，对数据的影响及优化方案如下。场景 影响与优化方案 图 2.多Key命令场景 影响：客户端通过4个连接发送4个请求，当数据分片2处于异常状态时，仅有请求1（GET Key1 可正常读取到数据），其他请求会...
常见错误处理方法
连接异常 连接异常即应用程序或者客户端与数据库的连接出现异常，例如已经创建的连接，提示连接不存在或连接超时，无法与数据库实例建立连接等。连接异常经常发生在网络闪断，或者数据库服务重启时，您需要在应用程序中就此类异常，添加重...
点播CDN常见问题
如果访问源站时出现异常，说明是您的源站存在问题。请联系站点管理员进行修复。备注上一步添加的本地hosts解析，通过ping命令测试添加的加速域名，如果能ping通，说明CDN节点正常。开通全球加速后没有提高海外用户的访问速度 可通过以下几...
创建实时元表规则
实时多链路对比质量规则支持监控数据滞留、统计偏差等问题。实时离线数据核对 实时数据与离线数据在使用相同统计路逻辑时，实时离线数据核对质量规则可以检测数据之间的差异。如果差异较大，可能存在数据质量的问题。质量规则配置 在...
创建实时元表规则
实时多链路对比质量规则支持监控数据滞留、统计偏差等问题。实时离线数据核对 实时数据与离线数据在使用相同统计路逻辑时，实时离线数据核对质量规则可以检测数据之间的差异。如果差异较大，可能存在数据质量的问题。质量规则配置 在...
常见问题
阿里云BaaS服务中，联盟包含了区块链运行所需要的Orderer节点等基础资源，但不包括存放区块链数据及对交易进行背书的Peer节点，Peer节点是归属到组织内的。如果区块链BaaS的所有节点都部署在阿里云上，如何保证数据的不可篡改？答：阿里云...
LogHub（SLS）实时ETL同步至Hologres
在 数据输出预览 窗口，您可以根据需要修改输入数据，或单击 手工构造数据 按钮自定义输入数据，再单击 预览 按钮，查看当前数据处理节点对数据的处理结果，当数据处理节点对输入数据处理异常，或产生脏数据时，也会反馈出异常信息，能够...
常见问题
问题分析 如果A端的Socket因为主动关闭或者因为异常退出被关闭，B端仍发送数据，发送的第一个数据包则引发Connect reset by peer异常（A端连接断开后，B端给通道中写数据）。A端退出，但退出时并未关闭该连接，B端如果仍然从连接中读数据则...
2023年
本文介绍2023年 云原生数据仓库AnalyticDB PostgreSQL版 存储弹性模式的内核功能发布记录。您可以在 云原生数据仓库AnalyticDB PostgreSQL版 控制台将实例升级至最新发布的小版本。升级小版本的具体操作，请参见 版本升级。2023年12月 V6.3...
什么是调用链
当出现问题时，如请求超时、错误或异常，很难快速定位问题所在。调用链可以帮助运维人员解决以下问题：故障排查：当请求失败或出现错误时，调用链可以显示整个请求的路径和每个服务的执行情况，从而帮助运维人员快速定位问题所在。性能优化...
模型创建
时序异常检测 esd 达摩院自研算法，适用于尖刺型异常（例如监控曲线出现尖刺的现象），对于数据点中有少量显著离群点的情况，检测结果准确。详细信息，请参见 时序异常检测。nsigma 达摩院自研算法，原理简单，便于分析异常原因。详细信息...
CREATE MODEL
时序异常检测 TIME_SERIES_ANOMALY_DETECTION esd 达摩院自研算法，适用于尖刺型异常（例如监控曲线出现尖刺的现象），对于数据点中有少量显著离群点的情况，检测结果准确。详细信息，请参见 时序异常检测。nsigma 达摩院自研算法，原理...
自定义异常
崩溃分析服务支持系统提供的异常看板数据，也支持自定义异常数据看板分析功能，本文介绍如何查看自定义异常看板数据。操作步骤 自定义异常是用户通过SDK定义和分类的一系列异常，自定义异常 提供了 自定义异常分析、自定义异常分布、自定义...
离群点剔除
在很多项目中，数据集中会出现一些异常值（离群点），为消除异常值对结果的影响，需要将异常值进行剔除。应用场景：如图1，在历史数据中，会时长出现一些明显异常的值，图中①、②、③处。这些明显区别于其他历史数据的数据点需要剔除。图 ...
导入与导出
原因：由于AnalyticDB MySQL连接层限制，使用DataX导入数据时可能会出现上述报错。解决方法：请修改JDBC连接串，添加rewriteBatchedStatements=false参数后重新导入数据 如何解决 导入MaxCompute数据 时，出现Query Exceeded Maximum Time ...
数仓分层
基于阿里巴巴OneData方法论最佳实践，在阿里巴巴的数据体系中，建议将数据仓库分为三层：数据引入层（ODS，Operational Data Store）、数据公共层（CDM，Common Dimensions Model）和数据应用层（ADS，Application Data Store）。数据仓库...
安全性
网络和数据链路 AnalyticDB PostgreSQL版 做为云原生分布式系统拥有非常高的安全性，首先每个新建实例使用专有网络，也称为VPC（Virtual Private Cloud），VPC是一种隔离的网络环境，安全性和性能均高于传统的经典网络。根据使用场景可选择...
数仓分层
在阿里巴巴的数据体系中，我们建议将数据仓库分为三层，自下而上为：数据引入层（ODS，Operation Data Store）、数据公共层（CDM，Common Data Model）和数据应用层（ADS，Application Data Service）。数据仓库的分层和各层级用途如下图所...
01新建模型目录
DWD：全称Data Warehouse Detail，明细数据层，该层数据和源数据基本保持一致，保存着最细粒度的数据，一般存放所有的明细数据，是所有后期分析的数据基础。具有数据量大，查询计算较慢的特点。DWS：全称Data Warehouse Summary，汇总数据...
数仓分层
在阿里巴巴的数据体系中，我们建议将数据仓库分为三层，自下而上为：数据引入层（ODS，Operation Data Store）、数据公共层（CDM，Common Data Model）和数据应用层（ADS，Application Data Service）。数据仓库的分层和各层级用途如下图所...
- 产品推荐
- 这些文档可能帮助您