功能简介
完整性：数据完整性是指一个数据集的特定字段或属性都被赋予了数值。准确性：数据准确性是指数据准确的反映其所建模的“真实世界”的实体。一致性：数据一致性是指确保两个数据集之间或一个数据集内部不同字段间数值或信息的一致。唯一性：...
功能简介
完整性：数据完整性是指一个数据集的特定字段或属性都被赋予了数值。准确性：数据准确性是指数据准确的反映其所建模的“真实世界”的实体。一致性：数据一致性是指确保两个数据集之间或一个数据集内部不同字段间数值或信息的一致。唯一性：...
质量评估
完整性：数据完整性是指一个数据集的特定字段或属性都被赋予了数值。准确性：数据准确性是指数据准确的反映其所建模的“真实世界”的实体。一致性：数据一致性是指确保两个数据集之间或一个数据集内部不同字段间数值或信息的一致。唯一性：...
数据质量保障原则
完整性 完整性是指数据的记录和信息是否完整，是否存在数据缺失情况。数据缺失主要包括记录的缺失和具体某个字段信息的缺失，两者都会造成统计结果不准确。完整性是数据质量最基础的保障。例如，某个稳定业务的数据量每天约为100万条记录，...
代码评审报告
是 数据完整性 数据获取是否完整 代码中的数据获取逻辑是否完整。例如累计客户数，是否完整包含了历史上有效存在，但当前不存在的客户。是 边界值检查 代码中对于边界值的处理是否正确。例如最近30天包含今天但不包含第前30天的。例如日期...
数据质量教程概述
数据质量的评估 数据质量可以从完整性、准确性、一致性和及时性共四个角度进行评估，详情请参见 数据质量评估标准。在本教程中，您将学会通过数据质量风险监控，保证数据的完整性、准确性、一致性；通过数据及时性监控，保证数据的及时性。...
数据质量教程概述
数据质量的评估 数据质量可以从完整性、准确性、一致性和及时性共四个角度进行评估，详情请参见 数据质量评估标准。在本教程中，您将学会通过数据质量风险监控，保证数据的完整性、准确性、一致性；通过数据及时性监控，保证数据的及时性。...
阶段二：数据安全防护措施及策略增强建设
在该阶段，DataWorks为您提供了新人入职自动化授权、按需申请数据权限&多级审批、数据可用而不可见、数据完整性与可用性专项治理等多个场景的最佳实践，帮助企业做好数据安全防护措施并建设更加完善的安全治理策略。场景一：新人入职自动化...
数据风险点监控
为确保数据完整性，每天任务通常都是0点开始执行，计算前一天的数据。这些任务大多在深夜运行，要确保数据按时产出，需要考虑任务的执行优先级以及任务执行失败或时间过长时的报警问题。任务优先级 MaxCompute平台上任务优先级都一样，无法...
应用级别的数据完整性检查
对于使用读已提交事务的数据完整性强制业务规则非常困难，因为对每一个语句数据视图都在变化，并且如果一个写冲突发生即使一个单一语句也不能把它自己限制到该语句的快照。虽然一个可重复读事务在其执行期间有一个稳定的数据视图，在使用 ...
需求阶段
同时建议进行深入的数据探查，包括但不限于数据完整性、字段离散值分布情况、空值、零值、重复值占比等情况。技术可行性：评估当前已有数据模型能否支撑需求开发，如果不能，则需要规划模型改造方案，并充分评估其影响。同时在测试环境进行...
快速入门
除了完美支持事务、子查询、多版本控制（MVCC）、数据完整性检查等特性外，阿里云数据库RDS PostgreSQL还集成了高可用和备份恢复等重要功能，减轻您的运维压力。当前RDS PostgreSQL支持10及以上版本。云数据库RDS MariaDB MariaDB是MySQL的...
什么是RDS PostgreSQL
除了完美支持事务、子查询、多版本控制（MVCC）、数据完整性检查等特性外，RDS PostgreSQL还集成了高可用和备份恢复等重要功能，减轻您的运维压力。除此之外还提供如下高级功能：全密态数据库：数据在用户侧加密后传入云数据库，能够有效...
单元测试报告
数据完整性检查 代码中引用的数据能否支撑实际需求。字段间逻辑检查 字段间的业务逻辑关系是否在数据上成立，例如余额=总的发放-总的回收。代码质量/BUG检查 历史拉链表检查断链/交叉链 使用标准SQL进行检验。数据倾斜检查 是否存在倾斜的...
存储格式
注意这个过程不是原子的，为保证数据完整性，需要业务侧保证在修改的过程中对原始表只读。将行存表foo重新载入为列存表。CREATE TABLE foo_tmp(LIKE foo)WITH(appendonly=true,orientation=column);INSERT INTO foo_tmp SELECT*FROM sales;...
产品优势
备份过程中，实时校验数据完整性。海量用户验证，风险快速发现并修复。多个工具拼凑，问题指数级增长。受限于硬件可靠性，易出问题，一旦出现磁盘坏道，容易出现不可逆转的数据丢失。扩展性 除了支持备份阿里云数据库，DBS还支持备份ECS自...
新功能发布记录
云数据库RDS、云原生数据库PolarDB、云数据库MongoDB、云数据库Redis、云原生内存数据库Tair、云原生数据仓库AnalyticDB PostgreSQL版产品的备份恢复功能均由DBS提供，各产品功能动态详情如下。说明 更多产品动态详情，请参见 数据库备份...
应用场景
数据标准：管理数据标准和构建数据模型，将数据标准贯彻到数据质量分析、保障及检查的全过程中，将散乱的多源异构数据加工成标准、干净的数据资产，确保数据的完整性、一致性、准确性和可用性。数据建模：通过数据建模模块提供的各种数据...
备份恢复
备份功能 为保证数据的完整性和可靠性，数据库需要常规的自动备份来保障数据的可恢复性。MongoDB提供如下备份功能：快照备份：保留某一时间点磁盘的数据状态。能够做到在分钟级完成数据库的恢复。物理备份：备份MongoDB实例中数据库相关的...
备份恢复
备份功能 为保证数据的完整性和可靠性，数据库需要常规的自动备份来保障数据的可恢复性。RDS提供如下两种 备份 功能：数据备份：强制项，您必须设置每周进行不少于2次的物理备份。另外，您也可以根据运维需要，通过控制台或者API随时发起...
备份恢复
备份功能 为保证数据的完整性和可靠性，数据库需要常规的自动备份来保障数据的可恢复性。RDS提供如下两种 备份 功能：数据备份：强制项，您必须设置每周进行不少于2次的物理备份。另外，您也可以根据运维需要，通过控制台或者API随时发起...
备份恢复
备份功能 为保证数据的完整性和可靠性，数据库需要常规的自动备份来保障数据的可恢复性。RDS提供如下两种 备份 功能：数据备份：强制项，您必须设置每周进行不少于2次的物理备份。另外，您也可以根据运维需要，通过控制台或者API随时发起...
备份恢复
备份功能 为保证数据的完整性和可靠性，数据库需要常规的自动备份来保障数据的可恢复性。RDS提供如下两种 备份 功能：数据备份：强制项，您必须设置每周进行不少于2次的物理备份。另外，您也可以根据运维需要，通过控制台或者API随时发起...
备份恢复
备份功能 为保证数据的完整性和可靠性，数据库需要常规的自动备份来保障数据的可恢复性。RDS提供如下两种 备份 功能：数据备份：强制项，您必须设置每周进行不少于2次的物理备份。另外，您也可以根据运维需要，通过控制台或者API随时发起...
设置SSL加密
SSL加密功能在传输层对网络连接进行加密，在提升通信数据安全性的同时，保证数据的完整性。本文介绍SSL加密功能的相关操作。前提条件 MongoDB 3.4及以上版本的副本集实例。注意事项 SSL CA证书仅支持通过云数据库MongoDB控制台下载。开通...
mysqldump
该文件包含了创建数据库、表以及插入数据的SQL语句，从而确保数据的完整性和一致性。使用示例 导出 导出test_db数据库中的test_table表：mysqldump-h127.0.0.1-P9030-uroot-no-tablespaces-databases test_db-tables test_table 导出test_...
功能特性
SSL加密 在传输层对网络连接进行加密，提升通信数据安全性的同时，保证数据的完整性，详情请参见 设置SSL加密。透明数据加密TDE 对数据文件执行实时I/O加密和解密，数据在写入磁盘之前进行加密，从磁盘读入内存时进行解密。TDE不会增加数据...
云数据库MongoDB版数据安全最佳实践
通过SSL加密功能可以在传输层对网络连接进行加密，在提升通信数据安全性的同时，保障数据的完整性，详情请参见 使用Mongo Shell通过SSL加密连接数据库。透明数据加密TDE 透明数据加密TDE（Transparent Data Encryption）可对数据文件执行...
概述
在数据库云盘中提供冷存对象的物化缓存，将频繁读取、频繁更新的部分数据缓存在云盘中，OSS介质中保留了数据的完整性，数据在物化缓存中的生命周期由访问频率决定，这样可以达到性能优良但存储成本更低的效果。具体可参考 冷数据物化缓存。
概述
在数据库云盘中提供冷存对象的物化缓存，将频繁读取、频繁更新的部分数据缓存在云盘中，OSS介质中保留了数据的完整性，数据在物化缓存中的生命周期由访问频率决定，这样可以达到性能优良但存储成本更低的效果。具体可参考 冷数据物化缓存。
数据质量风险监控
数据质量风险监控主要针对数据的准确性、一致性和完整性。本教程使用DataWorks数据质量（DQC）功能，完成数仓各层次的数据质量监控。前提条件 首先您需要完成教程 搭建互联网在线运营分析平台，并保证您的DataWorks工作空间创建区域为华东2...
数据质量风险监控
数据质量风险监控主要针对数据的准确性、一致性和完整性。本教程使用DataWorks数据质量（DQC）功能，完成数仓各层次的数据质量监控。前提条件 首先您需要完成教程 搭建互联网在线运营分析平台，并保证您的DataWorks工作空间创建区域为华东2...
什么是数据资源平台
数据建模：帮助用户在数据标准的约束下构建数据模型，将数据标准贯彻到数据质量分析、保障及检查的全过程中，将散乱的多源异构数据加工成标准、干净的数据资产，确保数据的完整性、一致性、准确性、可用性，通过客观量化评估指标帮助客户...
JindoFS实战演示
使用Checksum迁移HDFS数据到OSS 使用Checksum迁移HDFS数据到OSS 2021-05-11 通过Checksum算法，你可以在大数据迁移场景中校验数据的完整性、对比数据差异并实现增量迁移。本视频为您介绍如何使用Jindo Distcp迁移HDFS数据到OSS，以及在迁移...
基本概念
在数据资源平台中，可以通过对表级与字段级的数据质量任务运行，真实反映数据接入的唯一性、准确性、规范性、一致性、时效性、完整性。数据开发 场景：场景定义数据输出的方式，一个场景包含一种或多种数据输出的方式。计算资源：可以执行...
多值数据写入
本文介绍多值数据写入的写入模式及其响应内容。时序多值模型 多值的模型是针对数据源建模，我们每一行数据针对的是一个数据源，它的...该模式适用于业务监控数据上报时对于上报数据的完整性存在需求，对于失败数据希望进行修复重试时的场景。
按时间点将备份数据恢复至新建实例
为保障数据的完整性和正确性，恢复分片集群实例的数据时，请勿选择最近的时间点（通常为最近1小时），否则会导致恢复失败。可恢复时间范围为日志备份的保留时长，如何设置日志备份，请参见 自动备份MongoDB数据。新建实例。在 克隆实例 ...
写入数据
请求路径和方法 请求路径 请求方法 描述/api/put POST 一次写入多个数据点。...该模式下返回的 failed 就是真实失败的数据点数 该模式适用于业务监控数据上报时对于上报数据的完整性存在需求，对于失败数据希望进行修复重试时的场景。
PolarDB PostgreSQL版间的迁移
通过数据传输服务DTS（Data Transmission Service），可以实现 PolarDB PostgreSQL版 集群间的迁移。前提条件 已创建源和目标 PolarDB PostgreSQL版 数据库集群，详情请参见 创建PolarDB PostgreSQL版数据库集群。已将源和目标 PolarDB ...
DataWorks产品安全能力介绍
数据质量规则：支持管理员配置数据质量规则并关联生产任务，确保每日产出的结果数据无缺失、无污染、准确有效并可用于支撑业务决策，保障数据的完整性（Integrity）与可用性（Availability）。智能监控规则：支持管理员为重要的任务优先...
- 产品推荐
- 这些文档可能帮助您