优化数据转换
Databricks使用嵌套类型优化高阶函数和 DataFrame 操作的...请参阅以下文章以了解如何开始使用这些优化的高阶函数和复杂数据类型：Higher-order functions Transform complex data types 说明 详细内容可参考Databricks官网文章：优化数据转换
如何优化数据导入导出
导入导出工具介绍 PolarDB-X 常见的数据导出方法有：mysql-e命令行导出数据 musqldump工具导出数据 select into outfile语句导出数据（默认关闭）Batch Tool工具导出数据（PolarDB-X 配套的导入导出工具）PolarDB-X 常见的数据导入方法有：...
如何优化数据全量抽取
本文介绍了在应用内通过代码高效抽取数据的方法。简介 数据抽取是指通过代码或者数据导出工具，从 PolarDB-X 中批量读取数据的操作。主要包括以下场景：通过数据导出工具将数据全量抽取到下游系统。PolarDB-X 支持多种数据导出工具，更多...
数据组织优化
本文为您介绍Transactional Table 2.0在数据组织优化服务上的架构设计。Clustering 当前痛点 Transactional Table 2.0支持分钟级近实时增量数据导入，高流量场景下可能会导致增量小文件数量膨胀，从而引发存储访问压力大、成本高，并且大量...
数据上传下载成本优化
本文为您介绍如何优化数据上传和下载的同步成本。尽可能使用经典网络和VPC网络 您可以使用内部网络（经典网络或VPC）实现零成本数据导入和导出。网络设置详情请参见 配置Endpoint。合理利用ECS的公共下载资源 如果您的ECS使用包月资源，...
数据导入性能优化
云原生数据仓库AnalyticDB MySQL版 提供的多种数据导入方法，满足不同场景下的数据导入需求。然而数据导入性能依然受各种各样的因素影响，如表的建模不合理导致长尾、导入配置低无法有效利用资源等。本文介绍不同场景下的数据导入调优方法...
数据导入性能优化
云原生数据仓库AnalyticDB MySQL版 提供的多种数据导入方法，满足不同场景下的数据导入需求。然而数据导入性能依然受各种各样的因素影响，如表的建模不合理导致长尾、导入配置低无法有效利用资源等。本文介绍不同场景下的数据导入调优方法...
数据导入优化建议
批量和实时导入如何选择 从MaxCompute或者OSS导入HybridDB for MySQL，推荐使用 INSERT OVERWRITE SELECT 做批量导入：批量导入适合大数据量导入，性能较好。批量导入适合数据仓库语义，即导入过程中旧数据可查询，导入完成一键切换新数据...
QueryCubeOptimization-查询数据集优化建议
查询数据集优化建议。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求参数 名称 类型 必填 描述 示例值 ...
通过数据加工实现成本优化
数据加工主要解决您规整数据的痛点以及帮助您进一步挖掘数据的价值，降低时间与人力成本。本视频介绍通过数据加工实现成本优化的方法。
数据缓存亲和性调度优化
通过Fluid提供的数据缓存亲和性调度优化能力，您可以设置应用Pod上的亲和性配置，让应用Pod优先访问同节点、同可用区节点或同地域节点的缓存数据，从而提高应用Pod访问数据的效率。使用限制 数据缓存亲和性调度优化功能仅支持在 ACK集群Pro...
获取自动SQL优化事件的统计数据
操作 访问级别 资源类型 条件关键字 关联操作 hdm:GetInstanceSqlOptimizeStatistic Read 全部资源*无 无 请求参数 名称 类型 必填 描述 示例值 InstanceId string 是 数据库实例 ID。说明 仅支持 RDS MySQL、PolarDB MySQL 版数据库实例。...
SQL审核优化建议在数据变更工单中的应用
DMS安全规则中的SQL审核优化建议，可以对SQL Console或数据变更工单中执行的SQL进行规范性检查（例如表要有备注、表需要包含某些列），并提出相关优化建议（例如无锁数据变更推荐），辅助DBA审核SQL语句，提高研发质量。本文将演示设置部分...
数据迁移与同步FAQ
什么是数据迁移、数据同步？DTS的数据迁移与数据同步工作原理是什么？DTS的数据迁移与数据同步有什么区别？使用DTS遇到预检查报错，如何解决？什么是数据迁移、数据同步？数据迁移：将Redis数据库中的数据（即键值对）迁移至另一个Redis...
功能特性
什么是数据校验 订正 元数据订正 当校验出数据结构不一致时，可以根据校验结果进行订正。结构订正 查看数据校验详情 全量数据订正 当校验出全量数据不一致时，可以根据校验结果并下载订正SQL进行订正。查看数据校验详情 增量数据订正 当...
数据源读取时间超时的优化思路
DataV数据可视化产品主要用于动态、实时数据展示场景，需要对数据高频实时查询，对数据访问性能有一定要求。如果您的数据源访问经常超时，则需要从整体数据架构上做一定的优化。本文介绍导致DataV读取数据源超时的常见原因和解决方法。使用...
数据源读取时间超时的优化思路
DataV数据可视化产品主要用于动态、实时数据展示场景，需要对数据高频实时查询，对数据访问性能有一定要求。如果您的数据源访问经常超时，则需要从整体数据架构上做一定的优化。本文介绍导致DataV读取数据源超时的常见原因和解决方法。使用...
离线同步并发和限流之间的关系
数据源连接数Quota限制 阅读此部分，您可以解决和理解如下问题：问题一：什么是数据源连接数（Quota）限制，以及如何合理配置连接数限制？问题二：为什么数据同步解决方案中的离线全量任务跑的慢，长时间任务处于Submit状态？数据源连接数...
数据上云工具
DTS（Tunnel通道系列）什么是数据传输服务DTS 是阿里云提供的一种支持RDBMS（关系型数据库）、NoSQL、OLAP等多种数据源之间数据交互的数据服务。它提供了数据迁移、实时数据订阅及数据实时同步等多种数据传输功能。DTS可以支持RDS、MySQL...
一键建仓
更多信息，请参见 什么是数据传输服务DTS。AnalyticDB MySQL版是云端托管的大规模并行处理的PB级数据仓库，具有快、灵活、易用、超大规模、高并发写入等特点。更多信息，请参见 什么是云原生数据仓库MySQL版。费用说明 AnalyticDB MySQL...
使用流程
若您初次使用数据库备份DBS，请先了解 什么是数据库备份DBS。如需了解DBS是否支持备份恢复您的数据库，以及各类数据库备份恢复的具体粒度等，请参见 支持的数据库引擎与功能 或 各类数据库备份配置指导文档。备份恢复方案 您可以通过如下两...
Quick BI数据大屏加载慢的优化方法
概述 Quick BI数据大屏加载慢的优化方法。详细信息 对大屏进行分页，每个大屏不要放过多的图表，使用类似幻灯片的展示形式。使用轮播组或者弹窗，对首屏不需要展示的图表进行滞后展示。如果有很多图片视频素材，对图片和视频进行压缩，...
数据服务
数据服务模块便于您在不访问数据库的情况下，通过接口调用的方式获取优化调度结果。数据服务界面如下图所示：常用场景导航：以交通场景的角度为您展示常用场景的关联接口及信息。数据服务列表：展示交通智能优化提供的所有接口及信息。通过...
Cost-based SQL诊断引擎
开发者通常对于前面两个层面的优化比较熟悉，对于第三个即SQL层面的优化会有些生疏，甚至会因由谁（数据库管理员或应用开发者）来负责而产生争论，但SQL优化是整个数据库优化中非常关键的一环，线上SQL性能问题不仅会给业务带来执行效率上...
确定需求
业务调研 充分的业务调研和需求分析是数据仓库建设的基石，直接决定数据仓库能否建设成功。在数仓建设项目启动前，您需要请相关的业务人员介绍具体的业务，以便明确各个团队的分析员和运营人员的需求，沉淀出相关文档。您可以通过调查表和...
确定需求
业务调研 充分的业务调研和需求分析是数据仓库建设的基石，直接决定数据仓库能否建设成功。在数仓建设项目启动前，您需要请相关的业务人员介绍具体的业务，以便明确各个团队的分析员和运营人员的需求，沉淀出相关文档。您可以通过调查表和...
查询优化（Query Optimizer)
查询优化器是数据库系统的核心组件之一，它的功能是基于用户输入的SQL语句进行优化，选择最优的语句执行方式，将结果返回给客户端。优化器的功能是否强大是决定数据库性能是否高效稳定的核心因素，尤其在具有混合负载的场景下（包括一定...
深度解析PolarDB数据库并行查询技术
总结 数据库是应用系统的核心，而优化器是数据库的核心，优化器的好坏几乎可以决定一个数据库产品的成败。开发一个全新的优化器，对任何团队都是一个巨大的挑战，技术的复杂度暂且不提，单单想做到产品的足够稳定就是一个非常难以克服的...
常见问题
数据迁移和数据同步的区别如下表所示：对比项 数据迁移 数据同步 适用场景 主要用于上云迁移，例如将本地数据库、ECS上的自建数据库或第三方云数据库迁移至阿里云数据库。主要用于两个数据源之间的数据实时同步，适用于异地多活、数据灾备...
透明数据加密概述
什么是透明数据加密 透明数据加密指对数据文件执行实时I/O加密和解密。通过在数据库层执行静态数据加密，阻止可能的攻击者绕过数据库直接从存储中读取敏感信息。经过数据库身份验证的应用和用户可以继续透明地访问应用数据（不需要更改应用...
云产品集成
什么是数据管理DMS 支持的数据库类型与功能 云数据库录入 DataV 数据可视化 DataV 数据可视化是使用可视化应用的方式来分析并展示庞杂数据的阿里云产品。您可以使用 DataV 添加 OceanBase for MySQL 数据源，通过图形化的界面处理 ...
创建MongoDB数据源
更多阿里云MongoDB信息，请参见 云数据库MongoDB-什么是云数据库MongoDB版。使用限制 Dataphin仅支持超级管理员、数据源管理员、板块架构师、项目管理员角色创建数据源。超级管理员、数据源管理员角色添加与配置请参见 添加、配置及管理...
创建MongoDB数据源
更多阿里云MongoDB信息，请参见 云数据库MongoDB-什么是云数据库MongoDB版。使用限制 Dataphin仅支持超级管理员、数据源管理员、板块架构师、项目管理员角色创建数据源。超级管理员、数据源管理员角色添加与配置请参见 添加Dataphin成员。...
新功能发布记录
12-15 开通数据库代理 什么是数据库代理 变更代理类型和代理数量 优化 Serverless实例 RDS MySQL Serverless实例支持通用云盘。12-13 创建Serverless实例 11月 类别 功能名称 功能描述 发布时间 相关文档 优化 集群系列实例 支持集群系列...
创建ClickHouse数据源
背景信息 如果您使用的是数据库ClickHouse，引入ClickHouse的业务数据至Dataphin中或将Dataphin数据导出至ClickHouse的场景中，您需要先完成ClickHouse数据源的创建。阿里云数据库ClickHouse的更多信息，请参见 云数据库 ClickHouse-什么是...
创建Aliyun HBase数据源
更多信息，请参见 什么是云数据库HBase。前提条件 若您需在Dataphin中创建基于阿里云产品的数据源，创建数据源前，需确保Dataphin的IP已添加至数据库白名单（或安全组）中，使数据源与Dataphin网络互通。具体操作，请参见 附录：数据源白...
创建ClickHouse数据源
背景信息 如果您使用的是数据库ClickHouse，引入ClickHouse的业务数据至Dataphin中或将Dataphin数据导出至ClickHouse的场景中，您需要先完成ClickHouse数据源的创建。阿里云数据库ClickHouse的更多信息，请参见 什么是云数据库ClickHouse。...
云数据库 RDS MySQL 版收集表的统计信息
什么是统计信息 云数据库 RDS MySQL 版查询优化器依据表的统计信息计算不同执行计划的代价，因此表中统计信息的准确对查询优化器选取正确的执行计划至关重要。什么情况下需要收集统计信息 当表上有大量的数据修改时，例如从数据源加载大量...
- 产品推荐
- 这些文档可能帮助您