文章 2022-05-14 来自:开发者社区

基于Apache doris的元数据管理系统

这里我们要先搞懂什么是元数据?元数据和数据的区别是什么?元数据有什么作用1.什么是元数据举几个例子:如果一本书是一个“数据",那么它的书名、封面、出版社、作者、总页码就是它的“元数据”。如果数据库中某个表是一个”数据”,那么它的列名、列类型、列长度、表注释就是它的"元数据"。元数据用来描述数据的数据,通过描述数据的产生、存储、使用情况、业务含义等信息,以及数据管理人员相关信息。让人们能够清楚拥有....

基于Apache doris的元数据管理系统
文章 2022-05-13 来自:开发者社区

Apache Doris Join实现与调优实践

ApacheDoris Join实现与调优实践8 月 14 号,由示说网和上海白玉兰开源开放研究院联合举办的开源大数据技术线上 Meetup 如期举行,Apache Doris 社区受邀参与本次 Meetup ,来自百度的数据内核高级研发工程师、Apache Doris Contributor 李昊鹏为大家带来了题为“ Apache Doris 的Join实现与调优实践 ”的主题分享,主要介绍了....

Apache Doris Join实现与调优实践
文章 2022-05-13 来自:开发者社区

Apache Doris常见问题答疑(一)

Q:invalid cluster id: xxxxA:这个错误可能会在show backends 或 show frontends 命令的结果中出现。通常出现在某个FE或BE节点的错误信息列中。这个错误的含义是,Master FE向这个节点发送心跳信息后,该节点发现心跳信息中携带的 cluster id和本地存储的 cluster id不同,所以拒绝回应心跳。Doris的 Master FE ....

文章 2022-05-13 来自:开发者社区

Apache Doris常见问题答疑(二)

Q:show backends/frontends 查看到的信息不完整A:在执行如 show backends/frontends 等某些语句后,结果中可能会发现有部分列内容不全。比如show backends结果中看不到磁盘容量信息等。通常这个问题会出现在集群有多个FE的情况下,如果用户连接到非Master FE节点执行这些语句,就会看到不完整的信息。这是因为,部分信息仅存在于Master F....

文章 2022-05-13 来自:开发者社区

基于Apache doris怎么构建数据中台(五)-数据质量管理

上一次我们讲了,数据怎么进行快速的接入,这次我们讲在接入及后续的数据处理中质量怎么控制如何更加合理、高效的监控每类作业的运行状态,并将原本分散、孤岛式的监控日志信息通过规则引擎集中共享、关联、处理;洞察关键信息,形成事前预判、事中监控、事后跟踪的质量管理闭环流程;沉淀故障问题,搭建解决方案的知识库体系。在数据质量监管平台的规划建设中,面临如下挑战:缺乏统一监控视图,离线和实时作业监控分散,影响性....

基于Apache doris怎么构建数据中台(五)-数据质量管理
文章 2022-05-13 来自:开发者社区

基于Apache doris怎么构建数据中台(四)-数据接入系统

基于Apache doris怎么构建数据中台(四)-数据接入系统上一次我们讲解了数据资产,元数据管理,血缘关系等,这次我们开始将数据接入,怎么实现快速的数据接入在开发数据模型时,我们必须有一个统一的平台,能够像流水线一样,把数据一步步加工成数据模型。这其中涉及到数据萃取、数据聚合、作业调度等。主要是为了实现业务数据的快速接入,零代码实现,数据分析人员只需要通过UI进行简单的配置、提交任务即可完成....

基于Apache doris怎么构建数据中台(四)-数据接入系统
文章 2022-05-13 来自:开发者社区

基于Apache doris怎么构建数据中台(三)-数据资产管理

前面我们讲了什么是数据中台,及数据中台的架构及功能规划,这次我们开始从数据资产开始拆解每个功能模块做的内容1.概述数据资产管理平台可以定量评估数据资产的成本,价值,质量。帮助企业优化存储成本,节约计算资源。精细化的数据生命周期管理,帮助企业更好的管理数据的生产到销毁的整个生命周期。在管理方面:管理者在规划数据文化建设时,对企业数据资产的全局构成、使用形式、 使用效果都需要详细的指标输入,往往这些....

基于Apache doris怎么构建数据中台(三)-数据资产管理
文章 2022-05-13 来自:开发者社区

Apache Doris ODBC mysql外表注意事项

前面一篇文章介绍了Apache doris ODBC外表使用方式 - 简书 (jianshu.com),这里要说的是在使用Mysql的ODBC外表的时候要注意事项:mysql数据库及表的字符集一定要是用UTF8,不要使用UTF8mb4,目前doris ODBC外表只支持UTF8编码在doris BE节点配置conf/odbcinst.ini,这里配置[MySQL Driver] Descript....

Apache Doris ODBC mysql外表注意事项
文章 2022-05-13 来自:开发者社区

Apache doris ODBC外表使用方式

1.概述ODBC External Table Of Doris 提供了Doris通过数据库访问的标准接口(ODBC)来访问外部表,外部表省去了繁琐的数据导入工作,让Doris可以具有了访问各式数据库的能力,并借助Doris本身的OLAP的能力来解决外部表的数据分析问题:支持各种数据源接入Doris支持Doris与各种数据源中的表联合查询,进行更加复杂的分析操作通过insert into将Dor....

文章 2022-05-13 来自:开发者社区

Apache doris Datax DorisWriter扩展使用方法

DataX 是阿里云 DataWorks数据集成 的开源版本,在阿里巴巴集团内被广泛使用的离线数据同步工具/平台。DataX 实现了包括 MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(ODPS)、Hologres、DRDS 等各种异构数据源之间高效的数据同步功能Apache Doris是....

Apache doris Datax DorisWriter扩展使用方法

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注
相关镜像