文章
2024-09-13
来自:开发者社区
hive数仓 ods层增量数据导入
依据我们当前的业务。选择表数据量大于10W以上采用增量数据导入,10W以下采用全量数据导入。增量数据依据时间字段进行判断(create_date,modify_date)。 如果针对时间字段进行增量数据导入,需要先确定当前业务数据库中是否针对时间字段添加了索引(提高查询速度);其次,在...
问答
2023-03-21
来自:开发者社区
FlinkSql创建Kafka source 消费数据写到hive表作为ods层,若还要建立该咋办?
FlinkSql创建Kafka source 消费数据写到hive表作为ods层,如果还要建立dwd层数据是用flink 读hive表转换成ods,还是在创建一个Kafka source的表再消费一次做处理写到hive dwd表呢?
本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。