最新动态
深入讲解拉链表,还怕面试官问?
2024-12-23 11:38

原文链接:深入讲解拉链表,还怕面试官问

深入讲解拉链表,还怕面试官问?

拉链表:维护历史状态,以及最新状态数据的一种表,拉链表根据拉链粒度的不同,实际上相当于快照,只不过做了优化,去除了一部分不变的记录,通过拉链表可以很方便的还原出拉链时点的客户记录

数据仓库的数据模型设计过程中,经常会遇到这样的需求

  • 表中的部分字段会被update,例如:用户的地址,产品的描述信息,品牌信息等等;
  • 需要查看某一个时间点或者时间段的历史快照信息,例如:查看某一个产品在历史某一时间点的状态 查看某一个用户在过去某一段时间内,更新过几次等等
  • 变化的比例和频率不是很大,例如:总共有1000万的会员,每天新增和发生变化的有10万左右

需求:商品表

列名类型说明goods_idvarchar(50)商品编号goods_statusvarchar(50)商品状态(待审核、待售、在售、已删除)createtimevarchar(50)商品创建日期modifytimevarchar(50)商品修改日期

2019年12月20日的数据如下所示

goods_idgoods_statuscreatetimemodifytime001待审核2019-12-202019-12-20002待售2019-12-202019-12-20003在售2019-12-202019-12-20004已删除2019-12-202019-12-20

商品的状态,会随着时间推移而变化,我们需要将商品的所有变化的历史信息都保存下来。如何实现呢

  • 快照每一天的数据到数仓(图解
    该方案为
    • 每一天都保存一份全量,将所有数据同步到数仓中(我这里就使用MySQL操作的
    • 很多记录都是重复保存,没有任何变化

12月20日(4条数据

goods_idgoods_statuscreatetimemodifytime001待审核2019-12-202019-12-20002待售2019-12-202019-12-20003在售2019-12-202019-12-20004已删除2019-12-202019-12-20

12月21日(10条数据

goods_idgoods_statuscreatetimemodifytime以下为12月20日快照数据001待审核2019-12-182019-12-20002待售2019-12-192019-12-20003在售2019-12-202019-12-20004已删除2019-12-152019-12-20以下为12月21日快照数据001待售(从待审核到待售)2019-12-182019-12-21002待售2019-12-202019-12-20003在售2019-12-202019-12-20004已删除2019-12-202019-12-20005(新商品)待审核2019-12-212019-12-21006(新商品)待审核2019-12-222019-12-21

12月22日(18条数据

goods_idgoods_statuscreatetimemodifytime以下为12月20日快照数据001待审核2019-12-182019-12-20002待售2019-12-192019-12-20003在售2019-12-202019-12-20004已删除2019-12-152019-12-20以下为12月21日快照数据001待售(从待审核到待售)2019-12-182019-12-21002待售2019-12-202019-12-20003在售2019-12-202019-12-20004已删除2019-12-202019-12-20005(新商品)待审核2019-12-212019-12-21006(新商品)待审核2019-12-222019-12-21以下为12月22日快照数据001待售2019-12-182019-12-21002待售2019-12-202019-12-20003已删除(从在售到已删除)2019-12-202019-12-22004已删除2019-12-202019-12-20005待审核2019-12-212019-12-21006已删除(从待审核到已删除)2019-12-212019-12-22007待审核2019-12-222019-12-22008待审核2019-12-222019-12-22

1、在MySQL中zw库和商品表用于到原始数据层

 

2、在MySQL中创建ods和dw层 模拟数仓

 

3、增量导入12月20号数据

 

PS:由于我这里使用的MySQL来模拟的数仓在这里偷个懒直接使用insert into的方式导入数据,在企业中可能会使用hive来做数仓使用kettle 或者sqoop或datax等来同步数据

 

4、增量导入12月21数据

 
 

5、增量导入12月22日数据

 
 

  • 表每天保留一份全量,每次全量中会保存很多不变的信息,如果数据量很大的话,对存储是极大的浪费
  • 可以将表设计为拉链表,既能满足反应数据的历史状态,又可以最大限度地节省存储空间。

  • 拉链表不存储冗余的数据,只有某行的数据发生变化,才需要保存下来,相比每次全量同步会节省存储空间
  • 能够查询到历史快照
  • 额外的增加了两列(dw_start_date、dw_end_date,为数据行的生命周期

1、12月20日商品拉链表的数据

goods_idgoods_statuscreatetimemodifytimedw_start_datedw_end_date001待审核2019-12-182019-12-202019-12-209999-12-31002待售2019-12-192019-12-202019-12-209999-12-31003在售2019-12-202019-12-202019-12-209999-12-31004已删除2019-12-152019-12-202019-12-209999-12-31

12月20日的数据是全新的数据导入到dw表

  • dw_start_date表示某一条数据的生命周期起始时间,即数据从该时间开始有效(即生效日期
  • dw_end_date表示某一条数据的生命周期结束时间,即数据到这一天(不包含(即失效日期
  • dw_end_date为9999-12-31,表示当前这条数据是最新的数据,数据到9999-12-31才过期

2、12月21日商品拉链表的数据

goods_idgoods_statuscreatetimemodifytimedw_start_datedw_end_date001待审核2019-12-182019-12-202019-12-202019-12-21002待售2019-12-192019-12-202019-12-209999-12-31003在售2019-12-202019-12-202019-12-209999-12-31004已删除2019-12-152019-12-202019-12-209999-12-31001(变)待售2019-12-182019-12-212019-12-219999-12-31005(新)待审核2019-12-212019-12-212019-12-219999-12-31006(新)待审核2019-12-212019-12-212019-12-219999-12-31

12月21日商品拉链表的数据

  • 拉链表中没有存储冗余的数据(只要数据没有变化,无需同步
  • 001编号的商品数据的状态发生了变化(从待审核 → 待售,需要将原有的dw_end_date从9999-12-31变为2019-12-21,表示待审核状态,在2019/12/20(包含) - 2019/12/21(不包含)有效
  • 001编号新的状态重新保存了一条记录,dw_start_date为2019/12/21,dw_end_date为9999/12/31
  • 新数据005、006、dw_start_date为2019/12/21,dw_end_date为9999/12/31

3、12月22日商品拉链表的数据

goods_idgoods_statuscreatetimemodifytimedw_start_datedw_end_date001待审核2019-12-182019-12-202019-12-202019-12-21002待售2019-12-192019-12-202019-12-209999-12-31003在售2019-12-202019-12-202019-12-202019-12-22004已删除2019-12-152019-12-202019-12-209999-12-31001待售2019-12-182019-12-212019-12-219999-12-31005待审核2019-12-212019-12-212019-12-219999-12-31006待审核2019-12-212019-12-212019-12-219999-12-31003(变)已删除2019-12-202019-12-222019-12-229999-12-31007(新)待审核2019-12-222019-12-222019-12-229999-12-31008(新)待审核2019-12-222019-12-222019-12-229999-12-31

12月22日商品拉链表的数据

  • 003编号的商品数据的状态发生了变化(从在售→已删除,需要将原有的 dw_end_date从9999-12-31变为2019-12-22,表示在售状态,在2019/12/20(包含) - 2019/12/22(不包含) 有效
  • 003编号新的状态重新保存了一条记录,dw_start_date为2019/12/22,dw_end_date为9999/12/31
  • 新数据007、008、dw_start_date为2019/12/22,dw_end_date为9999/12/31

操作流程

  • 在原有dw层表上,添加额外的两列
  • 只同步当天修改的数据到ods层
  • 拉链表算法实现
  • 拉链表的数据为:当天最新的数据 UNIOn ALL 历史数据

代码实现
1、在MySQL中zw库和商品表用于到原始数据层

 

2、在MySQL中创建ods和dw层 模拟数仓

 

3、全量导入2019年12月20日数据

 
 

4、增量导入2019年12月21日数据

 
 

5、编写ods层到dw层重新计算 dw_end_date
注意:我这里直接将结果的SQL语句放在这里语句 因为需要将覆盖写入到数据库中我这里就没有写了,但是不影响我们结果。12月22 号的操作流程跟21 一样我就里就不写了

 

    以上就是本篇文章【深入讲解拉链表,还怕面试官问?】的全部内容了,欢迎阅览 ! 文章地址:http://keair.bhha.com.cn/quote/5050.html 
     动态      相关文章      文章      同类文章      热门文章      栏目首页      网站地图      返回首页 康宝晨移动站 http://keair.bhha.com.cn/mobile/ , 查看更多