• 1.将M3DM SQLServer数据库中,原有的历史数据Dump出一份,加载进Doris集群中
  • 2.梳理清楚原有架构中有哪些表必须存放在‘内存优化表’中,给与保留,其余部分直接通过Flink代码从内存中采集,发送至Kafka消息队列中
  • 3.在消息队列中实现消峰和缓存的功能
  • 4.通过Flink代码将数据从Kafka集群接入到Doris数据库中,追加写入到对应历史数据表中
  • 5.在Doris集群中通过视图功能,实现伪实时计算(数据量为2T,Doris可以实现100T以内的秒级计算)
  • 6.BI工具直接对接Doris数据库中的ADS层表,进行报表开发和展示

作者 admin

张宴银,大数据开发工程师

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注