
- 1.将M3DM SQLServer数据库中,原有的历史数据Dump出一份,加载进Doris集群中
- 2.梳理清楚原有架构中有哪些表必须存放在‘内存优化表’中,给与保留,其余部分直接通过Flink代码从内存中采集,发送至Kafka消息队列中
- 3.在消息队列中实现消峰和缓存的功能
- 4.通过Flink代码将数据从Kafka集群接入到Doris数据库中,追加写入到对应历史数据表中
- 5.在Doris集群中通过视图功能,实现伪实时计算(数据量为2T,Doris可以实现100T以内的秒级计算)
- 6.BI工具直接对接Doris数据库中的ADS层表,进行报表开发和展示