ClickHouse 的物化视图是一种查询结果的持久化,它确实是给我们带来了查询效率的提升。用户查起来跟表没有区别,它就是一张表,它也像是一张时刻在预计算的表,创建的过程它是用了一个特殊引擎,加上后来 as select,就是 create 一个 table as select 的写法。

  “查询结果集”的范围很宽泛,可以是基础表中部分数据的一份简单拷贝,也可以是多表 join 之后产生的结果或其子集,或者原始数据的聚合指标等等。所以,物化视图不会随着基础表的变化而变化,所以它也称为快照(snapshot)

概述

物化视图与普通视图的区别

  普通视图不保存数据,保存的仅仅是查询语句,查询的时候还是从原表读取数据,可以将普通视图理解为是个子查询。物化视图则是把查询的结果根据相应的引擎存入到了磁盘

或内存中,对数据重新进行了组织,你可以理解物化视图是完全的一张新表。

优缺点

  优点:查询速度快,要是把物化视图这些规则全部写好,它比原数据查询快了很多,总的行数少了,因为都预计算好了。

  缺点:它的本质是一个流式数据的使用场景,是累加式的技术,所以要用历史数据做去重、去核这样的分析,在物化视图里面是不太好用的。在某些场景的使用也是有限的。而且

如果一张表加了好多物化视图,在写这张表的时候,就会消耗很多机器的资源,比如数据带宽占满、存储一下子增加了很多。

基本语法

  也是 create 语法,会创建一个隐藏的目标表来保存视图数据。也可以 TO 表名,保存到一张显式的表。没有加 TO 表名,表名默认就是 .inner.物化视图名

  1. CREATE [MATERIALIZED] VIEW [IF NOT EXISTS] [db.]table_name [TO[db.]name]
  2. [ENGINE = engine] [POPULATE] AS SELECT ...

1)创建物化视图的限制

  1.必须指定物化视图的 engine 用于数据存储

  2.TO [db].[table]语法的时候,不得使用 POPULATE。

  3.查询语句(select)可以包含下面的子句: DISTINCT, GROUP BY, ORDER BY, LIMIT…

  4.物化视图的 alter 操作有些限制,操作起来不大方便。

  5.若物化视图的定义使用了 TO [db.]name 子语句,则可以将目标表的视图 卸载DETACH 再装载 ATTACH

2)物化视图的数据更新

(1)物化视图创建好之后,若源表被写入新数据则物化视图也会同步更新

(2)POPULATE 关键字决定了物化视图的更新策略:

  • 若有 POPULATE 则在创建视图的过程会将源表已经存在的数据一并导入,类似于create table … as
  • 若无 POPULATE 则物化视图在创建之后没有数据,只会在创建只有同步之后写入源表的数据
  • clickhouse 官方并不推荐使用 POPULATE,因为在创建物化视图的过程中同时写入的数据不能被插入物化视图。

(3)物化视图不支持同步删除,若源表的数据不存在(删除了)则物化视图的数据仍然保留

(4)物化视图是一种特殊的数据表,可以用 show tables 查看

(5)物化视图数据的删除

(6)物化视图的删除

例子

准备数据

1)建表
  1. CREATE TABLE hits_test_1
  2. (
  3. `EventDate` Date,
  4. `CounterID` UInt32,
  5. `UserID` UInt64,
  6. `URL` String,
  7. `Income` UInt8
  8. )
  9. ENGINE = MergeTree
  10. PARTITION BY toYYYYMM(EventDate)
  11. ORDER BY (CounterID, EventDate, intHash32(UserID))
  12. SAMPLE BY intHash32(UserID)
  13. SETTINGS index_granularity = 8192;
2)导入一些数据
  1. INSERT INTO hits_test_1 SELECT
  2. EventDate,
  3. CounterID,
  4. UserID,
  5. URL,
  6. Income
  7. FROM hits_v1
  8. LIMIT 10000

创建物化视图

  1. // 建表语句
  2. CREATE MATERIALIZED VIEW hits_mv
  3. ENGINE = SummingMergeTree
  4. PARTITION BY toYYYYMM(EventDate)
  5. ORDER BY (EventDate, intHash32(UserID)) AS
  6. SELECT
  7. UserID,
  8. EventDate,
  9. count(URL) AS ClickCount,
  10. sum(Income) AS IncomeSum
  11. FROM hits_test_1
  12. WHERE EventDate >= '2014-03-20'
  13. GROUP BY
  14. UserID,
  15. EventDate;
  16. // 设置更新点,该时间点之前的数据可以另外通过insert into select ...... 的方式进行插入
  17. // 或者可以用下列语法,表 A 可以是一张 mergetree 表
  18. CREATE MATERIALIZED VIEW 物化视图名 TO A
  19. AS SELECT FROM B;
  20. // 不建议添加 populate 关键字进行全量更新
  21. // 查看表
  22. show tables;
  23. ┌─name───────────┐
  24. .inner.hits_mv
  25. hits_mv
  26. └────────────────┘
  27. // 其中.inner.hits_mv为物化视图对应的表,用来保存视图数据
  28. // hits_mv是视图
  29. // 因为没有加populate,因此此时表中的数据是空的

导入增量数据

往原表插入数据,物化视图对应的表也会进行数据的更新
  1. INSERT INTO hits_test_1 SELECT
  2. EventDate,
  3. CounterID,
  4. UserID,
  5. URL,
  6. Income
  7. FROM hits_v1
  8. WHERE EventDate >= '2014-03-23'
  9. LIMIT 10;
  10. // 查询物化视图
  11. SELECT *
  12. FROM hits_mv;
  13. ┌──────────────UserID─┬──EventDate─┬─ClickCount─┬─IncomeSum─┐
  14. 8585742290196126178 2014-03-23 8 16
  15. 1095363898647626948 2014-03-23 2 0
  16. └─────────────────────┴────────────┴────────────┴───────────┘
  17. // 也可以查询物化视图对应的表
  18. SELECT *
  19. FROM `.inner.hits_mv`;

导入历史数据

向物化视图导入数据
  1. INSERT INTO hits_mv SELECT
  2. UserID,
  3. EventDate,
  4. count(URL) AS ClickCount,
  5. sum(Income) AS IncomeSum
  6. FROM hits_test_1
  7. WHERE EventDate = '2014-03-20'
  8. GROUP BY
  9. UserID,
  10. EventDate'

总结

能使用物化视图的地方尽量来使用,可以用空间换时间,但是不要使用populate,非要历史数据就使用insert去导入

比如一些固定需要的统计指标,可以通过物化视图快速的进行查询。