Java技术债务Java技术债务

  •  首页
  •  分类
  •  归档
  •  标签
  • 博客日志
  • 资源分享
  •  友链
  •  关于本站
注册
登录

ClickHouse物化视图(八)

ClickHouse,数据库

文章目录


概述

ClickHouse 的物化视图是一种查询结果的持久化,它确实是给我们带来了查询效率的提升。用户查起来跟表没有区别,它就是一张表,它也像是一张时刻在预计算的表,创建的过程它是用了一个特殊引擎,加上后来 as select,就是 create 一个 table as select 的写法。

“查询结果集”的范围很宽泛,可以是基础表中部分数据的一份简单拷贝,也可以是多表 join 之后产生的结果或其子集,或者原始数据的聚合指标等等。所以,物化视图不会随着基础表的变化而变化,所以它也称为 快照(snapshot)

1 物化视图与普通视图的区别

  • **普通视图:**不保存数据,保存的仅仅是查询逻辑语句,查询的时候还是从原表读取数据,可以将普通视图理解为是个子查询。
  • **物化视图:**是把查询的结果根据相应的引擎存入到了磁盘或内存中,对数据重新进行了组织,你可以理解物化视图是完全的一张新表。

2 优缺点

  • **优点:**查询速度快,要是把物化视图这些规则全部写好,它比原数据查询快了很多,总的行数少了,因为都预计算好了。
  • 缺点:它的本质是一个流式数据的使用场景,是累加式的技术,所以要用历史数据做去重、去核这样的分析,在物化视图里面是不太好用的。在某些场景的使用也是有限的。而且 如果一张表加了好多物化视图,在写这张表的时候,就会消耗很多机器的资源,比如数据带宽占满、存储一下子增加了很多。

3 基本语法

create 语法,会创建一个隐藏的目标表来保存视图数据。也可以 TO 表名,保存到一张显式的表。没有加 TO 表名,表名默认就是 .inner.物化视图名

CREATE [MATERIALIZED] VIEW [IF NOT EXISTS] [db.]table_name [TO[db.]name]
[ENGINE = engine] [POPULATE] AS SELECT ...

1) 创建物化视图的限制

  1. 必须指定物化视图的 engine 用于数据存储

  2. TO [db].[table]语法的时候,不得使用 POPULATE。

    注意**:**使用此关键字会使历史的数据进行物化,而在创建物化视图的过程中同时写入的数据不能被插入物化视图

  3. 查询语句(select)可以包含下面的子句: DISTINCT, GROUP BY, ORDER BY, LIMIT...

  4. 物化视图的 alter 操作有些限制,操作起来不大方便。

  5. 若物化视图的定义使用了 TO [db.]name 子语句,则可以将目标表的视图卸载DETACH 再装载 ATTACH

2) 物化视图的数据更新

  1. 物化视图创建好之后,若源表被写入新数据则物化视图也会同步更新
  2. POPULATE 关键字决定了物化视图的更新策略:
    • 若有关键字 POPULATE 则在创建视图的过程会将源表已经存在的数据一并导入,类似于 create table ... as
    • 若无 POPULATE 则物化视图在创建之后没有数据,只会在创建只有同步之后写入源表的数据
    • clickhouse 官方并不推荐使用 POPULATE,因为在创建物化视图的过程中同时写入的数据不能被插入物化视图。
  3. 物化视图不支持同步删除,若源表的数据不存在(删除了)则物化视图的数据仍然保留
  4. 物化视图是一种特殊的数据表,可以用 show tables 查看

4 物化视图创建示例

  1. 建表
#建表语句
CREATE TABLE hits_test (
   EventDate Date,
   CounterID UInt32,
   UserID UInt64,
   URL String,
   Income UInt8
)
ENGINE = MergeTree()
PARTITION BY toYYYYMM(EventDate)
ORDER BY (CounterID, EventDate, intHash32(UserID))
SAMPLE BY intHash32(UserID)
SETTINGS index_granularity = 8192
  1. 模拟数据
INSERT INTO hits_test
   SELECT
   EventDate,
   CounterID,
   UserID,
   URL,
   IncomeFROM hits_v1
limit 10000;
  1. ****创建物化视图
#创建物化视图语句
CREATE MATERIALIZED VIEW hits_mv
ENGINE=SummingMergeTree
PARTITION BY toYYYYMM(EventDate) ORDER BY (EventDate, intHash32(UserID)) 
AS SELECT
	UserID,
	EventDate,
	count(URL) as ClickCount,
	sum(Income) AS IncomeSum
FROM hits_test
WHERE EventDate >= '2014-03-20' #设置更新点,该时间点之前的数据可以另外通过
																#insert into select ...... 的方式进行插入
GROUP BY UserID,EventDate;
##或者可以用下列语法,表 A 可以是一张 mergetree 表 CREATE MATERIALIZED VIEW 物化视图名 
##TO 表 A AS SELECT FROM 表 B;
#不建议添加 populate 关键字进行全量更新

4)导入数据

#导入增量数据
INSERT INTO hits_test SELECT
EventDate,CounterID,
   UserID,
   URL,
   Income
FROM hits_v1
WHERE EventDate >= '2014-03-23'
limit 10;
  1. 查询物化视图
SELECT * FROM hits_mv;

概述

ClickHouse 的物化视图是一种查询结果的持久化,它确实是给我们带来了查询效率的提升。用户查起来跟表没有区别,它就是一张表,它也像是一张时刻在预计算的表,创建的过程它是用了一个特殊引擎,加上后来 as select,就是 create 一个 table as select 的写法。

“查询结果集”的范围很宽泛,可以是基础表中部分数据的一份简单拷贝,也可以是多表 join 之后产生的结果或其子集,或者原始数据的聚合指标等等。所以,物化视图不会随着基础表的变化而变化,所以它也称为 快照(snapshot)

1 物化视图与普通视图的区别

  • **普通视图:**不保存数据,保存的仅仅是查询逻辑语句,查询的时候还是从原表读取数据,可以将普通视图理解为是个子查询。
  • **物化视图:**是把查询的结果根据相应的引擎存入到了磁盘或内存中,对数据重新进行了组织,你可以理解物化视图是完全的一张新表。

2 优缺点

  • **优点:**查询速度快,要是把物化视图这些规则全部写好,它比原数据查询快了很多,总的行数少了,因为都预计算好了。
  • 缺点:它的本质是一个流式数据的使用场景,是累加式的技术,所以要用历史数据做去重、去核这样的分析,在物化视图里面是不太好用的。在某些场景的使用也是有限的。而且 如果一张表加了好多物化视图,在写这张表的时候,就会消耗很多机器的资源,比如数据带宽占满、存储一下子增加了很多。

3 基本语法

create 语法,会创建一个隐藏的目标表来保存视图数据。也可以 TO 表名,保存到一张显式的表。没有加 TO 表名,表名默认就是 .inner.物化视图名

CREATE [MATERIALIZED] VIEW [IF NOT EXISTS] [db.]table_name [TO[db.]name]
[ENGINE = engine] [POPULATE] AS SELECT ...

1) 创建物化视图的限制

  1. 必须指定物化视图的 engine 用于数据存储

  2. TO [db].[table]语法的时候,不得使用 POPULATE。

    注意**:**使用此关键字会使历史的数据进行物化,而在创建物化视图的过程中同时写入的数据不能被插入物化视图

  3. 查询语句(select)可以包含下面的子句: DISTINCT, GROUP BY, ORDER BY, LIMIT...

  4. 物化视图的 alter 操作有些限制,操作起来不大方便。

  5. 若物化视图的定义使用了 TO [db.]name 子语句,则可以将目标表的视图卸载DETACH 再装载 ATTACH

2) 物化视图的数据更新

  1. 物化视图创建好之后,若源表被写入新数据则物化视图也会同步更新
  2. POPULATE 关键字决定了物化视图的更新策略:
    • 若有关键字 POPULATE 则在创建视图的过程会将源表已经存在的数据一并导入,类似于 create table ... as
    • 若无 POPULATE 则物化视图在创建之后没有数据,只会在创建只有同步之后写入源表的数据
    • clickhouse 官方并不推荐使用 POPULATE,因为在创建物化视图的过程中同时写入的数据不能被插入物化视图。
  3. 物化视图不支持同步删除,若源表的数据不存在(删除了)则物化视图的数据仍然保留
  4. 物化视图是一种特殊的数据表,可以用 show tables 查看

4 物化视图创建示例

  1. 建表
#建表语句
CREATE TABLE hits_test (
   EventDate Date,
   CounterID UInt32,
   UserID UInt64,
   URL String,
   Income UInt8
)
ENGINE = MergeTree()
PARTITION BY toYYYYMM(EventDate)
ORDER BY (CounterID, EventDate, intHash32(UserID))
SAMPLE BY intHash32(UserID)
SETTINGS index_granularity = 8192
  1. 模拟数据
INSERT INTO hits_test
   SELECT
   EventDate,
   CounterID,
   UserID,
   URL,
   IncomeFROM hits_v1
limit 10000;
  1. ****创建物化视图
#创建物化视图语句
CREATE MATERIALIZED VIEW hits_mv
ENGINE=SummingMergeTree
PARTITION BY toYYYYMM(EventDate) ORDER BY (EventDate, intHash32(UserID)) 
AS SELECT
	UserID,
	EventDate,
	count(URL) as ClickCount,
	sum(Income) AS IncomeSum
FROM hits_test
WHERE EventDate >= '2014-03-20' #设置更新点,该时间点之前的数据可以另外通过
																#insert into select ...... 的方式进行插入
GROUP BY UserID,EventDate;
##或者可以用下列语法,表 A 可以是一张 mergetree 表 CREATE MATERIALIZED VIEW 物化视图名 
##TO 表 A AS SELECT FROM 表 B;
#不建议添加 populate 关键字进行全量更新

4)导入数据

#导入增量数据
INSERT INTO hits_test SELECT
EventDate,CounterID,
   UserID,
   URL,
   Income
FROM hits_v1
WHERE EventDate >= '2014-03-23'
limit 10;
  1. 查询物化视图
SELECT * FROM hits_mv;
完
  • 本文作者:Java技术债务
  • 原文链接: https://cuizb.top/myblog/article/1640013870
  • 版权声明: 本博客所有文章除特别声明外,均采用 CC BY 3.0 CN协议进行许可。转载请署名作者且注明文章出处。
阅读全文
Java技术债务

Java技术债务

Java技术债务
Java技术债务
热门文章
  1. ClickHouse使用过程中的一些查询优化(六)2003
  2. MySQL数据库被攻击,被删库勒索,逼迫我使出洪荒之力进行恢复数据764
  3. MySQL主从同步原理458
  4. 线程池的理解以及使用414
  5. Spring Cloud Gateway整合nacos实战(三)409
分类
  • Java
    30篇
  • 设计模式
    27篇
  • 数据库
    20篇
  • Spring
    18篇
  • MySQL
    13篇
  • ClickHouse
    11篇
  • Kubernetes
    10篇
  • Redis
    9篇
  • Docker
    8篇
  • SpringBoot
    7篇
  • JVM
    6篇
  • Linux
    5篇
  • Spring Cloud
    5篇
  • 多线程
    5篇
  • Netty
    4篇
  • Kafka
    4篇
  • 面经
    4篇
  • Nginx
    3篇
  • JUC
    3篇
  • 随笔
    2篇
  • 分布式
    1篇
  • MyBatis
    1篇
  • 报错合集
    1篇
  • 生活记录
    1篇
  • 源码
    1篇
  • 性能优化
    1篇

最新评论

  • MySQL数据库被攻击,被删库勒索,逼迫我使出洪荒之力进行恢复数据2022-05-06
    Java技术债务:@capture 一起探讨学习,服务器被黑很正常,及时做好备份以及做好防护
  • MySQL数据库被攻击,被删库勒索,逼迫我使出洪荒之力进行恢复数据2022-04-13
    capture:我的刚上线两天,网站里就两篇文章也被攻击了,纳闷
  • Java常用集合List、Map、Set介绍以及一些面试问题2022-01-18
    Java技术债务:HashSet和TreeSet 相同点:数据不能重复 不同点: 1、底层存储结构不同; HashSet底层使用HashMap哈希表存储 TreeSet底层使用TreeMap树结构存储 2、唯一性方式不同 HashSet底层使用hashcode()和equal()方法判断 TreeSet底层使用Comparable接口的compareTo判断的 3、HashSet无序,TreeSet有序
  • undefined2021-12-14
    Java技术债务:如果不指定线程池,CompletableFuture会默认使用ForkJoin线程池,如果同一时间出现大量请求的话,会出现线程等待问题,建议使用自定义线程池。。。
  • undefined2021-12-02
    you:很好,对于小白相当不错了,谢谢
  • CSDN
  • 博客园
  • 程序猿DD
  • 纯洁的微笑
  • spring4all
  • 廖雪峰的官方网站
  • 猿天地
  • 泥瓦匠BYSocket
  • crossoverJie
  • 张先森个人博客
  • 越加网

© 2021-2022 Java技术债务 - Java技术债务 版权所有
总访问量 0 次 您是本文第 0 位童鞋
豫ICP备2021034516号
Java技术债务 豫公网安备 51011402000164号

微信公众号

Java技术债务
Java技术债务

专注于Spring,SpringBoot等后端技术探索

以及MySql数据库开发和Netty等后端流行框架学习

日志
分类
标签
RSS

有不足之处也希望各位前辈指出