物化视图
本示例演示了如何创建一个物化视图,然后如何将第二个物化视图级联到第一个物化视图上。在本页中,您将看到如何做到这一点,许多可能性以及限制。通过创建一个使用第二个物化视图作为源的物化视图,可以回答不同的用例。
示例:
我们将使用一个虚假数据集,其中包含一组域名的每小时浏览次数。
我们的目标
- 我们需要按月为每个域名聚合数据,
- 我们还需要按年为每个域名聚合数据。
您可以选择以下选项之一:
- 编写查询,这些查询将在 SELECT 请求期间读取和聚合数据
- 在摄入时将数据准备为新格式
- 在摄入时将数据准备为特定的聚合。
使用物化视图准备数据将允许您限制 ClickHouse 需要执行的数据和计算量,从而加快 SELECT 请求的速度。
物化视图的源表
创建源表,因为我们的目标涉及报告聚合数据而不是单个行,我们可以解析它,将信息传递给物化视图,然后丢弃实际的传入数据。这符合我们的目标并节省了存储空间,因此我们将使用 Null
表引擎。
CREATE DATABASE IF NOT EXISTS analytics;
CREATE TABLE analytics.hourly_data
(
`domain_name` String,
`event_time` DateTime,
`count_views` UInt64
)
ENGINE = Null
您可以在 Null 表上创建物化视图。因此,写入表的数据将影响视图,但原始原始数据仍将被丢弃。
按月聚合的表和物化视图
对于第一个物化视图,我们需要创建 Target
表,对于本示例,它将是 analytics.monthly_aggregated_data
,我们将按月和域名存储浏览次数的总和。
CREATE TABLE analytics.monthly_aggregated_data
(
`domain_name` String,
`month` Date,
`sumCountViews` AggregateFunction(sum, UInt64)
)
ENGINE = AggregatingMergeTree
ORDER BY (domain_name, month)
将转发数据到目标表的物化视图如下:
CREATE MATERIALIZED VIEW analytics.monthly_aggregated_data_mv
TO analytics.monthly_aggregated_data
AS
SELECT
toDate(toStartOfMonth(event_time)) AS month,
domain_name,
sumState(count_views) AS sumCountViews
FROM analytics.hourly_data
GROUP BY
domain_name,
month
按年聚合的表和物化视图
现在我们将创建第二个物化视图,它将链接到我们之前的目标表 monthly_aggregated_data
。
首先,我们将创建一个新的目标表,它将为每个域名存储按年聚合的浏览次数总和。
CREATE TABLE analytics.year_aggregated_data
(
`domain_name` String,
`year` UInt16,
`sumCountViews` UInt64
)
ENGINE = SummingMergeTree()
ORDER BY (domain_name, year)
这一步定义了级联。FROM
语句将使用 monthly_aggregated_data
表,这意味着数据流程将是:
- 数据来自
hourly_data
表。 - ClickHouse 将转发接收到的数据到第一个物化视图
monthly_aggregated_data
表, - 最后,第 2 步中接收到的数据将被转发到
year_aggregated_data
。
CREATE MATERIALIZED VIEW analytics.year_aggregated_data_mv
TO analytics.year_aggregated_data
AS
SELECT
toYear(toStartOfYear(month)) AS year,
domain_name,
sumMerge(sumCountViews) as sumCountViews
FROM analytics.monthly_aggregated_data
GROUP BY
domain_name,
year
在使用物化视图时的一个常见误解是,数据是从表中读取的。这不是 物化视图
的工作方式;转发的是插入的块,而不是表中的最终结果。
假设在本示例中,monthly_aggregated_data
中使用的引擎是 CollapsingMergeTree
,则转发到我们的第二个物化视图 year_aggregated_data
的数据将不是折叠表的最终结果,而是具有与 SELECT ... GROUP BY
中定义的字段的数据块。
如果您使用 CollapsingMergeTree
、ReplacingMergeTree
或甚至 SummingMergeTree
,并且您计划创建级联物化视图,您需要了解此处描述的限制。
示例数据
现在是测试我们级联物化视图的时候了,通过插入一些数据:
INSERT INTO analytics.hourly_data (domain_name, event_time, count_views)
VALUES ('clickhouse.com', '2019-01-01 10:00:00', 1),
('clickhouse.com', '2019-02-02 00:00:00', 2),
('clickhouse.com', '2019-02-01 00:00:00', 3),
('clickhouse.com', '2020-01-01 00:00:00', 6);
如果您查询 analytics.hourly_data
的内容,您将看到以下内容,因为表引擎是 Null
,但数据已经被处理。
SELECT * FROM analytics.hourly_data
Ok.
0 rows in set. Elapsed: 0.002 sec.
我们使用了一个小数据集,以确保我们可以跟踪并将结果与我们期望的结果进行比较,一旦您的流程与小数据集正确,您就可以转移到大量数据。
结果
如果您尝试查询目标表,选择 sumCountViews
字段,您将看到二进制表示(在某些终端中),因为该值不是作为数字而是作为 AggregateFunction
类型存储的。
要获取聚合的最终结果,您应该使用 -Merge
后缀。
您可以使用以下查询查看 AggregateFunction
中存储的特殊字符:
SELECT sumCountViews FROM analytics.monthly_aggregated_data
┌─sumCountViews─┐
│ │
│ │
│ │
└───────────────┘
3 rows in set. Elapsed: 0.003 sec.
相反,让我们尝试使用 Merge
后缀来获取 sumCountViews
值:
SELECT
sumMerge(sumCountViews) as sumCountViews
FROM analytics.monthly_aggregated_data;
┌─sumCountViews─┐
│ 12 │
└───────────────┘
1 row in set. Elapsed: 0.003 sec.
在 AggregatingMergeTree
中,我们已将 AggregateFunction
定义为 sum
,因此我们可以使用 sumMerge
。当我们在 AggregateFunction
上使用 avg
函数时,我们将使用 avgMerge
,依此类推。
SELECT
month,
domain_name,
sumMerge(sumCountViews) as sumCountViews
FROM analytics.monthly_aggregated_data
GROUP BY
domain_name,
month
现在我们可以回顾物化视图是否满足我们定义的目标。
现在我们已经将数据存储在目标表 monthly_aggregated_data
中,我们可以为每个域名按月获取聚合的数据:
SELECT
month,
domain_name,
sumMerge(sumCountViews) as sumCountViews
FROM analytics.monthly_aggregated_data
GROUP BY
domain_name,
month
┌──────month─┬─domain_name────┬─sumCountViews─┐
│ 2020-01-01 │ clickhouse.com │ 6 │
│ 2019-01-01 │ clickhouse.com │ 1 │
│ 2019-02-01 │ clickhouse.com │ 5 │
└────────────┴────────────────┴───────────────┘
3 rows in set. Elapsed: 0.004 sec.
每个域名按年聚合的数据:
SELECT
year,
domain_name,
sum(sumCountViews)
FROM analytics.year_aggregated_data
GROUP BY
domain_name,
year
┌─year─┬─domain_name────┬─sum(sumCountViews)─┐
│ 2019 │ clickhouse.com │ 6 │
│ 2020 │ clickhouse.com │ 6 │
└──────┴────────────────┴────────────────────┘
2 rows in set. Elapsed: 0.004 sec.
将多个源表合并到单个目标表
物化视图还可以用于将多个源表合并到同一个目标表中。这对于创建类似于 UNION ALL
逻辑的物化视图很有用。
首先,创建两个代表不同指标集的源表:
CREATE TABLE analytics.impressions
(
`event_time` DateTime,
`domain_name` String
) ENGINE = MergeTree ORDER BY (domain_name, event_time)
;
CREATE TABLE analytics.clicks
(
`event_time` DateTime,
`domain_name` String
) ENGINE = MergeTree ORDER BY (domain_name, event_time)
然后创建具有组合指标集的 Target
表:
CREATE TABLE analytics.daily_overview
(
`on_date` Date,
`domain_name` String,
`impressions` SimpleAggregateFunction(sum, UInt64),
`clicks` SimpleAggregateFunction(sum, UInt64)
) ENGINE = AggregatingMergeTree ORDER BY (on_date, domain_name)
创建两个指向相同 Target
表的物化视图。您不需要显式包含缺少的列:
CREATE MATERIALIZED VIEW analytics.daily_impressions_mv
TO analytics.daily_overview
AS
SELECT
toDate(event_time) AS on_date,
domain_name,
count() AS impressions,
0 clicks ---<<<--- if you omit this, it will be the same 0
FROM
analytics.impressions
GROUP BY
toDate(event_time) AS on_date,
domain_name
;
CREATE MATERIALIZED VIEW analytics.daily_clicks_mv
TO analytics.daily_overview
AS
SELECT
toDate(event_time) AS on_date,
domain_name,
count() AS clicks,
0 impressions ---<<<--- if you omit this, it will be the same 0
FROM
analytics.clicks
GROUP BY
toDate(event_time) AS on_date,
domain_name
;
现在,当您插入值时,这些值将被聚合到 Target
表的相应列中:
INSERT INTO analytics.impressions (domain_name, event_time)
VALUES ('clickhouse.com', '2019-01-01 00:00:00'),
('clickhouse.com', '2019-01-01 12:00:00'),
('clickhouse.com', '2019-02-01 00:00:00'),
('clickhouse.com', '2019-03-01 00:00:00')
;
INSERT INTO analytics.clicks (domain_name, event_time)
VALUES ('clickhouse.com', '2019-01-01 00:00:00'),
('clickhouse.com', '2019-01-01 12:00:00'),
('clickhouse.com', '2019-03-01 00:00:00')
;
在 Target
表中,将印象和点击组合在一起:
SELECT
on_date,
domain_name,
sum(impressions) AS impressions,
sum(clicks) AS clicks
FROM
analytics.daily_overview
GROUP BY
on_date,
domain_name
;
此查询应输出类似以下内容:
┌────on_date─┬─domain_name────┬─impressions─┬─clicks─┐
│ 2019-01-01 │ clickhouse.com │ 2 │ 2 │
│ 2019-03-01 │ clickhouse.com │ 1 │ 1 │
│ 2019-02-01 │ clickhouse.com │ 1 │ 0 │
└────────────┴────────────────┴─────────────┴────────┘
3 rows in set. Elapsed: 0.018 sec.