博客
关于我
clickhouse mysql引擎 和 MaterializedMySQL引擎的区别
阅读量:498 次
发布时间:2019-03-07

本文共 1484 字,大约阅读时间需要 4 分钟。

MySQL引擎

MySQL引擎用于将远程MySQL服务器中的表映射到ClickHouse中,允许在ClickHouse与MySQL之间进行数据交换。通过MySQL引擎,可以执行SELECT和INSERT查询,将远程表的数据同步到ClickHouse。MySQL引擎会将查询转换为MySQL语法发送到服务器,您可以执行SHOW TABLES、SHOW CREATE TABLE等操作。

不过,MySQL引擎不支持以下操作:

  • RENAME
  • CREATE TABLE
  • ALTER

Materialized MySQL引擎(实验性功能)

Materialized MySQL引擎用于创建ClickHouse数据库,包含MySQL中所有表及数据。它作为MySQL的副本工作,读取binlog并执行DDL和DML查询。

MySQL服务器端配置

为了确保Materialized MySQL引擎正常工作,需设置以下MySQL配置:

  • default_authentication_plugin = mysql_native_password
  • gtid_mode = on
  • enforce_gtid_consistency = on

虚拟列

在使用Materialized MySQL引擎时,推荐使用以下虚拟列:

  • _version:类型UInt64,用于同步版本控制。
  • _sign:类型Int8,可能值为:
    • 1:表示行未被删除。
    • -1:表示行已被删除。

兼容性限制

在使用Materialized MySQL引擎前,请注意以下限制:

  • MySQL表必须包含PRIMARY KEY。
  • ENUM字段值超出签名范围的表无法复制。
  • Materialized MySQL引擎不支持直接执行INSERT、DELETE和UPDATE查询,但支持通过binlog复制数据。

DDL查询

MySQL的DDL查询会转换为ClickHouse的DDL语法(如ALTER、CREATE、DROP、RENAME)。如果ClickHouse无法解析某个DDL查询,将忽略该操作。

数据复制

Materialized MySQL引擎支持以下数据复制功能:

  • INSERT查询转换为INSERT,携带_sign=1。
  • DELETE查询转换为INSERT,携带_sign=-1。
  • UPDATE查询转换为INSERT,携带_sign=-1(删除旧值)和_sign=1(插入新值)。

查询Materialized MySQL表

SELECT查询Materialized MySQL表时需注意以下细节:

  • 如果未指定_version,默认使用FINAL修饰符,只有带有MAX(_version)的行才会被选中。
  • 如果未指定_sign,默认使用WHERE _sign=1,即未删除的行不会包含在结果集中。
  • 结果集中会包含列的注释信息。

Index Conversion

MySQL的PRIMARY KEY和INDEX子句会转换为ClickHouse的ORDER BY元组。由于ClickHouse只有一个物理顺序,若需创建新顺序,请使用materialized views。

注意事项

  • 带有_sign=-1的行不会从表中物理删除。
  • Materialized MySQL引擎不支持级联UPDATE/DELETE查询。
  • 禁止对数据库和表进行手工操作。
  • 物理删除操作会破坏复制。
  • Materialized MySQL引擎受optimize_on_insert设置的影响,MySQL表结构变化会同步到Materialized MySQL表中。

转载地址:http://wqwcz.baihongyu.com/

你可能感兴趣的文章
Nginx配置实例-负载均衡实例:平均访问多台服务器
查看>>
Nginx配置文件nginx.conf中文详解(总结)
查看>>
Nginx配置自带的stub状态实现活动监控指标
查看>>
Nginx配置详解
查看>>
nginx配置详解、端口重定向和504
查看>>
Nginx配置负载均衡到后台网关集群
查看>>
Nginx配置限流,技能拉满!
查看>>
Nginx配置静态代理/静态资源映射时root与alias的区别,带前缀映射用alias
查看>>
Nginx面试三连问:Nginx如何工作?负载均衡策略有哪些?如何限流?
查看>>
nginx:/usr/src/fastdfs-nginx-module/src/common.c:21:25:致命错误:fdfs_define.h:没有那个文件或目录 #include
查看>>
Nginx:NginxConfig可视化配置工具安装
查看>>
ngModelController
查看>>
ngrok | 内网穿透,支持 HTTPS、国内访问、静态域名
查看>>
ngrok内网穿透可以实现资源共享吗?快解析更加简洁
查看>>
NHibernate学习[1]
查看>>
NHibernate异常:No persister for的解决办法
查看>>
NIFI1.21.0_java.net.SocketException:_Too many open files 打开的文件太多_实际操作---大数据之Nifi工作笔记0051
查看>>
NIFI1.21.0_Mysql到Mysql增量CDC同步中_日期类型_以及null数据同步处理补充---大数据之Nifi工作笔记0057
查看>>
NIFI1.21.0_Mysql到Mysql增量CDC同步中_补充_更新时如果目标表中不存在记录就改为插入数据_Postgresql_Hbase也适用---大数据之Nifi工作笔记0059
查看>>
NIFI1.21.0_NIFI和hadoop蹦了_200G集群磁盘又满了_Jps看不到进程了_Unable to write in /tmp. Aborting----大数据之Nifi工作笔记0052
查看>>