如何利用ClickHouse高速汇总查询MySQL数据

直连到MySQL的功能现在已被添加到ClickHouse中。所以可以直接从ClickHouse查询MySQL表中的数据。

十载的福建网站建设经验，针对设计、前端、开发、售后、文案、推广等六对一服务，响应快，48小时及时工作处理。营销型网站的优势是能够根据用户设备显示端的尺寸不同，自动调整福建建站的显示方式，使网站能够适用不同显示终端，在浏览器中调整网站的宽度，无论在任何一种浏览器上浏览网站，都能展现优雅布局与设计，从而大程度地提升浏览体验。创新互联从事“福建网站设计”,“福建网站推广”以来，每个客户项目都认真落实执行。

ClickHouse是一个超高性能的海量数据快速查询的分布式实时处理平台，在数据汇总查询方面(如GROUP BY)，ClickHouse的查询更快，因此通常情况下在MySQL上进行聚合。

下面是在自己的虚拟环境中做的测试记录。既然是虚拟环境非生产环境，请看参考应用级别，而不是严格的测试。

正确准备和测试大约1000万个数据项。

执行脚本以创建样本数据。这是约500 MB。

在MySQL中创建一个表并导入它。

由于似乎字符串数据比数字值更容易汇总，所以内容是数字的，但它们是可变的类型。

然后执行计算操作。

用BLOB类型做GROUPBY似乎很慢。

您可以在ClickHouse上使用MySQL数据，只需在下面的表格中指定它，而不是表名。

启动ClickHouse客户端并进行测试。

如果您在启动时不添加--multiline选项，则不会放置多行查询，因此请继续。

SELECT 

data1, 

COUNT(*)

FROM mysql('localhost','mikage','testdata','mikage','') 

GROUP BY data1

┌─data1─┬─COUNT()─┐

│    4│1999013│

│    3│1998988│

│    2│1999993│

│    5│2001553│

│    1│2000453│

└───────┴─────────┘

5 rows in set. Elapsed: 2.685 sec. Processed 10.00 million rows,40.00 MB(3.72 million rows/s.,14.90 MB/s.) 

SELECT 

data2, 

COUNT(*)

FROM mysql('localhost','mikage','testdata','mikage','') 

GROUP BY data2

┌─data2─┬─COUNT()─┐

│6    │  999786│

│8    │1001805│

│9    │1001438│

│3    │1000357│

│2    │1000648│

│4    │  998349│

│5    │  998889│

│10    │  999424│

│1    │1000530│

│7    │  998774│

└───────┴─────────┘

10 rows in set. Elapsed: 2.692 sec. Processed 10.00 million rows,101.00 MB(3.71 million rows/s.,37.52 MB/s.) 

SELECT 

data3, 

COUNT(*)

FROM mysql('localhost','mikage','testdata','mikage','') 

GROUP BY data3

-- 结果省略

100000 rows in set. Elapsed: 5.236 sec. Processed 10.00 million rows,138.89 MB(1.91 million rows/s.,26.52 MB/s.) 

SELECT 

data1, 

uniqExact(data5)

FROM mysql('localhost','mikage','testdata','mikage','') 

GROUP BY data1

┌─data1─┬─uniqExact(data5)─┐

│    4│          1811674│

│    3│          1812072│

│    2│          1812503│

│    5│          1814106│

│    1│          1813005│

└───────┴──────────────────┘

5 rows in set. Elapsed: 12.944 sec. Processed 10.00 million rows,198.89 MB(772.55 thousand rows/s.,15.37 MB/s.) 

-- ClickHouse有一个函数来粗略计算一个唯一的数字，所以让我们来计算一下。

在MySQL中，相当耗时的查询也可以在很短的时间内处理。

重复统计时，最好将数据复制到ClickHouse一次。

如果您复制它，后续查询将更快。

建议暂时使用StripeLog引擎。

如果您有一个主键，您可能还想要使用MergeTree表。这是在ClickHouse中最常用的引擎。

有必要用ORDER BY指定数据的排序顺序（即使有重复也没有问题）。

我会尝试以前的查询。以下是StripeLog引擎的测试结果。

测试耗时总结如下:

我认为这个错误很大，因为它在VM环境下仅测试了一次

从左边开始为，(1)MySQL中的时间 (2) ClickHouse从MySQL读取和处理数据的时间 (3) 在ClickHouse上处理复制数据的时间。

执行查询 MySQL处理时间 (秒) MySQL-ClickHouse处理时间 (秒) ClickHouse处理时间 (秒)

groupby(data1) 3.22 2.685 0.071

groupby(data2) 4.01 2.692 0.177

groupby(data3) 212.82 5.236 0.779

groupby(data1)+uniq(data5) 183.56 12.944 1.725

groupby(data1)+uniq(data5)概算 (无此功能) 6.026 0.285

当引用MySQL数据时，如果没有对应于ClickHouse的类型，它似乎是String类型。

没有相应的类型如Decimal类型，所以它也是String类型。

如果你想把它作为一个数值，精度将会改变，但是似乎有必要在MySQL端保持Double类型。

而且，Date和DateTime类型在MySQL和ClickHouse之间的范围也是不同的。

ClickHouse日期类型是1970 - 2038年之间。

如果有超出范围的数据，可能需要使其成为字符串类型，按年份，月份，日期分列，并将其作为数值复制。

参照源码如下：

MySQL类型 ClickHouse 类型 参考

tinyint    UInt8 / Int8

smallint    UInt16 / Int16

int / mediumint    UInt32 / Int32

bigint    UInt64 / Int64

float    Float32

double    Float64

dateDate    有可以表达的范围差异

datetime    DateTime有可以表达的范围差异

timestamp    DateTime

binaryFixed    String

除上述以外    String

mysql查看历史命令

1.mysql如何查看所有数据库名命令

使用show databases，就能列出你有权限操作的数据库名，如果你只有一个数据库权限，那么列出来的就是你当前的数据库名。

Mysql:

关系型数据库管理系统，由瑞典MySQL AB公司开发，目前属于Oracle公司。MySQL最流行的关系型数据库管理系统，在WEB应用方面MySQL是最好的RDBMS(Relational Database Management System，关系数据库管理系统)应用软件之一。MySQL是一种关联数据库管理系统，关联数据库将数据保存在不同的表中，而不是将所有数据放在一个大仓库内，这样就增加了速度并提高了灵活性。MySQL所使用的SQL语言是用于访问数据库的最常用标准化语言。MySQL软件采用了双授权政策，它分为社区版和商业版，由于其体积小、速度快、总体拥有成本低，尤其是开放源码这一特点，一般中小型网站的开发都选择 MySQL 作为网站数据库。由于其社区版的性能卓越，搭配PHP和Apache可组成良好的开发环境。MySQL所使用的SQL语言是用于访问数据库的最常用标准化语言。

2.怎么通过命令查看mysql版本

点击“开始菜单”，选择“所有程序”，然后选择“附件”，选择“运行”，然后在运行对话框输入“cmd”，点击确定即可打开命令行界面。快捷方式是：win+r键，然后在运行对话框输入“cmd”，点击确定即可打开命令行界面。

【使用命令行查看mysql版本-直接查看】：在命令行输入“mysql --version"，按”Enter“键即可。

【使用命令行查看mysql版本-mysql变量查看】：在命令行输入“mysql"，按”Enter“进入mysql命令行模式，输入”show variables like 'version'；“即可。

【在wamp查看】：点击wampserver，选择”mysql“子目录”version“即可。

3.怎样使用命令行查看mysql数据库

用SQL命令查看Mysql数据库大小

要想知道每个数据库的大小的话，步骤如下：

1、进入information_schema 数据库（存放了其他的数据库的信息）

use information_schema;

2、查询所有数据的大小：

select concat(round(sum(data_length/1024/1024),2),'MB') as data from tables;

3、查看指定数据库的大小：

比如查看数据库home的大小

select concat(round(sum(data_length/1024/1024),2),'MB') as data from tables where table_schema='home';

4、查看指定数据库的某个表的大小

比如查看数据库home中 members 表的大小

select concat(round(sum(data_length/1024/1024),2),'MB') as data from tables where table_schema='home' and table_name='members';

4.怎么查看数据库路径

我一本正经地胡说一下吧。

按下面步骤操作 直到把自己问题解决…… ① 首先把MySQL的服务停掉 在运行窗口输入： stop mysql ② 把服务器和客户端的字符集改成自己想用的字符集：GB2312或是utf8等…… 具体操作为：打开mysql安装目录下的my。 ini； 找到default-character-set，将其改为自己想用的字符集：GB2312或是utf8等……，要注意的是这里有两个default-character-set，用ctrl+f定位在文件最前面输入default就会找到，都要改过来； ③ 重启MySQL服务器，在运行窗口输入： start mysql ④ 最重要的是一点是，到这里我们已经能够解决乱码问题了，可问题是我们依然还会出现乱码问题，这是因为我们现在的表被创建的时候用的是默认的字符集（latin1），所以这时候我们要把表删除，然后重建就可以了。

5.如何用cmd命令查看mysql数据库

1、一般对于刚刚安装好的mysql，如果勾选启用mysql lineclient的话。可以直接通过找到开始---程序--- mysql mand line client

2、点击mysql命令行之后，会提示你输入root密码。输入正确的root密码之后即可连接到msyql数据库里啦

3、如果没有安装mysql命令行的话，我们可以通过找到 mysqld所在的路径（复制mysqld.exe所在路径）

4、使用cd切换到msyqld.exe路径下，然后输入mysql连接命令如下图

格式是：

Mysql -P 端口号 -h mysql主机名\ip -u root （用户） -p

5、如果是命令行是mysql所在的本机

而且用默认的端口 3306 直接输入 mysql -u root -p 即可

6、第三方mysql数据库连接工具

通过第三方数据库连接工具这些就很多啦，如下图设置好相关参数即可

7、连接进去之后，也就是比较人性化的图形界面了。

提高mysql查询效率的方法有哪些

1.尽量不要在where中包含子查询;

关于时间的查询，尽量不要写成：where

to_char(dif_date,’yyyy-mm-dd’)=to_char(‘2007-07-01′,’yyyy-mm-dd’);

2.在过滤条件中，可以过滤掉最大数量记录的条件必须放在where子句的末尾;

FROM子句中写在最后的表(基础表，driving

table)将被最先处理，在FROM子句中包含多个表的情况下，你必须选择记录条数最少的表作为基础表。如果有三个以上的连接查询，那就需要选择交叉表

(intersection

table)作为基础表，交叉表是指那个被其他表所引用的表;

3.采用绑定变量

4.在WHERE中尽量不要使用OR

5.用EXISTS替代IN、用NOT

EXISTS替代NOT

IN;

6.避免在索引列上使用计算：WHERE

SAL*1225000;

7.用IN来替代OR：

WHERE

LOC_ID=10

OR

LOC_ID=15

OR

LOC_ID=20

8.避免在索引列上使用IS

NULL和IS

NOT

NULL;

9.总是使用索引的第一个列;

10.用UNION-ALL替代UNION;

11.避免改变索引列的类型：SELECT…FROM

EMP

WHERE

EMPNO=’123’，由于隐式数据类型转换，to_char(EMPNO)=’123’，因此，将不采用索引，一般在采用字符串拼凑动态SQL语句出现;

12.’!=’

将不使用索引;

13.优化GROUP

BY;

14.避免带有LIKE参数的通配符，LIKE

‘4YE%’使用索引，但LIKE

‘%YE’不使用索引

15.避免使用困难的正规表达式，例如select

*

from

customer

where

zipcode

like

“98___”，即便在zipcode上建立了索引，在这种情况下也还是采用顺序扫描的方式。如果把语句改成select

*

from

customer

where

zipcode”98000″，在执行查询时就会利用索引来查询，显然会大大提高速度;

16.尽量明确的完成SQL语句，尽量少让数据库工作。比如写SELECT语句时，需要把查询的字段明确指出表名。尽量不要使用SELECT

*语句。组织SQL语句的时候，尽量按照数据库的习惯进行组织。

mysql怎么查询最新一条的数据

获取最新数据就会显示。如下参考：

1.打开电脑，打开mysql数据库，点击数据库，在右上角输入查询，点击新查询下面的zd查询。如图。

2.然后可以通过gmt_create从crew_1中输入SELECT*，表中的所有记录都将按时间排序，如图所示。

3.如果需要获得按时间排序的表中的第一条记录，请输入SELECT*fromcrew_1orderbygmt_createdesclimit0,1，如图所示。

4.如果您需要获得第五个记录，请输入SELECT*fromcrew_1orderbygmt_createdesclimit4,1，如下所示。

5.如果需要获取1001记录，只需将limit4,1更改为limit1000,1。如果需要获取n条记录，在查询语句中添加limitn-1,1，如图所示。

6.如果需要获取表中的前n条记录，则更改为限制n，如图所示。

分享名称：mysql怎么快速查询 mysql怎么查询数据表
本文来源：http://ybzwz.com/article/dddeijp.html