【MySQL 七】MySQL 8.0 的新特性
封面来源:本文封面来源于 MySQL 官网,如有侵权,请联系删除。
本文参考:MySQL数据库教程天花板,mysql安装到mysql高级,强!硬!
官方文档:MySQL :: MySQL 8.0 Reference Manual :: 1.3 What Is New in MySQL 8.0
1. 新特性概述
1.1 MySQL 8.0 新增特性
1、更简便的 NoSQL支持。 NoSQL 泛指非关系型数据库和数据存储。随着互联网平台的规模飞速发展,传统的关系型数据库已经越来越不能满足需求。从 MySQL 5.6 版本开始,MySQL 就开始支持简单的 NoSQL 存储功能。MySQL 8.0 对这一功能做了优化,以更灵活的方式实现 NoSQL 功能,不再依赖模式(schema)。
2、更好的索引。 在查询中,正确地使用索引可以提高查询的效率。MySQL 8.0 中新增了隐藏索引和降序索引。隐藏索引可以用来测试去掉索引对查询性能的影响。在查询中混合存在多列索引时,使用降序索引可以提高查询的性能。
3、更完善的JSON支持。 MySQL 从 5.7 版本开始支持原生 JSON 数据的存储,MySQL 8.0 对这一功能做了优化,增加了聚合函数 JSON_ARRAYAGG()
和 JSON_OBJECTAGG()
,将参数聚合为 JSON 数组或对象,新增了行内操作符 ->>
,该操作符是列路径运算符 ->
的增强,对 JSON 排序做了提升,并优化了 JSON 的更新操作。
4、安全和账户管理。 MySQL 8.0 中新增了 caching_sha2_password
授权插件、角色、密码历史记录和 FIPS 模式支持,这些特性提高了数据库的安全性和性能,使数据库管理员能够更灵活地进行账户管理工作。
5、InnoDB的变化。 InnoDB 是 MySQL 默认的存储引擎,是事务型数据库的首选引擎,支持事务安全表(ACID),支持行锁定和外键。在 MySQL 8.0 版本中,InnoDB 在自增、索引、加密、死锁、共享锁等方面做了大量的改进和优化,并且支持原子数据定义语言(DDL),提高了数据安全性,对事务提供更好的支持。
6、数据字典。 在之前的 MySQL 版本中,字典数据都存储在元数据文件和非事务表中。从 MySQL 8.0 开始新增了事务数据字典,在这个字典里存储着数据库对象信息,这些数据字典存储在内部事务表中。
7、原子数据定义语句。 MySQL 8.0 开始支持原子数据定义语句(Automic DDL),即原子 DDL 。目前只有 InnoDB 存储引擎支持原子 DDL。原子数据定义语句(DDL)将与 DDL 操作相关的数据字典更新、存储引擎操作、二进制日志写入结合到一个单独的原子事务中,这使得即使服务器崩溃,事务也会提交或回滚。使用支持原子操作的存储引擎所创建的表,在执行 DROP TABLE
、CREATE TABLE
、ALTER TABLE
、RENAME TABLE
、TRUNCATE TABLE
、CREATE TABLESPACE
、DROP TABLESPACE
等操作时,都支持原子操作,即事务要么完全操作成功,要么失败后回滚,不再进行部分提交。 对于从 MySQL 5.7 复制到 MySQL 8.0 版本中的语句,可以添加 IF EXISTS
或 IF NOT EXISTS
语句来避免发生错误。
8、资源管理。 MySQL 8.0 开始支持创建和管理资源组,允许将服务器内运行的线程分配给特定的分组,以便线程根据组内可用资源执行。组属性能够控制组内资源,启用或限制组内资源消耗。数据库管理员能够根据不同的工作负载适当地更改这些属性。 目前,CPU 时间是可控资源,由“虚拟 CPU”这个概念来表示,此术语包含 CPU 的核心数,超线程,硬件线程等等。服务器在启动时确定可用的虚拟 CPU 数量。拥有对应权限的数据库管理员可以将这些 CPU 与资源组关联,并为资源组分配线程。 资源组组件为 MySQL 中的资源组管理提供了 SQL 接口。资源组的属性用于定义资源组。MySQL 中存在两个默认组,系统组和用户组,默认的组不能被删除,其属性也不能被更改。对于用户自定义的组,资源组创建时可初始化所有的属性,除去名字和类型,其他属性都可在创建之后进行更改。 在一些平台下,或进行了某些 MySQL 的配置时,资源管理的功能将受到限制,甚至不可用。例如,如果安装了线程池插件,或者使用的是 macOS 系统,资源管理将处于不可用状态。在 FreeBSD 和 Solaris 系统中,资源线程优先级将失效。在 Linux 系统中,只有配置了 CAP_SYS_NICE
属性,资源管理优先级才能发挥作用。
9、字符集支持。 MySQL 8.0 中默认的字符集由 latin1
更改为 utf8mb4
,并首次增加了日语所特定使用的集合 utf8mb4_ja_0900_as_cs
。
10、优化器增强。 MySQL 优化器开始支持隐藏索引和降序索引。隐藏索引不会被优化器使用,验证索引的必要性时不需要删除索引,先将索引隐藏,如果优化器性能无影响就可以真正地删除索引。降序索引允许优化器对多个列进行排序,并且允许排序顺序不一致。
11、公用表表达式。 公用表表达式(Common Table Expressions),简称为 CTE,MySQL 现在支持递归和非递归两种形式的 CTE。CTE 通过在 SELECT
语句或其他特定语句前使用 WITH
语句对临时结果集进行命名。基本语法如下:
1 | WITH cte_name (col_name1, col_name2 ...) AS (Subquery) |
Subquery
代表子查询,子查询前使用 WITH
语句将结果集命名为 cte_name
,在后续的查询中即可使用 cte_name
进行查询。
12、窗口函数。 MySQL 8.0 开始支持窗口函数,在之前的版本中已存在的大部分聚合函数在 MySQL 8.0 中也可以作为窗口函数来使用。
13、正则表达式支持。 MySQL 在 8.0.4 以后的版本中采用支持 Unicode 的国际化组件库实现正则表达式操作,这种方式不仅能提供完全的 Unicode 支持,而且是多字节安全编码。MySQL 增加了 REGEXP_LIKE()
、EGEXP_INSTR()
、REGEXP_REPLACE()
和 REGEXP_SUBSTR()
等函数来提升性能。另外,regexp_stack_limit
和 regexp_time_limit
系统变量能够通过匹配引擎来控制资源消耗。
14、内部临时表。 TempTable 存储引擎取代 MEMORY 存储引擎成为内部临时表的默认存储引擎。TempTable 存储引擎为 VARCHAR
和 VARBINARY
列提供高效存储。internal_tmp_mem_storage_engine
会话变量定义了内部临时表的存储引擎,有 TempTable
和 MEMORY
两个可选值,其中 TempTable
为默认的存储引擎。temptable_max_ram
系统配置项定义了 TempTable 存储引擎可使用的最大内存数量。
15、日志记录。 在 MySQL 8.0 中错误日志子系统由一系列 MySQL 组件构成。这些组件的构成由系统变量 log_error_services
来配置,能够实现日志事件的过滤和写入。
16、备份锁。 新的备份锁允许在线备份期间执行数据操作语句,同时阻止可能造成快照不一致的操作。新备份锁由 LOCK INSTANCE FOR BACKUP
和 UNLOCK INSTANCE
语法提供支持,执行这些操作需要备份管理员特权。
17、增强的 MySQL 复制。 MySQL 8.0 复制支持对 JSON 文档进行部分更新的二进制日志记录,该记录使用紧凑的二进制格式,从而节省记录完整 JSON 文档的空间。当使用基于语句的日志记录时,这种紧凑的日志记录会自动完成,并且可以通过将新的 binlog_row_value_options
系统变量值设置为 PARTIAL_JSON
来启用。
1.2 MySQL 8.0 移除的特性
在 MySQL 5.7 版本上开发的应用程序如果使用了 MySQL 8.0 移除的特性,语句可能会失败,或者产生不同的执行结果。为了避免这些问题,对于使用了移除特性的应用,应当尽力修正避免使用这些特性,并尽可能使用替代方法。
1、查询缓存。 查询缓存已被移除,删除的项有:
-
语句:FLUSH QUERY CACHE 和 RESET QUERY CACHE。
-
系统变量:query_cache_limit、query_cache_min_res_unit、query_cache_size、query_cache_type、query_cache_wlock_invalidate。
-
状态变量:Qcache_free_blocks、Qcache_free_memory、Qcache_hits、Qcache_inserts、Qcache_lowmem_prunes、Qcache_not_cached、Qcache_queries_in_cache、Qcache_total_blocks。
-
线程状态:checking privileges on cached query、checking query cache for query、invalidating query cache entries、sending cached result to client、storing result in query cache、waiting for query cache lock。
2、加密相关。 删除的加密相关的内容有:ENCODE()
、DECODE()
、ENCRYPT()
、DES_ENCRYPT()
和 DES_DECRYPT()
函数,配置项 des-key-file,系统变量 have_crypt,FLUSH 语句的 DES_KEY_FILE 选项和 HAVE_CRYPT CMake 选项。 对于移除的 ENCRYPT()
函数,考虑使用 SHA2()
替代,对于其他移除的函数,使用 AES_ENCRYPT()
和 AES_DECRYPT()
替代。
3、空间函数相关。 在 MySQL 5.7 版本中,多个空间函数已被标记为过时。这些过时函数在 MySQL 8.0 中都已被移除,只保留了对应的 ST_
和 MBR
函数。
4、\N
和 NULL
。 在 SQL 语句中,解析器不再将 \N
视为 NULL
,所以在 SQL 语句中应使用 NULL
代替 \N
。这项变化不会影响使用 LOAD DATA INFILE
或者 SELECT...INTO OUTFILE
操作文件的导入和导出。在这类操作中,NULL
仍等同于 \N
。
5、mysql_install_db。 mysql_install_db
程序已从 MySQL 发行版中删除。数据字典初始化应该使用带有 --initialize
或 --initialize-insecure
选项的 mysqld 来实现。另外,mysql_install_db
使用的 mysqld 的 --bootstrap
选项和控制 mysql_install_db
安装位置的 INSTALL_SCRIPTDIR CMake
选项也被删除了。
6、通用分区处理程序。 通用分区处理程序已从 MySQL 服务中被移除。为了实现给定表分区,表所使用的存储引擎需要自有的分区处理程序。 提供本地分区支持的 MySQL 存储引擎有两个,即 InnoDB 和 NDB,而在 MySQL 8.0 中只支持 InnoDB。
7、系统和状态变量信息。 在 INFORMATION_SCHEMA 数据库中,对系统和状态变量信息不再进行维护。GLOBAL_VARIABLES、SESSION_VARIABLES、GLOBAL_STATUS、SESSION_STATUS 表都已被删除。另外,系统变量 show_compatibility_56
也已被删除。被删除的状态变量有 Slave_heartbeat_period、Slave_last_heartbeat、Slave_received_heartbeats、Slave_retried_transactions 和 Slave_running。以上被删除的内容都可使用性能模式中对应的内容进行替代。
8、mysql_plugin 工具。 mysql_plugin 工具用来配置 MySQL 服务器插件,现已被删除,可使用 --plugin-load
或 --plugin-load-add
选项在服务器启动时加载插件或者在运行时使用 INSTALL PLUGIN
语句加载插件来替代该工具。
2. 窗口函数
2.1 使用窗口函数的前后对比
假设现有这样一个数据表,它显示了某购物网站在每个城市每个区的销售额:
1 | CREATE TABLE sales( |
需求: 计算这个网站在每个城市的销售总额、在全国的销售总额、每个区的销售额占所在城市销售额中的比率,以及占总销售额中的比率。
不使用窗口函数
首先计算总销售金额,并存入临时表 a 中:
1 | CREATE TEMPORARY TABLE a |
看看临时表 a 中的数据:
计算每个城市的销售总额并存入临时表 b 中:
1 | CREATE TEMPORARY TABLE b |
看看临时表 b 中的数据:
计算各区的销售占所在城市的总计金额的比例,和占全部销售总计金额的比例。可以通过下面的连接查询获得需要的结果:
1 | SELECT s.city AS 城市, s.county AS 区, s.sales_value AS 区销售额, b.sales_value AS 市销售额, s.sales_value / b.sales_value AS 市比率, |
通过上面的查询语句,市销售金额、市销售占比、总销售金额、总销售占比都计算出来了。
使用窗口函数
如果使用窗口函数,就简单多了:
1 | SELECT city AS 城市, county AS 区, sales_value AS 区销售额, |
使用窗口函数后得到了与不使用窗口函数一样的结果,但很显然,使用窗口函数后只需一步就完成了查询,还没有使用到临时表,执行效率也更高。因此,在需要用到分组统计的结果对每一条记录进行计算的场景下,使用窗口函数更好。
2.2 窗口函数分类
MySQL 从 8.0 版本开始支持窗口函数。窗口函数的作用类似于在查询中对数据进行分组,不同的是,分组操作会把分组的结果聚合成一条记录,而窗口函数是将结果置于每一条数据记录中。
窗口函数可以分为 静态窗口函数 和 动态窗口函数:
-
静态窗口函数的窗口大小是固定的,不会因为记录的不同而不同;
-
动态窗口函数的窗口大小会随着记录的不同而变化。
MySQL 官方关于窗口函数的介绍:12.21.1 Window Function Descriptions
窗口函数总体上可以分为序号函数、分布函数、前后函数、首尾函数和其他函数,如下表:
2.3 语法结构
窗口函数的语法结构是:
1 | 函数 OVER([PARTITION BY 字段名 ORDER BY 字段名 ASC|DESC]) |
或者:
1 | 函数 OVER 窗口名 ... WINDOW 窗口名 AS ([PARTITION BY 字段名 ORDER BY 字段名 ASC|DESC]) |
语法解析
1、OVER
关键字指定窗口函数的范围:
-
如果省略后面括号中的内容,则窗口会包含满足
WHERE
条件的所有记录,窗口函数会基于所有满足WHERE
条件的记录进行计算。 -
如果
OVER
关键字后面的括号不为空,则使用括号内的语法设置窗口。
2、窗口名:为窗口设置一个别名,用来标识窗口。
3、PARTITION BY
子句:指定窗口函数按照哪些字段进行分组。分组后,窗口函数可以在每个分组中分别执行。
4、ORDER BY
子句:指定窗口函数按照哪些字段进行排序。执行排序操作可以使窗口函数按照排序后的数据记录的顺序进行编号。
5、FRAME
子句:为分区中的某个子集定义规则,可以用来作为滑动窗口使用。
2.4 讲解前的准备
创建表:
1 | CREATE TABLE goods( |
添加数据:
1 | INSERT INTO goods(category_id, category, NAME, price, stock, upper_time) |
接下来对窗口函数的讲解都会以上方 goods 表中的数据为基础。
2.5 序号函数
ROW_NUMBER()
函数
ROW_NUMBER()
函数能够对数据中的序号进行顺序显示。
比如,按商品分类分组后,以价格降序排序展示商品信息:
1 | SELECT ROW_NUMBER() OVER(PARTITION BY category_id ORDER BY price DESC) |
在比如,按商品分类分组后,展示价格最高的 3 种商品信息:
1 | SELECT * FROM ( |
RANK()
函数
RANK()
函数能够对序号进行 并列 排序,并且会跳过重复的序号,比如序号为 1、1、3。
比如,按商品分类分组后,以价格降序排序展示商品信息:
1 | SELECT RANK() OVER(PARTITION BY category_id ORDER BY price DESC) |
再比如,展示分类名称为“女装/女士精品”的商品中价格最高的 4 款商品信息:
1 | SELECT * FROM( |
根据查询结果可以看到,使用 RANK()
函数得出的序号为 1、2、2、4,相同价格的商品序号相同,后面的商品序号是不连续的,跳过了重复的序号。
DENSE_RANK()
函数
DENSE_RANK()
函数能够对序号进行并列排序,并且 不会跳过重复的序号, 比如序号为 1、1、2。这个函数与 RANK()
函数很类似,只不过它不会跳过重复的序号。
比如,按商品分类分组后,以价格降序排序展示商品信息:
1 | SELECT DENSE_RANK() OVER(PARTITION BY category_id ORDER BY price DESC) |
再比如,展示分类名称为“女装/女士精品”的商品中价格最高的 4 款商品信息:
1 | SELECT * FROM( |
根据查询结果可以看到,使用 DENSE_RANK()
函数得出的行号为 1、2、2、3,相同价格的商品序号相同,后面的商品序号是连续的,并且没有跳过重复的序号,这也是与 RANK()
函数的区别。
2.6 分布函数
PERCENT_RANK()
函数
PERCENT_RANK()
函数是等级值百分比函数。它按照如下方式进行计算:
(rank - 1) / (rows - 1)
其中,rank 的值为使用 RANK()
函数产生的序号,rows 的值为当前窗口的总记录数。
比如,计算分类名称为“女装/女士精品”的商品的 PERCENT_RANK 值:
1 | # 写法一 |
CUME_DIST()
函数
CUME_DIST()
函数主要用于查询小于或等于某个值的比例。它按照如下方式进行计算:
- 如果是升序排序,统计
小于等于当前值的行数 / 总行数
; - 如果是降序排序,统计
大于等于当前值的行数 / 总行数
。
比如,按商品分类分组后,获取小于等于当前商品价格的比例:
1 | SELECT CUME_DIST() OVER(PARTITION BY category_id ORDER BY price ASC) |
2.7 前后函数
LAG(expr, n)
函数
LAG(expr, n)
函数可以返回当前行的前 n 行的 expr 的值。
比如,按商品分类分组、按价格升序排序后,获取前一个商品与当前商品价格的差值:
1 | SELECT id, category, NAME, price, pre_price, price - pre_price AS diff_price |
LEAD(expr, n)
函数
与 LAG(expr, n)
函数相反,LEAD(expr, n)
函数返回当前行的后 n 行的 expr 的值。
比如,按商品分类分组、按价格升序排序后,获取后一个商品与当前商品价格的差值:
1 | SELECT id, category, NAME, behind_price, price, behind_price - price AS diff_price |
2.8 首尾函数
FIRST_VALUE(expr)
函数
FIRST_VALUE(expr)
函数返回第一个 expr 的值。
比如,按商品分类分组、按价格升序排序后,获取第一个商品的价格信息:
1 | SELECT id, category, NAME, price, stock, FIRST_VALUE(price) OVER w |
LAST_VALUE(expr)
函数
LAST_VALUE(expr)
函数返回最后一个 expr 的值。
比如,按商品分类分组、按价格升序排序后,获取最后一个商品的价格信息:
1 | SELECT id, category, NAME, price, stock, LAST_VALUE(price) OVER w |
2.9 其他函数
NTH_VALUE(expr, n)
函数
NTH_VALUE(expr, n)
函数返回第 n 个 expr 的值。
比如,按商品分类分组、按价格升序排序后,获取价格排名第 2 和第 3 的商品信息:
1 | SELECT id, category, NAME, price, |
NTILE(n)
函数
NTILE(n)
函数将分区中的有序数据分为 n 个桶,记录桶编号。
比如,按商品分类分组、按价格升序排序后,按照价格将商品分为 3 组:
1 | SELECT NTILE(3) OVER w AS nt, id, category, NAME, price |
2.10 窗口函数小结
窗口函数的特点是可以分组,还可以在分组内排序。另外,窗口函数不会因为分组而减少原表中的行数,这对于在原表数据的基础上进行统计和排序非常有用。
3. 公用表表达式
公用表表达式(或通用表表达式)简称为 CTE(Common Table Expressions)。CTE 是一个命名的临时结果集,作用范围是当前语句。CTE 可以理解成一个可以复用的子查询,当然跟子查询还是有点区别的,CTE 可以引用其他 CTE,但子查询不能引用其他子查询,所以可以使用 CTE 代替子查询。
依据语法结构和执行方式的不同,公用表表达式分为 普通公用表表达式 和 递归公用表表达式 2 种。
3.1 普通公用表表达式
其语法结构如下:
1 | WITH CTE名称 |
普通公用表表达式类似于子查询,不过跟子查询不同的是,它可以被多次引用,而且可以被其他的普通公用表表达式所引用。
比如,查询员工所在部门的详细信息:
1 | SELECT * FROM departments WHERE department_id |
使用普通公用表表达式查询员工所在部门的详细信息:
1 | WITH emp_dept_id |
普通公用表表达式可以起到子查询的作用。遇到需要使用子查询的场景,可以在查询之前,先定义普通公用表表达式,然后在查询中用它来代替子查询。跟子查询相比,定义过普通公用表表达式之后的查询,可以像一个表一样多次引用公用表表达式,而子查询则不能。
3.2 递归公用表表达式
递归公用表表达式也是一种公用表表达式,不过除了有普通公用表表达式的特点以外,它还可以调用自己。其语法结构如下:
1 | WITH RECURSIVE |
递归公用表表达式由 2 部分组成,分别是种子查询和递归查询,中间通过关键字 UNION [ALL]
进行连接。这里的种子查询表示获得递归的初始值。这个查询只会运行一次,以创建初始数据集,之后一直执行递归查询,直到没有任何新的查询数据产生,最后递归返回。
使用案例
针对于常用的 employees 表,包含 employee_id、last_name 和 manager_id 三个字段。如果 a 是 b 的管理者,那么可以把 b 叫做 a 的下属,如果同时 b 又是 c 的管理者,那么 c 就是 b 的下属,是 a 的下下属。
尝试用查询语句列出所有具有下下属身份的人员信息,根据之前学过的知识,至少需要进行 4 次查询才能完成这个需求:
1、先找出初代管理者,即不以任何别人为管理者的人,把结果存入临时表;
2、找出所有以初代管理者为管理者的人,得到一个下属集,把结果存入临时表;
3、找出所有以下属为管理者的人,得到一个下下属集,把结果存入临时表;
4、找出所有以下下属为管理者的人,得到一个结果集。
如果第四步的结果集为空,则计算结束,第三步的结果集就是需要的下下属集,否则继续进行第四步,直到结果集为空。如果进行了多次第四步,最终还需要对结果集进行合并。比如需要到第五步才能得到空结果集,那么最后还要把第三步和第四步的结果集合并,合并得到的结果集才是最终的结果集。
如果用递归公用表表达式,操作步骤会变得简单起来:
1、用递归公用表表达式中的种子查询,找出初代管理者。字段 n 表示代次,初始值为 1,表示第一代管理者;
2、用递归公用表表达式中的递归查询,查出以这个递归公用表表达式中的人为管理者的人,并让代次的值加 1,直到没有人以这个递归公用表表达式中的人为管理者才递归返回;
3、在最后的查询中,选出所有代次大于等于 3 的人,他们肯定是第三代及以上代次的下属,即下下属。
虽然这里的步骤看似有三部,实际上是一个查询的三个部分,只需要执行一次即可,并且不需要用临时表保存中间结果。
代码实现如下:
1 | WITH RECURSIVE cte |
递归公用表表达式对于查询一个有共同的根节点的树形结构数据非常有用。它可以不受层级的限制,轻松查出所有节点的数据。
3.3 公用表表达式小结
公用表表达式的作用是可以替代子查询,并且可以被多次引用。递归公用表表达式对查询有一个共同根节点的树形结构数据非常高效,可以轻松搞定其他查询方式难以处理的查询。