首页
所有分类
TAGS
文字工具 EMOJI BIBLE
数据库 MySQL

MySQL系列之十一 日志记录

Posted in MySQL onJuly 02, 2021

一、SQL命令历史

~/.mysql_history 记录了在mysql中执行的命令历史

二、事务日志

transaction log：事务型存储引擎自行管理和使用

在一个事务提交后还没有存到磁盘的情况下会记录到事务日志，这个时候如果系统断电，再次开机后会自动将已提交的事务重做（redo log）写入磁盘；如果事务还没有提交的情况下断电重启后会执行撤销操作（undo log）

相关变量

MariaDB [school]> SHOW VARIABLES LIKE 'innodb_log%';
+---------------------------+------------+
| Variable_name             | Value      |
+---------------------------+------------+
| innodb_log_block_size     | 512        | -- 块大小
| innodb_log_buffer_size    | 8388608    | -- 缓存大小
| innodb_log_file_size      | 1073741824 | -- 每个日志文件大小
| innodb_log_files_in_group | 3          | -- 日志组成员个数，也就是有几个文件
| innodb_log_group_home_dir | ./         | -- 事务文件路径，相对于数据目录
+---------------------------+------------+

innodb_log_file_size默认大小为5M，innodb_log_files_in_group个数默认2个；强烈建议调大这俩个值；

如果事务操作的数据大于事务日志文件总大小，在执行ROLLBACK时：可以撤销，但是数据文件会被占用，需要使用OPTIMIZE TABLE命令来释放数据空间；

使用TRUNCATE删除表记录可以缩小占用空间，DELETE命令不会释放磁盘空间，如果需要释放需要使用OPTIMIZE命令从新整理碎片来释放空间。

注意：修改innodb_log_file_size时需要先删除原来的日志文件

三、错误日志

错误日志中记录项目：

  1. mysqld启动和关闭过程中输出的事件信息
  2. mysqld运行中产生的错误信息
  3. event scheduler运行一个event时产生的日志信息
  4. 在主从复制架构中的从服务器上启动从服务器线程时产生的信息

相关变量

MariaDB [school]> SHOW GLOBAL VARIABLES LIKE 'log_error';  #错误日志文件的路径
+---------------+------------------------------+
| Variable_name | Value                        |
+---------------+------------------------------+
| log_error     | /var/log/mariadb/mariadb.log |
+---------------+------------------------------+

log_warnings=1|0 默认值1(是)：是否记录警告信息至错误日志文件

四、查询日志

记录用户的操作日志，一般不建议启用

MariaDB [school]> SHOW VARIABLES LIKE 'general_log%';
+------------------+-------------+
| Variable_name    | Value       |
+------------------+-------------+
| general_log      | OFF         | -- 开启关闭通用日志，默认关闭
| general_log_file | centos7.log | -- 通用日志文件的文件名，/var/lib/mysql/HOSTNAME.log
+------------------+-------------+
MariaDB [school]> SHOW VARIABLES LIKE 'log_output';  
+---------------+-------+
| Variable_name | Value |
+---------------+-------+
| log_output    | FILE  | -- 以什么方式存放日志，(TABLE|FILE|NONE)
+---------------+-------+

mysql.general_log：表存放查询日志，前提是以表方式存放的

五、慢查询日志

记录执行查询时长超出指定时长的操作

1、慢查询相关变量

MariaDB [school]> SHOW VARIABLES LIKE 'slow_query%';    
+---------------------+------------------+
| Variable_name       | Value            |
+---------------------+------------------+
| slow_query_log      | OFF              | -- 开启或关闭慢查询日志
| slow_query_log_file | centos7-slow.log | -- 慢查询日志文件
+---------------------+------------------+
MariaDB [school]> SHOW VARIABLES LIKE 'long_query_time';
+-----------------+-----------+
| Variable_name   | Value     |
+-----------------+-----------+
| long_query_time | 10.000000 | -- 慢查询的阀值，单位秒，查询时间超过10则记录到慢查询日志
+-----------------+-----------+
MariaDB [school]> SHOW VARIABLES LIKE 'log_slow%';
+---------------------+-------+
| Variable_name       | Value |
+---------------------+-------+
| log_slow_rate_limit | 1     | -- 多少次查询才记录，mariadb特有
| log_slow_verbosity  |       | -- 记录内容的详细程度（Query_plan,explain）
+---------------------+-------+
MariaDB [school]> SHOW VARIABLES LIKE 'log_queries_not_using_indexes';
+-------------------------------+-------+
| Variable_name                 | Value |
+-------------------------------+-------+
| log_queries_not_using_indexes | OFF   | -- 记录没有利用索引查询，而使用全文扫描的语句；默认关闭，建议开启
+-------------------------------+-------+

log_slow_filter ：根据查询结果过滤

  • admin
  • filesort
  • filesort_on_disk
  • full_join
  • full_scan
  • query_cache
  • query_cache_miss
  • tmp_table
  • tmp_table_on_disk

2、补充：利用 profiling 跟踪查询语句所用的详细时间

MariaDB [school]> SHOW VARIABLES LIKE 'profiling';
+---------------+-------+
| Variable_name | Value |
+---------------+-------+
| profiling     | OFF   | -- 开启或关闭，默认关闭
+---------------+-------+
MariaDB [school]> SET profiling=ON;  #开启查询语句跟踪功能
MariaDB [school]> SHOW profiles;  #查询语句执行的时间列表
+----------+------------+------------------------------------------------------------+
| Query_ID | Duration   | Query                                                      |
+----------+------------+------------------------------------------------------------+
|        1 | 0.00024497 | SELECT * FROM students                                     |
|        2 | 0.00038528 | SELECT stuid,name,age FROM students WHERE stuid = 2        |
+----------+------------+------------------------------------------------------------+
MariaDB [school]> SHOW profile FOR query 2;  #查询指定编号的SQL语句的详细执行过程
+----------------------+----------+
| Status               | Duration |
+----------------------+----------+
| starting             | 0.000035 |
| Opening tables       | 0.000003 |
| After opening tables | 0.000006 |
| query end            | 0.000003 |
| closing tables       | 0.000002 |
| freeing items        | 0.000011 |
| updating status      | 0.000006 |
| cleaning up          | 0.000001 |
+----------------------+----------+

六、二进制日志

记录已提交事务导致数据改变或潜在导致数据改变的SQL语句，通过“重放”日志文件中的事件来生成数据副本，不依赖存储引擎类型。

开启二进制日志，默认是关闭的，二进制日志和数据分开存放

开启记录二进制文件的功能：在my.cnf的[mysqld]下加入log_bin[=/path/somefile]

默认二进制日志在数据库目录下，mariadb-bin.000001 为二进制日志数据文件，mariadb-bin.index 为二进制日志索引文件

1、记录二进制日志的三种方式：

  • 基于语句的记录方式，每一条改变数据的语句记录为一条语句，节省空间，系统默认为此模式，但是不推荐使用，会有隐藏的风险
  • 基于行的记录方式，每一行的改变都会将使其改变的语句记录为一条语句，日志量会很大，但是对数据的安全保护非常高
  • 混合模式：mixed, 让系统自行判定该基于哪种方式进行
MariaDB [(none)]> SHOW VARIABLES LIKE 'binlog_format';  
+---------------+-----------+
| Variable_name | Value     |
+---------------+-----------+
| binlog_format | STATEMENT | -- 记录方式，系统默认基于语句方式
+---------------+-----------+
SET binlog_format='ROW|STATEMENT|MIXED'; -- 修改二进制日志记录方式

2、二进制日志的相关变量

MariaDB [(none)]> SHOW MASTER|BINARY LOGS; -- 查看mariadb自行管理使用中的二进制日志文件列表
+--------------------+-----------+
| Log_name           | File_size |
+--------------------+-----------+
| mariadb-bin.000002 |       290 |
| mariadb-bin.000003 |       264 |
| mariadb-bin.000004 |    529038 |
| mariadb-bin.000005 |       245 |
+--------------------+-----------+
MariaDB [(none)]> SHOW MASTER STATUS; -- 查看使用中的二进制日志文件
+--------------------+----------+--------------+------------------+
| File               | Position | Binlog_Do_DB | Binlog_Ignore_DB |
+--------------------+----------+--------------+------------------+
| mariadb-bin.000005 |      245 |              |                  |
+--------------------+----------+--------------+------------------+
MariaDB [(none)]> SHOW BINLOG EVENTS IN 'mariadb-bin.000004' FROM 1 LIMIT 2,3\G -- 查看二进制文件中的指定内容
MariaDB [(none)]> SHOW VARIABLES LIKE 'sql_log_bin'; -- 是否记录二进制日志，默认ON
MariaDB [(none)]> SHOW VARIABLES LIKE 'log_bin'; -- 指定文件位置；默认OFF，表示不启用二进制日志功能，上述两项都开启才可
MariaDB [(none)]> SHOW VARIABLES LIKE 'max_binlog_size';
+-----------------+------------+
| Variable_name   | Value      |
+-----------------+------------+
| max_binlog_size | 1073741824 | -- 单个二进制日志文件的最大体积，到达最大值会自动滚动，默认为1G
+-----------------+------------+
MariaDB [(none)]> SHOW VARIABLES LIKE 'sync_binlog';    
+---------------+-------+
| Variable_name | Value |
+---------------+-------+
| sync_binlog   | 0     | -- 设定是否启动二进制日志即时同步磁盘功能，默认0，由操作系统负责同步日志到磁盘
+---------------+-------+
MariaDB [(none)]> SHOW VARIABLES LIKE 'expire_logs_days';
+------------------+-------+
| Variable_name    | Value |
+------------------+-------+
| expire_logs_days | 0     | -- 二进制日志可以自动删除的天数。 默认为0，即不自动删除
+------------------+-------+

3、mysqlbinlog命令

  • 二进制日志的客户端命令工具
  • --start-position=# 指定开始位置
  • --stop-position=# 指定结束位置
  • --start-datetime=(YYYY-MM-DD hh:mm:ss) 指定开始时间
  • --stop-datetime=(YYYY-MM-DD hh:mm:ss) 指定结束时间
  • --base64-output=decode-row
  • -v |-vv |-vvv |-vvvv 显示详细信息
[root@centos7 mysql]# mysqlbinlog --start-position=528864 --stop-position=529019 mariadb-bin.000004 --base64-output=decode-row -v
# at 528864
#180611 20:59:46 server id 1  end_log_pos 528992        Query   thread_id=29    exec_time=0     error_code=0
use `school`/*!*/;
SET TIMESTAMP=1528721986/*!*/;
INSERT students(StuID,Name,Age,Gender) VALUES (26,'Tom',22,'M')  #改变数据的SQL语句
/*!*/;

事件发生的日期和时间：180611 20:59:46
事件发生的服务器标识：server id 1
事件的结束位置：end_log_pos 528992
事件的类型：Query
事件发生时所在服务器执行此事件的线程的ID：thread_id=29
语句的时间戳与将其写入二进制文件中的时间差：exec_time=0
错误代码：error_code=0
事件内容： 
GTID：Global Transaction ID，mysql5.6以mariadb10以上版本专属属性：GTID

使用mysqlbinlog mariadb-bin.000001 > file.sql命令重定向到SQL文件中，再使用mysql -uroot -p < file.sql命令可以直接导入数据，实现了备份还原的功能

4、二进制日志的管理

MariaDB [(none)]> PURGE BINARY LOGS TO 'mariadb.000002'; -- 删除到02，注意：02不删除
MariaDB [(none)]> PURGE BINARY LOGS BEFORE '2018-01-23'; -- 删除2018-01-23之前的日志
MariaDB [(none)]> PURGE BINARY LOGS BEFORE '2017-03-22 09:25:30';
MariaDB [(none)]> RESET MASTER; -- 删除所有二进制日志，index文件重新记数
MariaDB [(none)]> FLUSH LOGS; -- 手动触发日志滚动

七、中继日志

relay log ：主从复制架构中，从服务器用于保存从主服务器的二进制日志中读取到的事件

总结

本篇文章就到这里了，希望可以给你带来一些帮助，也希望您能够多多关注三水点靠木的更多内容！

MySQL系列之十一 日志记录

- Author -

生生不息.连绵不绝

声明：登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。

MySQL 相关文章推荐
教你用eclipse连接mysql数据库
Apr 22 MySQL
mysql数据库入门第一步之创建表
May 14 MySQL
MySQL 全文索引使用指南
May 25 MySQL
MySQL 不等于的三种使用及区别
Jun 03 MySQL
MySQL 常见的数据表设计误区汇总
Jun 07 MySQL
MySQL子查询中order by不生效问题的解决方法
Aug 02 MySQL
MySQL令人大跌眼镜的隐式转换
Aug 23 MySQL
详解MySQL中timestamp和datetime时区问题导致做DTS遇到的坑
Dec 06 MySQL
Mysql超详细讲解死锁问题的理解
Apr 01 MySQL
MySQL中一条SQL查询语句是如何执行的
Apr 08 MySQL
Mysql 8.x 创建用户以及授予权限的操作记录
Apr 18 MySQL
MySQL 逻辑备份 into outfile
May 15 MySQL
MySQL系列之十 MySQL事务隔离实现并发控制
MySQL系列之九 mysql查询缓存及索引
MySQL系列之八 MySQL服务器变量
Jul 02 #MySQL
MySQL系列之四 SQL语法
MySQL系列之七 MySQL存储引擎
Jul 02 #MySQL
MySQL系列之十五 MySQL常用配置和性能压力测试
Jul 02 #MySQL
MySQL系列之三 基础篇
Jul 02 #MySQL
异步机制(1) springCloud(6) 逻辑备份(1) 限流器(1) into outfile(1) 死锁(3) 远程连接(2) 轮询锁(1) 全表扫描(1) sql模式(1)
You might like
PHP实现将浏览历史页面网址保存到cookie的方法
2015/01/26 PHP
php中注册器模式类用法实例分析
2015/11/03 PHP
PHP基于单例模式实现的mysql类
2016/01/09 PHP
Yii配置与使用memcached缓存的方法
2016/07/13 PHP
KindEditor在php环境下上传图片功能集成的方法示例
2020/07/20 PHP
jQuery实现的类flash菜单效果代码
2010/05/17 Javascript
腾讯与新浪的通过IP地址获取当前地理位置（省份）的接口
2010/07/26 Javascript
玩转jQuery按钮 请告诉我你最喜欢哪些？
2012/01/08 Javascript
Moment.js 不容错过的超棒Javascript日期处理类库
2012/04/15 Javascript
document.getElementById获取控件对象为空的解决方法
2013/11/20 Javascript
js如何获取object类型里的键值
2014/02/18 Javascript
JavaScript调试技巧之console.log()详解
2014/03/19 Javascript
jQuery控制网页打印指定区域的方法
2015/04/07 Javascript
JQuery radio（单选按钮）操作方法汇总
2015/04/15 Javascript
BootStrap使用popover插件实现鼠标经过显示并保持显示框
2016/06/23 Javascript
JavaScript中创建原子的方法总结
2018/08/26 Javascript
在vue中读取本地Json文件的方法
2018/09/06 Javascript
浅谈javascript中的prototype和__proto__的理解
2019/04/07 Javascript
浅谈react-router@4.0 使用方法和源码分析
2019/06/04 Javascript
vue实现的封装全局filter并统一管理操作示例
2020/02/02 Javascript
Python实现Tab自动补全和历史命令管理的方法
2015/03/12 Python
python 实现判断ip连通性的方法总结
2018/04/22 Python
Python中property函数用法实例分析
2018/06/04 Python
详解Django 中是否使用时区的区别
2018/06/14 Python
python之线程通过信号pyqtSignal刷新ui的方法
2019/01/11 Python
python多任务及返回值的处理方法
2019/01/22 Python
解决PyCharm不在run输出运行结果而不是再Console里输出的问题
2020/09/21 Python
Sport-Thieme荷兰：购买体育用品
2019/08/25 全球购物
维德科技C#面试题笔试题
2015/12/09 面试题
通信工程专业毕业生推荐信
2013/12/25 职场文书
股东合作协议书范本
2014/04/14 职场文书
刑事法律意见书
2015/06/04 职场文书
与死神共舞观后感
2015/06/15 职场文书
纪检监察立案决定书
2015/06/24 职场文书
高三物理教学反思
2016/02/20 职场文书
实现GO语言对数组切片去重
2022/04/20 Golang