zoukankan      html  css  js  c++  java
  • Linux九阴真经之九阴白骨爪残卷12(日志功能)

    一、事务日志

    transaction log:事务型存储引擎自行管理和使用

    在一个事务提交后还没有存到磁盘的情况下会记录到事务日志,这个时候如果系统断电,再次开机后会自动将已提交的事务重做(redo log)写入磁盘;如果事务还没有提交的情况下断电重启后会执行撤销操作(undo log)

    相关变量

    MariaDB [school]> SHOW VARIABLES LIKE 'innodb_log%';
    +---------------------------+------------+
    | Variable_name             | Value      |
    +---------------------------+------------+
    | innodb_log_block_size     | 512        | -- 块大小
    | innodb_log_buffer_size    | 8388608    | -- 缓存大小
    | innodb_log_file_size      | 1073741824 | -- 每个日志文件大小
    | innodb_log_files_in_group | 3          | -- 日志组成员个数,也就是有几个文件
    | innodb_log_group_home_dir | ./         | -- 事务文件路径,相对于数据目录
    +---------------------------+------------+

    innodb_log_file_size默认大小为5M,innodb_log_files_in_group个数默认2个;强烈建议调大这俩个值;

    如果事务操作的数据大于事务日志文件总大小,在执行ROLLBACK时:可以撤销,但是数据文件会被占用,需要使用OPTIMIZE TABLE命令来释放数据空间;

    使用TRUNCATE删除表记录可以缩小占用空间,DELETE命令不会释放磁盘空间,如果需要释放需要使用OPTIMIZE命令从新整理碎片来释放空间。

    注意:修改innodb_log_file_size时需要先删除原来的日志文件

    二、错误日志

    错误日志中记录项目:

    1. mysqld启动和关闭过程中输出的事件信息
    2. mysqld运行中产生的错误信息
    3. event scheduler运行一个event时产生的日志信息
    4. 在主从复制架构中的从服务器上启动从服务器线程时产生的信息

    相关变量

    MariaDB [school]> SHOW GLOBAL VARIABLES LIKE 'log_error';  #错误日志文件的路径
    +---------------+------------------------------+
    | Variable_name | Value                        |
    +---------------+------------------------------+
    | log_error     | /var/log/mariadb/mariadb.log |
    +---------------+------------------------------+

    log_warnings=1|0 默认值1(是):是否记录警告信息至错误日志文件

    三、查询日志

    记录用户的操作日志,一般不建议启用

    MariaDB [school]> SHOW VARIABLES LIKE 'general_log%';
    +------------------+-------------+
    | Variable_name    | Value       |
    +------------------+-------------+
    | general_log      | OFF         | -- 开启关闭通用日志,默认关闭
    | general_log_file | centos7.log | -- 通用日志文件的文件名,/var/lib/mysql/HOSTNAME.log
    +------------------+-------------+
    MariaDB [school]> SHOW VARIABLES LIKE 'log_output';  
    +---------------+-------+
    | Variable_name | Value |
    +---------------+-------+
    | log_output    | FILE  | -- 以什么方式存放日志,(TABLE|FILE|NONE)
    +---------------+-------+

    mysql.general_log:表存放查询日志,前提是以表方式存放的

    四、慢查询日志

    记录执行查询时长超出指定时长的操作

    1、慢查询相关变量

    MariaDB [school]> SHOW VARIABLES LIKE 'slow_query%';    
    +---------------------+------------------+
    | Variable_name       | Value            |
    +---------------------+------------------+
    | slow_query_log      | OFF              | -- 开启或关闭慢查询日志
    | slow_query_log_file | centos7-slow.log | -- 慢查询日志文件
    +---------------------+------------------+
    MariaDB [school]> SHOW VARIABLES LIKE 'long_query_time';
    +-----------------+-----------+
    | Variable_name   | Value     |
    +-----------------+-----------+
    | long_query_time | 10.000000 | -- 慢查询的阀值,单位秒,查询时间超过10则记录到慢查询日志
    +-----------------+-----------+
    MariaDB [school]> SHOW VARIABLES LIKE 'log_slow%';
    +---------------------+-------+
    | Variable_name       | Value |
    +---------------------+-------+
    | log_slow_rate_limit | 1     | -- 多少次查询才记录,mariadb特有
    | log_slow_verbosity  |       | -- 记录内容的详细程度(Query_plan,explain)
    +---------------------+-------+
    MariaDB [school]> SHOW VARIABLES LIKE 'log_queries_not_using_indexes';
    +-------------------------------+-------+
    | Variable_name                 | Value |
    +-------------------------------+-------+
    | log_queries_not_using_indexes | OFF   | -- 记录没有利用索引查询,而使用全文扫描的语句;默认关闭,建议开启
    +-------------------------------+-------+
     

    log_slow_filter :根据查询结果过滤

    • admin
    • filesort
    • filesort_on_disk
    • full_join
    • full_scan
    • query_cache
    • query_cache_miss
    • tmp_table
    • tmp_table_on_disk

    2、补充:利用 profiling 跟踪查询语句所用的详细时间

    MariaDB [school]> SHOW VARIABLES LIKE 'profiling';
    +---------------+-------+
    | Variable_name | Value |
    +---------------+-------+
    | profiling     | OFF   | -- 开启或关闭,默认关闭
    +---------------+-------+
    MariaDB [school]> SET profiling=ON;  #开启查询语句跟踪功能
    MariaDB [school]> SHOW profiles;  #查询语句执行的时间列表
    +----------+------------+------------------------------------------------------------+
    | Query_ID | Duration   | Query                                                      |
    +----------+------------+------------------------------------------------------------+
    |        1 | 0.00024497 | SELECT * FROM students                                     |
    |        2 | 0.00038528 | SELECT stuid,name,age FROM students WHERE stuid = 2        |
    +----------+------------+------------------------------------------------------------+
    MariaDB [school]> SHOW profile FOR query 2;  #查询指定编号的SQL语句的详细执行过程
    +----------------------+----------+
    | Status               | Duration |
    +----------------------+----------+
    | starting             | 0.000035 |
    | Opening tables       | 0.000003 |
    | After opening tables | 0.000006 |
    | query end            | 0.000003 |
    | closing tables       | 0.000002 |
    | freeing items        | 0.000011 |
    | updating status      | 0.000006 |
    | cleaning up          | 0.000001 |
    +----------------------+----------+
     

    五、二进制日志

    记录已提交事务导致数据改变或潜在导致数据改变的SQL语句,通过“重放”日志文件中的事件来生成数据副本,不依赖存储引擎类型。

    开启二进制日志,默认是关闭的,二进制日志和数据分开存放

    开启记录二进制文件的功能:在my.cnf的[mysqld]下加入log_bin[=/path/somefile]

    默认二进制日志在数据库目录下,mariadb-bin.000001 为二进制日志数据文件,mariadb-bin.index 为二进制日志索引文件

    1、记录二进制日志的三种方式:

    • 基于语句的记录方式,每一条改变数据的语句记录为一条语句,节省空间,系统默认为此模式,但是不推荐使用,会有隐藏的风险
    • 基于行的记录方式,每一行的改变都会将使其改变的语句记录为一条语句,日志量会很大,但是对数据的安全保护非常高
    • 混合模式:mixed, 让系统自行判定该基于哪种方式进行
    MariaDB [(none)]> SHOW VARIABLES LIKE 'binlog_format';  
    +---------------+-----------+
    | Variable_name | Value     |
    +---------------+-----------+
    | binlog_format | STATEMENT | -- 记录方式,系统默认基于语句方式
    +---------------+-----------+
    SET binlog_format='ROW|STATEMENT|MIXED'; -- 修改二进制日志记录方式
     

    2、二进制日志的相关变量

    MariaDB [(none)]> SHOW MASTER|BINARY LOGS; -- 查看mariadb自行管理使用中的二进制日志文件列表
    +--------------------+-----------+
    | Log_name           | File_size |
    +--------------------+-----------+
    | mariadb-bin.000002 |       290 |
    | mariadb-bin.000003 |       264 |
    | mariadb-bin.000004 |    529038 |
    | mariadb-bin.000005 |       245 |
    +--------------------+-----------+
    MariaDB [(none)]> SHOW MASTER STATUS; -- 查看使用中的二进制日志文件
    +--------------------+----------+--------------+------------------+
    | File               | Position | Binlog_Do_DB | Binlog_Ignore_DB |
    +--------------------+----------+--------------+------------------+
    | mariadb-bin.000005 |      245 |              |                  |
    +--------------------+----------+--------------+------------------+
    MariaDB [(none)]> SHOW BINLOG EVENTS IN 'mariadb-bin.000004' FROM 1 LIMIT 2,3G -- 查看二进制文件中的指定内容
    MariaDB [(none)]> SHOW VARIABLES LIKE 'sql_log_bin'; -- 是否记录二进制日志,默认ON
    MariaDB [(none)]> SHOW VARIABLES LIKE 'log_bin'; -- 指定文件位置;默认OFF,表示不启用二进制日志功能,上述两项都开启才可
    MariaDB [(none)]> SHOW VARIABLES LIKE 'max_binlog_size';
    +-----------------+------------+
    | Variable_name   | Value      |
    +-----------------+------------+
    | max_binlog_size | 1073741824 | -- 单个二进制日志文件的最大体积,到达最大值会自动滚动,默认为1G
    +-----------------+------------+
    MariaDB [(none)]> SHOW VARIABLES LIKE 'sync_binlog';    
    +---------------+-------+
    | Variable_name | Value |
    +---------------+-------+
    | sync_binlog   | 0     | -- 设定是否启动二进制日志即时同步磁盘功能,默认0,由操作系统负责同步日志到磁盘
    +---------------+-------+
    MariaDB [(none)]> SHOW VARIABLES LIKE 'expire_logs_days';
    +------------------+-------+
    | Variable_name    | Value |
    +------------------+-------+
    | expire_logs_days | 0     | -- 二进制日志可以自动删除的天数。 默认为0,即不自动删除
    +------------------+-------+
     

    3、mysqlbinlog命令

    二进制日志的客户端命令工具

    • --start-position=# 指定开始位置
    • --stop-position=# 指定结束位置
    • --start-datetime=(YYYY-MM-DD hh:mm:ss) 指定开始时间
    • --stop-datetime=(YYYY-MM-DD hh:mm:ss) 指定结束时间
    • --base64-output=decode-row
    • -v |-vv |-vvv |-vvvv 显示详细信息
    [root@centos7 mysql]# mysqlbinlog --start-position=528864 --stop-position=529019 mariadb-bin.000004 --base64-output=decode-row -v
    # at 528864
    #180611 20:59:46 server id 1  end_log_pos 528992        Query   thread_id=29    exec_time=0     error_code=0
    use `school`/*!*/;
    SET TIMESTAMP=1528721986/*!*/;
    INSERT students(StuID,Name,Age,Gender) VALUES (26,'Tom',22,'M')  #改变数据的SQL语句
    /*!*/;
    
    事件发生的日期和时间:180611 20:59:46
    事件发生的服务器标识:server id 1
    事件的结束位置:end_log_pos 528992
    事件的类型:Query
    事件发生时所在服务器执行此事件的线程的ID:thread_id=29
    语句的时间戳与将其写入二进制文件中的时间差:exec_time=0
    错误代码:error_code=0
    事件内容: 
    GTID:Global Transaction ID,mysql5.6以mariadb10以上版本专属属性:GTID
    使用mysqlbinlog mariadb-bin.000001 > file.sql命令重定向到SQL文件中,再使用mysql -uroot -p < file.sql命令可以直接导入数据,实现了备份还原的功能

    4、二进制日志的管理

    MariaDB [(none)]> PURGE BINARY LOGS TO 'mariadb.000002'; -- 删除到02,注意:02不删除
    MariaDB [(none)]> PURGE BINARY LOGS BEFORE '2018-01-23'; -- 删除2018-01-23之前的日志
    MariaDB [(none)]> PURGE BINARY LOGS BEFORE '2017-03-22 09:25:30';
    MariaDB [(none)]> RESET MASTER; -- 删除所有二进制日志,index文件重新记数
    MariaDB [(none)]> FLUSH LOGS; -- 手动触发日志滚动
     

    六、中继日志

    relay log :主从复制架构中,从服务器用于保存从主服务器的二进制日志中读取到的事件

  • 相关阅读:
    将不确定变为确定~接口应该是什么
    架构,改善程序复用性的设计~目录(附核心原代码)
    php实战第二十五天
    java一道简单的括号匹配问题
    屈原坐上神十带来了iOS 7
    《别独自用餐》 警句摘录
    php实战第二十四天
    偷了世界的程序员
    变故
    “快排”笔记
  • 原文地址:https://www.cnblogs.com/huxiaojun/p/9188952.html
Copyright © 2011-2022 走看看