zoukankan      html  css  js  c++  java
  • 13-技巧&工具&日志

    常用 SQL 技巧

    SQL 执行顺序

    编写顺序

    执行顺序

    SQL 解析流程图

    正则表达式使用

    正则表达式(Regular Expression)是指一个用来描述或者匹配一系列符合某个句法规则的字符串的单个字符串。

    select * from emp where name regexp '^T';
    
    select * from emp where name regexp '2$';
    
    select * from emp where name regexp '[uvw]';
    

    MySQL 常用函数

    数字函数

    字符串函数

    日期函数

    聚合函数

    MySQL 常用工具

    mysql

    该 mysql 不是指 mysql 服务,而是指 mysql 的客户端工具。

    语法&连接选项:

    mysql [options] [database]
    
    参数:
        -u, --user=name 指定用户名
        -p, --password[=name] 指定密码
        -h, --host=name 指定服务器IP或域名
        -P, --port=# 指定连接端口
    示例:
        mysql -h 127.0.0.1 -P 3306 -u root -p
        mysql -h127.0.0.1 -P3306 -uroot -p2143
    

    执行选项 ↓ 此选项可以在 MySQL 客户端执行 SQL 语句,而不用连接到 MySQL 数据库再执行。对于一些批处理脚本,这种方式尤其方便。

    -e, --execute=name 执行SQL语句并退出
    
    示例:mysql -uroot -proot mydb -e "select * from tb_book";
    

    mysqladmin

    mysqladmin 是一个执行管理操作的客户端程序。可以用它来检查服务器的配置和当前状态、创建并删除数据库等。可以通过 : mysqladmin --help 指令查看帮助文档。

    示例:

    mysqladmin -uroot -proot create 'test01';
    mysqladmin -uroot -proot drop 'test01';
    mysqladmin -uroot -proot version;
    

    mysqlbinlog

    由于服务器生成的二进制日志文件以二进制格式保存,所以如果想要检查这些文本的文本格式,就会使用到 mysqlbinlog 日志管理工具。

    语法:

    mysqlbinlog [options] log-files1 log-files2 ...
    

    选项:

    -d, -- database=name : 指定数据库名称,只列出指定的数据库相关操作。
    -o, -- offset=# : 忽略掉日志中的前n行命令。
    -r, -- result-file=name : 将输出的文本格式日志输出到指定文件。
    -s, -- short-form : 显示简单格式, 省略掉一些信息。
    --start-datatime=date1 -- stop-datetime=date2 : 指定日期间隔内的所有日志。
    --start-position=pos1  -- stop-position=pos2 : 指定位置间隔内的所有日志。
    

    mysqldump

    mysqldump 客户端工具用来备份数据库或在不同数据库之间进行数据迁移。备份内容包含创建表及插入表的 SQL 语句。

    语法:

    mysqldump [options] db_name [tables]
    mysqldump [options] --database/-B db1 [db2 db3...]
    mysqldump [options] --all-databases/-A
    

    连接选项:

    -u, --user=name 指定用户名
    -p, --password[=name] 指定密码
    -h, --host=name 指定服务器IP或域名
    -P, --port=# 指定连接端口
    

    输出内容选项:

    --add-drop-database
        在每个数据库创建语句前加上Drop database语句
    --add-drop-table
        在每个表创建语句前加上Drop table语句(默认开启),不开启:--skip-add-drop-table
    -n, --no-create-db
        不包含数据库的创建语句
    -t, --no-create-info
        不包含数据表的创建语句
    -d, --no-data
        不包含数据
    -T, --tab=name
        自动生成两个文件:一个.sql存创建表结构的语句;一个.txt是数据文件,相当于select into outfile
    

    示例:

    mysqldump -uroot -proot db01 tb_book --add-drop-database --add-drop-table > a.sql
    mysqldump -uroot -proot db01 --skip-add-drop-table > b.sql
    mysqldump -uroot -proot -T /tmp demo_03 tb_book
    

    mysqlimport/source

    mysqlimport 是客户端数据导入工具,用来导入 mysqldump 加 -T 参数后导出的 txt 文件。

    语法:

    mysqlimport [options] db_name textfile1 [textfile2...]
    

    示例:

    mysqlimport -uroot -proot demo_03 /tmp/tb_book.txt
    

    如果需要导入 sql 文件,可以使用 mysql 中的 source 指令:

    source /root/tb_book.sql
    

    mysqlshow

    mysqlshow 客户端对象查找工具,用来很快地查找存在哪些数据库、数据库中的表、表中的列或者索引。

    语法:

    mysqlshow [options] [db_name [table_name [col_name]]]
    

    参数:

    --count    显示数据库及表的统计信息 (数据库、表均可以不指定)
    -i         显示指定数据库或者指定表的状态信息
    

    示例:

    MySQL 日志

    在任何一种数据库中,都会有各种各样的日志,记录着数据库工作的方方面面,以帮助数据库管理员追踪数据库曾经发生过的各种事件。MySQL 也不例外,在 MySQL 中,有 4 种不同的日志,分别是错误日志、二进制日志(BINLOG 日志)、查询日志和慢查询日志,这些日志记录着数据库在不同方面的踪迹。

    错误日志

    错误日志是 MySQL 中最重要的日志之一,它记录了当 mysqld 启动和停止时,以及服务器在运行过程中发生任何严重错误时的相关信息。当数据库出现任何故障导致无法正常使用时,可以首先查看此日志。

    该日志是默认开启的,查看日志位置指令:show variables like 'log_error%';

    二进制日志

    概述

    二进制日志(BINLOG)记录了所有的 DDL(数据定义语言)语句和 DML(数据操纵语言)语句,但是不包括数据查询语句。此日志对于灾难时的数据恢复起着极其重要的作用,MySQL 的主从复制, 就是通过该 binlog 实现的。

    二进制日志,默认情况下是没有开启的,需要到 MySQL 的配置文件中开启,并配置 MySQL 日志的格式。

    # 配置开启binlog日志,日志的文件前缀为 mysqlbin,如:mysqlbin.000001、mysqlbin.000002
    log_bin=mysqlbin
    
    # 配置二进制日志的格式 (STATEMENT, ROW, MIXED)
    binlog_format=STATEMENT
    
    • 配置文件位置 : /etc/my.cnf
    • 日志存放位置 : 配置时,给定了文件名但是没有指定路径,日志默认写入 MySQL 的数据目录,即 /var/lib/mysql。

    日志格式

    STATEMENT

    该日志格式在日志文件中记录的都是 SQL 语句(statement),每一条对数据进行修改的 SQL 都会记录在日志文件中,通过 MySQL 提供的 mysqlbinlog 工具,可以清晰的查看到每条语句的文本。主从复制的时候,从库(slave)会将日志解析为原文本,并在从库重新执行一次。

    ROW

    该日志格式在日志文件中记录的是每一行的数据变更,而不是记录 SQL 语句。比如,执行 SQL 语句: update tb_book set status='1',如果是 STATEMENT 日志格式,在日志中会记录一行 SQL 文件;如果是 ROW,由于是对全表进行更新,也就是每一行记录都会发生变更,ROW 格式的日志中会记录每一行的数据变更。

    MIXED

    这是目前 MySQL 默认的日志格式,即混合了 STATEMENT 和 ROW 两种格式。默认情况下采用 STATEMENT,但是在一些特殊情况下采用 ROW 来进行记录。MIXED 格式能尽量利用两种模式的优点,而避开他们的缺点。

    日志读取

    由于日志以二进制方式存储,不能直接读取,需要用 mysqlbinlog 工具来查看:mysqlbinlog log-file-name;

    查看 STATEMENT 日志格式

    查看 ROW 日志格式(加参数 -vv)

    删除日志

    对于比较繁忙的系统,由于每天生成日志量大,这些日志如果长时间不清楚,将会占用大量的磁盘空间。下面我们将会讲解几种删除日志的常见方法:

    1. 通过 Reset Master 指令删除全部 binlog 日志,删除之后,日志编号将从 xxxx.000001 重新开始。
    2. 执行指令 purge master logs to 'mysqlbin.******',该命令将删除 ****** 编号之前的所有日志。
    3. 执行指令 purge master logs before 'yyyy-mm-dd hh24:mi:ss',该命令将删除日志为 "yyyy-mm-dd hh24:mi:ss" 之前产生的所有日志。
    4. 设置参数 --expire_logs_days=#,此参数的含义是设置日志的过期天数,过了指定的天数后日志将会被自动删除,这样将有利于减少 DBA 管理日志的工作量。

    查询日志

    查询日志中记录了客户端的所有操作语句,而二进制日志不包含查询数据的 SQL 语句。默认情况下,查询日志是未开启的。如果需要开启查询日志,可以设置以下配置:

    # 该选项用来开启查询日志,可选值:0 代表关闭、1 代表开启
    general_log=1
    
    # 设置日志的文件名,如果没有指定,默认的文件名为 host_name.log
    general_log_file=file_name
    

    在 MySQL 的配置文件 /etc/my.cnf 中配置如下内容:

    配置完毕之后,在数据库执行一些 CRUD 操作,然后再次来查询日志文件:

    慢查询日志

    慢查询日志记录了所有执行时间超过参数 long_query_time 设置值并且扫描记录数不小于 min_examined_row_limit 的所有的 SQL 语句的日志。long_query_time 默认为 10 秒,最小为 0,精度可以到微秒。

    文件位置和格式

    位置:/etc/my.cnf。慢查询日志默认是关闭的,可以通过两个参数来控制慢查询日志:

    # 该参数用来控制慢查询日志是否开启,可取值: 1 代表开启、0 代表关闭
    slow_query_log=1
    
    # 该参数用来指定慢查询日志的文件名
    slow_query_log_file=slow_query.log
    
    # 该选项用来配置查询的时间限制,超过这个时间将认为值慢查询,将需要进行日志记录,默认10s
    long_query_time=2
    

    日志的读取

    和错误日志、查询日志一样,慢查询日志记录的格式也是纯文本,可以被直接读取。

    执行几个长执行时间的 SQL,然后直接通过 cat 指令查询该日志文件:

    如果慢查询日志内容很多, 直接查看文件,比较麻烦, 这个时候可以借助于 MySQL 自带的 mysqldumpslow 工具, 来对慢查询日志进行分类汇总。

  • 相关阅读:
    什么是超参数
    KNN算法(K近邻算法)实现与剖析
    pandas中na_values与keep_default_na
    一篇文章搞懂python2、3编码
    深度学习基础篇之逻辑回归拟合二维数据
    采集万方医药方向的期刊+文章+作者信息(数据量千万级)
    win10安装tensorflow (cpu版)
    内存文件的读写
    海康威视面试python后端题
    Scrapy 采集需要登录注册的网站
  • 原文地址:https://www.cnblogs.com/liujiaqi1101/p/13963240.html
Copyright © 2011-2022 走看看