mysqldump: Error 2013

最近在mysqldump时，遭遇mysqldump: Error 2013错误。以为是常见的参数设置有问题，调整之后，也没有任何成效。原来发生了OOM，以下是其具体描述。

一、故障现象

环境
# more /etc/redhat-release 
CentOS Linux release 7.4.1708 (Core) 

# mysql -V           ##PXC 5.7
mysql  Ver 14.14 Distrib 5.7.20-18, for Linux (x86_64) using  6.2

# mysqldump -hlocalhost -uroot -p --port=33006 --default-character-set=utf8 -F -R -E --triggers -e  
>  --single-transaction --all-databases >/tmp/alldb.sql
Enter password: 
mysqldump: Error 2013: Lost connection to MySQL server during query when dumping table `tel_send_log` at row: 390486
表并不是很大，也就200w左右的数据行。

二、故障分析

起初以为是相关变量设置有问题，因此调整相关参数
mysql > set global connect_timeout=1800;
mysql > set global net_read_timeout=1800;
mysql > set global net_write_timeout=1800;
mysql > set global max_allowed_packet=1024*1024*1024;
mysql > set global net_buffer_length=1024*1024;

之后再次导出，问题依旧，而且报错之后，mysqld就直接挂了
查看mysqld的error log也未得到相关报错的具体信息，还以为是版本太新遭遇Bug呢
后来加上一个选项--skip-extended-insert(这个是不启用mysql 生成insert包含多values)也不行
换到另一个节点后，导出却是正常的。
于是打开报错系统日志message一看，竟然out of memory

# tail -fn 50 /var/log/message
Apr 26 15:13:10 zcd kernel: Out of memory: Kill process 10274 (firewalld) score 5 or sacrifice child
Apr 26 15:13:10 zcd kernel: Killed process 10274 (firewalld) total-vm:333984kB, anon-rss:21980kB, file-rss:44kB, shmem-rss:0kB
Apr 26 15:13:10 zcd systemd: firewalld.service: main process exited, code=killed, status=9/KILL
Apr 26 15:13:10 zcd mysqld_safe: /usr/bin/mysqld_safe: line 220:  9658 Killed                
   nohup /usr/sbin/mysqld --basedir=/usr --datadir=/u02/pxcdata --plugin-dir=/usr/lib64/mysql/plugin --user=mysql 
  --wsrep-provider=/usr/lib64/galera3/libgalera_smm.so --log-error=/var/log/mysqld.log 
  --pid-file=/var/run/mysqld/mysqld.pid --socket=/var/lib/mysql/mysql.sock --port=33006
  --wsrep_start_position=e12b32d1-06f1-11e8-b907-d7b0846b449d:68722 < /dev/null > /dev/null 2>&1
Apr 26 15:13:10 zcd mysqld_safe: 2018-04-26T07:13:10.742581Z mysqld_safe Number of processes running now: 0
Apr 26 15:13:10 zcd mysqld_safe: 2018-04-26T07:13:10.831232Z mysqld_safe WSREP: not restarting wsrep node automatically
Apr 26 15:13:10 zcd mysqld_safe: 2018-04-26T07:13:10.835441Z mysqld_safe mysqld from pid file /var/run/mysqld/mysqld.pid ended

于是重启mysql，然后再次导出，观察内存占用情况，如下，可以看到free列值不断减少
procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu-----
r  b  swpd  free  buff  cache  si  so    bi    bo  in  cs us sy id wa st
1  1      0 625288  31836 1347284    0    0 19840  372 3181 3394  9  3 42 46  0
0  1      0 586820  31844 1365304    0    0 19840    60 2385 3264  7  3 46 44  0
0  1      0 515076  31956 1400024    0    0 19312  564 2681 3327  7  4 43 46  0
0  1      0 478708  31964 1417948    0    0 20368    24 3057 3301  8  4 43 46  0
0  1      0 400960  31964 1452688    0    0 19840    0 2213 3278  7  3 44 47  0
0  1      0 364868  31964 1468268    0    0 19840 24648 3053 3500  7  4 40 50  0
0  2      0 324640  31976 1488112    0    0  4544 43656 1079 1688  2  2 14 83  0
0  1      0 286768  32116 1505272    0    0 19840  760 3412 3877  7  5 25 64  0
0  1      0 248916  32132 1520528    0    0 19840    36 4065 5746 13  4 43 41  0
0  1      0 127684  30816 1523336    0    0 24064    28 2960 3367 31  5 33 30  0
0  2      0 118504  7912 1451700    0    0  7760 85816 1290 1439  7  2 11 80  0
1  1      0 103628  7912 1462920    0    0 10292 48940 1381 1544 12  2  6 80  0
4  0      0 118168  4796 1351416    0    0 45280    36 4926 5351 56  9 28  7  0

###三、故障解决
由于当前服务器内存较小，也没有配置交换分区，因此考虑为其添加交换分区。
再次导出观察内存的使用情况。

procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu-----
r  b  swpd  free  buff  cache  si  so    bi    bo  in  cs us sy id wa st
1  1      0 840868  7156 1202532    0    0 19840    0 2890 3263  8  4 42 46  0
0  1      0 796156  7156 1220716    0    0 19840    0 2420 3354  8  4 42 46  0
...............................................
0  0      0 140568  2704 1436180    0    0 41776    72 3076 2674 42  6 34 18  0
2  0    40 150880  2460 1381652    0  40 44468 24708 3669 4236 42  7 50  2  0
2  0    132 141280  2448 1355680    0  92 37668 24716 4748 5562 68  6 22  4  0
1  1    196 105804  2296 1283964    0    0 20992  8720 4494 5943 34  5 14 47  0
1  0    252 146424  2204 1220072    0  56 26596  844 5927 7514 51  7 22 19  0
2  0    468 148704  2076 1177068    0  216 41748  584 4132 4234 61  7 25  8  0
      ......................可以看到swpd的值不断的增加，si的值也不断增加............
0  1  2656 140876    544 888484    0  444 26844 19424 2286 2654 12  5 22 62  0
0  1  2836 149376    468 828172    0  180 53712  220 2499 2212 25  7 48 20  0
0  1  3312 149976    568 781156    0  476 46224 29220 3385 3351 22  8 38 32  0
0  1  3696 150440    692 743464    0  384 37484 62616 3310 3924 17  7 34 42  0
0  0  4188 150300    688 699140    0  492 44896 33304 3010 3352 21  8 41 31  0
0  0  4576 142428    660 653872    0  388 55204 58748 2487 2050 26  8 49 17  0

--查看交换分区使用情况
# cat /proc/meminfo|grep -i swap
SwapCached:      375664 kB   -- Author : Leshami
SwapTotal:      4194300 kB   -- Blog : https://blog.csdn.net/leshami
SwapFree:        2624524 kB
--至此故障解决。

四、几个参数描述

connect_timeout
  连接响应超时时间。服务器端在这个时间内如未连接成功，则会返回连接失败。

wait_timeout
  连接空闲超时时间。与服务器端无交互状态的连接，直到被服务器端强制关闭而等待的时间。
  可以认为是服务器端连接空闲的时间，空闲超过这个时间将自动关闭。

interactive_timeout
  连接空闲超时时间。与服务器端无交互状态的连接，直到被服务器端强制关闭而等待的时间。

interactive_timeout和wait_timeoutu两者差异

  interactive_timeout针对交互式连接（比如通过mysql客户端连接数据库），
  wait_timeout针对非交互式连接（比如一般在PHP中使用PDO连接数据库，当然你可以设置CLIENT_INTERACTIVE选项来改变）。
  所谓的交互式连接，即在mysql_real_connect()函数中使用了CLIENT_INTERACTIVE选项。

net_read_timeout
  数据读取超时时间。在终止读之前，从一个连接获得数据而等待的时间秒数；
  当服务正在从客户端读取数据时，net_read_timeout控制何时超时。
  即客户端执行数据读取，等待多少秒仍未执行成功时自动断开连接。

net_write_timeout
  数据库写超时时间。和net_read_timeout意义类似，在终止写之前，等待多少秒把block写到连接；
  当服务正在写数据到客户端时，net_write_timeout控制何时超时。

slave-net-timeout
  从库延后同步的时间，当slave认为连接master的连接有问题时，就等待N秒，然后断开连接，
  重新连接masterslave-net-timeout在主从同步时从库上起作用；

connect_timeout：在获取连接阶段起作用；
interactive_timeout和wait_timeout：在连接空闲阶段起作用；
net_read_timeout和net_write_timeout：则是在连接执行时起作用。

max_allowed_packet 
  一个数据包或任何生成/中间字符串的最大大小，设置过小时发出“信息包过大”错误，并关闭连接