shell 指令分析nginx 日志qps

实时分析

tail -f points.api.speiyou.cn.access.log|awk 'BEGIN{key="";cnt=0}{if(key==$5){cnt++}else{key=$5;print $5"--->"cnt;cnt=1}}'

日志文件分析

zcat nginx_192.168.14.18_20181128-000004.tgz|awk '{print $5}'|uniq -c|sort -t ' ' -k1nr|head -n 100

sort 是将文件缓存吞在内存里面的，每个阶段一个buffer，可以通过 -s 指令进行阶段性排序，取消最后排序，提向大文件性能，可以通过多次sort进行排序降低错误率。