docker php-fpm Resource temporarily unavailable
环境:
nginx + php-fpm
centos xxx
docker xxx
前提是php-fpm 走的是socket,tcp不用有这问题
切入docker 用ab 压测300 发现有失败的请求nginx erro:
2020/06/17 17:49:11 [error] 23#0: *14896 connect() to unix:/dev/shm/php-cgi.sock failed (11: Resource temporarily unavailable) while connecting to upstream,
client: 172.17.0.1, server: _, request: "GET / HTTP/1.0", upstream: "fastcgi://unix:/dev/shm/php-cgi.sock:", host: "127.0.0.1:9999"
查看:cat /proc/sys/net/core/somaxconn
解决方式:
找了一堆文档没找到与docker有关的Resource temporarily unavailable
1、docker run --sysctl net.core.somaxconn=32768 nginx-php-fpm
2、php-fpm listen.backlog =-1 或者 32768
##-1表示 用系统的 值 ,
操作系统默认是128
docker默认也是128
如果docker 用的net 是host 不需要设置,是直接走的宿主机的。
net.core.somaxconn是Linux中的一个kernel参数,表示socket监听(listen)的backlog上限。backlog是socket的监听队列,当一个请求(request)尚未被处理或建立时,他会进入backlog。而socket server可以一次性处理backlog中的所有请求,处理后的请求不再位于监听队列中。当server处理请求较慢,以至于监听队列被填满后,新来的请求会被拒绝。
配置如下说明:
https://docs.docker.com/engine/reference/commandline/run/
Kubernetes Pod中的内核参数调整
下面原文转:https://blog.csdn.net/lwlfox/article/details/104681603
这块就复杂 一点:
背景
使用uwsgi部署了一个django的应用,并且使用Kubernetes来运行,但是运行以后老是报如下的错误,后来在网上查询了,是一个系统内核参数(net.core.somaxconn)太小了,默认是128.所以需要将它调整大一些。
uwsgi_proto_uwsgi_parser(): Resource temporarily unavailable [proto/uwsgi.c line 40]
简介
容器的系统内存参数不是通过echo 一个值到指定的文件,然后sysctl -p 就生效了。在docker 中可以使用 如下的命令来调整
docker run --sysctl net.core.somaxconn=1000 nginx
但是这K8S中,步骤稍微要复杂一点,主要是还需要修改kubelet的启动参数。
步骤
1. 修改kubelet的service文件
vi /etc/systemd/system/kubelet.service ,在启动命令中添加 --allowed-unsafe-sysctls=net.*
[root@ai-test-k8s07 ~]# cat /etc/systemd/system/kubelet.service
[Unit]
Description=Kubernetes Kubelet
Documentation=https://github.com/GoogleCloudPlatform/kubernetes
[Service]
WorkingDirectory=/var/lib/kubelet
ExecStartPre=/bin/mount -o remount,rw '/sys/fs/cgroup'
ExecStartPre=/bin/mkdir -p /sys/fs/cgroup/cpuset/system.slice/kubelet.service
ExecStartPre=/bin/mkdir -p /sys/fs/cgroup/hugetlb/system.slice/kubelet.service
ExecStartPre=/bin/mkdir -p /sys/fs/cgroup/memory/system.slice/kubelet.service
ExecStartPre=/bin/mkdir -p /sys/fs/cgroup/pids/system.slice/kubelet.service
ExecStart=/opt/kube/bin/kubelet
--config=/var/lib/kubelet/config.yaml
--cni-bin-dir=/opt/kube/bin
--cni-conf-dir=/etc/cni/net.d
--hostname-override=10.215.0.24
--kubeconfig=/etc/kubernetes/kubelet.kubeconfig
--network-plugin=cni
--pod-infra-container-image=mirrorgooglecontainers/pause-amd64:3.1
--root-dir=/var/lib/kubelet
--v=2
--allowed-unsafe-sysctls=net.*
Restart=always
RestartSec=5
[Install]
WantedBy=multi-user.target
2. 重新启动kubelet
systemctl daemon-reload && systemctl restart kubelet
3. 在Pod中添加内存参数,我是直接在Deployment里面改,securityContext 这个里面定义需要修改的内核参数,如果有多个,就在sysctls下面添加就可以。
nginx.yaml
apiVersion: apps/v1
kind: Deployment
metadata:
name: nginx
labels:
app: nginx
spec:
selector:
matchLabels:
app: nginx
replicas: 1
template:
metadata:
labels:
app: nginx
spec:
securityContext:
sysctls:
- name: net.core.somaxconn
value: "1000"
- name: net.ipv4.tcp_keepalive_time
value: "1200"
containers:
- name: nginx
image: nginx
imagePullPolicy: IfNotPresent
ports:
- containerPort: 80
4. 运行这个Deployment
kubectl apply -f nginx.yaml
5. 进入容器查看内核参数
[root@master ~]# kubectl exec -it nginx-57b5f658d-44nq4 bash
root@nginx-57b5f658d-44nq4:/# cat /proc/sys/net/core/somaxconn
1000
其它的k8s文章:
https://yq.aliyun.com/articles/603745?utm_content=m_1000003707