服务使用的是 nginx + tomcat
最近发现偶现 502
错误日志:
2018/10/17 01:31:05 [debug] 46093#46093: *606728052 http upstream process header
2018/10/17 01:31:05 [debug] 46093#46093: *606728052 malloc: 00007FB65E3834E0:4096
2018/10/17 01:31:05 [debug] 46093#46093: *606728052 posix_memalign: 00007FB65C783D60:4096 @16
2018/10/17 01:31:05 [debug] 46093#46093: *606728052 recv: eof:1, avail:1
2018/10/17 01:31:05 [debug] 46093#46093: *606728052 recv: fd:65 0 of 4096
2018/10/17 01:31:05 [error] 46093#46093: *606728052 upstream prematurely closed connection while reading response header from upstream, clien
t:xxx
2018/10/17 01:31:05 [debug] 46093#46093: *606728052 http next upstream, 2
2018/10/17 01:31:05 [debug] 46093#46093: *606728052 free keepalive peer
2018/10/17 01:31:05 [debug] 46093#46093: *606728052 free rr peer 4 4
2018/10/17 01:31:05 [debug] 46093#46093: *606728052 free rr peer failed: 00007FB65C704F50 1
2018/10/17 01:31:05 [debug] 46093#46093: *606728052 finalize http upstream request: 502
看了下 nginx 代码,发现是
c->recv(c, u->buffer.last, u->buffer.end - u->buffer.last);
读到的内容为 0,日志中也有显示recv: fd:65 0 of 4096
,一开始就读不到(查了 tomcat 日志,请求还没到 tomcat )
怀疑是各种原因导致建立的这个长链接断掉了。试着把 keeplaive 去掉就好了。但是这个会影响性能,不知道大家怎么解决这个问题?
还有人可能会问为什么没有重试,那是因为 proxy_next_upstream 只设置了 error、timeout,没有设置 non_idempotent (这是个 POST 请求)
1
lujjjh 2018-10-17 20:28:37 +08:00
不知道是不是类似的情况: https://codehut.me/posts/Y3Vyc29yOjM1
可以尝试调高 Tomcat 的 keepAliveTimeout (连接可控的话甚至设成 -1 ),或者调低 nginx 的 keepalive_timeout。 https://tomcat.apache.org/tomcat-8.5-doc/config/http.html https://nginx.org/en/docs/http/ngx_http_upstream_module.html#keepalive_timeout |
3
salmon5 2018-10-17 20:59:00 +08:00
proxy_read_timeout 60;
默认 60 秒,可以调大一些。 |
4
iyaozhen OP @salmon5 这个之前考虑过,统计看 tomcat 处理的很快,也都是内网。暂时还是默认值
|
5
salmon5 2018-10-17 21:47:57 +08:00
proxy_http_version 1.0 或注释 proxy_http_version 1.1,
用 http 1.0 短链接,性能其实没有那么不堪,tps 几百以内 http1.0 没影响的, tomcat 过早异常关闭连接,nginx 不知道,直接请求没有三次握手,请求不到 tomcat,502。 |
6
zhangZMZ 2018-10-18 09:48:08 +08:00
在当庭宣判的那一刻,服务器立马崩溃。
leader、上级 leader、boss、下属以及吃瓜群众集体视线聚焦在你身上,那一刻你是万众瞩目的焦点, |