TCP时间戳导致syn-ack没有返回(不能返回正常响应数据)
  

Hacking 732

{{ttag.title}}
现象:
      客户端 A通过 NAT网关访问应用服务成功,而客户端 B通过 NAT网关访问应用服务经常性出现 connect失败。在服务端抓包发现:服务端已经收到了 syn包,但没有回复 synack包;客户端 A 关闭了 tcp_tw_recycle,而客户端 B开启了 tcp_tw_recycle;


linux默认启用时间戳(/etc/sysctl.conf):
     由 于  net.ipv4.tcp_tw_recycle=1 、 net.ipv4.tcp_timestamps=1 均 开 启 产 生 的 问 题(tcp_tw_recycle=1表示:开启 TCP连接中 TIME-WAIT sockets的快速回收)net.ipv4.tcp_timestamps=1tcp_timestamp 是  RFC1323 定义的优化选项,主要用于  TCP 连接中  RTT(Round Trip Time) 的计算,开启  tcp_timestamp 有利于系统计算更加准确的  RTT,也就有利于  TCP 性能的提升。(默认开启)说明:  Linux启用了时间戳导致 syn-ack没有返回,原理如下:tcp 三次握手,如果有一个用户的时间戳大于这个链接发出的 syn中的时间戳,服务器上就会忽略掉这个 syn,不返会 syn-ack消息,表现为用户无法正常完成 tcp3次握手,从而不能打开 web页面(或不能返回正常响应数据)。

在业务闲时,如果用户的 NAT(网络地址与接口号转换 NAPT)端口没有被使用过时,就可以正常打开;业务忙时,NAT端口重复使用的频率高,很难分到没有被使用的端口,从而产生这种问题。通过查阅资料,发现 tcp_timestamps默认是开启,如果再把 tcp_tw_recycle设置为 1,则60s内同一源 ip主机的 socket connect请求中的 timestamp必须是递增的。也就是说服务器打开了  tcp_tw_reccycle了,就会检查时间戳,如果对方发来的包的时间戳是乱跳的或者说时间戳是滞后的,这样服务器肯定不会回复,所以服务器就把带了“倒退”的时间戳的包当作是“recycle的 tw连接的重传数据,不是新的请求”,于是丢掉不回包,就出现了开始说的 syn不响应。只有客户端和服务端都开启时间戳的情况下,才会出现能 ping通不能建立 tcp三次握手的情况netstat -s | grep timestamp问题分析:

大致可以推测上述问题和 tcp_tw_recycle有关,查看 linux内核对应的代码tcp_v4_conn_request()函数:

if (tmp_opt.saw_tstamp &&         tcp_death_row.sysctl_tw_recycle &&         (dst = inet_csk_route_req(sk, req)) != NULL &&         (peer = rt_get_peer((struct rtable *)dst)) != NULL &&         peer->v4daddr == saddr) {if (get_seconds() < peer->tcp_ts_stamp + TCP_PAWS_MSL &&(s32)(peer->tcp_ts - req->ts_recent) > TCP_PAWS_WINDOW) {goto drop_and_release;}}

其中:
sysctl_tw_recycle:本机系统开启 tcp_tw_recycle选项TCP_PAWS_MSL:60s,该条件判断表示该源 ip的上次 tcp通讯发生在 60sTCP_PAWS_WINDOW:1,该条件判断表示该源 ip的上次 tcp通讯的 timestamp 大于本次 tcp。tmp_opt.saw_tstamp:该 socket支持 tcp_timestamp简单说就是在 tcp_tw_recycle/tcp_timestamps都开启的条件下,60s内同一源 ip主机的 tcp 链接请求中的 timestamp必须是递增的。

结合问题分析:主机 client1和 client2通过 NAT网关访问服务时,而 client1和 client2的 timestamp(tcp报文的时间戳与系统时钟有关)不相同;根据上述 syn包处理源码,在 tcp_tw_recycle和tcp_timestamps同时开启的条件下,timestamp大的客户端访问服务成功,而 timestmap小的主机访问失败。解决方法分析:echo 0 > /proc/sys/net/ipv4/tcp_tw_recycle;tcp_tw_recycle默认是关闭的。

为了解决上述问题,需要建议关闭 tcp_tw_recycle选项,而不是 timestamp;因为在 tcp timestamp关闭的条件下,开启 tcp_tw_recycle是不起作用的;  tcp_timestamp选项开启,可以提高 TCP RTT的计算精度,提高 TCP的性能。

linux许多参数调优,需要根据业务场景以及参数背景的工作原理进行综合考虑,不存在一个配置文件搞定所有问题的情况。最终解决方法:在默认 /etc/sysctl.conf 文件中添加或修改(只修 net.ipv4.tcp_timestamps=0即可)为:关闭 net.ipv4.tcp_tw_recycle=0、net.ipv4.tcp_timestamps=0(两者都关闭,或关闭任意一个即可)保存后,执行命令(令修改生效):sysctl -p

打赏鼓励作者,期待更多好文!

打赏
暂无人打赏

发表新帖
热门标签
全部标签>
每日一问
技术盲盒
技术笔记
干货满满
技术咨询
功能体验
产品连连看
新版本体验
GIF动图学习
2023技术争霸赛专题
自助服务平台操作指引
标准化排查
信服课堂视频
运维工具
通用技术
秒懂零信任
技术晨报
用户认证
安装部署配置
每日一记
安全攻防
SDP百科
设备维护
深信服技术支持平台
社区帮助指南
答题自测
玩转零信任
畅聊IT
专家问答
技术圆桌
在线直播
MVP
网络基础知识
升级
上网策略
测试报告
日志审计
问题分析处理
流量管理
云计算知识
原创分享
解决方案
sangfor周刊
VPN 对接
项目案例
SANGFOR资讯
专家分享
技术顾问
信服故事
功能咨询
终端接入
授权
资源访问
地址转换
虚拟机
存储
迁移
加速技术
排障笔记本
产品预警公告
信服圈儿
S豆商城资讯
技术争霸赛
「智能机器人」
追光者计划
答题榜单公布
纪元平台
卧龙计划
华北区拉练
天逸直播
以战代练
山东区技术晨报
文档捉虫活动
齐鲁TV
华北区交付直播
每周精选

本版版主

217
274
151

发帖

粉丝

关注

本版达人

皮皮虾·真

本周建议达人

郑州网络

本周分享达人

二进制网络

本周提问达人