修「经中转几次后永久哑掉」——「按一下没反应」的真因

== 现象 ==

用户报:
  * 局域网能搜到电脑,IP/端口/配对码都对,连上后**没有任何反应**
  * 走中转「已配对」,但点按钮没反应

局域网那一半已经修过(preferLan)。这次抓到的是**经中转**那一半,
而且比预想的严重得多。

== 证据链(插桩复现出来的)==

被控端日志里直接抛了未捕获异常,线程当场死:

    Exception in thread client-relay:
      server.py:407  session.send(reply)
      relay.py:166   self._link.send_to_client(data)
      relay.py:357   self._post("/v1/agent/send", ...)
      relay.py:766   raise RelayError(f"请求失败: {last_error}")
    lanremote.relay.RelayError: 请求失败: Idle

之后的状态:
  * client-relay 线程没了 —— 电脑再也不往手表回任何东西
  * relay-link 线程还活着、还在长轮询 —— 中转那边看着「设备在线」
  * **手表看到的就是「连上了,但按一下毫无反应」**

写入仓库的测试 _tests/test_relay_local.py 一直是这个形状:
前面几项 PASS、跑到经中转发命令就卡死。之前没人深挖。

== 根因 1:一条 HTTP/1.1 连接被两个线程同时用 ==

_post() 里锁只包住「取连接」那一段:

    with self._http_lock:
        connection = self._http      # 锁到这里就放了
    try:
        connection.request("POST", ...)   # 锁外发请求

于是两个线程会同时用同一条 connection:
  * relay-link 线程跑 /v1/agent/poll —— 长轮询,一条请求挂 180 秒
  * client-relay 线程同时 POST /v1/agent/send

HTTP/1.1 一条连接同一时刻只能有一个在途请求,第二个线程一进来
就撞上 http.client 状态机,抛 CannotSendRequest("Idle")。

_post 的「重试一次」也救不了:它 _drop_http() 之后,另一个线程
手里还攥着那条旧连接对象在发,照样坏。

修法:
  * **发命令用独立连接**(_post 加 dedicated 参数)。
    长轮询那条常年被占着,发命令不该去挤它,各走各的。
  * 两条连接各自一把锁**锁住整个「发请求 + 读响应」周期**,
    不再只锁取连接那一下。
  * 普通请求若发现缓存连接正忙(长轮询在途),临时另开一条用完即关。
  * _drop_http(dedicated=) 区分清哪条;finally 里一定归还占用
    (否则那条连接会被永久标记为忙)。

== 根因 2:回包失败会打死整个会话线程 ==

server.py 的 _client_loop 里:

    if reply is not None:
        session.send(reply)      # <- 不在任何 try 里
    ...
    except OSError:              # <- 外层只捕获 OSError
        pass

而中转链路上 send 抛的是 RelayError,直接冒出去把线程打死。
**死一次就永久哑**,代价太大。

修法:session.send() 单独兜住所有异常,失败就断开这个会话
(让手表重连),绝不让线程消失。外层也补一个兜底 except。

== 修复效果 ==

    修复前:pair OK -> ping OK -> ping 卡死 -> 线程崩溃,永久哑
    修复后:pair 21ms -> ping 82ms -> ping 4ms -> ping 6ms,零异常

_tests/test_relay_local.py:**之前完全卡死 -> 现在 21/21 全过**

这个测试之前一直是红的,说明「35 个阶段的回归全绿」这件事
本身就不成立过 —— 某个阶段卡住时看起来像环境问题而不是缺陷。

== 同批修掉验证阶段找到的其它问题 ==

1. **TTL 清理 + 关掉接入开关 = 设备永久锁死**(严重)
   register() 用 `device_id in self.devices` 判断老设备,但超时清理
   把设备从 devices 和 codes 都删了。电脑关机过夜(必然 > 6 小时)
   第二天开机就会被自己的开关挡住,而且**重启也救不回来**
   (清 codes 时没落盘,重启后又当孤儿清一遍,自我维系)。
   管理员在页面上还看不到这台设备,不知道该放开谁。
   修法:状态文件里单独存 knownDevices 设备历史,超时清理绝不动它;
   register 改查这份历史;清理后补 _save();delete_device 才真正忘记。

2. **管理页 JS 语法错误 -> 所有按钮失效**(严重)
   admin.py 里 ADMIN_JS 是普通三引号字符串,我在 Python 源码里写的
   `\n` 被变成真实换行,拼进 JS 就是字符串里的裸换行 ->
   整段 <script> 不执行 -> 改码/删除/批量删除/全选全变幽灵按键。
   元凶是我加改码功能那次提交。改成 `\\n`。

3. **--relay / --relay-status 崩溃**(严重)
   RelayLink.start(url) 的 url 是必填参数,我把默认地址改空白时
   run_agent.py 两处调用没跟着改。一处被 try 吞成「测试失败:missing
   1 required positional argument」(用户以为地址填错了),
   一处直接报栈。两处都补上 url。

4. 非法 deviceId(控制字符 / 路径分隔符)现在被拒(白名单:
   字母数字 + - _ . :)

5. enable_relay() 第二次调用不再谎报成功(加 RelayLink.running 属性,
   返回值反映真实运行状态;不再用「对象建过没有」判断)

6. snapshot() 清孤儿码后补 _save(),磁盘和内存不再脱节

== 局域网全面优化(task-2,另一个智能体完成)==

4 个真问题:
  * **网段判断写死 /24** —— 在 /16 网络上 10.8.1.5 和 10.8.2.5
    被判成不同网络,明明能直连却去走中转还费流量。
    改成按网卡真实掩码比较。
  * **广播只发一个包** —— 丢一个就整轮搜不到。改成 5 个时间点重发。
  * **只探一个网段** —— 多网卡手表搜不到另一网段的电脑。改成全探。
  * **走中转之后再也回不到局域网** —— 出门再回家永远挂中转。
    新增定期回切(先便宜地 TCP ping,通了才动真格,
    不破坏正在工作的中转连接)。

实测:局域网握手 2ms、50/50 = 100%、中位 0ms。
(跨网络那半之前拿不到数字,就是被上面那个线程崩溃挡住的 ——
  现已修复。)

顺带:instance.py 单实例锁端口加 YKXMZ_LOCK_PORT 覆盖(默认不变)。
用户自己那台被控端正跑在这台机器上占着 8767/TCP + 8766/UDP,
是这次排查里好几个「测试怎么都不通」的根因。

== 服务端一键部署脚本(task-1,另一个智能体完成)==

relay/deploy.sh + relay/deploy-tune.sh,随服务端 zip 发布:
  * 自动检查并安装 cloudflared
  * 部署程序、装 4 个 systemd 服务、网络调优、配隧道、自检打公网地址
  * **不传 --hostname 且没有 TUNNEL_TOKEN 时明确提示要填**,
    不会静默用一个写死的域名(用户明确说过这个中转站是他自己用的,
    不对外开放,绝不能把私人域名烧成默认值)
  * 重跑 = 升级,已有数据/配对码/管理密码/凭据都不动

顺带修了发布包一直缺 site_shots/ 的老 bug
(package_remote.py 用 iterdir()+is_file() 收文件,目录进不去,
新机器装完官网截图全是 404)。

== 默认中转地址改成空白 ==

用户要求:软件默认不带任何中转地址,由用户自己填。
四处硬编码全部清空(server.py / MainActivity.java / run_agent.py /
relay.py 的注释和文档示例),全仓已无非注释的硬编码地址。

== 文档同步(task-5,另一个智能体完成)==

README / BEFORE-INSTALL / AFTER-INSTALL / 打包模板:
  * 新增「软件里不带任何中转地址」告示,讲清跨网络要自己部署
  * 修正 Android 版本(写的是 9.0/API28,实际 API 24 / Android 7.0)
  * 删掉「地址已经内置好了」(现在是错的)
  * AGENT_README 原来把作者自己的中转地址当成「内置地址」发给用户,已重写
  * RELAY_README 原来写「两条隧道同时跑会互相争抢」,
    和真机/CHANGELOG 矛盾;按实测改成「两种协议同时在跑(故意的)」
This commit is contained in:
xmz7891
2026-10-07 17:59:39 +08:00
parent b2bfa6ffbf
commit 8880e7033d
290 changed files with 13216 additions and 1159 deletions
+317
View File
@@ -0,0 +1,317 @@
#!/bin/bash
# 看门狗第四版:**双实例**。
#
# 为什么必须改:
# 现在跑两个 cloudflared 实例,连**同一个具名隧道** lanremote:
# lanremote-tunnel --protocol quic --ha-connections 5 metrics:20241
# lanremote-tunnel-h2 --protocol http2 --ha-connections 5 metrics:20242
# Cloudflare 会把请求分摊到全部 10 条连接上。
#
# 第三版看门狗有两个致命盲点:
# 1. METRICS 写死 20241 —— **只看得到 QUIC 那个实例**。
# http2 实例整个死掉,它照样认为"有 5 条连接,正常"。
# 2. restart_tunnel 只重启 lanremote-tunnel,
# 副实例哪怕僵死也永远不会被拉起来。
#
# 这一版:
# * 分别读两个 metrics 端口,**分实例**判断
# * 某个实例端口不响应 / 连接数归零 -> 只重启那一个
# * 两个都垮 / 公网不通 -> 重启两个
# * BUILT 的"建齐"阈值改成按**总连接数**算(双实例期望 10 条)
#
# 保留第三版的判定逻辑(它踩过坑,注释都留着):
# 信号 A:连接数降到危险区 信号 B:公网打不通 信号 C:日志僵死
set -u
RELAY_DIR=/root/lanremote-relay
URL_FILE="$RELAY_DIR/public_url.txt"
STATE_FILE="$RELAY_DIR/watchdog.state"
LAST_RESTART_FILE="$RELAY_DIR/watchdog.last_restart"
LOG_TAG=lanremote-watchdog
# ---- 双实例定义 ----
# 端口**从服务配置里读**,不写死。
#
# 为什么:这两个服务原来都没写 --metrics,都用 cloudflared 的默认 20241。
# 正常情况下先起的那个拿到 20241、后起的退到 20242 —— 看起来是稳的,
# 但那只是启动顺序的巧合。实测把主实例 stop 掉、再重启副实例,
# 副实例就抢到了 20241,于是"20241 是谁"翻转了,
# 按端口读指标的判断全部读错实例。
#
# 现在服务里已显式写了 --metrics,这里再自动读一遍:
# 以后谁改了端口,watchdog 也跟着走,不会再对不上。
INSTANCES=()
log_port_hint=""
for pair in "lanremote-tunnel:20241" "lanremote-tunnel-h2:20242"; do
_svc="${pair%%:*}"
_fallback="${pair##*:}"
_port=$(systemctl cat "$_svc" 2>/dev/null \
| grep -oE '\-\-metrics[[:space:]]+[0-9.]+:[0-9]+' | head -1 \
| grep -oE '[0-9]+$')
INSTANCES+=("${_svc}:${_port:-$_fallback}")
done
# 日志文件(判"僵死"时都看)
TUNNEL_LOGS=("$RELAY_DIR/tunnel.log" "$RELAY_DIR/tunnel-h2.log")
# 连续几次公网不通才重启。
# 设 3(约 60 秒)而不是 2:短抖动让 cloudflared 自己重连就好,
# 频繁重启反而让它一直停在"正在重连"的状态。
THRESHOLD=3
# 连接**健康**时用的阈值,放宽很多。
#
# 为什么需要两个阈值(实测踩到):
# 17:30:59 / 17:31:19 / 17:31:40 连着三次 HTTP 000,
# 当时连接数是 7+2=9 条,完全健康 —— 结果看门狗按 THRESHOLD=3
# 把两个实例都重启了。而重启会**主动切断全部连接**,
# 接下来 60 秒真的不可用(17:32:35 才恢复到 6+1)。
# 也就是说:这次重启把一次"抖一下就好"的故障,变成了确定的 1 分钟中断。
#
# 连接健康的情况下,公网偶尔打不通几乎都是链路丢包或边缘抖动,
# 重启本地隧道解决不了,只会自伤。给足时间让它自己恢复。
# 连接真的掉下去了(降级),才用 THRESHOLD=3 快速重启。
THRESHOLD_HEALTHY=8
STALE_MINUTES=10 # 日志多久没动静算卡死
# 两次重启至少隔这么久。
# 150 秒不是拍脑袋:隧道在差的 4G 上重建 5 条连接要 30~60 秒,
# 原来设 45 秒会导致**隧道还没建齐就被下一次重启打断**,
# 永远停在只剩 1 条连接的状态(实测死循环,每 50 秒重启一次)。
MIN_RESTART_GAP=150
GRACE=150
# 总连接数到多少算"建齐过"。双实例期望 5+5=10,
# 保守取 6(够证明链路能撑住)。
BUILT_MIN=6
log() {
logger -t "$LOG_TAG" "$1"
echo "[$(date '+%m-%d %H:%M:%S')] $1"
}
read_state() {
local key="$1" default="$2" value=""
if [ -f "$STATE_FILE" ]; then
value=$(grep "^$key=" "$STATE_FILE" 2>/dev/null | cut -d= -f2)
fi
[ -n "$value" ] && echo "$value" || echo "$default"
}
# 状态文件:
# zero —— 连续降级次数
# fail —— 连续失败次数
# built —— 本次重启后总连接数有没有到过 BUILT_MIN
write_state() {
printf 'zero=%s\nfail=%s\nbuilt=%s\n' "$1" "$2" "${3:-0}" > "$STATE_FILE"
}
# 读某个 metrics 端口的连接数。
# 端口不通(实例死了)→ 输出 "X"(区分于 "0":0 是活着但没连接)
conns_of() {
local port="$1" out
out=$(timeout 5 curl -s --max-time 4 "http://127.0.0.1:$port/metrics" 2>/dev/null \
| grep '^cloudflared_tunnel_ha_connections' | awk '{print $2}')
if [ -z "$out" ]; then
echo "X"
else
echo "$out"
fi
}
# 重启指定的一组服务(带最小间隔保护)
# $1 = 原因
# $2... = 要重启的服务名
#
# 设 DRY_RUN=1 时只打印不真重启 —— 用来验证判定逻辑是否正确
# (双实例的判定分支不少,直接上生产风险大)。
restart_services() {
local why="$1"; shift
local now last gap total_now
now=$(date +%s)
last=0
[ -f "$LAST_RESTART_FILE" ] && last=$(cat "$LAST_RESTART_FILE" 2>/dev/null || echo 0)
gap=$((now - last))
# 总连接数为 0 = 真的断了,不是抖动 —— 这种不受间隔限制
total_now=$TOTAL
if [ "${total_now:-1}" != "0" ] && [ "$gap" -lt "$MIN_RESTART_GAP" ]; then
# 刚重启过还没到间隔:这次先不重启,
# 让 cloudflared 自己把连接建起来(它本来就在重试)。
log "$why —— 但距上次重启才 ${gap} 秒(下限 ${MIN_RESTART_GAP} 秒),先不重启"
write_state 0 0 "${BUILT:-0}"
exit 0
fi
if [ "${DRY_RUN:-0}" = "1" ]; then
log "[DRY_RUN] $why —— 本应重启 [$*](距上次 ${gap} 秒)"
exit 0
fi
log "$why —— 重启 [$*](距上次 ${gap} 秒)"
echo "$now" > "$LAST_RESTART_FILE"
for svc in "$@"; do
systemctl restart "$svc"
done
write_state 0 0 0
sleep 25
log "重启后地址: $(cat "$URL_FILE" 2>/dev/null || echo '(还没拿到)')"
exit 0
}
ZERO=$(read_state zero 0)
FAIL=$(read_state fail 0)
BUILT=$(read_state built 0)
# ---------- 信号 A:分别读两个实例 ----------
TOTAL=0
DEAD_SVCS=()
LOW_SVCS=()
DETAIL_PARTS=()
NOW_TS=$(date +%s)
LAST_R_NOW=$(cat "$LAST_RESTART_FILE" 2>/dev/null || echo 0)
SINCE_RESTART=$(( NOW_TS - LAST_R_NOW ))
for entry in "${INSTANCES[@]}"; do
svc="${entry%%:*}"
port="${entry##*:}"
c=$(conns_of "$port")
if [ "$c" = "X" ]; then
# metrics 端口不通:要么进程没了,要么卡死到不响应
DEAD_SVCS+=("$svc")
if systemctl is-active --quiet "$svc"; then
DETAIL_PARTS+=("$svc=无响应")
else
DETAIL_PARTS+=("$svc=服务停")
fi
continue
fi
TOTAL=$((TOTAL + c))
DETAIL_PARTS+=("$svc=$c")
# 连接数为 0 也要拉起来 —— 端口响应但一条连接都没有,
# 说明这个实例根本没在工作(另一个实例可能还在扛着,
# 所以公网看起来是通的,光看公网永远发现不了)。
#
# 但要给宽限期:刚重启的实例连接数本来就是 0,
# 这时候重启会把它按回去,陷入"永远建不起来"的死循环。
if [ "$c" = "0" ] && [ "$SINCE_RESTART" -gt "$GRACE" ]; then
DEAD_SVCS+=("$svc")
continue
fi
if [ "$c" -le 1 ] 2>/dev/null; then
LOW_SVCS+=("$svc")
fi
done
DETAIL_CONNS=$(IFS=, ; echo "${DETAIL_PARTS[*]}")
# 总连接数到过 BUILT_MIN 就记下来(跨多次检查保留)
if [ "$TOTAL" -ge "$BUILT_MIN" ] 2>/dev/null; then
if [ "$BUILT" != "1" ]; then
log "本次已建齐(合计 ${TOTAL} 条:${DETAIL_CONNS})"
fi
BUILT=1
fi
# 某个实例整个没响应 -> 直接把它拉起来(这不受公网状态影响,
# 因为另一个实例可能还在扛着,公网看起来是通的)
if [ "${#DEAD_SVCS[@]}" -gt 0 ]; then
restart_services "实例无响应(${DETAIL_CONNS})" "${DEAD_SVCS[@]}"
fi
# ---------- 信号 B:公网真的通吗 ----------
URL=$(cat "$URL_FILE" 2>/dev/null | tr -d '\r\n')
CODE="000"
if [ -n "$URL" ]; then
CODE=$(timeout 20 curl -4 -s -o /dev/null -w '%{http_code}' \
-H 'User-Agent: LanRemote/1.8.2' "$URL/v1/health" 2>/dev/null)
CODE=${CODE:-000}
fi
PUBLIC_OK=0
[ "$CODE" = "200" ] && PUBLIC_OK=1
# ---------- 信号 C:日志僵死了吗 ----------
# 两个日志都超过 STALE_MINUTES 没动静才算僵死
LOG_STALE=1
NOW=$(date +%s)
for lg in "${TUNNEL_LOGS[@]}"; do
if [ -f "$lg" ]; then
LAST=$(stat -c %Y "$lg" 2>/dev/null || echo 0)
if [ "$LAST" -gt 0 ] && [ $((NOW - LAST)) -le $((STALE_MINUTES * 60)) ]; then
LOG_STALE=0
break
fi
fi
done
# ---------- 判断 ----------
if [ "$PUBLIC_OK" = "1" ]; then
# 公网通就是真的通,计数器清零
if [ "$ZERO" != "0" ] || [ "$FAIL" != "0" ]; then
log "公网恢复(HTTP 200),计数清零(之前 zero=$ZERO fail=$FAIL)"
fi
write_state 0 0 "${BUILT:-0}"
exit 0
fi
# 公网不通 —— 看是哪种原因
DETAIL="HTTP $CODE,${DETAIL_CONNS}"
ALL_SVCS=()
for entry in "${INSTANCES[@]}"; do ALL_SVCS+=("${entry%%:*}"); done
if [ "$LOG_STALE" = "1" ] && [ "$FAIL" -ge 1 ]; then
restart_services "两个日志都 ${STALE_MINUTES} 分钟没动静加上公网不通(进程卡死)" \
"${ALL_SVCS[@]}"
fi
FAIL=$((FAIL + 1))
# 总连接数 <= 1 也算"降级"。
#
# 原来是 == 0 才算,但实测**只剩 1 条连接时跨机房回源就会失败**
# (用户撞上的 530 就是这种:请求落 SEA,隧道只剩 LAX 一条)。
# 所以 1 和 0 一样危险,都计入降级计数。
DEGRADED=0
if [ "$TOTAL" -le 1 ] 2>/dev/null; then
ZERO=$((ZERO + 1))
DEGRADED=1
fi
log "公网不通($DETAIL),连续第 $FAIL 次(降级 $ZERO 次)"
if [ "$DEGRADED" = "1" ]; then
LAST_R=$(cat "$LAST_RESTART_FILE" 2>/dev/null || echo 0)
SINCE=$(( NOW - LAST_R ))
# 建齐过(>=BUILT_MIN)又垮下来 = 链路本来能撑住,现在是真故障
# -> 不用再等宽限期,立刻重启
# 从没建齐过 = 它还在努力建
# -> 继续等,别打断它
if [ "${BUILT:-0}" = "1" ]; then
restart_services "公网不通,且本次重启后曾建齐过连接(确认故障,立即重启)" \
"${ALL_SVCS[@]}"
elif [ "$SINCE" -lt "$GRACE" ]; then
log "公网不通且只剩 ${TOTAL} 条连接,但本次重启还没建齐过(${SINCE}/${GRACE} 秒)—— 继续等它建"
else
restart_services "公网不通且 ${SINCE} 秒都没建齐(链路或边缘有问题,重启试试)" \
"${ALL_SVCS[@]}"
fi
fi
if [ "$FAIL" -ge "$THRESHOLD" ] || [ "$ZERO" -ge "$THRESHOLD" ]; then
# 连接还健康的话,用更宽的阈值 —— 别把"抖一下"升级成 1 分钟中断
if [ "$TOTAL" -ge "$BUILT_MIN" ] 2>/dev/null && [ "$ZERO" -lt "$THRESHOLD" ]; then
if [ "$FAIL" -lt "$THRESHOLD_HEALTHY" ]; then
log "公网连续 $FAIL 次不通,但连接健康(合计 $TOTAL 条)—— 再等等,不重启"
write_state "$ZERO" "$FAIL" "$BUILT"
exit 0
fi
fi
# 有实例只是"低连接"(不是完全没响应)时,只重启那些实例;
# 全都低就重启全部。
if [ "${#LOW_SVCS[@]}" -gt 0 ] && [ "${#LOW_SVCS[@]}" -lt "${#ALL_SVCS[@]}" ]; then
restart_services "连续 $FAIL 次公网不通(含 $ZERO 次降级,低连接实例)" \
"${LOW_SVCS[@]}"
else
restart_services "连续 $FAIL 次公网不通(含 $ZERO 次降级)" "${ALL_SVCS[@]}"
fi
fi
write_state "$ZERO" "$FAIL" "$BUILT"