上一轮我照着自己写在手册里的办法手工核对, 结果 6 条全部误报"对不上"(坑在
日志结论在结束时、报告 started 在开始时, 差一个 elapsed_s)。手敲 PowerShell
容易出错, 所以做成脚本: 代码里的时间关系比人记的可靠。
用法: python scripts/audit_runs.py (退出码 0 = 全部吻合)
检查三件事:
1. 每份报告都能在日志里找到对应的"开始行", 且时间关系(开始+耗时=结论时刻)成立
2. 日志里每一轮都有对应报告
3. mock 残留: 同一秒扎堆的结论、或内容自相矛盾的结论
⛔ 写第一版时自己踩了同一类坑: 它拿"报告.started + elapsed"去找日志结论行,
能对上就说明 elapsed 一致 —— 于是"耗时不符"那个分支永远不可能触发, 是**死代码**。
看起来在查、实际查不到的东西比没有更糟(和"读不到就跳过"是同一种病)。
改成按日志里的"=== 开始: 体力换模块 ==="配对后, 时间关系和耗时才能各自独立核对。
13 个用例, 每个都是"必须能抓到某种问题"而不是"必须通过";
实测真实数据 6 轮/6 报告全部吻合, 造的三类坏数据(缺报告/耗时不符/内容矛盾)
全部被点名。全套 310/310 通过。
185 lines
7.2 KiB
Python
185 lines
7.2 KiB
Python
# -*- coding: utf-8 -*-
|
|
"""值守体检: 日志与报告交叉核对, 并挑出可疑记录。
|
|
|
|
用法: python audit_runs.py [--dir DIR] [--json]
|
|
退出码: 0 一切吻合 / 1 发现不一致
|
|
|
|
为什么需要这个脚本:
|
|
上一轮我照着自己写在 docs/WATCH.md 里的办法做核对, 结果 6 条全部报"对不上" ——
|
|
但数据其实是吻合的。坑在于: **日志的结论行写在一轮结束时, 报告的 started 是
|
|
开始时**, 两者天然差一个 elapsed_s。拿两个时间戳直接比必然全部失败。
|
|
|
|
正确关系是: 报告.started + elapsed ≈ 日志结论时刻。
|
|
|
|
代码里的时间关系比人记的可靠, 所以把核对做成脚本而不是让人照着文档敲
|
|
PowerShell —— 我手敲那次就误判了。
|
|
|
|
检查三件事:
|
|
1. 每份报告都能在日志里找到对应结论(时间对得上, 耗时和结果文本一致)
|
|
2. 日志里每条结论都有对应报告(没有"跑了但没留报告"的运行)
|
|
3. 疑似 mock 残留: 同一秒扎堆、或内容自相矛盾的结论行
|
|
"""
|
|
import argparse
|
|
import glob
|
|
import json
|
|
import os
|
|
import re
|
|
import sys
|
|
from collections import defaultdict
|
|
from datetime import datetime, timedelta
|
|
|
|
DIR = os.path.expanduser(os.path.join('~', 'lc_mcp', 'modules'))
|
|
LOG_NAME = 'convert.log'
|
|
# 报告.started 与日志结论时刻的允许偏差(两边各写一次时间戳)
|
|
TOL_S = 5
|
|
|
|
CONCLUSION_RE = re.compile(
|
|
r'^\[(?P<t>\d{4}-\d{2}-\d{2} \d{2}:\d{2}:\d{2})\]\s*===\s*(?P<result>.+?)\s*'
|
|
r'\((?P<ok>\w+)\), 耗时 (?P<secs>\d+)s ===')
|
|
START_RE = re.compile(
|
|
r'^\[(?P<t>\d{4}-\d{2}-\d{2} \d{2}:\d{2}:\d{2})\]\s*===\s*开始: 体力换模块\s*===')
|
|
# 明显不可能出现在真实运行里的说法
|
|
IMPOSSIBLE = ('powershell not found', 'not found', 'No such file')
|
|
|
|
|
|
def parse_runs(path):
|
|
"""把日志解析成一轮一轮的 (开始, 结束, 结果, 耗时)。
|
|
|
|
⛔ 为什么要配对而不是只取结论行: 第一版只用结论行, 拿"报告.started + elapsed"
|
|
去和结论时刻比 —— 能对上就说明 elapsed 一致, 所以"耗时不符"那个分支永远不可能
|
|
触发, 是死代码。看起来在查、实际查不到的东西比没有更糟。
|
|
改成按日志里的"=== 开始: 体力换模块 ===" 配对, 报告的 started 才能和**开始**时刻
|
|
真正对照, 耗时也能独立核对。
|
|
"""
|
|
out = []
|
|
if not os.path.exists(path):
|
|
return out
|
|
pending = []
|
|
with open(path, encoding='utf-8') as f:
|
|
for line in f:
|
|
line = line.strip()
|
|
ms = START_RE.match(line)
|
|
if ms:
|
|
pending.append(datetime.strptime(ms.group('t'), '%Y-%m-%d %H:%M:%S'))
|
|
continue
|
|
mc = CONCLUSION_RE.match(line)
|
|
if mc:
|
|
start = pending.pop(0) if pending else None
|
|
out.append({'start': start,
|
|
'end': datetime.strptime(mc.group('t'), '%Y-%m-%d %H:%M:%S'),
|
|
'result': mc.group('result'), 'ok': mc.group('ok'),
|
|
'secs': int(mc.group('secs')), 'line': line})
|
|
return out
|
|
|
|
|
|
# 兼容旧名字: 只要结论行
|
|
def parse_log(path):
|
|
return parse_runs(path)
|
|
|
|
|
|
def load_reports(d):
|
|
out = []
|
|
for p in sorted(glob.glob(os.path.join(d, 'convert_*.json'))):
|
|
try:
|
|
with open(p, encoding='utf-8') as f:
|
|
r = json.load(f)
|
|
except (OSError, ValueError):
|
|
continue
|
|
out.append({'file': os.path.basename(p),
|
|
'start': datetime.strptime(r['started'], '%Y-%m-%d %H:%M:%S'),
|
|
'secs': r.get('elapsed_s'), 'result': r.get('result', ''),
|
|
'ok': bool(r.get('ok'))})
|
|
out.sort(key=lambda r: r['start'])
|
|
return out
|
|
|
|
|
|
def same_second_clusters(conclusions):
|
|
"""同一秒里出现多行结论 = 几乎必然是测试批量产生的。"""
|
|
bysec = defaultdict(list)
|
|
for c in conclusions:
|
|
bysec[c['end']].append(c)
|
|
return {k: v for k, v in bysec.items() if len(v) > 1}
|
|
|
|
|
|
def impossible_claims(conclusions):
|
|
"""内容自相矛盾的结论(比如 powershell 明明在却说找不到)。"""
|
|
out = []
|
|
for c in conclusions:
|
|
low = c['result']
|
|
if any(k.lower() in low.lower() for k in IMPOSSIBLE):
|
|
out.append(c)
|
|
return out
|
|
|
|
|
|
def audit(d):
|
|
runs = parse_runs(os.path.join(d, LOG_NAME))
|
|
reports = load_reports(d)
|
|
problems = []
|
|
|
|
# 1. 每份报告都要有对应的一轮
|
|
for r in reports:
|
|
hit = [c for c in runs if c['start'] is not None
|
|
and abs((c['start'] - r['start']).total_seconds()) <= TOL_S]
|
|
if not hit:
|
|
problems.append('报告 %s (started %s) 在日志里找不到对应的开始行'
|
|
% (r['file'], r['start']))
|
|
continue
|
|
c = hit[0]
|
|
# 结论时刻应当 = 开始 + 耗时
|
|
expect_end = c['start'] + timedelta(seconds=r['secs'] or 0)
|
|
if abs((c['end'] - expect_end).total_seconds()) > TOL_S:
|
|
problems.append('%s 时间对不上: 开始 %s + 报告耗时 %ss 应为 %s, 日志结论在 %s'
|
|
% (r['file'], c['start'].strftime('%H:%M:%S'), r['secs'],
|
|
expect_end.strftime('%H:%M:%S'), c['end'].strftime('%H:%M:%S')))
|
|
if c['secs'] != r['secs']:
|
|
problems.append('%s 耗时不符: 日志 %ss vs 报告 %ss'
|
|
% (r['file'], c['secs'], r['secs']))
|
|
if c['result'] != r['result']:
|
|
problems.append('%s 结果文本不符:\n 日志 %s\n 报告 %s'
|
|
% (r['file'], c['result'], r['result']))
|
|
|
|
# 2. 每一轮都要有对应报告
|
|
for c in runs:
|
|
hit = [r for r in reports
|
|
if c['start'] is not None
|
|
and abs((r['start'] - c['start']).total_seconds()) <= TOL_S]
|
|
if not hit:
|
|
problems.append('日志 %s 那轮没有对应报告: %s'
|
|
% (c['end'].strftime('%H:%M:%S'), c['result'][:50]))
|
|
|
|
# 3. mock 残留
|
|
for sec, group in same_second_clusters(runs).items():
|
|
problems.append('同一秒(%s)出现 %d 行结论, 疑似测试残留'
|
|
% (sec.strftime('%H:%M:%S'), len(group)))
|
|
for c in impossible_claims(runs):
|
|
problems.append('可疑内容(%s): %s'
|
|
% (c['end'].strftime('%H:%M:%S'), c['result'][:60]))
|
|
|
|
return {'runs': len(runs), 'reports': len(reports), 'problems': problems}
|
|
|
|
|
|
def main(argv=None):
|
|
ap = argparse.ArgumentParser(description='值守体检: 日志与报告交叉核对')
|
|
ap.add_argument('--dir', default=DIR)
|
|
ap.add_argument('--json', action='store_true')
|
|
args = ap.parse_args(argv)
|
|
|
|
r = audit(args.dir)
|
|
if args.json:
|
|
json.dump(r, sys.stdout, ensure_ascii=False, indent=2)
|
|
print()
|
|
return 1 if r['problems'] else 0
|
|
|
|
print('日志 %d 轮 / 报告 %d 份' % (r['runs'], r['reports']))
|
|
if not r['problems']:
|
|
print('✅ 全部吻合, 没有可疑记录')
|
|
return 0
|
|
print('⚠️ 发现 %d 处问题:' % len(r['problems']))
|
|
for p in r['problems']:
|
|
print(' - %s' % p)
|
|
return 1
|
|
|
|
|
|
if __name__ == '__main__':
|
|
raise SystemExit(main())
|