#!/usr/bin/env node /** * run-regression.mjs — headless 回归 runner(CI / 本地均可) * * 前置:仓库根目录起 dev-server(node site/dev-server.js) * 依赖:npm i -D playwright(CI 专用;运行时零依赖不变) * 运行:node tools/run-regression.mjs * 产出:tests/report.json(首页「测试通过率」数据源)+ tests/report-junit.xml * * 退出码: * 0 — 全部通过(fail === 0) * 1 — 有断言失败或页面异常 * 2 — 环境问题(服务未起 / playwright 缺失) * * 设计说明: * - 断言在测试页的 iframe 演示页加载后自动执行,故需等汇总区出现结果。 * - 并发下 iframe 可能抢不到主线程而超时,因此**超时后重试一次**; * 两次都超时记为 `timeout`(与断言失败分开,不计入通过率分母)。 * 这与 tests/_collect.html 的口径保持一致。 * - **采集失败**(页面/帧根本没跑出结果,`no-result` / `timeout` / `page-error`)与 * **断言失败**分开计数:前者不进 passRate 分母,单列在 `collectionFailures` 里。 * 判据修改的理由与反例见下方 `isCollectionFailure` 的注释(S6-P30)。 * - 非满分时**保留上一次报告**为 `tests/report-prev.json`(S5-P17), * 使「1016/1017」这类偶发失败事后可回放(此前每次运行都覆盖,无法定位)。 */ import { writeFileSync, readFileSync, existsSync, mkdirSync } from 'fs'; import { fileURLToPath } from 'url'; import { dirname, join } from 'path'; const __dirname = dirname(fileURLToPath(import.meta.url)); const ROOT = join(__dirname, '..'); // 仓库根目录(与 cwd 无关,CI 里更稳) const OUT_DIR = join(ROOT, 'tests'); const BASE = process.env.REG_BASE || 'http://127.0.0.1:3311'; const CONC = Number(process.env.REG_CONC) || 6; const PAGE_TIMEOUT = 15000; const ASSERTS_TIMEOUT = 8000; const RETRY_LIMIT = 2; // 总尝试次数(1 次原始 + 1 次重试) /* ---------- 环境自检 ---------- */ async function checkServer() { try { const r = await fetch(`${BASE}/site/data.json`, { signal: AbortSignal.timeout(5000) }); if (!r.ok) throw new Error(`HTTP ${r.status}`); return await r.json(); } catch (e) { console.error(`[FATAL] 无法连接 ${BASE}/site/data.json — ${e.message}`); console.error(' 请先在仓库根目录运行:node site/dev-server.js'); process.exit(2); } } let chromium; try { ({ chromium } = await import('playwright')); } catch { console.error('[FATAL] 未安装 playwright。CI 环境请先运行:npm i -D playwright && npx playwright install --with-deps chromium'); process.exit(2); } /* ---------- 单页执行(含重试) ---------- */ async function runOne(browser, slug, attempt = 1) { const p = await browser.newPage({ viewport: { width: 1200, height: 800 } }); try { await p.goto(`${BASE}/tests/${slug}.html`, { waitUntil: 'load', timeout: PAGE_TIMEOUT }); /* 断言在 iframe 演示页就绪后自动跑;等汇总区不再是初始值 */ await p .waitForFunction(() => { const el = document.getElementById('sum-total'); return el && el.textContent !== '总数 0'; }, { timeout: ASSERTS_TIMEOUT }) .catch(() => {}); /* 兜底:若自动跑未触发,手动点一次 */ const btn = p.locator('#run-asserts'); if (await btn.count()) { await btn.click().catch(() => {}); await p.waitForTimeout(200); } const r = await p.evaluate(() => { const num = (s) => parseInt(String(s || '0').replace(/\D/g, ''), 10) || 0; const t = (id) => { const n = document.getElementById(id); return n ? n.textContent : '0'; }; const rows = [...document.querySelectorAll('#result-list .t-row')] .filter((li) => li.querySelector('.t-pill')?.classList.contains('fail')); const failures = rows.map((li) => li.querySelector('.id')?.textContent || '?').slice(0, 8); /* 失败详情(节点名 + 实测比值)由 tests/_runtime.js 放在 window.__koleResult.failureDetails。 只存断言 ID 的话,偶发失败(如对比度采到过渡中间帧)事后无法回溯 —— 2026-09-20 那次 0.56% 的偶发就是靠手工压测才定位的,因此这里把 err 一并落盘。 */ const detail = (window.__koleResult && window.__koleResult.failureDetails) || null; const errText = detail ? detail.map((d) => d.id + (d.err ? ' → ' + d.err : '')).join(' ; ') : ''; return { total: num(t('sum-total')), pass: num(t('sum-pass')), fail: num(t('sum-fail')), skip: num(t('sum-skip')), failures, errorDetail: errText || undefined, }; }); // total === 0 说明断言未执行(页面或帧有问题)—— 判为需要重试 if (r.total === 0 && attempt < RETRY_LIMIT) { await p.close(); await new Promise((res) => setTimeout(res, 300)); return runOne(browser, slug, attempt + 1); } if (r.total === 0) { await p.close(); return { slug, total: 0, pass: 0, fail: 1, skip: 0, failures: ['no-result'] }; } await p.close(); return { slug, ...r }; } catch (e) { await p.close().catch(() => {}); if (attempt < RETRY_LIMIT) { await new Promise((res) => setTimeout(res, 300)); return runOne(browser, slug, attempt + 1); } // 两次都失败:区分「超时」与「页面异常」 const isTimeout = /Timeout|timeout/.test(String(e.message || e)); return { slug, total: 0, pass: 0, fail: isTimeout ? 0 : 1, // 超时不计入 fail(见文件头说明) skip: 0, failures: [isTimeout ? 'timeout' : 'page-error'], errorDetail: String(e.message || e).slice(0, 200), }; } } /* 采集失败 = 页面/帧根本没跑出结果,而不是断言判负。 * * 判据修改(S6-P30,附理由 + 反例): * 理由:`no-result` / `page-error` 表示「这一次没采集到」,与「组件真的坏了」是两类事实。 * 把前者计入 passRate 分母,会让**采集环境问题**表现为「回归失败」—— * 实测:跨批次整轮连跑 62 次中有 2 次非 100%,且报告未落盘无法回放判断类别。 * 反例(本判据必须能拦住真缺陷):`no-result` **只在两次尝试都拿不到结果**时才产生, * 单次抖动已被重试吸收;所以「组件坏了导致页面跑不出结果」这一情形—— * 若两次都坏——仍会以 collectionFailures 单独列出并让退出码为 1(见文件尾), * 即**不会被静默吞掉**。只有连续两次都发生的采集失败才会走到这里, * 它已不是"偶发",因此额外要求「同一轮里 collectionFailures 非空即退出码非 0」。 * 口径对齐:`tests/_collect.html` 的 timedOut 早已如此单列,runner 此前只在 timeout 上对齐。 */ function isCollectionFailure(r) { return (r.failures || []).some((f) => f === 'no-result' || f === 'timeout' || f === 'page-error'); } /* ---------- 主流程 ---------- */ const data = await checkServer(); const slugs = data.components.map((c) => c.slug); console.log(`[regression] ${slugs.length} 个组件 / 并发 ${CONC} / 目标 ${BASE}`); const browser = await chromium.launch(); const results = []; for (let i = 0; i < slugs.length; i += CONC) { const batch = slugs.slice(i, i + CONC); const batchResults = await Promise.all(batch.map((s) => runOne(browser, s))); results.push(...batchResults); process.stdout.write(`\r[regression] ${Math.min(i + CONC, slugs.length)}/${slugs.length}`); } console.log(''); await browser.close(); /* ---------- 汇总 ---------- */ const totalAssert = results.reduce((s, r) => s + r.total, 0); const passAssert = results.reduce((s, r) => s + r.pass, 0); const failAssert = results.reduce((s, r) => s + r.fail, 0); const skipAssert = results.reduce((s, r) => s + r.skip, 0); /* 通过率分母排除两类:① N/A(静态组件无交互面等);② 采集失败(根本没跑出结果,见 isCollectionFailure) */ const collectionFailures = results.filter(isCollectionFailure); const collectionSlugs = new Set(collectionFailures.map((r) => r.slug)); const assertResults = results.filter((r) => !collectionSlugs.has(r.slug)); const denom = assertResults.reduce((s, r) => s + r.pass, 0) + assertResults.reduce((s, r) => s + r.fail, 0); const timedOut = results.filter((r) => (r.failures || []).includes('timeout')).map((r) => r.slug); const pagesAllPass = results.filter((r) => r.fail === 0 && r.total > 0).length; const report = { generated: new Date().toISOString().slice(0, 19).replace('T', ' '), version: data.meta?.version || '', pages: results.length, pagesAllPass, passRate: denom ? Math.round((passAssert / denom) * 1000) / 10 : 0, /* na 与 skip 是同一批(静态组件无交互面等),不重复计算 */ assertions: { total: totalAssert, pass: passAssert, fail: failAssert, skip: skipAssert, na: skipAssert }, timedOut, /* 采集失败单列(与断言失败分开;不计入 passRate 分母,但会让退出码非 0,见文件尾) */ collectionFailures: collectionFailures.map((r) => ({ slug: r.slug, kind: (r.failures || [])[0], errorDetail: r.errorDetail, })), failedPages: results /* 只列真断言失败:采集失败(no-result / timeout / page-error)另立 collectionFailures, 否则「button: no-result」会被读成「button 的断言坏了」——两类事实不应混在一张表里 */ .filter((r) => r.fail > 0 && !isCollectionFailure(r)) .map((r) => ({ slug: r.slug, fail: r.fail, failures: r.failures, errorDetail: r.errorDetail })), }; if (!existsSync(OUT_DIR)) mkdirSync(OUT_DIR, { recursive: true }); /* S5-P17:非满分时先把**上一次**报告留档为 report-prev.json,再覆盖本次结果。 动机(实测):2026-09-19 连跑 27 次中出现 2 次 1016/1017,但因每次运行都覆盖 report.json, 失败那次的现场无法回放 —— 只能证明"发生过",无法回答"哪条断言、期望/实际分别是什么"。 现在任何一次非满分(含采集失败)都会保留前一份,事后可直接 diff 两份报告定位。 */ const REPORT_PATH = join(OUT_DIR, 'report.json'); const isPerfect = failAssert === 0 && collectionFailures.length === 0; if (!isPerfect && existsSync(REPORT_PATH)) { try { writeFileSync(join(OUT_DIR, 'report-prev.json'), readFileSync(REPORT_PATH, 'utf8')); console.log('kept: tests/report-prev.json(本次非满分,已保留上一次报告供回放)'); } catch (e) { console.warn(`[warn] 未能保留上一次报告:${e.message}`); } } writeFileSync(REPORT_PATH, JSON.stringify(report, null, 2) + '\n'); /* ---------- JUnit XML(供 CI 展示) ---------- */ const esc = (s) => String(s).replace(/&/g, '&').replace(/ ` ` + (r.fail > 0 ? `${r.fail} failed` : '') + `` ) .join('\n'); writeFileSync( join(OUT_DIR, 'report-junit.xml'), `\n\n${cases}\n\n` ); /* ---------- 输出与退出码 ---------- */ console.log( `passRate ${report.passRate}% | pages ${results.length} (all-pass ${pagesAllPass}) | assertions ${passAssert}/${denom}` + (skipAssert ? ` | N/A ${totalAssert - denom}` : '') + (collectionFailures.length ? ` | 采集失败 ${collectionFailures.length} (${collectionFailures .slice(0, 5) .map((r) => r.slug + ':' + (r.failures || [])[0]) .join(', ')})` : '') ); if (timedOut.length) { console.warn(`[warn] ${timedOut.length} 个页面两次尝试均超时(采集环境问题,非断言失败):${timedOut.join(', ')}`); console.warn(' 可在安静环境重跑一次确认;若持续超时需排查该页性能。'); } console.log('written: tests/report.json, tests/report-junit.xml'); if (failAssert > 0) { console.error(`\n[FAIL] ${failAssert} 条断言失败:`); report.failedPages.slice(0, 10).forEach((p) => { console.error(` ${p.slug}: ${(p.failures || []).join(', ')}`); if (p.errorDetail) console.error(` ${p.errorDetail}`); }); process.exit(1); } /* 采集失败同样让退出码为 1(不静默)——它已通过重试,两次都失败就不是抖动。 与 failAssert 分开报的原因见 isCollectionFailure 的注释(S6-P30)。 */ if (collectionFailures.length > 0) { console.error(`\n[FAIL] ${collectionFailures.length} 个页面两次尝试后仍未产出结果(采集失败,非断言失败):`); collectionFailures.slice(0, 10).forEach((r) => { console.error(` ${r.slug}: ${(r.failures || []).join(', ')}${r.errorDetail ? ' — ' + r.errorDetail : ''}`); }); console.error(' 这一类不计入 passRate 分母,但退出码仍为 1;请重跑或排查该页。'); process.exit(1); } console.log('\n[OK] 全部通过'); process.exit(0);