TECHNICAL WALKTHROUGH / CHECKED

运营 A/B 分析看板技术执行说明

统计有效性优先的实验发布门

CURRENT IMPLEMENTATION

当前没有 AI 模型;它对聚合计数执行 z-test、置信区间、SRM、power 与重复看数检查。

AI 边界

没有 AI 模型,也不接收事件级随机化或护栏数据。

人工权限

实验负责人负责预注册、序贯分析和业务限制确认。

运行拓扑:用户如何抵达结果

页面负责收集与组装输入;合同、引擎和回执负责把边界变成可检查的执行链。

  1. 01

    页面交互

    实验参数表和统计可视化,不是 Chatbot。

    当前执行
  2. 02

    AbDashboardInput

    输入是 A/B 聚合访客和转化计数,不含事件级用户记录。

    当前执行
  3. 03

    分阶段引擎

    计数合法性 → SRM → 样本/Power → z-test/CI → practical lift → sequential peeking → ordered release

    当前执行
  4. 04

    ABResult + release policy

    JSON 返回统计量和 invalid/collect/hold/ship/keep-control 明确状态。

    当前执行
MODEL INPUT AND OUTPUT合同不接受

用户与统计函数交互,无模型调用。

EXECUTION ORDER

数字控件直接进入统计合同。

模型、算法与工具逐项列账

模型名、规则引擎、检索器、评测器和控制层分开陈述;相似名称不等于真实调用。

statistical test suite

当前执行

聚合转化计数产生效应量、区间、p-value 与有序发布决定。

由页面 Demo 或 POST /api/labs/:slug 同步调用;无外部推理请求。

Evaluation

Two-proportion z-test

当前执行

聚合转化计数计算 z 与 p-value。

Evaluation

Confidence interval

当前执行

返回可配置 alpha 下的 lift 区间。

Evaluation

Sample-ratio mismatch

当前执行

期望分配与实际样本量生成 SRM 检查。

Evaluation

Power calculation

当前执行

估算 80% power 所需每组样本。

Control

Sequential-peeking detection

当前执行

analysisCount>1 标记重复查看风险。

Control

Practical significance

当前执行

实际 lift 需超过 minimumPracticalLift。

Agent / Harness

Ordered release policy

当前执行

固定优先级避免有利指标掩盖随机化失败。

Observability

Missing-guardrail disclosure

当前执行

业务护栏明确显示 not-supplied。

输入合同、分步执行与结构化输出

随机化或样本失败必须优先于显著 lift,防止有利指标掩盖实验无效。

INPUT

AbDashboardInput

不上传实验日志,也不验证真实随机化分配;事件 adapter 尚未接入。

  • nA
  • cA
  • nB
  • cB
  • alpha
  • expectedAllocationB
  • minimumPracticalLift
  • analysisLooks
STAGED EXECUTION

计数合法性 → SRM → 样本/Power → z-test/CI → practical lift → sequential peeking → ordered release

  1. 01

    读取 A/B 访客、转化、alpha、分配和最小 lift。

    AbDashboardInputaggregate experiment

  2. 02

    计算组内转化率与期望样本分配。

    aggregate experimentrate + allocation context

  3. 03

    执行两比例 z 检验、区间、SRM 和 power。

    rate contextstatistical diagnostics

  4. 04

    按随机化、样本、peeking 和实际显著性顺序门控。

    diagnosticsrelease.decision

  5. 05

    输出 invalid/collect/hold/ship/keep-control。

    release diagnosticsrelease decision

  6. 06

    暴露 SRM、power 缺口、peeking 和未提供护栏。

    decisiondiagnostics + limitations

OUTPUT

ABResult + release policy

一个聚合实验快照和一次发布诊断。

  • rates
  • lift
  • confidenceInterval
  • pValue
  • srm
  • power
  • decision
  • missingGuardrails

Prompt 与 Schema 的四层装配

System、Few-shot、用户运行输入与输出格式分别标注;没有 Prompt 的项目不会假装存在 Prompt。

  1. 01

    系统约束

    没有 System Prompt;统计公式、有序诊断优先级和业务护栏披露承担系统约束。

    合同不接受
  2. 02

    少样本

    不注入 Few-shot。baseline / stress 只用于可复现测试,不进入模型上下文。

    合同不接受
  3. 03

    运行时输入

    没有文本 Prompt。

    当前执行
  4. 04

    输出合同

    输出形状由 Zod + ABResult 与 TypeScript 返回契约决定,不靠 One-shot 示例暗示。

    当前执行

多模态准入矩阵:每一项都有明确状态

图片、音频、视频和数字人不会用空字段含混带过;未接入就明确写出未接入。

文本

当前执行

只有决策状态和限制说明使用文本标签。

表格 / JSON

当前执行

输入计数和输出统计量都是聚合表。

图片

合同不接受

严格 JSON 合同不接收图片;未知字段会被拒绝,不会保留空占位。

音频

合同不接受

没有音频上传、ASR 或声学特征管道。

视频

合同不接受

没有视频上传、解码、分镜或帧级推理入口。

数字人

合同不接受

没有数字人资产、驱动参数或渲染合同。

人工输入 / 复核

当前执行

实验 owner 负责预注册、序贯方案和真实护栏确认。

用户在页面上操作,样本用于验证边界

预设不是替用户做决定,也不是偷偷注入 Few-shot;它让同一合同在基线与压力条件下可复现。

交互表面

实验参数表和统计可视化,不是 Chatbot。

选择样本的目的

基线展示发布判断;analysisLooks=5 样本验证重复看数会触发复核。

重复看数

STRESS TEST

保持实验结果不变,将 analysis looks 从 1 提高到 5。

触发 sequential review

当前项目不建立外部聊天会话;页面输入进入严格合同,由规则、算法或确定性 Harness 执行。