结论是:只有当分流发生在用户可见的入口之前、且各版本的用户来源结构一致时,版本间的数据才可以直接比较;否则你看到的差异更可能来自样本污染,而不是版本效果。缺少权限或完整日志时,仍可用“分流前后用户标识是否稳定”这一最小动作做初筛,但它只能提示污染存在,不能证明污染来自哪一层。下面给出可执行的判断路径。
样本污染不等于埋点报错或数据缺失。它指进入 A 版本和 B 版本的访客,在来源、设备、登录状态或时间分布上本就不同,导致后续指标差异无法归因到版本。常见的三种破坏方式:
判断顺序应是先排除标识问题,再看来源结构,最后才讨论指标差异。跳过前两步直接比较转化率,结论往往站不住。
如果你拿不到分流服务配置,也没有后端日志权限,可以从前端可观察的痕迹入手:
这三个动作的结果会直接决定下一步:标识不稳定时,先修分流逻辑再谈分析;来源结构失衡时,改用分层比较或先做配额分流;两者都正常时,才值得继续看指标。
假设某页面把访客随机分到 A、B 两版,A 版整体转化率 3%,B 版 5%。表面看 B 更好。但按来源拆分后发现,B 组里来自站内推荐位的访客占比更高,而这类访客本身转化意愿就强。此时两组不可直接比较。若把来源作为分层变量,在同一来源内比较,差距可能缩小甚至反转。这个例子只说明比较方法,不代表任何真实项目结果。
需要提醒的是,请求量或抓取量归零、某个版本数据突然减少,都不能单独证明分流处理正确。它们也可能是采集脚本未加载、页面跳转丢失、缓存命中差异等造成的。要区分这些解释,必须回到标识稳定性和来源结构这两个证据上。
有一种情况会让“标识稳定即无污染”的判断失效:分流在服务端完成,但用户标识由前端生成。此时同一用户在服务端被分到 A 版,前端每次加载却生成新标识,看起来标识稳定,实际每次都是新样本,两组的用户构成仍然不可比。判断方法是看标识是否在首次请求时就已存在,而不是看它刷新后是否变化。
另一个边界是权限缺失下的推断限度。你只能观察到前端痕迹时,无法确认分流发生在哪一层,也无法排除服务端按用户特征做定向分配。因此最小动作的结论只能是“存在污染可能”或“未发现明显污染”,不能写成“分流完全随机”。
无论当前能否拿到完整数据,都应固定一份最小记录:用户标识、分配版本、首次曝光时间、来源类型、设备类型。每次分析前先跑一遍标识跨版本检查,把结果和检查时间一起存档。这样当指标出现异常时,你能快速区分是版本变化还是样本结构变化。如果标识检查反复失败,优先修分流而不是继续调指标;如果标识正常但来源结构持续失衡,就改用分层或配额分流,再重新积累数据。缺少权限不是停止诊断的理由,但必须明确当前证据能支持到哪一步,不能把前端观察当成完整归因。