先给结论:小样本下不要问“这个差异是不是趋势”,而要问“如果换一批同质样本,这个差异还能不能稳定重现”。做不到重现,就把它当成待验证线索,而不是结论。下面以你手里的一张渠道日报或一个落地页的转化明细为对象,走一遍从识别到处置的完整动作。
小样本最容易骗人的地方,不是数字错,而是数字对但没有代表性。常见有三种:
判断动作:把构成这个指标的每一条原始记录列出来,标记贡献最大的前几条。如果前几条拿掉后方向就变,这个结果属于极端值拉动,不能进入结论层。
不要停在“A渠道比B渠道好”,要写成一句可被推翻的话,并提前说明什么结果会让你放弃它。假设示例:
假设:在同一落地页、同一时间段内,来自A渠道的会话转化率高于B渠道。 推翻条件:把样本按天或按周分组后,多数分组里A不高于B,或差异方向随机翻转。
这一步的实际作用是:你不再需要为“谁更好”争论,只需要看分组后方向是否稳定。方向不稳定,就说明当前样本还不足以支撑任何渠道取舍。
样本量小,做不了复杂建模,但可以做两件低成本的事:
结果如何影响下一步:如果分组后方向一致、留一后不翻转,可以把这个差异升级为“暂定结论”,但只用于指导下一步取样,不直接用于预算重分配。如果方向频繁翻转,就停止比较,转而先扩大样本或统一采集口径。
假设某落地页一周内A渠道30次会话、2次转化,B渠道28次会话、1次转化。表面看A转化率约6.7%,B约3.6%,像是A更好。
但按天拆开后,A的2次转化都发生在同一天,其余几天为0;B的1次转化在另一天。此时留一法去掉A那天,A转化率归零。这个差异更合理的解释是单日偶发,而不是渠道质量差异。正确动作是继续观察或补量,而不是立刻把预算挪向A。
注意:这里只是说明比较方法的假设例子,不冒充任何真实项目结果。
小样本得出的任何“结论”,都应附带适用条件,否则规模化后必然出现例外。建议在记录里明确写出:
当条件改变、规模化后出现例外时,先核对是不是前提被打破,而不是直接否定原结论。把边界写清楚,下一次复用这条经验时才知道该在哪里停手。