先查执行。目标用户分析里的试验,只要“目标人群是否真的被触达”这一步没有留下可核对的记录,后面所有关于假设对错的讨论都缺少前提。更准确地说:先花半天确认试验有没有按设计发生,再决定是否推翻假设。若执行证据完整、触达记录清楚,而结果仍无变化,才轮到质疑人群划分或需求判断。
面对“结果没动”,常见有两种反应:一种是直接改人群定义、换标签体系,认为原来的划分错了;另一种是停下手上的分析,回头核对试验到底有没有落地。两者都合理,但成立条件不同。
判断依据可以归结为一句:如果执行失败和假设错误会产生同样的“无变化”表象,就必须先排除执行失败。目标用户分析尤其如此,因为人群定向、名单导入、标签生效这些步骤,任何一环断了,看到的都是同一片平静。
不要只看后台“已开启”的状态,那只能证明配置存在,不能证明目标用户被触达。
这三个动作做完,你会得到两种明确结论之一:执行有缺口,或执行无缺口。前者先把缺口补上并重跑,后者才进入假设检验。
执行证据完整时,结果没变化仍不等于假设错了。需要区分:
区分它们靠的是证据链,而不是感觉。比如:触达记录显示目标用户确实收到了干预,但站内行为与对照组几乎一致,且这个人群在历史数据里本就对同类干预不敏感——这更支持“干预太弱”或“人群不成立”,而不是执行问题。
假设某次目标用户分析要把“近30天浏览过某类内容但未收藏”的人单独分组做试验。结果一周后该组指标与对照组无差异。
按上面的顺序:先抽样核对,发现这批人里有相当比例在试验开始前已经因为其他规则被排除,实际进入试验的只是原人群的一小部分。此时正确动作是修筛选规则并重跑,而不是宣布“浏览未收藏”这个划分无效。反过来,如果抽样显示触达完整、时间窗口也够,指标仍不动,才值得回头质疑这个人群定义是否真的对应一类有共同需求的人。
这个例子的关键不是数字,而是顺序:先证明试验发生了,再谈试验说明了什么。
有一种情况可以先查假设:试验的触达由系统自动完成,且你能直接看到目标人群的触达计数与预期一致,同时该通道此前已被反复验证可靠。此时执行缺口概率低,继续在核对上花时间收益有限。但即便如此,也应保留一份触达记录,作为日后判断“是执行问题还是假设问题”的依据。
把执行核对做成一次性的、可复查的记录,下一次遇到“没变化”时,你就能更快地决定该修哪一头,而不是在两种解释之间反复猜测。