周报 W34 · 报表周期 0817-0822
全球 16+(age > 16)。所有数字两位小数。看板窗口:次留 08-17~08-22,7 留与 20 轮两项 08-10~08-16。实验按上线至今整体读:置顶卡片 23006 为 08-04~08-23,等你回复 22066 为 07-29~08-23。本期最大变量:置顶卡片 08-18 下午从 20% 放量到 50%,余量组清零。
一句话:置顶卡片放量到 50% 之后依然全面正向——发消息用户比例 +0.20%、20 轮深度 +0.77%、人均消息 +0.69%、用户对话框复聊率 +0.62%、复聊后对方回复的 +0.75%,四类召回人群里三类显著抬升,留存三项持平(护栏没问题)。看板这边大盘活跃对话框次留跌破常态带,8-17 印尼独立日解释掉五分之一,其余是全渠道普跌。等你回复扣掉上线前差距后 P0/P1 全线净负,次留净 −0.23pp 显著,建议做去留决策。
看板 · 5 张表
1 · 看板四指标 · 周环比
次留是当周周一到周六的冻结值;7 留和 20 轮两项的数据周期比列标注早一周,所以这两项的环比在比「上上周 vs 上周」。
看板四指标 · 上期 vs 本期
| 指标 |
上期 |
本期 |
变化 |
相对变化 |
数据周期 |
| [大盘用户] |
| 活跃对话框次留 |
19.28% |
18.97% |
-0.30pp |
-1.58% |
0810-0815 → 0817-0822 |
| 活跃对话框7留 |
4.24% |
4.31% |
+0.07pp |
+1.65% |
0803-0809 → 0810-0816 |
| 20轮深度对话框次留 |
47.56% |
47.70% |
+0.14pp |
+0.29% |
0803-0809 → 0810-0816 |
| 20轮深度对话框7留 |
14.91% |
15.16% |
+0.25pp |
+1.70% |
0803-0809 → 0810-0816 |
| [新用户] |
| 活跃对话框次留 |
15.81% |
15.46% |
-0.35pp |
-2.19% |
0810-0815 → 0817-0822 |
| 活跃对话框7留 |
0.88% |
0.92% |
+0.04pp |
+4.48% |
0803-0809 → 0810-0816 |
| 20轮深度对话框次留 |
38.01% |
38.52% |
+0.51pp |
+1.35% |
0803-0809 → 0810-0816 |
| 20轮深度对话框7留 |
4.14% |
4.32% |
+0.18pp |
+4.36% |
0803-0809 → 0810-0816 |
分母:活跃对话框两项是会话条数(次留跨天去重、7 留按 session+day 逐日对);20 轮两项是「用户+day」逐日对。全部限 16+。
本周结论:大盘活跃对话框次留 18.97%,环比 -0.30pp,跌破前五周常态带下沿,是唯一需要解释的负向格。另外三格新用户指标(活跃 7 留、20 轮次留、20 轮 7 留)同时冲破上沿,但它们的数据周期是 08-10~08-16,还没覆盖本期,而且拆开后主要来自买量国家配比变化。
20 轮次留连跌三周的悬念解除:大盘 47.56% → 47.70%,老用户 48.72% → 48.76%,已经止住。
2 · 归因判定 · 哪几格要解释
判据是前 5 周区间:本期落在带内就当波动,不解释;跳出去才往下拆。
| 指标 |
本期 |
前 5 周区间 |
判定 |
处理 |
| [大盘用户] |
| 活跃对话框次留 |
18.97% |
19.07% ~ 19.28% |
破下沿 |
要解释 |
| 活跃对话框7留 |
4.31% |
4.09% ~ 4.35% |
区间内 |
区间内 · 波动 |
| 20轮深度对话框次留 |
47.70% |
47.56% ~ 48.13% |
区间内 |
区间内 · 波动 |
| 20轮深度对话框7留 |
15.16% |
14.80% ~ 15.24% |
区间内 |
区间内 · 波动 |
| [新用户] |
| 活跃对话框次留 |
15.46% |
15.38% ~ 15.81% |
区间内 |
区间内 · 波动 |
| 活跃对话框7留 |
0.92% |
0.84% ~ 0.89% |
破上沿 |
要解释 |
| 20轮深度对话框次留 |
38.52% |
37.87% ~ 38.26% |
破上沿 |
要解释 |
| 20轮深度对话框7留 |
4.32% |
3.96% ~ 4.25% |
破上沿 |
要解释 |
常态带取本期之前 5 个数据周的最小值与最大值。
3 · 大盘活跃次留 −0.31pp · 四刀拆解
四刀一次跑完:国家/性别/年龄/渠道。组内与构成相加约等于总变化。
按国家拆 · 大盘活跃对话框次留 08-10~08-15 → 08-17~08-22
| 国家 |
份额 |
留存 |
组内贡献 |
构成贡献 |
| 印尼 |
59.43% → 60.00% |
20.31% → 19.88% |
-0.256pp |
+0.006pp |
| 越南 |
14.00% → 14.43% |
15.48% → 15.12% |
-0.052pp |
-0.017pp |
| 菲律宾 |
16.16% → 15.64% |
16.93% → 17.06% |
+0.021pp |
+0.012pp |
| 阿语区 |
5.33% → 5.02% |
26.84% → 26.82% |
-0.001pp |
-0.023pp |
| 泰国 |
4.31% → 4.00% |
16.61% → 16.72% |
+0.005pp |
+0.008pp |
| 土耳其 |
0.65% → 0.79% |
20.39% → 19.00% |
-0.011pp |
+0.001pp |
| 中国 |
0.12% → 0.12% |
22.85% → 23.36% |
+0.001pp |
-0.000pp |
| 合计 |
|
19.28% → 18.97% |
-0.293pp |
-0.012pp |
按性别拆 · 大盘活跃对话框次留 08-10~08-15 → 08-17~08-22
| 性别 |
份额 |
留存 |
组内贡献 |
构成贡献 |
| 男 |
52.63% → 52.78% |
19.15% → 18.84% |
-0.162pp |
-0.000pp |
| 女 |
47.37% → 47.22% |
19.36% → 19.11% |
-0.121pp |
-0.000pp |
| 合计 |
|
19.25% → 18.97% |
-0.283pp |
-0.000pp |
按年龄拆 · 大盘活跃对话框次留 08-10~08-15 → 08-17~08-22
| 年龄 |
份额 |
留存 |
组内贡献 |
构成贡献 |
| a17_18 |
22.84% → 23.56% |
18.07% → 17.72% |
-0.083pp |
-0.010pp |
| a23_29 |
32.42% → 32.14% |
20.22% → 19.95% |
-0.087pp |
-0.002pp |
| a19_22 |
31.72% → 31.50% |
18.38% → 18.14% |
-0.075pp |
+0.002pp |
| a30p |
13.02% → 12.79% |
22.54% → 22.28% |
-0.033pp |
-0.007pp |
| 合计 |
|
19.45% → 19.15% |
-0.278pp |
-0.017pp |
按渠道拆 · 大盘活跃对话框次留 08-10~08-15 → 08-17~08-22
| 渠道 |
份额 |
留存 |
组内贡献 |
构成贡献 |
| 文字匹配 |
41.35% → 41.32% |
14.68% → 14.42% |
-0.108pp |
+0.001pp |
| 在线列表 |
18.40% → 18.91% |
16.87% → 16.54% |
-0.062pp |
-0.012pp |
| 命运雷达 |
13.61% → 13.42% |
30.21% → 29.83% |
-0.052pp |
-0.021pp |
| 新用户默认 |
3.15% → 3.06% |
15.55% → 14.98% |
-0.017pp |
+0.003pp |
| 主页 |
4.91% → 4.93% |
20.77% → 20.49% |
-0.014pp |
+0.000pp |
| 默认 |
2.75% → 2.72% |
27.11% → 26.80% |
-0.009pp |
-0.002pp |
| 关注列表 |
1.28% → 1.30% |
35.37% → 35.03% |
-0.004pp |
+0.003pp |
| 群聊房 |
2.87% → 2.85% |
31.69% → 31.55% |
-0.004pp |
-0.002pp |
| 合计 |
|
19.28% → 18.98% |
-0.273pp |
-0.032pp |
结论:这一跌是组内普跌,不是人群配比动了。四刀的构成贡献都在 ±0.05pp 以内(国家 -0.012pp、性别 -0.000pp、年龄 -0.017pp、渠道 -0.032pp),几乎全部落在组内。每一个国家、每一个性别、每一个年龄段、每一个入口渠道都在往下走,幅度 0.2~0.4pp。印尼是最大单项:20.31% → 19.88%,贡献 -0.256pp,占总跌幅的八成。
4 · 8-17 印尼独立日 · 剔掉之后还剩多少
本期第一天 08-17 是印尼独立日。把它和上期对应的周一 08-10 一起剔掉,两边都只留周二到周六。
| 日期 |
当日次留 |
当日会话数 |
| 2026-08-10 全站 |
22.64% |
1,120,832 |
| 2026-08-10 印尼 |
23.59% |
658,343 |
| 2026-08-17 全站 |
21.93% |
1,138,340 |
| 2026-08-17 印尼 |
21.94% |
692,933 |
日级次留和周口径数值不同:周口径把一条会话跨天去重成一条,日级不去重,绝对值更高。这里只看同口径的两个周一之间差多少。
剔掉两个周一之后 · 周二~周六对比
| 人群 |
0811-0815 大盘 |
0818-0822 大盘 |
变化 |
0811-0815 新用户 |
0818-0822 新用户 |
变化 |
| 大盘 |
19.498% |
19.260% |
-0.238pp |
15.824% |
15.454% |
-0.371pp |
| 印尼 |
20.457% |
20.263% |
-0.194pp |
17.580% |
17.132% |
-0.448pp |
| 菲律宾 |
17.283% |
17.205% |
-0.078pp |
13.692% |
13.418% |
-0.275pp |
| 越南 |
15.710% |
15.194% |
-0.515pp |
12.762% |
12.693% |
-0.069pp |
| 阿语区 |
27.311% |
27.267% |
-0.044pp |
18.976% |
18.975% |
-0.001pp |
两边都只算周二到周六,五天对五天,会话跨天去重。
独立日解释掉五分之一,剩下的四分之三是真的。算上周一跌 0.31pp;只比周二到周六,还跌 0.24pp。独立日当天印尼次留 21.94%,比上一个周一低 1.65pp。
越南是剔掉独立日之后跌得最狠的(−0.52pp),印尼 −0.19pp,菲律宾和阿语区基本持平。
5 · 新用户三项同时上行 · 20 轮两项分国家
新用户的活跃 7 留、20 轮次留、20 轮 7 留三格同时破上沿,数据周期都是 08-10~08-16。
新用户 · 20 轮深度对话框次留 · 0803-0809 → 0810-0816
| 国家 |
份额 |
留存 |
组内贡献 |
构成贡献 |
| 越南 |
20.00% → 16.55% |
32.21% → 33.19% |
+0.163pp |
+0.200pp |
| 印尼 |
43.89% → 49.32% |
40.91% → 40.50% |
-0.201pp |
+0.158pp |
| 菲律宾 |
23.26% → 23.21% |
37.77% → 38.38% |
+0.144pp |
+0.000pp |
| 阿语区 |
6.82% → 5.18% |
41.13% → 41.65% |
+0.027pp |
-0.051pp |
| 土耳其 |
1.39% → 1.70% |
34.58% → 36.60% |
+0.034pp |
-0.010pp |
| 泰国 |
4.45% → 3.86% |
33.28% → 33.62% |
+0.013pp |
+0.028pp |
| 合计 |
|
38.01% → 38.52% |
+0.179pp |
+0.324pp |
新用户 · 20 轮深度对话框 7 留 · 0803-0809 → 0810-0816
| 国家 |
份额 |
留存 |
组内贡献 |
构成贡献 |
| 越南 |
20.00% → 16.55% |
2.69% → 3.14% |
+0.075pp |
+0.050pp |
| 菲律宾 |
23.26% → 23.21% |
3.86% → 4.16% |
+0.072pp |
+0.000pp |
| 印尼 |
43.89% → 49.32% |
4.62% → 4.55% |
-0.035pp |
+0.026pp |
| 阿语区 |
6.82% → 5.18% |
6.71% → 6.79% |
+0.004pp |
-0.042pp |
| 泰国 |
4.45% → 3.86% |
3.55% → 4.21% |
+0.025pp |
+0.003pp |
| 土耳其 |
1.39% → 1.70% |
3.77% → 3.93% |
+0.003pp |
-0.001pp |
| 合计 |
|
4.14% → 4.32% |
+0.143pp |
+0.037pp |
老用户 · 20 轮深度对话框 7 留 · 0803-0809 → 0810-0816
| 国家 |
份额 |
留存 |
组内贡献 |
构成贡献 |
| 阿语区 |
12.49% → 11.81% |
25.14% → 25.78% |
+0.075pp |
-0.061pp |
| 越南 |
14.15% → 13.62% |
11.43% → 11.94% |
+0.069pp |
+0.025pp |
| 菲律宾 |
16.96% → 16.81% |
18.25% → 18.71% |
+0.077pp |
-0.003pp |
| 印尼 |
51.13% → 52.40% |
14.91% → 14.92% |
+0.009pp |
-0.017pp |
| 泰国 |
4.51% → 4.49% |
13.66% → 14.15% |
+0.022pp |
+0.000pp |
| 土耳其 |
0.67% → 0.77% |
17.97% → 17.43% |
-0.004pp |
+0.002pp |
| 合计 |
|
16.22% → 16.42% |
+0.248pp |
-0.053pp |
新用户 20 轮次留 +0.51pp 里,六成是买量配比换了人。构成贡献 +0.324pp,组内只有 +0.179pp。越南新用户份额从 20.00% 掉到 16.55%(越南 20 轮次留只有 32%,全场最低),印尼从 43.89% 涨到 49.32%(印尼 40.91%,高于均值)。印尼自己的 20 轮次留反而从 40.91% 掉到 40.50%。
菲律宾那条结案:不立案。菲律宾老用户 20 轮 7 留从 18.25% 回到 18.71%,单周下滑不追。
置顶卡片 23006 · 10 张表
6 · 置顶卡片 23006 · 全人群主表
结论:放量到 50% 之后,卡片依然全面正向,而且比放量前读得更实。私聊四项里三项显著正(发消息用户比例 +0.20%、20 轮深度 +0.77%、人均消息 +0.69%),10 轮深度接近显著;召回侧四项全部显著正——唤醒长期沉默会话率 +0.81%、用户对话框复聊率 +0.62%、复聊后对方回复的 +0.75%、人均复聊老对话框 +0.83%;按召回人群拆,近期沉默 +2.14%、长期沉默 +8.26% 都显著,对照池 +0.27% 不动。留存三项持平,护栏没问题。
08-04 ~ 08-23(上线至今)
| 指标 |
实验组 |
对照组 |
VS |
结论 |
| [P0 留存] |
| 次留 |
64.74% |
64.72% |
+0.02% |
不显著 |
| 3留 |
54.58% |
54.55% |
+0.06% |
不显著 |
| 7留 |
46.26% |
46.21% |
+0.10% |
不显著 |
| [P1 私聊核心数据] |
| 发消息用户比例 |
71.77% |
71.63% |
+0.20% |
显著 ↑ |
| 10轮深度对话 |
26.93% |
26.84% |
+0.31% |
接近显著 ↑ |
| 20轮深度对话 |
14.10% |
13.99% |
+0.77% |
显著 ↑ |
| 人均消息条数 |
34.74 条 |
34.51 条 |
+0.69% |
显著 ↑ |
| [P2 召回卡片核心数据] |
| 唤醒长期沉默会话率 ≥7 天 |
7.08% |
7.02% |
+0.81% |
显著 ↑ |
| 用户对话框复聊率 |
45.88% |
45.60% |
+0.62% |
显著 ↑ |
| 复聊后对方回复的 |
36.29% |
36.02% |
+0.75% |
显著 ↑ |
| 人均复聊老对话框 |
1.202 个 |
1.192 个 |
+0.83% |
显著 ↑ |
| [P2 关系唤醒率 · 按召回人群] |
| 近期沉默 4.1.1 |
34.09% |
33.37% |
+2.14% |
显著 ↑ |
| 长期沉默 4.1.2 |
16.88% |
15.59% |
+8.26% |
显著 ↑ |
| 回流人群 4.1.3 |
16.27% |
14.86% |
+9.51% |
不显著 |
| 其他人群(对照池) |
3.77% |
3.76% |
+0.27% |
不显著 |
P0/P1 分母=当天在实验分组里的 16+ 用户人次(实验组 3,645,218 / 对照组 3,621,379,差 0.42%);留存三项按可读天截断,次留只到 08-22、3 留到 08-20、7 留到 08-16。P2 召回卡片四项同样是人次口径。关系唤醒率分母是上线那天圈出的关系条数:近期沉默 134,745/135,560 条,长期沉默 53,102/53,736 条,回流人群 2,673/2,685 条,对照池 8,384,644/8,385,331 条。08-18 放量当天没有剔除:那天两组 16+ 人数 260,524 / 260,747,只差 0.09%,不构成爬坡日偏差。显著性按天配对算,不把人次当独立样本。
| 指标 |
实验组 |
对照组 |
VS |
结论 |
| 聊新对话框比例(旁证) |
59.88% |
59.87% |
+0.01% |
不显著 |
这一项两组几乎完全一样,说明复聊率的增量不是靠多发新匹配堆出来的,是真的回到了存量关系。
新用户 · 08-04 ~ 08-23(上线至今)
| 指标 |
实验组 |
对照组 |
VS |
结论 |
| [P0 留存] |
| 次留 |
46.82% |
46.61% |
+0.45% |
不显著 |
| 3留 |
26.89% |
26.91% |
-0.06% |
不显著 |
| 7留 |
16.54% |
16.40% |
+0.89% |
不显著 |
| [P1 私聊核心数据] |
| 发消息用户比例 |
83.61% |
83.58% |
+0.04% |
不显著 |
| 10轮深度对话 |
36.39% |
36.20% |
+0.52% |
不显著 |
| 20轮深度对话 |
18.41% |
18.41% |
-0.03% |
不显著 |
| 人均消息条数 |
43.12 条 |
43.18 条 |
-0.14% |
不显著 |
新用户样本约为大盘的 8%,全部不显著。召回类指标对新用户不适用:他们名下没有沉默老关系。
7 · 置顶卡片 23006 · 留存 · 老用户与新用户
团队官方 cohort 模板:印尼 16+,先按 uid 取首次进组日去重,只 JOIN 那一天的留存行,分子=该留存字段的去重人数。不拆放量前后,08-04 起整段一起读。和第 6 节的人次口径不是一回事——这里分母是人,绝对值天然更低,两者不能横向比。
08-04 ~ 08-22(上线至今)
| 指标 |
实验组 |
对照组 |
VS |
结论 |
| [老用户 · 实验组 26.76 万 / 对照组 26.80 万] |
| 次留 |
48.96% |
48.96% |
-0.01% |
不显著 |
| 3 留 |
37.13% |
37.31% |
-0.47% |
不显著 |
| 7 留 |
31.78% |
31.80% |
-0.06% |
不显著 |
| [新用户 · 实验组 12.69 万 / 对照组 12.72 万] |
| 次留 |
47.54% |
47.59% |
-0.09% |
不显著 |
| 3 留 |
27.70% |
27.89% |
-0.69% |
不显著 |
| 7 留 |
17.33% |
17.41% |
-0.47% |
不显著 |
分段行里的人数是次留口径的 cohort 规模。3 留和 7 留要留更多回填天数,实际参与计算的人更少:老用户 3 留 236,273 人、7 留 186,212 人;新用户 3 留 101,571 人、7 留 62,529 人。首次进组日的可读边界:次留到 08-22、3 留到 08-20、7 留到 08-16,超出的天数留存还没回填、算进去会被当成 0。
复现校准 · 08-04 ~ 08-10(与上期同窗口)
| 指标 |
实验组 |
对照组 |
VS |
结论 |
| [老用户 · 实验组 14.06 万 / 对照组 14.07 万] |
| 次留 |
52.75% |
52.86% |
-0.20% |
不显著 |
| 3 留 |
42.70% |
42.68% |
+0.04% |
不显著 |
| 7 留 |
35.49% |
35.56% |
-0.20% |
不显著 |
| [新用户 · 实验组 3.31 万 / 对照组 3.30 万] |
| 次留 |
48.21% |
47.93% |
+0.58% |
不显著 |
| 3 留 |
27.98% |
28.36% |
-1.35% |
不显著 |
| 7 留 |
17.44% |
17.61% |
-0.96% |
不显著 |
这六行是上期报过的同一批数,本次复算逐位一致,说明口径没跑偏。
结论:六个格子全部不显著,留存护栏没问题。六项的绝对差都在 0.20pp 以内——老用户次留只差 0.004pp(26.8 万人里约 11 人),新用户 3 留差 0.19pp(10.2 万人里约 196 人)。VS 列是相对变化,会把这种量级的绝对差放大成看起来有方向的百分比,判定要看结论列。
新用户三项都是负号,但方向不稳。把新用户 cohort 切成三段互不重叠的窗口重读,3 留是 −1.53%(08-04~08-09)/+0.79%(08-10~08-16)/−1.98%(08-18~08-20),符号在换;次留和 7 留同样在正负之间摆。三段合并后 3 留 −0.24pp、次留 +0.10pp,都不显著。
⚠️ 放量后的 7 留现在一天都读不到(retain_7d 只回填到 08-16、放量在 08-18),最早 08-26 才有第一批可读。
⚠️ 这套官方模板里老用户和新用户两个 cohort 会重叠:一个人在窗口前半段还是新用户、后半段变成老用户,会各自以不同的首次进组日进两个 cohort,两个 cohort 的人数不能相加当总量。
8 · 放量前 20% vs 放量后 50%
08-18 下午放量,当天起算进放量后。08-19 起实验组/对照组各 50%,余量组清零。
放量前 08-04 ~ 08-17(各 20%)
| 指标 |
实验组 |
对照组 |
VS |
结论 |
| [P0 留存] |
| 次留 |
64.59% |
64.62% |
-0.05% |
不显著 |
| 3留 |
54.43% |
54.50% |
-0.13% |
不显著 |
| 7留 |
46.26% |
46.21% |
+0.10% |
不显著 |
| [P1 私聊核心数据] |
| 发消息用户比例 |
71.63% |
71.51% |
+0.17% |
显著 ↑ |
| 有活跃对话框用户比例 |
81.75% |
81.60% |
+0.18% |
显著 ↑ |
| 10轮深度对话 |
26.75% |
26.63% |
+0.45% |
显著 ↑ |
| 20轮深度对话 |
14.00% |
13.84% |
+1.12% |
显著 ↑ |
| 人均消息条数 |
34.58 条 |
34.20 条 |
+1.11% |
显著 ↑ |
分母 1,795,851 / 1,788,149 人次,14 天。
放量后 08-18 ~ 08-23(各 50%)
| 指标 |
实验组 |
对照组 |
VS |
结论 |
| [P0 留存] |
| 次留 |
64.92% |
64.85% |
+0.10% |
不显著 |
| 3留 |
54.88% |
54.64% |
+0.44% |
不显著 |
| [P1 私聊核心数据] |
| 发消息用户比例 |
71.91% |
71.74% |
+0.24% |
不显著 |
| 有活跃对话框用户比例 |
81.99% |
81.78% |
+0.25% |
接近显著 ↑ |
| 10轮深度对话 |
27.10% |
27.05% |
+0.18% |
不显著 |
| 20轮深度对话 |
14.20% |
14.14% |
+0.42% |
不显著 |
| 人均消息条数 |
34.90 条 |
34.80 条 |
+0.29% |
不显著 |
| [P2 召回卡片核心数据] |
| 唤醒长期沉默会话率 ≥7 天 |
7.59% |
7.53% |
+0.86% |
不显著 |
| 用户对话框复聊率 |
45.89% |
45.61% |
+0.62% |
不显著 |
| 复聊后对方回复的 |
36.28% |
36.03% |
+0.71% |
不显著 |
| 人均复聊老对话框 |
1.203 个 |
1.191 个 |
+1.05% |
不显著 |
分母 1,849,367 / 1,833,230 人次,只有 6 天。7 留在这个窗口没有可读的天(回填只到 08-16),3 留只有 3 天,这两项别当结论。
放量后 P1 的读数变弱,但先别下「效果没了」的判断。放量前五项显著正;放量后只剩有活跃对话框用户比例显著,10 轮深度和人均消息的点估计翻成负号。两个候选原因:一是天数只有 6 天,按天配对的检验功效本来就低;二是 50% 那半人里有一大批是 08-18 才从余量组并进来的新面孔,只被卡片照了几天。下一节把这两拨人拆开。
召回侧在放量后仍然是正的(复聊率、唤醒率两项都还在),说明机制本身没有失效。
9 · 老进组 vs 新进组
老进组=08-18 之前就在实验组或对照组里的人;新进组=08-18 才从余量组并进来的人。两拨人在 a/b 之间都是随机分的,可以各自比。
放量后 08-19~08-23 · 老进组(已被卡片照了 14 天)
| 指标 |
实验组 |
对照组 |
VS |
结论 |
| 次留 |
68.91% |
68.80% |
+0.16% |
不显著 |
| 发消息用户比例 |
70.66% |
70.72% |
-0.08% |
不显著 |
| 有活跃对话框用户比例 |
81.35% |
81.24% |
+0.13% |
不显著 |
| 10轮深度对话 |
25.81% |
25.71% |
+0.38% |
不显著 |
| 20轮深度对话 |
13.55% |
13.40% |
+1.15% |
不显著 |
| 人均消息条数 |
33.67 |
33.26 |
+1.23% |
显著 ↑ |
分母 399,405 / 395,369 人次。这批人的次留水平 68.9%,明显高于新进组的 63.0%,因为他们是「08-04~08-17 至少活跃过一次」筛出来的。
放量后 08-19~08-23 · 新进组(原余量组,刚被照 5 天)
| 指标 |
实验组 |
对照组 |
VS |
结论 |
| 次留 |
62.95% |
63.10% |
-0.24% |
显著 ↓ |
| 发消息用户比例 |
72.40% |
72.30% |
+0.14% |
显著 ↑ |
| 有活跃对话框用户比例 |
82.21% |
82.06% |
+0.18% |
显著 ↑ |
| 10轮深度对话 |
27.63% |
27.75% |
-0.45% |
显著 ↓ |
| 20轮深度对话 |
14.48% |
14.57% |
-0.60% |
不显著 |
| 人均消息条数 |
35.43 |
35.79 |
-1.00% |
显著 ↓ |
分母 891,601 / 889,787 人次。这张表的读数不能直接信,见下一节。
老进组的正向还在:人均消息 +1.23% 显著,20 轮深度 +1.15%、10 轮 +0.38% 方向都保住了(天数少所以不显著)。卡片对已经用了两周的人仍然在起作用,第 8 节读得弱主要是被新进组稀释的。
10 · 新进组 · 扣掉上线前本来就有的差距
新进组在 08-04~08-17 期间两边都还在余量组、都没被卡片照过。把这段拿来当上线前差距,实验期读数减掉它,剩下的才是卡片带来的。
新进组在上线前(08-04~08-17,两边都还在余量组)
| 指标 |
未来的实验组 |
未来的对照组 |
差 |
判定 |
前半 → 后半 |
漂移检验 |
| 次留 |
75.95% |
76.05% |
-0.092pp |
显著 ↓ |
-0.073 → -0.109 |
通过 |
| 发消息用户比例 |
74.65% |
74.54% |
+0.112pp |
显著 ↑ |
+0.177 → +0.056 |
通过 |
| 有活跃对话框用户比例 |
83.81% |
83.73% |
+0.084pp |
显著 ↑ |
+0.170 → +0.010 |
临界 |
| 10轮深度对话 |
29.03% |
29.11% |
-0.078pp |
接近显著 ↓ |
-0.073 → -0.082 |
通过 |
| 20轮深度对话 |
15.59% |
15.69% |
-0.107pp |
显著 ↓ |
-0.048 → -0.158 |
通过 |
| 人均消息条数 |
38.73 |
38.97 |
-0.237 条 |
显著 ↓ |
-0.099 → -0.354 |
通过 |
漂移检验=把 14 天劈成前后两半,看两组的日差有没有越走越开。六项里五项通过,说明这个差是稳定基线,可以直接扣。
新进组 · 放量后读数 与 扣掉上线前之后
| 指标 |
实验组 |
对照组 |
VS |
净效应 |
结论 |
| 次留 |
62.95% |
63.10% |
-0.24% |
-0.063pp |
接近显著 ↓ |
| 发消息用户比例 |
72.40% |
72.30% |
+0.14% |
-0.012pp |
不显著 |
| 有活跃对话框用户比例 |
82.21% |
82.06% |
+0.18% |
+0.061pp |
不显著 |
| 10轮深度对话 |
27.63% |
27.75% |
-0.45% |
-0.046pp |
不显著 |
| 20轮深度对话 |
14.48% |
14.57% |
-0.60% |
+0.019pp |
不显著 |
| 人均消息条数 |
35.43 |
35.79 |
-1.00% |
-0.121 条 |
不显著 |
结论列判的是净效应那一列,箭头也跟净效应。VS 列是没扣之前的原始读数,两者经常反向。
上一节新进组那几个「显著负」全是分桶本身就歪,不是卡片干的。实验期的差和上线前的差是同一个方向:次留原始 −0.24%,上线前就 −0.09pp;10 轮深度原始 −0.45%,上线前就 −0.08pp;人均消息原始 −1.00%,上线前就 −0.24 条。扣完之后六项全部不显著。
正确的说法是:卡片在新并进来的人身上,五天内既没看出好也没看出坏。这和老进组用了两周才攒出显著正向是一致的——这个功能的效应需要时间累积。
11 · 放量后重新建池 · 50% 阶段还灵不灵
锚点换到 08-19,用 08-19 当天的分组重新圈一次沉默关系,只看 08-19~08-23 这五天。
锚点 08-19 建池 · 新进组(08-18 才并进来,此前从未被卡片照过)
| 关系人群 |
实验池 / 对照池(条) |
实验组 |
对照组 |
VS |
结论 |
| 长期沉默关系(>7 天没说话 · 累计 ≥50 轮) |
85,797 / 85,795 |
8.350% |
7.857% |
+6.27% |
显著 ↑ |
| 近期沉默关系(1-7 天没说话 · 累计 ≥20 轮) |
192,453 / 194,857 |
24.453% |
23.822% |
+2.65% |
显著 ↑ |
| 其余关系(对照池,应当不动) |
13,001,888 / 12,943,601 |
2.551% |
2.547% |
+0.18% |
不显著 |
这批人的池子干净:两组池子大小只差 0.00%,对照池 +0.18% 不显著。
锚点 08-19 建池 · 老进组(已经被卡片照了 14 天)
| 关系人群 |
实验池 / 对照池(条) |
实验组 |
对照组 |
VS |
结论 |
| 长期沉默关系(>7 天没说话 · 累计 ≥50 轮) |
57,475 / 57,752 |
7.657% |
7.496% |
+2.15% |
不显著 |
| 近期沉默关系(1-7 天没说话 · 累计 ≥20 轮) |
136,322 / 133,110 |
24.672% |
24.160% |
+2.12% |
显著 ↑ |
| 其余关系(对照池,应当不动) |
8,549,552 / 8,477,807 |
2.512% |
2.482% |
+1.20% |
显著 ↑ |
⚠️ 这张表不能当结论:这批关系的库存本身已经被前 14 天的卡片改造过,对照池差 +1.20% 且显著,起点就不平了。
放量到 50% 之后,卡片的召回机制照常工作。在从来没被照过的新进组身上,长期沉默关系五天复活率 8.35% vs 7.86%,高出 6.3% 且显著;近期沉默 +2.7% 显著;对照池 +0.18% 纹丝不动。
这和第 10 节不矛盾:卡片确实把沉默关系叫醒了(关系维度有效),但被叫醒的关系数量占一个人全部行为的比重太小,五天还撑不起人维度的次留和人均消息。
12 · 曝光侧 · 渗透与发星
整段窗口的平均值,不按天铺开。渗透率=曝光人数/分组人数;人均曝光=曝光次数/曝光人数;发星率与关闭率的分母都是曝光人数。
卡片渗透率/发星率/关闭率 · 窗口平均(只有实验组有)
| 窗口 |
天数 |
日均分组人数 |
日均曝光人数 |
渗透率 |
人均曝光 |
日均发星人数 |
发星率 |
关闭率 |
| 08-04 ~ 08-23(上线至今) |
20 天 |
182,261 |
57,497 |
31.55% |
13.39 |
4,573 |
7.95% |
9.98% |
| 放量前 08-04 ~ 08-17(各 20%) |
14 天 |
128,275 |
39,257 |
30.60% |
13.50 |
3,170 |
8.07% |
9.85% |
| 放量后 08-18 ~ 08-23(各 50%) |
6 天 |
308,228 |
100,059 |
32.46% |
13.29 |
7,846 |
7.84% |
10.09% |
每一列都是整段窗口的合计相除,不是逐日再取平均——分母大的天权重更高。这三个数只有实验组有,不进对比表。
发星率的衰减是每个人自己的新鲜感衰减,属于这类功能的正常形态,不作为问题项。整段窗口平均 7.95%:放量前 8.07%、放量后 7.84%,两段几乎一样。窗口内部走的是同一条曲线——上线首日 12.62%,到 08-17 走到 6.07%;08-18 放量当天回到 10.24%,因为一大批第一次看到卡片的人进来了;随后 5 天又走回 6.53%。
更值得看的是它没有拖累别的:渗透率放量前后 30.60% → 32.46%,人均曝光 13.50 → 13.29 次,关闭率 9.85% → 10.09%,三项都没有随放量恶化,而第 6 节的召回四项在同一时间仍然显著为正。也就是说,发星只是入口之一,卡片的召回价值并不依赖发星率维持在高位。
留存复核 · 换成「每人只按第一次进组那天算一次」(印尼 16+,08-19~08-22)
| 人群 |
实验组 |
对照组 |
VS |
结论 |
实验/对照人数 |
人数差 |
| 老用户 |
56.23% |
56.31% |
-0.15% |
不显著 |
286,553 / 286,560 |
-0.00% |
| 新用户 |
46.73% |
47.41% |
-1.45% |
显著 ↓ |
49,892 / 49,405 |
+0.99% |
这一版分母是人不是人次,绝对值 56% 明显低于人次口径的 64%,不能和看板横向比。老用户方向和人次口径一致;新用户这版读出 −1.45% 显著,但人数差已到 0.99%、样本只有 5 万,而人次口径读的是 +0.03% 不显著,两者不一致,按规矩不采信、下期复看。
等你回复 22066 · 4 张表
13 · 等你回复 22066 · 全人群
结论:跑满四周,扣掉上线前差距之后 P0/P1 全线净负,次留净 −0.23pp 显著,已经踩到护栏。这个实验没有放量,仍是 20%/20%/60%。这批人上线前在 10 轮深度、20 轮深度、人均消息三项上本来就领先对照组,所以实验期看到的「+0.10%、+0.24%、+0.27%」不是功能带来的,扣完全是负的。
07-29 ~ 08-23(上线至今)
| 指标 |
实验组 |
对照组 |
VS |
净效应 |
结论 |
| [P0 留存] |
| 次留 |
64.60% |
64.68% |
-0.12% |
-0.231pp |
显著 ↓ |
| 3留 |
54.39% |
54.45% |
-0.11% |
-0.005pp |
不显著 |
| 7留 |
46.04% |
46.06% |
-0.04% |
— |
— |
| [P1 私聊核心数据] |
| 发消息用户比例 |
71.53% |
71.58% |
-0.07% |
-0.102pp |
显著 ↓ |
| 有活跃对话框用户比例 |
81.62% |
81.66% |
-0.04% |
-0.075pp |
显著 ↓ |
| 10轮深度对话 |
26.77% |
26.74% |
+0.10% |
-0.204pp |
显著 ↓ |
| 20轮深度对话 |
13.99% |
13.95% |
+0.24% |
-0.107pp |
显著 ↓ |
| 人均消息条数 |
34.60 条 |
34.51 条 |
+0.27% |
-0.389 条 |
显著 ↓ |
| [P2 等你回复核心数据] |
| 触发「Your Turn」次日回复率 |
19.95% |
20.10% |
-0.78% |
-0.120pp |
显著 ↓ |
| 触发「Your Turn」48 小时内回复率 |
23.00% |
23.18% |
-0.78% |
-0.058pp |
接近显著 ↓ |
| 触发「Your Turn」72 小时内回复率 |
24.36% |
24.54% |
-0.74% |
-0.027pp |
不显著 |
分母=当天在实验分组里的 16+ 用户人次(实验组 3,322,319 / 对照组 3,320,140)。上线前差距用同一批人(07-29 的分组)在 07-21~07-28 量的,同一套分母;7 留那一格没有同队列基线,所以净效应留空。P2 三项的分母是「轮到自己回」的会话条数,上线前基线取 07-21~07-25。结论列和箭头都跟净效应,不跟 VS——这两列经常反向。
新用户 · 07-29 ~ 08-23(上线至今)
| 指标 |
实验组 |
对照组 |
VS |
净效应 |
结论 |
| [P0 留存] |
| 次留 |
46.31% |
46.37% |
-0.15% |
-0.220pp |
不显著 |
| 3留 |
26.59% |
26.62% |
-0.11% |
+0.023pp |
不显著 |
| 7留 |
16.33% |
16.40% |
-0.39% |
— |
— |
| [P1 私聊核心数据] |
| 发消息用户比例 |
83.24% |
83.36% |
-0.14% |
-0.175pp |
接近显著 ↓ |
| 有活跃对话框用户比例 |
88.41% |
88.53% |
-0.14% |
-0.165pp |
接近显著 ↓ |
| 10轮深度对话 |
35.86% |
35.91% |
-0.14% |
-0.280pp |
显著 ↓ |
| 20轮深度对话 |
18.21% |
18.30% |
-0.50% |
-0.232pp |
显著 ↓ |
| 人均消息条数 |
42.86 条 |
42.63 条 |
+0.53% |
-0.256 条 |
不显著 |
新用户样本小,全部不显著。
14 · 等你回复 22066 · 分性别
和第 13 节同一套口径,只是把人拆成男女各跑一遍。上线前基线也按性别各自量(同一批人、07-21~07-28)。待回会话=当天这条会话里最后说话的是对方、且双方消息总数 ≥3 条。
男性 · 07-29 ~ 08-23(上线至今)
| 指标 |
实验组 |
对照组 |
VS |
净效应 |
结论 |
| [P0 留存] |
| 次留 |
64.56% |
64.68% |
-0.19% |
-0.207pp |
显著 ↓ |
| 3留 |
54.77% |
54.95% |
-0.32% |
-0.027pp |
不显著 |
| 7留 |
46.65% |
46.76% |
-0.23% |
— |
— |
| [P1 私聊核心数据] |
| 发消息用户比例 |
69.80% |
69.84% |
-0.06% |
-0.097pp |
显著 ↓ |
| 有活跃对话框用户比例 |
73.40% |
73.42% |
-0.03% |
-0.087pp |
显著 ↓ |
| 10轮深度对话 |
24.75% |
24.71% |
+0.16% |
-0.146pp |
显著 ↓ |
| 20轮深度对话 |
12.63% |
12.55% |
+0.69% |
+0.019pp |
不显著 |
| 人均消息条数 |
31.73 条 |
31.51 条 |
+0.70% |
-0.376 条 |
显著 ↓ |
| [P2 等你回复核心数据] |
| 触发「Your Turn」次日回复率 |
21.75% |
22.00% |
-1.11% |
+0.022pp |
不显著 |
| 触发「Your Turn」48 小时内回复率 |
25.09% |
25.35% |
-1.04% |
+0.121pp |
接近显著 ↑ |
| 触发「Your Turn」72 小时内回复率 |
26.59% |
26.86% |
-0.99% |
+0.161pp |
显著 ↑ |
分母=当天在实验分组里的 16+ 男性用户人次(实验组 2,070,660 / 对照组 2,069,990)。P2 三项的分母是该人群名下「轮到自己回」的会话条数。7 留没有同队列基线,净效应留空。结论列和箭头跟净效应,不跟 VS。
女性 · 07-29 ~ 08-23(上线至今)
| 指标 |
实验组 |
对照组 |
VS |
净效应 |
结论 |
| [P0 留存] |
| 次留 |
64.65% |
64.66% |
-0.02% |
-0.272pp |
显著 ↓ |
| 3留 |
53.75% |
53.62% |
+0.25% |
+0.028pp |
不显著 |
| 7留 |
45.03% |
44.91% |
+0.27% |
— |
— |
| [P1 私聊核心数据] |
| 发消息用户比例 |
74.40% |
74.46% |
-0.08% |
-0.113pp |
显著 ↓ |
| 有活跃对话框用户比例 |
95.24% |
95.29% |
-0.06% |
-0.058pp |
显著 ↓ |
| 10轮深度对话 |
30.10% |
30.10% |
+0.01% |
-0.303pp |
显著 ↓ |
| 20轮深度对话 |
16.23% |
16.29% |
-0.35% |
-0.321pp |
显著 ↓ |
| 人均消息条数 |
39.35 条 |
39.47 条 |
-0.31% |
-0.402 条 |
显著 ↓ |
| [P2 等你回复核心数据] |
| 触发「Your Turn」次日回复率 |
18.60% |
18.70% |
-0.55% |
-0.214pp |
显著 ↓ |
| 触发「Your Turn」48 小时内回复率 |
21.45% |
21.58% |
-0.60% |
-0.179pp |
显著 ↓ |
| 触发「Your Turn」72 小时内回复率 |
22.69% |
22.82% |
-0.58% |
-0.152pp |
显著 ↓ |
分母=当天在实验分组里的 16+ 女性用户人次(实验组 1,251,659 / 对照组 1,250,150)。P2 三项的分母是该人群名下「轮到自己回」的会话条数。7 留没有同队列基线,净效应留空。结论列和箭头跟净效应,不跟 VS。
结论:收窄到只对男性开,救不回护栏——男性次留净 −0.207pp 显著,和女性的 −0.272pp 是一个量级。而且方向性更麻烦的是:男性的次留下降在原始读数里就存在(VS −0.19%),女性的原始读数几乎是零(VS −0.02%),是扣掉上线前基线(+0.260pp)之后才变负的。换句话说,留存这一刀砍在男性身上比女性更实。
男性侧确实有东西,但只有两格,而且不足以抵掉代价。男性真正没被打负的只有两项:72 小时回复率净 +0.161pp 显著、20 轮深度净 +0.019pp(中性);48 小时 +0.121pp 接近显著、次日 +0.022pp 已经归零。同时男性仍在付:次留 −0.207pp、人均消息 −0.376 条、发消息比例 −0.097pp、10 轮深度 −0.146pp,四项都显著负。
女性侧则是全线负:次留 −0.272pp、10 轮 −0.303pp、20 轮 −0.321pp、人均消息 −0.402 条、待回回复率三项 −0.152~−0.214pp,全部显著。
所以「只对男性开」能拿到的是一个 +0.16pp 且还在缩水的三日回复率,代价是 −0.21pp 的次留。这笔账不划算。如果还想救,要动的不是性别开关,而是「什么时候亮标签」——男性待回密度 1.45 条/人天时标签有区分度,密度一高就退化成噪声,所以方向是按待回密度做频控,性别只是密度的一个代理变量。
口径 · 1 张表
15 · 指标口径 · 每个数的分子和分母
| 指标 |
分母单位 |
分母 |
分子 |
| [看板四指标 · 表 dm.dm_soc_chat_session_msg_v1_sd · 限 age>16] |
| 活跃对话框次留 |
会话条数(跨天去重) |
当周周一~周六里 session_round_cnt≥1 的会话 |
其中 retain_1=1 的会话 |
| 活跃对话框 7 留 |
会话+day 逐日对 |
上一个完整周里 session_round_cnt≥1 的 session+day 对 |
其中 retain_7=1 的对 |
| 20 轮深度对话框次留 |
用户+day 逐日对 |
上一个完整周里 session_total_cnt≥20 的 f_uid+day 对 |
其中 retain_1=1 的对 |
| 20 轮深度对话框 7 留 |
用户+day 逐日对 |
同上 |
其中 retain_7=1 的对 |
| [实验 P0 留存 · 表 dw.dw_user_act_retain_sd] |
| 次留 / 3 留 / 7 留 |
人次 |
当天在该分组里的 16+ 用户人次 |
其中 retain_1d / 3d / 7d 大于 0 的人次 |
| [实验 P1 私聊核心 · 表 rpt.rpt_user_square_post_chat_sd] |
| 发消息用户比例 |
人次 |
当天在该分组里的 16+ 用户人次 |
其中 is_sender=1 的人次 |
| 有活跃对话框用户比例 |
人次 |
同上 |
其中 is_active_dialog_box=1 的人次 |
| 10 轮深度对话 |
人次 |
同上 |
其中 is_deep_active_dialog_box=1 的人次 |
| 20 轮深度对话 |
人次 |
同上 |
其中 is_deep_active_dialog_box_20r=1 的人次 |
| 人均消息条数 |
条 / 人次 |
同上 |
该分组当天 sender_cnt 之和 |
| [实验 P2 召回卡片核心数据] |
| 唤醒长期沉默会话率 ≥7 天 |
人次 |
当天在该分组里的 16+ 老用户人次 |
其中当天至少唤醒一条「上次说话在 7 天以前」会话的人次 |
| 用户对话框复聊率 |
人次 |
当天在该分组里的 16+ 用户人次 |
其中当天在至少一个 is_new_session=0 的会话里发过消息的人次 |
| 复聊后对方回复的 |
人次 |
同上 |
再加一层:那条老会话当天 session_round_cnt≥1,双方都说了话 |
| 人均复聊老对话框 |
个 / 人次 |
同上 |
该分组当天 is_new_session=0 的会话条数之和 |
| [实验 P2 关系唤醒率 · 按召回人群 · 锚点=上线日 08-04] |
| 近期沉默 4.1.1 |
关系条数 |
对方还活着 且 累计 ≥20 轮 且 上一次说话在 1~7 天前(134,745 / 135,560 条) |
其中 08-04~08-23 又出现过消息的(45,931 / 45,240 条) |
| 长期沉默 4.1.2 |
关系条数 |
对方还活着 且 累计 ≥50 轮 且 上一次说话在 7 天以前(53,102 / 53,736 条) |
同上(8,965 / 8,380 条) |
| 回流人群 4.1.3 |
关系条数 |
在 4.1.2 基础上,对方是最近 48 小时才回来的(2,673 / 2,685 条,已从 4.1.2 里剔出) |
同上(435 / 399 条) |
| 其他人群(对照池) |
关系条数 |
不满足上面三条的其余关系(8,384,644 / 8,385,331 条) |
同上(316,391 / 315,569 条) |
| [实验 P2 等你回复核心数据] |
| 触发「Your Turn」次日/48/72 小时回复率 |
会话条数 |
当天最后说话的是对方、且该会话消息总数 ≥3 的会话条数 |
其中本人在 1/2/3 天内又发过消息的条数 |
| [卡片曝光侧 · 表 dw.dw_user_app_event_sd · 只有实验组有] |
| 渗透率 |
人次 |
当天在实验组里的 16+ 用户人次 |
其中触发过 RecallCard_Show 的人次 |
| 发星率 |
人次 |
当天触发过 RecallCard_Show 的人次 |
其中触发过 RecallCard_SendStar 的人次 |
| 关闭率 |
人次 |
当天触发过 RecallCard_Show 的人次 |
其中触发过 RecallCard_Close 的人次 |
16 · 怎么验的
- 对基线。看板 0810-0815 大盘活跃次留算出来 19.28%、新用户 15.81%,和上期报的完全一致;0803-0809 的 20 轮次留 47.56% 也对得上。四类召回人群里,回流人群 4.1.3 复算出 13.58% vs 11.96%,和上期同窗口的读数逐位一致,口径没跑偏。
- 实验组人次口径的次留 64.74%/64.72%,落在 62%~66% 的基线带内,分母没选错。
- 08-18 放量当天没有剔除。先查了这天的分组平衡:16+ 人数 260,524 / 260,747,只差 0.09%,不是典型的爬坡日偏差,所以整天保留。当天有 5.7 万人次出现过两个分组标记,已经用「取当天最后一次分组」去重。
- 两种分母都算了。人次口径(和看板可比)和「每人只按第一次进组那天算一次」的口径各算一遍。老用户两版方向一致;新用户两版不一致(人次 +0.03% 不显著 vs 去重版 −1.45% 显著),去重版人数已差 0.99%、样本只有 5 万,按规矩不采信,标记下期复看。
- 有效天截断。次留只算到 08-22,3 留到 08-20,7 留到 08-16——超出的天数留存还没回填,算进去会被当成 0。
- retain_1d/3d/7d 存的是 user_id 不是 0/1,判断一律用「大于 0」,并且先按人聚合取最大值再算。
- 比率类指标按天配对检验。没有把三百万人次当成互相独立的样本——那样 0.3pp 就能算显著。
- 目标人群单独建池。四类召回人群加起来只占全站关系的 2% 左右,全站口径必然读成 0,所以按池子分开算,并且始终带一个「其他人群」对照池:它 +0.27% 不显著,说明分组是平的。
- 分桶有偏差时走三步。新进组上线前六项里五项显著有差 → 做平行趋势检验 → 五项通过 → 才用同队列相减。老进组在 08-19 锚点上的池子没通过(对照池差 +1.20% 显著),已标记不可读。