周报 W34 · 报表周期 0817-0822

全球 16+(age > 16)。所有数字两位小数。看板窗口:次留 08-17~08-22,7 留与 20 轮两项 08-10~08-16。实验按上线至今整体读:置顶卡片 23006 为 08-04~08-23,等你回复 22066 为 07-29~08-23。本期最大变量:置顶卡片 08-18 下午从 20% 放量到 50%,余量组清零。

一句话:置顶卡片放量到 50% 之后依然全面正向——发消息用户比例 +0.20%、20 轮深度 +0.77%、人均消息 +0.69%、用户对话框复聊率 +0.62%、复聊后对方回复的 +0.75%,四类召回人群里三类显著抬升,留存三项持平(护栏没问题)。看板这边大盘活跃对话框次留跌破常态带,8-17 印尼独立日解释掉五分之一,其余是全渠道普跌。等你回复扣掉上线前差距后 P0/P1 全线净负,次留净 −0.23pp 显著,建议做去留决策。
看板 · 5 张表

1 · 看板四指标 · 周环比

次留是当周周一到周六的冻结值;7 留和 20 轮两项的数据周期比列标注早一周,所以这两项的环比在比「上上周 vs 上周」。

看板四指标 · 上期 vs 本期
指标 上期 本期 变化 相对变化 数据周期
[大盘用户]
活跃对话框次留 19.28% 18.97% -0.30pp -1.58% 0810-0815 → 0817-0822
活跃对话框7留 4.24% 4.31% +0.07pp +1.65% 0803-0809 → 0810-0816
20轮深度对话框次留 47.56% 47.70% +0.14pp +0.29% 0803-0809 → 0810-0816
20轮深度对话框7留 14.91% 15.16% +0.25pp +1.70% 0803-0809 → 0810-0816
[新用户]
活跃对话框次留 15.81% 15.46% -0.35pp -2.19% 0810-0815 → 0817-0822
活跃对话框7留 0.88% 0.92% +0.04pp +4.48% 0803-0809 → 0810-0816
20轮深度对话框次留 38.01% 38.52% +0.51pp +1.35% 0803-0809 → 0810-0816
20轮深度对话框7留 4.14% 4.32% +0.18pp +4.36% 0803-0809 → 0810-0816
分母:活跃对话框两项是会话条数(次留跨天去重、7 留按 session+day 逐日对);20 轮两项是「用户+day」逐日对。全部限 16+。
本周结论:大盘活跃对话框次留 18.97%,环比 -0.30pp,跌破前五周常态带下沿,是唯一需要解释的负向格。另外三格新用户指标(活跃 7 留、20 轮次留、20 轮 7 留)同时冲破上沿,但它们的数据周期是 08-10~08-16,还没覆盖本期,而且拆开后主要来自买量国家配比变化。
20 轮次留连跌三周的悬念解除:大盘 47.56% → 47.70%,老用户 48.72% → 48.76%,已经止住。

2 · 归因判定 · 哪几格要解释

判据是前 5 周区间:本期落在带内就当波动,不解释;跳出去才往下拆。

八个格子的常态带判定
指标 本期 前 5 周区间 判定 处理
[大盘用户]
活跃对话框次留 18.97% 19.07% ~ 19.28% 破下沿 要解释
活跃对话框7留 4.31% 4.09% ~ 4.35% 区间内 区间内 · 波动
20轮深度对话框次留 47.70% 47.56% ~ 48.13% 区间内 区间内 · 波动
20轮深度对话框7留 15.16% 14.80% ~ 15.24% 区间内 区间内 · 波动
[新用户]
活跃对话框次留 15.46% 15.38% ~ 15.81% 区间内 区间内 · 波动
活跃对话框7留 0.92% 0.84% ~ 0.89% 破上沿 要解释
20轮深度对话框次留 38.52% 37.87% ~ 38.26% 破上沿 要解释
20轮深度对话框7留 4.32% 3.96% ~ 4.25% 破上沿 要解释
常态带取本期之前 5 个数据周的最小值与最大值。

3 · 大盘活跃次留 −0.31pp · 四刀拆解

四刀一次跑完:国家/性别/年龄/渠道。组内构成相加约等于总变化。

按国家拆 · 大盘活跃对话框次留 08-10~08-15 → 08-17~08-22
国家 份额 留存 组内贡献 构成贡献
印尼 59.43% → 60.00% 20.31% → 19.88% -0.256pp +0.006pp
越南 14.00% → 14.43% 15.48% → 15.12% -0.052pp -0.017pp
菲律宾 16.16% → 15.64% 16.93% → 17.06% +0.021pp +0.012pp
阿语区 5.33% → 5.02% 26.84% → 26.82% -0.001pp -0.023pp
泰国 4.31% → 4.00% 16.61% → 16.72% +0.005pp +0.008pp
土耳其 0.65% → 0.79% 20.39% → 19.00% -0.011pp +0.001pp
中国 0.12% → 0.12% 22.85% → 23.36% +0.001pp -0.000pp
合计 19.28% → 18.97% -0.293pp -0.012pp
按性别拆 · 大盘活跃对话框次留 08-10~08-15 → 08-17~08-22
性别 份额 留存 组内贡献 构成贡献
52.63% → 52.78% 19.15% → 18.84% -0.162pp -0.000pp
47.37% → 47.22% 19.36% → 19.11% -0.121pp -0.000pp
合计 19.25% → 18.97% -0.283pp -0.000pp
按年龄拆 · 大盘活跃对话框次留 08-10~08-15 → 08-17~08-22
年龄 份额 留存 组内贡献 构成贡献
a17_18 22.84% → 23.56% 18.07% → 17.72% -0.083pp -0.010pp
a23_29 32.42% → 32.14% 20.22% → 19.95% -0.087pp -0.002pp
a19_22 31.72% → 31.50% 18.38% → 18.14% -0.075pp +0.002pp
a30p 13.02% → 12.79% 22.54% → 22.28% -0.033pp -0.007pp
合计 19.45% → 19.15% -0.278pp -0.017pp
按渠道拆 · 大盘活跃对话框次留 08-10~08-15 → 08-17~08-22
渠道 份额 留存 组内贡献 构成贡献
文字匹配 41.35% → 41.32% 14.68% → 14.42% -0.108pp +0.001pp
在线列表 18.40% → 18.91% 16.87% → 16.54% -0.062pp -0.012pp
命运雷达 13.61% → 13.42% 30.21% → 29.83% -0.052pp -0.021pp
新用户默认 3.15% → 3.06% 15.55% → 14.98% -0.017pp +0.003pp
主页 4.91% → 4.93% 20.77% → 20.49% -0.014pp +0.000pp
默认 2.75% → 2.72% 27.11% → 26.80% -0.009pp -0.002pp
关注列表 1.28% → 1.30% 35.37% → 35.03% -0.004pp +0.003pp
群聊房 2.87% → 2.85% 31.69% → 31.55% -0.004pp -0.002pp
合计 19.28% → 18.98% -0.273pp -0.032pp
结论:这一跌是组内普跌,不是人群配比动了。四刀的构成贡献都在 ±0.05pp 以内(国家 -0.012pp、性别 -0.000pp、年龄 -0.017pp、渠道 -0.032pp),几乎全部落在组内。每一个国家、每一个性别、每一个年龄段、每一个入口渠道都在往下走,幅度 0.2~0.4pp。印尼是最大单项:20.31% → 19.88%,贡献 -0.256pp,占总跌幅的八成。

4 · 8-17 印尼独立日 · 剔掉之后还剩多少

本期第一天 08-17 是印尼独立日。把它和上期对应的周一 08-10 一起剔掉,两边都只留周二到周六。

独立日当天的日级次留
日期 当日次留 当日会话数
2026-08-10 全站 22.64% 1,120,832
2026-08-10 印尼 23.59% 658,343
2026-08-17 全站 21.93% 1,138,340
2026-08-17 印尼 21.94% 692,933
日级次留和周口径数值不同:周口径把一条会话跨天去重成一条,日级不去重,绝对值更高。这里只看同口径的两个周一之间差多少。
剔掉两个周一之后 · 周二~周六对比
人群 0811-0815 大盘 0818-0822 大盘 变化 0811-0815 新用户 0818-0822 新用户 变化
大盘 19.498% 19.260% -0.238pp 15.824% 15.454% -0.371pp
印尼 20.457% 20.263% -0.194pp 17.580% 17.132% -0.448pp
菲律宾 17.283% 17.205% -0.078pp 13.692% 13.418% -0.275pp
越南 15.710% 15.194% -0.515pp 12.762% 12.693% -0.069pp
阿语区 27.311% 27.267% -0.044pp 18.976% 18.975% -0.001pp
两边都只算周二到周六,五天对五天,会话跨天去重。
独立日解释掉五分之一,剩下的四分之三是真的。算上周一跌 0.31pp;只比周二到周六,还跌 0.24pp。独立日当天印尼次留 21.94%,比上一个周一低 1.65pp。
越南是剔掉独立日之后跌得最狠的(−0.52pp),印尼 −0.19pp,菲律宾和阿语区基本持平。

5 · 新用户三项同时上行 · 20 轮两项分国家

新用户的活跃 7 留、20 轮次留、20 轮 7 留三格同时破上沿,数据周期都是 08-10~08-16。

新用户 · 20 轮深度对话框次留 · 0803-0809 → 0810-0816
国家 份额 留存 组内贡献 构成贡献
越南 20.00% → 16.55% 32.21% → 33.19% +0.163pp +0.200pp
印尼 43.89% → 49.32% 40.91% → 40.50% -0.201pp +0.158pp
菲律宾 23.26% → 23.21% 37.77% → 38.38% +0.144pp +0.000pp
阿语区 6.82% → 5.18% 41.13% → 41.65% +0.027pp -0.051pp
土耳其 1.39% → 1.70% 34.58% → 36.60% +0.034pp -0.010pp
泰国 4.45% → 3.86% 33.28% → 33.62% +0.013pp +0.028pp
合计 38.01% → 38.52% +0.179pp +0.324pp
新用户 · 20 轮深度对话框 7 留 · 0803-0809 → 0810-0816
国家 份额 留存 组内贡献 构成贡献
越南 20.00% → 16.55% 2.69% → 3.14% +0.075pp +0.050pp
菲律宾 23.26% → 23.21% 3.86% → 4.16% +0.072pp +0.000pp
印尼 43.89% → 49.32% 4.62% → 4.55% -0.035pp +0.026pp
阿语区 6.82% → 5.18% 6.71% → 6.79% +0.004pp -0.042pp
泰国 4.45% → 3.86% 3.55% → 4.21% +0.025pp +0.003pp
土耳其 1.39% → 1.70% 3.77% → 3.93% +0.003pp -0.001pp
合计 4.14% → 4.32% +0.143pp +0.037pp
老用户 · 20 轮深度对话框 7 留 · 0803-0809 → 0810-0816
国家 份额 留存 组内贡献 构成贡献
阿语区 12.49% → 11.81% 25.14% → 25.78% +0.075pp -0.061pp
越南 14.15% → 13.62% 11.43% → 11.94% +0.069pp +0.025pp
菲律宾 16.96% → 16.81% 18.25% → 18.71% +0.077pp -0.003pp
印尼 51.13% → 52.40% 14.91% → 14.92% +0.009pp -0.017pp
泰国 4.51% → 4.49% 13.66% → 14.15% +0.022pp +0.000pp
土耳其 0.67% → 0.77% 17.97% → 17.43% -0.004pp +0.002pp
合计 16.22% → 16.42% +0.248pp -0.053pp
新用户 20 轮次留 +0.51pp 里,六成是买量配比换了人。构成贡献 +0.324pp,组内只有 +0.179pp。越南新用户份额从 20.00% 掉到 16.55%(越南 20 轮次留只有 32%,全场最低),印尼从 43.89% 涨到 49.32%(印尼 40.91%,高于均值)。印尼自己的 20 轮次留反而从 40.91% 掉到 40.50%。
菲律宾那条结案:不立案。菲律宾老用户 20 轮 7 留从 18.25% 回到 18.71%,单周下滑不追。
置顶卡片 23006 · 10 张表

6 · 置顶卡片 23006 · 全人群主表

结论:放量到 50% 之后,卡片依然全面正向,而且比放量前读得更实。私聊四项里三项显著正(发消息用户比例 +0.20%、20 轮深度 +0.77%、人均消息 +0.69%),10 轮深度接近显著;召回侧四项全部显著正——唤醒长期沉默会话率 +0.81%、用户对话框复聊率 +0.62%、复聊后对方回复的 +0.75%、人均复聊老对话框 +0.83%;按召回人群拆,近期沉默 +2.14%、长期沉默 +8.26% 都显著,对照池 +0.27% 不动。留存三项持平,护栏没问题。
08-04 ~ 08-23(上线至今)
指标 实验组 对照组 VS 结论
[P0 留存]
次留 64.74% 64.72% +0.02% 不显著
3留 54.58% 54.55% +0.06% 不显著
7留 46.26% 46.21% +0.10% 不显著
[P1 私聊核心数据]
发消息用户比例 71.77% 71.63% +0.20% 显著 ↑
10轮深度对话 26.93% 26.84% +0.31% 接近显著 ↑
20轮深度对话 14.10% 13.99% +0.77% 显著 ↑
人均消息条数 34.74 条 34.51 条 +0.69% 显著 ↑
[P2 召回卡片核心数据]
唤醒长期沉默会话率 ≥7 天 7.08% 7.02% +0.81% 显著 ↑
用户对话框复聊率 45.88% 45.60% +0.62% 显著 ↑
 复聊后对方回复的 36.29% 36.02% +0.75% 显著 ↑
人均复聊老对话框 1.202 个 1.192 个 +0.83% 显著 ↑
[P2 关系唤醒率 · 按召回人群]
近期沉默 4.1.1 34.09% 33.37% +2.14% 显著 ↑
长期沉默 4.1.2 16.88% 15.59% +8.26% 显著 ↑
回流人群 4.1.3 16.27% 14.86% +9.51% 不显著
其他人群(对照池) 3.77% 3.76% +0.27% 不显著
P0/P1 分母=当天在实验分组里的 16+ 用户人次(实验组 3,645,218 / 对照组 3,621,379,差 0.42%);留存三项按可读天截断,次留只到 08-22、3 留到 08-20、7 留到 08-16。P2 召回卡片四项同样是人次口径。关系唤醒率分母是上线那天圈出的关系条数:近期沉默 134,745/135,560 条,长期沉默 53,102/53,736 条,回流人群 2,673/2,685 条,对照池 8,384,644/8,385,331 条。08-18 放量当天没有剔除:那天两组 16+ 人数 260,524 / 260,747,只差 0.09%,不构成爬坡日偏差。显著性按天配对算,不把人次当独立样本。
旁证 · 聊新对话框比例
指标 实验组 对照组 VS 结论
聊新对话框比例(旁证) 59.88% 59.87% +0.01% 不显著
这一项两组几乎完全一样,说明复聊率的增量不是靠多发新匹配堆出来的,是真的回到了存量关系。
新用户 · 08-04 ~ 08-23(上线至今)
指标 实验组 对照组 VS 结论
[P0 留存]
次留 46.82% 46.61% +0.45% 不显著
3留 26.89% 26.91% -0.06% 不显著
7留 16.54% 16.40% +0.89% 不显著
[P1 私聊核心数据]
发消息用户比例 83.61% 83.58% +0.04% 不显著
10轮深度对话 36.39% 36.20% +0.52% 不显著
20轮深度对话 18.41% 18.41% -0.03% 不显著
人均消息条数 43.12 条 43.18 条 -0.14% 不显著
新用户样本约为大盘的 8%,全部不显著。召回类指标对新用户不适用:他们名下没有沉默老关系。

7 · 置顶卡片 23006 · 留存 · 老用户与新用户

团队官方 cohort 模板:印尼 16+,先按 uid 取首次进组日去重,只 JOIN 那一天的留存行,分子=该留存字段的去重人数。不拆放量前后,08-04 起整段一起读。和第 6 节的人次口径不是一回事——这里分母是人,绝对值天然更低,两者不能横向比。

08-04 ~ 08-22(上线至今)
指标 实验组 对照组 VS 结论
[老用户 · 实验组 26.76 万 / 对照组 26.80 万]
次留 48.96% 48.96% -0.01% 不显著
3 留 37.13% 37.31% -0.47% 不显著
7 留 31.78% 31.80% -0.06% 不显著
[新用户 · 实验组 12.69 万 / 对照组 12.72 万]
次留 47.54% 47.59% -0.09% 不显著
3 留 27.70% 27.89% -0.69% 不显著
7 留 17.33% 17.41% -0.47% 不显著
分段行里的人数是次留口径的 cohort 规模。3 留和 7 留要留更多回填天数,实际参与计算的人更少:老用户 3 留 236,273 人、7 留 186,212 人;新用户 3 留 101,571 人、7 留 62,529 人。首次进组日的可读边界:次留到 08-22、3 留到 08-20、7 留到 08-16,超出的天数留存还没回填、算进去会被当成 0。
复现校准 · 08-04 ~ 08-10(与上期同窗口)
指标 实验组 对照组 VS 结论
[老用户 · 实验组 14.06 万 / 对照组 14.07 万]
次留 52.75% 52.86% -0.20% 不显著
3 留 42.70% 42.68% +0.04% 不显著
7 留 35.49% 35.56% -0.20% 不显著
[新用户 · 实验组 3.31 万 / 对照组 3.30 万]
次留 48.21% 47.93% +0.58% 不显著
3 留 27.98% 28.36% -1.35% 不显著
7 留 17.44% 17.61% -0.96% 不显著
这六行是上期报过的同一批数,本次复算逐位一致,说明口径没跑偏。
结论:六个格子全部不显著,留存护栏没问题。六项的绝对差都在 0.20pp 以内——老用户次留只差 0.004pp(26.8 万人里约 11 人),新用户 3 留差 0.19pp(10.2 万人里约 196 人)。VS 列是相对变化,会把这种量级的绝对差放大成看起来有方向的百分比,判定要看结论列。
新用户三项都是负号,但方向不稳。把新用户 cohort 切成三段互不重叠的窗口重读,3 留是 −1.53%(08-04~08-09)/+0.79%(08-10~08-16)/−1.98%(08-18~08-20),符号在换;次留和 7 留同样在正负之间摆。三段合并后 3 留 −0.24pp、次留 +0.10pp,都不显著。
⚠️ 放量后的 7 留现在一天都读不到(retain_7d 只回填到 08-16、放量在 08-18),最早 08-26 才有第一批可读。
⚠️ 这套官方模板里老用户和新用户两个 cohort 会重叠:一个人在窗口前半段还是新用户、后半段变成老用户,会各自以不同的首次进组日进两个 cohort,两个 cohort 的人数不能相加当总量

8 · 放量前 20% vs 放量后 50%

08-18 下午放量,当天起算进放量后。08-19 起实验组/对照组各 50%,余量组清零。

放量前 08-04 ~ 08-17(各 20%)
指标 实验组 对照组 VS 结论
[P0 留存]
次留 64.59% 64.62% -0.05% 不显著
3留 54.43% 54.50% -0.13% 不显著
7留 46.26% 46.21% +0.10% 不显著
[P1 私聊核心数据]
发消息用户比例 71.63% 71.51% +0.17% 显著 ↑
有活跃对话框用户比例 81.75% 81.60% +0.18% 显著 ↑
10轮深度对话 26.75% 26.63% +0.45% 显著 ↑
20轮深度对话 14.00% 13.84% +1.12% 显著 ↑
人均消息条数 34.58 条 34.20 条 +1.11% 显著 ↑
分母 1,795,851 / 1,788,149 人次,14 天。
放量后 08-18 ~ 08-23(各 50%)
指标 实验组 对照组 VS 结论
[P0 留存]
次留 64.92% 64.85% +0.10% 不显著
3留 54.88% 54.64% +0.44% 不显著
[P1 私聊核心数据]
发消息用户比例 71.91% 71.74% +0.24% 不显著
有活跃对话框用户比例 81.99% 81.78% +0.25% 接近显著 ↑
10轮深度对话 27.10% 27.05% +0.18% 不显著
20轮深度对话 14.20% 14.14% +0.42% 不显著
人均消息条数 34.90 条 34.80 条 +0.29% 不显著
[P2 召回卡片核心数据]
唤醒长期沉默会话率 ≥7 天 7.59% 7.53% +0.86% 不显著
用户对话框复聊率 45.89% 45.61% +0.62% 不显著
 复聊后对方回复的 36.28% 36.03% +0.71% 不显著
人均复聊老对话框 1.203 个 1.191 个 +1.05% 不显著
分母 1,849,367 / 1,833,230 人次,只有 6 天。7 留在这个窗口没有可读的天(回填只到 08-16),3 留只有 3 天,这两项别当结论。
放量后 P1 的读数变弱,但先别下「效果没了」的判断。放量前五项显著正;放量后只剩有活跃对话框用户比例显著,10 轮深度和人均消息的点估计翻成负号。两个候选原因:一是天数只有 6 天,按天配对的检验功效本来就低;二是 50% 那半人里有一大批是 08-18 才从余量组并进来的新面孔,只被卡片照了几天。下一节把这两拨人拆开。
召回侧在放量后仍然是正的(复聊率、唤醒率两项都还在),说明机制本身没有失效。

9 · 老进组 vs 新进组

老进组=08-18 之前就在实验组或对照组里的人;新进组=08-18 才从余量组并进来的人。两拨人在 a/b 之间都是随机分的,可以各自比。

放量后 08-19~08-23 · 老进组(已被卡片照了 14 天)
指标 实验组 对照组 VS 结论
次留 68.91% 68.80% +0.16% 不显著
发消息用户比例 70.66% 70.72% -0.08% 不显著
有活跃对话框用户比例 81.35% 81.24% +0.13% 不显著
10轮深度对话 25.81% 25.71% +0.38% 不显著
20轮深度对话 13.55% 13.40% +1.15% 不显著
人均消息条数 33.67 33.26 +1.23% 显著 ↑
分母 399,405 / 395,369 人次。这批人的次留水平 68.9%,明显高于新进组的 63.0%,因为他们是「08-04~08-17 至少活跃过一次」筛出来的。
放量后 08-19~08-23 · 新进组(原余量组,刚被照 5 天)
指标 实验组 对照组 VS 结论
次留 62.95% 63.10% -0.24% 显著 ↓
发消息用户比例 72.40% 72.30% +0.14% 显著 ↑
有活跃对话框用户比例 82.21% 82.06% +0.18% 显著 ↑
10轮深度对话 27.63% 27.75% -0.45% 显著 ↓
20轮深度对话 14.48% 14.57% -0.60% 不显著
人均消息条数 35.43 35.79 -1.00% 显著 ↓
分母 891,601 / 889,787 人次。这张表的读数不能直接信,见下一节。
老进组的正向还在:人均消息 +1.23% 显著,20 轮深度 +1.15%、10 轮 +0.38% 方向都保住了(天数少所以不显著)。卡片对已经用了两周的人仍然在起作用,第 8 节读得弱主要是被新进组稀释的。

10 · 新进组 · 扣掉上线前本来就有的差距

新进组在 08-04~08-17 期间两边都还在余量组、都没被卡片照过。把这段拿来当上线前差距,实验期读数减掉它,剩下的才是卡片带来的。

新进组在上线前(08-04~08-17,两边都还在余量组)
指标 未来的实验组 未来的对照组 判定 前半 → 后半 漂移检验
次留 75.95% 76.05% -0.092pp 显著 ↓ -0.073 → -0.109 通过
发消息用户比例 74.65% 74.54% +0.112pp 显著 ↑ +0.177 → +0.056 通过
有活跃对话框用户比例 83.81% 83.73% +0.084pp 显著 ↑ +0.170 → +0.010 临界
10轮深度对话 29.03% 29.11% -0.078pp 接近显著 ↓ -0.073 → -0.082 通过
20轮深度对话 15.59% 15.69% -0.107pp 显著 ↓ -0.048 → -0.158 通过
人均消息条数 38.73 38.97 -0.237 条 显著 ↓ -0.099 → -0.354 通过
漂移检验=把 14 天劈成前后两半,看两组的日差有没有越走越开。六项里五项通过,说明这个差是稳定基线,可以直接扣。
新进组 · 放量后读数 与 扣掉上线前之后
指标 实验组 对照组 VS 净效应 结论
次留 62.95% 63.10% -0.24% -0.063pp 接近显著 ↓
发消息用户比例 72.40% 72.30% +0.14% -0.012pp 不显著
有活跃对话框用户比例 82.21% 82.06% +0.18% +0.061pp 不显著
10轮深度对话 27.63% 27.75% -0.45% -0.046pp 不显著
20轮深度对话 14.48% 14.57% -0.60% +0.019pp 不显著
人均消息条数 35.43 35.79 -1.00% -0.121 条 不显著
结论列判的是净效应那一列,箭头也跟净效应。VS 列是没扣之前的原始读数,两者经常反向。
上一节新进组那几个「显著负」全是分桶本身就歪,不是卡片干的。实验期的差和上线前的差是同一个方向:次留原始 −0.24%,上线前就 −0.09pp;10 轮深度原始 −0.45%,上线前就 −0.08pp;人均消息原始 −1.00%,上线前就 −0.24 条。扣完之后六项全部不显著
正确的说法是:卡片在新并进来的人身上,五天内既没看出好也没看出坏。这和老进组用了两周才攒出显著正向是一致的——这个功能的效应需要时间累积。

11 · 放量后重新建池 · 50% 阶段还灵不灵

锚点换到 08-19,用 08-19 当天的分组重新圈一次沉默关系,只看 08-19~08-23 这五天。

锚点 08-19 建池 · 新进组(08-18 才并进来,此前从未被卡片照过)
关系人群 实验池 / 对照池(条) 实验组 对照组 VS 结论
长期沉默关系(>7 天没说话 · 累计 ≥50 轮) 85,797 / 85,795 8.350% 7.857% +6.27% 显著 ↑
近期沉默关系(1-7 天没说话 · 累计 ≥20 轮) 192,453 / 194,857 24.453% 23.822% +2.65% 显著 ↑
其余关系(对照池,应当不动) 13,001,888 / 12,943,601 2.551% 2.547% +0.18% 不显著
这批人的池子干净:两组池子大小只差 0.00%,对照池 +0.18% 不显著。
锚点 08-19 建池 · 老进组(已经被卡片照了 14 天)
关系人群 实验池 / 对照池(条) 实验组 对照组 VS 结论
长期沉默关系(>7 天没说话 · 累计 ≥50 轮) 57,475 / 57,752 7.657% 7.496% +2.15% 不显著
近期沉默关系(1-7 天没说话 · 累计 ≥20 轮) 136,322 / 133,110 24.672% 24.160% +2.12% 显著 ↑
其余关系(对照池,应当不动) 8,549,552 / 8,477,807 2.512% 2.482% +1.20% 显著 ↑
⚠️ 这张表不能当结论:这批关系的库存本身已经被前 14 天的卡片改造过,对照池差 +1.20% 且显著,起点就不平了。
放量到 50% 之后,卡片的召回机制照常工作。在从来没被照过的新进组身上,长期沉默关系五天复活率 8.35% vs 7.86%,高出 6.3% 且显著;近期沉默 +2.7% 显著;对照池 +0.18% 纹丝不动。
这和第 10 节不矛盾:卡片确实把沉默关系叫醒了(关系维度有效),但被叫醒的关系数量占一个人全部行为的比重太小,五天还撑不起人维度的次留和人均消息。

12 · 曝光侧 · 渗透与发星

整段窗口的平均值,不按天铺开。渗透率=曝光人数/分组人数;人均曝光=曝光次数/曝光人数;发星率与关闭率的分母都是曝光人数。

卡片渗透率发星率/关闭率 · 窗口平均(只有实验组有)
窗口 天数 日均分组人数 日均曝光人数 渗透率 人均曝光 日均发星人数 发星率 关闭率
08-04 ~ 08-23(上线至今) 20 天 182,261 57,497 31.55% 13.39 4,573 7.95% 9.98%
放量前 08-04 ~ 08-17(各 20%) 14 天 128,275 39,257 30.60% 13.50 3,170 8.07% 9.85%
放量后 08-18 ~ 08-23(各 50%) 6 天 308,228 100,059 32.46% 13.29 7,846 7.84% 10.09%
每一列都是整段窗口的合计相除,不是逐日再取平均——分母大的天权重更高。这三个数只有实验组有,不进对比表。
发星率的衰减是每个人自己的新鲜感衰减,属于这类功能的正常形态,不作为问题项。整段窗口平均 7.95%:放量前 8.07%、放量后 7.84%,两段几乎一样。窗口内部走的是同一条曲线——上线首日 12.62%,到 08-17 走到 6.07%;08-18 放量当天回到 10.24%,因为一大批第一次看到卡片的人进来了;随后 5 天又走回 6.53%。
更值得看的是它没有拖累别的:渗透率放量前后 30.60% → 32.46%,人均曝光 13.50 → 13.29 次,关闭率 9.85% → 10.09%,三项都没有随放量恶化,而第 6 节的召回四项在同一时间仍然显著为正。也就是说,发星只是入口之一,卡片的召回价值并不依赖发星率维持在高位。
留存复核 · 换成「每人只按第一次进组那天算一次」(印尼 16+,08-19~08-22)
人群 实验组 对照组 VS 结论 实验/对照人数 人数差
老用户 56.23% 56.31% -0.15% 不显著 286,553 / 286,560 -0.00%
新用户 46.73% 47.41% -1.45% 显著 ↓ 49,892 / 49,405 +0.99%
这一版分母是人不是人次,绝对值 56% 明显低于人次口径的 64%,不能和看板横向比。老用户方向和人次口径一致;新用户这版读出 −1.45% 显著,但人数差已到 0.99%、样本只有 5 万,而人次口径读的是 +0.03% 不显著,两者不一致,按规矩不采信、下期复看。
等你回复 22066 · 4 张表

13 · 等你回复 22066 · 全人群

结论:跑满四周,扣掉上线前差距之后 P0/P1 全线净负,次留净 −0.23pp 显著,已经踩到护栏。这个实验没有放量,仍是 20%/20%/60%。这批人上线前在 10 轮深度、20 轮深度、人均消息三项上本来就领先对照组,所以实验期看到的「+0.10%、+0.24%、+0.27%」不是功能带来的,扣完全是负的。
07-29 ~ 08-23(上线至今)
指标 实验组 对照组 VS 净效应 结论
[P0 留存]
次留 64.60% 64.68% -0.12% -0.231pp 显著 ↓
3留 54.39% 54.45% -0.11% -0.005pp 不显著
7留 46.04% 46.06% -0.04%
[P1 私聊核心数据]
发消息用户比例 71.53% 71.58% -0.07% -0.102pp 显著 ↓
有活跃对话框用户比例 81.62% 81.66% -0.04% -0.075pp 显著 ↓
10轮深度对话 26.77% 26.74% +0.10% -0.204pp 显著 ↓
20轮深度对话 13.99% 13.95% +0.24% -0.107pp 显著 ↓
人均消息条数 34.60 条 34.51 条 +0.27% -0.389 条 显著 ↓
[P2 等你回复核心数据]
触发「Your Turn」次日回复率 19.95% 20.10% -0.78% -0.120pp 显著 ↓
触发「Your Turn」48 小时内回复率 23.00% 23.18% -0.78% -0.058pp 接近显著 ↓
触发「Your Turn」72 小时内回复率 24.36% 24.54% -0.74% -0.027pp 不显著
分母=当天在实验分组里的 16+ 用户人次(实验组 3,322,319 / 对照组 3,320,140)。上线前差距用同一批人(07-29 的分组)在 07-21~07-28 量的,同一套分母;7 留那一格没有同队列基线,所以净效应留空。P2 三项的分母是「轮到自己回」的会话条数,上线前基线取 07-21~07-25。结论列和箭头都跟净效应,不跟 VS——这两列经常反向。
新用户 · 07-29 ~ 08-23(上线至今)
指标 实验组 对照组 VS 净效应 结论
[P0 留存]
次留 46.31% 46.37% -0.15% -0.220pp 不显著
3留 26.59% 26.62% -0.11% +0.023pp 不显著
7留 16.33% 16.40% -0.39%
[P1 私聊核心数据]
发消息用户比例 83.24% 83.36% -0.14% -0.175pp 接近显著 ↓
有活跃对话框用户比例 88.41% 88.53% -0.14% -0.165pp 接近显著 ↓
10轮深度对话 35.86% 35.91% -0.14% -0.280pp 显著 ↓
20轮深度对话 18.21% 18.30% -0.50% -0.232pp 显著 ↓
人均消息条数 42.86 条 42.63 条 +0.53% -0.256 条 不显著
新用户样本小,全部不显著。

14 · 等你回复 22066 · 分性别

和第 13 节同一套口径,只是把人拆成男女各跑一遍。上线前基线也按性别各自量(同一批人、07-21~07-28)。待回会话=当天这条会话里最后说话的是对方、且双方消息总数 ≥3 条。

男性 · 07-29 ~ 08-23(上线至今)
指标 实验组 对照组 VS 净效应 结论
[P0 留存]
次留 64.56% 64.68% -0.19% -0.207pp 显著 ↓
3留 54.77% 54.95% -0.32% -0.027pp 不显著
7留 46.65% 46.76% -0.23%
[P1 私聊核心数据]
发消息用户比例 69.80% 69.84% -0.06% -0.097pp 显著 ↓
有活跃对话框用户比例 73.40% 73.42% -0.03% -0.087pp 显著 ↓
10轮深度对话 24.75% 24.71% +0.16% -0.146pp 显著 ↓
20轮深度对话 12.63% 12.55% +0.69% +0.019pp 不显著
人均消息条数 31.73 条 31.51 条 +0.70% -0.376 条 显著 ↓
[P2 等你回复核心数据]
触发「Your Turn」次日回复率 21.75% 22.00% -1.11% +0.022pp 不显著
触发「Your Turn」48 小时内回复率 25.09% 25.35% -1.04% +0.121pp 接近显著 ↑
触发「Your Turn」72 小时内回复率 26.59% 26.86% -0.99% +0.161pp 显著 ↑
分母=当天在实验分组里的 16+ 男性用户人次(实验组 2,070,660 / 对照组 2,069,990)。P2 三项的分母是该人群名下「轮到自己回」的会话条数。7 留没有同队列基线,净效应留空。结论列和箭头跟净效应,不跟 VS。
女性 · 07-29 ~ 08-23(上线至今)
指标 实验组 对照组 VS 净效应 结论
[P0 留存]
次留 64.65% 64.66% -0.02% -0.272pp 显著 ↓
3留 53.75% 53.62% +0.25% +0.028pp 不显著
7留 45.03% 44.91% +0.27%
[P1 私聊核心数据]
发消息用户比例 74.40% 74.46% -0.08% -0.113pp 显著 ↓
有活跃对话框用户比例 95.24% 95.29% -0.06% -0.058pp 显著 ↓
10轮深度对话 30.10% 30.10% +0.01% -0.303pp 显著 ↓
20轮深度对话 16.23% 16.29% -0.35% -0.321pp 显著 ↓
人均消息条数 39.35 条 39.47 条 -0.31% -0.402 条 显著 ↓
[P2 等你回复核心数据]
触发「Your Turn」次日回复率 18.60% 18.70% -0.55% -0.214pp 显著 ↓
触发「Your Turn」48 小时内回复率 21.45% 21.58% -0.60% -0.179pp 显著 ↓
触发「Your Turn」72 小时内回复率 22.69% 22.82% -0.58% -0.152pp 显著 ↓
分母=当天在实验分组里的 16+ 女性用户人次(实验组 1,251,659 / 对照组 1,250,150)。P2 三项的分母是该人群名下「轮到自己回」的会话条数。7 留没有同队列基线,净效应留空。结论列和箭头跟净效应,不跟 VS。
结论:收窄到只对男性开,救不回护栏——男性次留净 −0.207pp 显著,和女性的 −0.272pp 是一个量级。而且方向性更麻烦的是:男性的次留下降在原始读数里就存在(VS −0.19%),女性的原始读数几乎是零(VS −0.02%),是扣掉上线前基线(+0.260pp)之后才变负的。换句话说,留存这一刀砍在男性身上比女性更实。
男性侧确实有东西,但只有两格,而且不足以抵掉代价。男性真正没被打负的只有两项:72 小时回复率净 +0.161pp 显著、20 轮深度净 +0.019pp(中性);48 小时 +0.121pp 接近显著、次日 +0.022pp 已经归零。同时男性仍在付:次留 −0.207pp、人均消息 −0.376 条、发消息比例 −0.097pp、10 轮深度 −0.146pp,四项都显著负。
女性侧则是全线负:次留 −0.272pp、10 轮 −0.303pp、20 轮 −0.321pp、人均消息 −0.402 条、待回回复率三项 −0.152~−0.214pp,全部显著。
所以「只对男性开」能拿到的是一个 +0.16pp 且还在缩水的三日回复率,代价是 −0.21pp 的次留。这笔账不划算。如果还想救,要动的不是性别开关,而是「什么时候亮标签」——男性待回密度 1.45 条/人天时标签有区分度,密度一高就退化成噪声,所以方向是按待回密度做频控,性别只是密度的一个代理变量。
口径 · 1 张表

15 · 指标口径 · 每个数的分子和分母

每个比率的分母和分子
指标 分母单位 分母 分子
[看板四指标 · 表 dm.dm_soc_chat_session_msg_v1_sd · 限 age>16]
活跃对话框次留 会话条数(跨天去重) 当周周一~周六里 session_round_cnt≥1 的会话 其中 retain_1=1 的会话
活跃对话框 7 留 会话+day 逐日对 上一个完整周里 session_round_cnt≥1 的 session+day 对 其中 retain_7=1 的对
20 轮深度对话框次留 用户+day 逐日对 上一个完整周里 session_total_cnt≥20 的 f_uid+day 对 其中 retain_1=1 的对
20 轮深度对话框 7 留 用户+day 逐日对 同上 其中 retain_7=1 的对
[实验 P0 留存 · 表 dw.dw_user_act_retain_sd]
次留 / 3 留 / 7 留 人次 当天在该分组里的 16+ 用户人次 其中 retain_1d / 3d / 7d 大于 0 的人次
[实验 P1 私聊核心 · 表 rpt.rpt_user_square_post_chat_sd]
发消息用户比例 人次 当天在该分组里的 16+ 用户人次 其中 is_sender=1 的人次
有活跃对话框用户比例 人次 同上 其中 is_active_dialog_box=1 的人次
10 轮深度对话 人次 同上 其中 is_deep_active_dialog_box=1 的人次
20 轮深度对话 人次 同上 其中 is_deep_active_dialog_box_20r=1 的人次
人均消息条数 条 / 人次 同上 该分组当天 sender_cnt 之和
[实验 P2 召回卡片核心数据]
唤醒长期沉默会话率 ≥7 天 人次 当天在该分组里的 16+ 老用户人次 其中当天至少唤醒一条「上次说话在 7 天以前」会话的人次
用户对话框复聊率 人次 当天在该分组里的 16+ 用户人次 其中当天在至少一个 is_new_session=0 的会话里发过消息的人次
 复聊后对方回复的 人次 同上 再加一层:那条老会话当天 session_round_cnt≥1,双方都说了话
人均复聊老对话框 个 / 人次 同上 该分组当天 is_new_session=0 的会话条数之和
[实验 P2 关系唤醒率 · 按召回人群 · 锚点=上线日 08-04]
近期沉默 4.1.1 关系条数 对方还活着 且 累计 ≥20 轮 且 上一次说话在 1~7 天前(134,745 / 135,560 条) 其中 08-04~08-23 又出现过消息的(45,931 / 45,240 条)
长期沉默 4.1.2 关系条数 对方还活着 且 累计 ≥50 轮 且 上一次说话在 7 天以前(53,102 / 53,736 条) 同上(8,965 / 8,380 条)
回流人群 4.1.3 关系条数 在 4.1.2 基础上,对方是最近 48 小时才回来的(2,673 / 2,685 条,已从 4.1.2 里剔出) 同上(435 / 399 条)
其他人群(对照池) 关系条数 不满足上面三条的其余关系(8,384,644 / 8,385,331 条) 同上(316,391 / 315,569 条)
[实验 P2 等你回复核心数据]
触发「Your Turn」次日/48/72 小时回复率 会话条数 当天最后说话的是对方、且该会话消息总数 ≥3 的会话条数 其中本人在 1/2/3 天内又发过消息的条数
[卡片曝光侧 · 表 dw.dw_user_app_event_sd · 只有实验组有]
渗透率 人次 当天在实验组里的 16+ 用户人次 其中触发过 RecallCard_Show 的人次
发星率 人次 当天触发过 RecallCard_Show 的人次 其中触发过 RecallCard_SendStar 的人次
关闭率 人次 当天触发过 RecallCard_Show 的人次 其中触发过 RecallCard_Close 的人次

16 · 怎么验的