随机抽中却查不到结果,怎样校正审计均值?核验未响应与响应概率加权
把已知的核验抽中概率与需要假设的响应概率分开,用十二人手算和可运行 Python 推导分层响应加权,并通过均值偏移敏感性分析检查结论边界。
上一篇随机核验抽样与设计权重把有限核验预算变成了可解释的抽样设计。现在名单已经随机生成,核验员却发现:部分档案查不到,有些人始终没有回应。如果直接删去这些入口,再沿用原来的设计权重,随机名单的保证还能保留下来吗?
本篇讲未响应校正(Nonresponse Adjustment):先分开“被抽中”和“成功取得标签”,再在明确的条件下,用响应概率的倒数校正第二道选择。我们只推进四件紧密相关的事:两阶段概率、分层响应率估计、可运行的加权汇总,以及未观测结果的敏感性分析。服务策略、结果窗口和目标队列均保持冻结。
01 抽中与响应,是两道不同的门#
目标是某批已经成熟的 个唯一入口在七日内是否报名的完整均值 ,其中 。已知结果集合记为 ,已知成功数为 ;其余入口按核验前可用信息分为 层,第 层有 人。因此 。
对缺失池中的人定义:
- :被随机抽中核验;入样概率(Inclusion Probability), 是登记配额。
- :抽中后,在固定核验截止点取得有效标签;响应倾向(Response Propensity)为 。
- :在核验前、对响应与未响应者都可得的变量,例如档案渠道、历史联系有效性。层编号 是这些变量的预先固定函数。
“未响应”还包括查不到记录、无法完成有效测量等状态;“查到未报名”是有效的 。未入选者的 没有实际观测,数据库宜存为空,不能作为响应模型的负例。
冻结成熟入口 N
├─ 已知结果 O → 原值保留,权重 1
└─ 完整缺失池,按核验前变量分层
├─ 未抽中 A=0 → 不拟合响应率
└─ 抽中 A=1,概率 π
├─ 取得标签 R=1 → 加权结果汇总
└─ 未响应 R=0 → 留在响应率分母text这张数据流图里的箭头表示记录处理顺序;取得标签的概率同时受两道门影响。对缺失池,链式法则给出
随机设计保证第一道门,不能替第二道门提供保证。如果失败者更不愿意回复,即使随机联系,也可能只看见成功者。
| 记录状态 | initial_y | selected | audit_y | 用在什么分母中 |
|---|---|---|---|---|
| 冻结时已知 | 0 或 1 | false | 空 | 完整入口 |
| 未被抽中 | 空 | false | 空 | 完整入口和缺失池 |
| 抽中但未响应 | 空 | true | 空 | 上述分母及抽中数 |
| 抽中且有效响应 | 空 | true | 0 或 1 | 上述分母及响应数 |
每个字段都是长度 [N] 的列,特征矩阵是 [N,p];抽中子表有 行,响应子表有 行。汇总器输出完整队列均值这个标量,并保留 [H] 的抽中、响应和权重诊断。
02 为什么需要再乘一个响应权重?#
先假设真实响应概率已知。用层内同一个 表示每人的响应概率,需要一个具体条件:给定层后,响应与真实结果独立,即
这是本篇采用的条件随机缺失(Missing at Random, MAR)条件。它允许不同层的响应率和成功率都不同,但要求层内是否响应不再依据未观测的 选择。还需要正概率条件(Positivity):所有目标缺失者的 ,以及核验正确测量已经发生的结果。若联系会促使用户报名,测量本身改变了 ,就应重新定义实验。
在这些条件下,缺失池中的单人贡献为 。给定其固定结果,对抽样和响应机制求期望,分子中指示量的期望是 ,所以贡献期望为 。完整队列估计为
下标 oracle 表示“知道真实概率的教学参照”。如果只除以 ,贡献的期望仍为 ,漏掉第二道门。响应可以在同一家庭或同一档案库内相关;上述期望推导只用单人的边际概率,但方差必须反映相关结构。
真实 通常未知。最透明的起点是响应调整单元(Response Adjustment Cell):在预先固定的层内,用全部抽中者估计一个响应概率。独立同概率伯努利响应模型的层内对数似然为
内部解由 得到;全响应时取边界值 1,零响应时估计器无法工作。训练数据是抽中者的 X → R,含所有未响应记录;模型标签是 ,与报名结果 分开。
本篇使响应调整层与抽样层一致,且层内 相同。代入后,每位响应者的组合权重变为
其中 。它用每层的响应者均值代表该层完整缺失池。配额 在最终代数中消掉了,却仍决定响应率估计、取得多少标签及其不确定性。
这是估计响应概率后的代入估计(Plug-in Estimation),含随机分母 。真实概率下的无偏推导不能直接移给它;小层会遇到零响应、比率波动和不稳定区间。若调整单元合并了不同抽样概率,简单的 也不能直接照搬;应保留设计变量,使用与设计匹配的响应模型或加权调整。
03 十二人手算:一个标签代表六个人#
下面是合成教学队列,数值只用于检查算法。四个旧标签为 [1,1,0,0],所以 ;其余八人分成 a、b 两层。
| 层 | 完整缺失人数 | 抽中数 | 有效响应结果 | 组合权重 | |||
|---|---|---|---|---|---|---|---|
| a | 6 | 3 | [1] | 1 | 1/2 | 1/3 | 6 |
| b | 2 | 2 | [0,0] | 2 | 1 | 1 | 1 |
a 层抽中的三人中,一人查到成功,两人未响应;另三人根本没有入选。b 层两人都查到未报名。两种计算分别为
左边沿用抽样权重、删除未响应行,实际隐含这些行没有成功贡献;右边在层内可交换的响应假设下,让 a 层一个成功标签代表六人。若完整真值恰为“a 层全 1,b 层全 0”,真实均值确实是 。这一教学真值验证算术,单次吻合不能验证 MAR。
一个重要检查是代表人数:。这里恰好等于 ,源于每层人数已知、每层一个响应调整因子;一般逐人预测的响应概率不保证这种精确校准。
先判断:a 层最后一个响应标签也丢失,能否将概率下限设成 0.01 继续计算?
不能从这个单元的当前数据估计均值。a 层 时,响应者均值不存在;把分母改成 0.01 并没有产生标签证据。应追加核验,使用有依据且预先定义的合并规则,或保留该层的未知界限。若改用外部结果预测模型,应同时披露新增的外推假设。
04 Python:先拟合响应率,再计算结果贡献#
下面只用 Python 标准库实现上面的单元估计。输入 rows 是完整成熟队列,四种记录状态沿用前面的表;delta 是下一节定义的敏感性偏移,默认各层为零。输出含点估计、只用设计权重的对照、实际标签的最坏情形界限,以及每层诊断。
校验唯一键、旧结果、入选标记与核验结果的兼容关系
按预先登记的层统计 U、m、r,未入选者不参加响应率拟合
每层由所有抽中者拟合 rho_hat = r / m
若某层未抽样或零响应,则停止点估计
对响应者计算 1 / (pi * rho_hat),加回旧成功数并除以固定 N
另存全部未知标签的界限;按预设 delta 重算敏感性结果textfrom fractions import Fraction as F
def binary_or_none(value):
return value is None or (type(value) is int and value in (0, 1))
def audit_mean(rows, delta=None):
if not rows:
raise ValueError("完整队列不能为空")
seen, cells, known_sum, known_n = set(), {}, 0, 0
for row in rows:
key, h = row["id"], row["h"]
if not isinstance(key, str) or not key or key in seen:
raise ValueError("入口键必须是非空唯一字符串")
if not isinstance(h, str) or not h:
raise ValueError("预定义层名必须是非空字符串")
seen.add(key)
old, a, y = row["initial_y"], row["selected"], row["audit_y"]
if type(a) is not bool or not binary_or_none(old) or not binary_or_none(y):
raise ValueError("标记须为 bool,标签须为整数 0/1 或 None")
if old is not None:
if a or y is not None:
raise ValueError("旧标签不得作为本轮缺失池核验结果重复计入")
known_sum += old
known_n += 1
continue
if not a and y is not None:
raise ValueError("未入选者不得带本轮核验结果")
c = cells.setdefault(h, dict(U=0, m=0, r=0, successes=0))
c["U"] += 1
c["m"] += int(a)
if a and y is not None:
c["r"] += 1
c["successes"] += y
delta = {} if delta is None else delta
if not set(delta) <= set(cells):
raise ValueError("敏感性偏移含未知层")
total, design_only, mass = F(known_sum), F(known_sum), F(known_n)
weights, report = [], {}
for h, c in sorted(cells.items()):
U, m, r, sy = c["U"], c["m"], c["r"], c["successes"]
if m == 0 or r == 0:
raise ValueError(f"{h}: 未覆盖或零响应,不能输出单元点估计")
pi, rho, respondent_mean = F(m, U), F(r, m), F(sy, r)
weight, shift = 1 / (pi * rho), F(delta.get(h, 0))
if not 0 <= respondent_mean + shift <= 1:
raise ValueError("偏移后的未响应者均值必须在 [0,1]")
total += U * (respondent_mean + (1 - rho) * shift)
design_only += F(sy, 1) / pi
mass += r * weight
weights.extend([weight] * r)
report[h] = dict(U=U, m=m, r=r, pi=pi, rho_hat=rho,
weight=weight, respondent_mean=respondent_mean)
N = len(rows)
assert mass == N
observed_successes = known_sum + sum(c["successes"] for c in cells.values())
unknown = N - known_n - sum(c["r"] for c in cells.values())
# 只对缺失池的新响应标签做权重集中度诊断。
ess = sum(weights) ** 2 / sum(w * w for w in weights) if weights else None
return dict(mean=total / N, design_only=design_only / N,
bounds=(F(observed_successes, N),
F(observed_successes + unknown, N)),
response_weight_ess=ess, cells=report)
rows = [dict(id=f"o{i}", h="old", initial_y=y,
selected=False, audit_y=None)
for i, y in enumerate([1, 1, 0, 0])]
rows += [dict(id=f"a{i}", h="a", initial_y=None,
selected=(i <= 3), audit_y=(1 if i == 1 else None))
for i in range(1, 7)]
rows += [dict(id=f"b{i}", h="b", initial_y=None,
selected=True, audit_y=0) for i in range(1, 3)]
base = audit_mean(rows)
assert base["mean"] == F(2, 3)
assert base["design_only"] == F(1, 3)
assert base["bounds"] == (F(1, 4), F(2, 3))
assert base["response_weight_ess"] == F(32, 19)
print("cell", base["mean"], "bounds", base["bounds"])
for d in [F(0), F(-1, 4), F(-1, 2)]:
print("delta_a", d, "mean", audit_mean(rows, {"a": d})["mean"])python最后三行分别输出 delta_a 0 mean 2/3、delta_a -1/4 mean 7/12、delta_a -1/2 mean 1/2。Fraction 用整数分子分母精确核对推导;dict.setdefault 为每层建立计数器。接口已核对 Python fractions 官方文档 ↗与 dict.setdefault 官方文档 ↗。本实现没有新增机器学习库依赖。
这里的“训练”就是累计 并求出伯努利似然的解;“推理”把固定层的 和 送入汇总器。代码不重新抽样,调用方须提供不可变的实际名单、设计配额和完整抽样框身份;结构检查无法证明上游真正随机。时间和空间约为 、,其中排序仅用于稳定输出。
若未来改成逻辑回归(Logistic Regression)预测逐人响应率,训练集仍是全部抽中者,特征须在响应前对每人可得,并保留抽样设计变量。高维或灵活拟合时应把模型训练与贡献计算分开,使用独立数据或交叉拟合(Cross-fitting);验证预测校准、权重与结果目标的关系。更复杂的分类器也不能检验未观测标签上的 MAR。
05 层内仍有选择时,结论会往哪边走?#
假如同一档案渠道中,失败者仍更难联系,MAR 就可能失效。这属于非随机缺失(Missing Not at Random, MNAR):给定已用变量后,缺失仍依赖未观测结果。用相同已观测数据,可以构造出不同未响应结果;因此无法仅凭响应者标签验证假设。
用一个有业务单位的偏移做敏感性分析(Sensitivity Analysis)。令
表示同层未响应者的成功率比响应者低 25 个百分点。给定一组预设偏移,按响应率混合两类人的均值,可得到情景估计
其数据流是“响应者均值 → 加上偏移得到未响应者均值 → 按响应率混合 → 按完整层人数汇总”。二元结果要求 。把偏移范围预先定在有外部依据的区间,不能看见希望得到的结论再调它。
手算例中,只有 a 层有未响应,整体相对基准的变化是
所以偏移从 0 到 ,队列估计从 降到 ;偏移到 ,估计降到 。如果事先决策标准是“队列成功率超过 1/2”,后一种偏移就足以让点估计不再越过门槛。这还没有计入抽样和拟合误差,不能把越过门槛直接当作统计证据。
三种输出要并排解释:
| 输出 | 额外依据 | 回答的问题 |
|---|---|---|
| 单元响应加权点估计 | 层内响应可交换、覆盖与正确测量 | 这些条件下,全队列均值估计是多少? |
| 敏感性情景 | 指定层内未响应均值偏移,沿用随机抽样外推 | 结论对这种假设偏离有多敏感? |
| 全部实际未知标签的最坏情形界限 | 二元结果、已知标签正确、队列固定 | 不给未知标签模型时,完整队列允许什么范围? |
本例实际取得的七个标签有三个成功,仍有五个未知,所以最坏情形界限是 。敏感性公式描述层内均值模型下的情景,保留了抽样外推;它不是枚举五个实际未知标签的所有补全,也不是置信区间。抽样置信区间需要另外描述重复抽样及响应模型估计的波动,不能继续套用上一篇“核验全部响应”时的设计方差。
06 先诊断覆盖,再解释加权后的数字#
按“抽样框 → 实际名单 → 核验截止点 → 响应单元 → 结果贡献”的顺序调试:
| 现象 | 先查什么 | 后续动作 |
|---|---|---|
| 某层 | 是否从未抽中、是否集中查档失败 | 增补核验或保留未知;停止该单元点估计 |
| 响应率特别低 | 抽中分母是否把未入选者也算进去了 | 用完整入选名单重建 ,按截止点重算 |
| 模型预测响应几乎完美 | 特征是否含“最终联系次数”“标签是否成功写入” | 移除由响应过程产生的泄漏字段,冻结特征时间 |
| 加权人数对不上 | 旧标签是否重复,层内抽样概率是否一致 | 核对唯一键与设计;确认适用的是本篇单元特例 |
| 一个标签决定大半结果 | 小层响应不足,或代表人数很大 | 报告该标签贡献,扩充核验并做偏移情景 |
| 更换核验截止日期后均值变化 | 新响应者是否与早响应者不同 | 建立新版本;比较分层响应率与结果,保留旧快照 |
权重集中度可以用有效样本量(Effective Sample Size, ESS)形式 做提示。本例只对新响应标签计算,三个权重为 [6,1,1],得到 。它说明贡献集中,不能直接替代复杂设计下的标准误,也不能证明加权使方差一定增大;分层变量与结果的关系会影响精度。
截断极端权重会改变校正效果,应报告阈值、受影响比例与估计变化。对本篇单元权重直接截断还会破坏代表人数恒等式;不要为了让结果“稳定”而悄悄改分母。每次报表至少保存队列与名单身份、层定义、核验截止点、、模型版本、点估计、未知界限和偏移设定。
排障练习:只用成功拿到标签的三人训练响应模型,会发生什么?
训练标签 全为 1,模型没有见过那两个已抽中但未响应的人,无法学习响应概率。正确训练子表应有五行:a 层三行的响应标签为 [1,0,0],b 层两行为 [1,1]。a 层另外三位未入选者不应被当作 加进去。
本篇校正的是标签可见性。倾向得分加权校正处理分配,目标人群运输校正入选人群,两者需要各自的识别条件;概率含义不能因为公式都取倒数就互换。本篇也没有将“报名率差距”解释为某位专家的因果贡献。
层内剩余选择、错误档案、永久无法联系的群体,以及会改变行为的核验,都会使单纯响应加权失效。当缺失信息超出响应模型可支持的范围时,改进数据获取通常比继续增加模型复杂度更直接。
思考练习#
- 保持抽中名单不变,令 a 层第二人取得标签 0。手算新的响应率、组合权重、点估计与实际未知界限;解释为何多取得一个标签可能使估计明显下降。
- 只修改一份响应记录,使 a 层零响应,验证程序停止。若把 a、b 合并成一个响应单元,为什么原来的 不能无视两层不同的抽中概率?写出还需保留的设计信息。
- 本例事先要求成功率超过 0.55。手算使点估计恰等于门槛的 ,用程序复核;随后说明还缺哪些不确定性信息,才能形成正式的决策规则。
相关工作#
- Rubin (1976), Inference and Missing Data ↗:缺失机制与可忽略性条件的经典起点,帮助区分可观测调整与不可检验假设。
- Little & Vartivarian (2003), On Weighting the Rates in Non-response Weights ↗:讨论响应调整与抽样设计变量的关系,提醒不同抽样概率下不能机械合并响应率。
- Little & Vartivarian (2005), Does Weighting for Nonresponse Increase the Variance of Survey Means? ↗:分析响应单元、结果关联和偏差方差,解释权重分散程度为何不足以判断实际精度。
- Hansen & Hurwitz (1946), The Problem of Non-Response in Sample Surveys ↗:通过对未响应者再抽样并加强追访补充信息,为下一步改进核验设计提供基础。
下一篇预告#
如果同层未响应者仍可能更差,响应模型本身无法消除这个未知。下一篇将回到数据获取:怎样在未响应池中随机抽取加强核验名单,记录第二阶段概率,在额外核验真正取得结果时,用两阶段抽样减少对响应模型的依赖。