每一组都在涨,合起来在跌
辛普森悖论不是一个数学谜题,它是一个警报:同一张表,分组前后能给出方向完全相反的结论,而数学不能告诉你该信哪一个。能告诉你的,只有一张因果图。
某新药的试验数据:合起来看,吃药的人康复率更低;但男性组吃药康复率更高,女性组吃药康复率也更高。这药到底该不该吃?
这一题的答案会让不少人意外——它不是「分组的总是对的」。
一个不可能,却每天都在发生的事
先确认一件事:上面那个描述在算术上完全可能,一点矛盾都没有。
吃药 没吃药
───────────── ─────────────
男性 81/87 = 93% 234/270 = 87% ← 吃药更好
女性 192/263 = 73% 55/80 = 69% ← 吃药更好
───────── ───────────── ─────────────
合计 273/350 = 78% 289/350 = 83% ← 吃药更差
# 三行都是真的。没有算错。
机制很朴素:男性本来康复率就高(93% vs 73% 这个级别的差距),而吃药的人里女性占了绝大多数(263/350),没吃药的人里男性占了绝大多数(270/350)。于是「合计」那一行,比较的其实是「一群女性」和「一群男性」。
这个现象叫辛普森悖论(Simpson's paradox)。它之所以能当悖论,是因为我们的直觉认定「整体应该等于部分之和」——而在比率上,这句话不成立。
伯克利,1973
上面的数字是我编的。下面这份是真的。
1973 年秋季,加州大学伯克利分校的研究生院录取数据引起了一场性别歧视的争议。Bickel、Hammel 和 O'Connell 三位研究者随后在 Science 上发表了一篇分析(1975 年,187 卷 4175 期)。他们文章里的表 1,列出了申请人数最多的六个系(原文匿名为 A–F)。
三个按钮请依次点一遍。数字是这样的:
- 合起来看:男性 1198/2691 = 44.5%,女性 557/1835 = 30.4%。差 14.2 个百分点。样本这么大,这不可能是运气。
- 分系看:六个系里有 四个系,女性的录取率反而更高。
- 按系加权(调整)之后:男性 38.7%,女性 43.0%——差 −4.3 个百分点,方向翻过来了。
那只手在第三张表里:女性申请占比越高的系,整体录取率越低。A 系整体录取 64.4%,女性只占申请人的 11.6%;F 系整体录取 6.4%,女性占 47.8%。换句话说,男性和女性大量申请了难度完全不同的系。
「合起来的数」和「分开的数」都是正确的算术。数学不会告诉你该信哪一个,因为它们回答的是两个不同的因果问题:
- 合起来的数回答:随便挑一个申请人,男性比女性更可能被录取吗?(真,因为男性倾向于申请容易的系)
- 分系的数回答:同一个系里,评审对性别有偏好吗?(在四个系里,偏向女性)
你想问的是哪一个?这是一个因果问题,不是统计问题。而回答它需要一张图。
什么时候该分组,什么时候不该
这一节是本章真正值钱的地方,因为它会破掉一个非常流行的错误经验:「分得越细越准」。
看两张图。它们的数据可以长得一模一样,结论正相反。
# 图一:性别在【前面】——它是混淆 性别 → 选哪个系 → 录取 性别 ─────────────→ 录取 # 该按系分组。因为「选哪个系」是在处理之前就定了的 # 图二:吃药之后【才发生】的东西 吃药 → 血压 → 康复 # 不该按血压分组。血压是药起作用的【通道】, # 按它分组等于问「假如药没起作用,药有什么用」
决定因素只有一个:这个变量是在处理之前就定下来的(前因),还是处理之后才发生的(后果)?
- 前因(如伯克利的「申请了哪个系」、ICU 的「病情严重度」):这类变量是混淆,该分组。
- 后果(如药引起的血压变化):这类变量是中介,不该分组——第 11 章会当场演示,按它分组会把 1.29 的真效应砍成 0.49。
而这个信息——哪个在前、哪个在后——数据里没有。你只能从对这件事的了解中带进来。这就是第 1 章说的那件事:因果结论必然包含数据之外的输入。
版本发布看指标。新版本上线,总体留存跌了 2%。分平台看:iOS 涨,Android 也涨。怎么回事?因为新版本发布期间恰好推了一波 Android 拉新,而 Android 用户的基线留存本来就低——新版本把用户结构改了。这是典型的辛普森结构,「平台」是那只手。
薪资统计。「某公司男女薪资差 15%」,按职级分开看每一级都只差 1%。那么是有歧视还是没有?——两个都是真的,回答的是不同问题:「进这家公司的男女,拿到的钱差多少」和「同一职级的男女,拿到的钱差多少」。如果晋升本身受性别影响,那么按职级分组恰恰会把歧视藏起来(因为职级此时是后果,不是前因)。图变了,答案就变了。
伯克利那个例子里分系是对的,因为「申请哪个系」发生在录取决定之前。但如果你按「录取之后是否入学」分组,就完全错了——那是结果之后的事,按它分组会引入第 7 章那种偏差。
Pearl 把这件事说得最狠:辛普森悖论之所以困扰了统计学界几十年,是因为大家一直试图用统计的语言回答一个统计语言里根本表达不出来的问题。「该不该调整」这句话里就藏着因果,而当时的工具箱里没有能写下因果的记号。第 9 章你会拿到那个记号。
D光凭这些数字答不了,还要知道「性别」和「吃不吃药」之间是什么关系。
如果性别是前因(男性因为某些原因更少去吃这个药),那该看分组的,药有效。如果换一个场景——把「性别」换成「服药后血压」,那就该看合起来的,因为血压是药起效的通道。同一张数字表,两种答案,取决于图。
A 「分组的总是对的」——在这道题里恰好对,但理由错了。理由不是「分得细」,是「性别是前因」。理由错了,下一题就会翻车。 B 「总体数据不会骗人」——总体数据在这里比较的是两群不同的人。 C 「数据自相矛盾」——一点都不矛盾,三行都是准确的算术。会觉得矛盾,是因为直觉里「整体 = 部分之和」这条对比率不成立。这一章的一句话
同一张表能给出相反的方向,而算术无权仲裁;仲裁者是那张写着「谁在谁前面」的因果图。
下一章看混淆的一个近亲,而且更阴险:不是有第三只手在推,而是你的数据本身就是被筛过的。你会看到两个用两行独立随机数生成的变量——它们之间连一条线都没有,全体的相关系数是 −0.008——在通过一道门之后,相关系数变成 −0.643。