3. 验问算法

U盘在焦启明的口袋里躺了整整一天，像一块烧红的铁。

他没有立刻查看里面的内容。不是不想看，而是不敢。在警队干了十五年，他太清楚证据的分量了。有时候一份证据能翻案，有时候一份证据能让翻案的人万劫不复。焦念永给他的这个东西，不是普通的案件材料，是甲渠系统的内脏。剖开它，谁也不知道流出来的会是真相，还是更深的深渊。

他需要一个安全的地方。一个不会被甲渠系统的传感器扫到的地方。

焦启明想起了祖父诊所的旧址。

祖父的中医馆开在莱姆豪斯区，距离泰晤士河岸不到两百米。五年前祖父去世后，诊所就一直空着。房东是个年迈的孟加拉裔老人，对祖父极为敬重，从不催租，也从不问焦启明什么时候搬走那些落满灰尘的药柜。

他乘地铁到莱姆豪斯站，出站后特意绕了三圈，确认没有人跟踪。诊所的门面夹在一家孟加拉咖喱店和一家越南河粉店之间，招牌还在，上面写着“焦氏中医馆”五个字，金漆已经斑驳。焦启明拉开门，一股混合着甘草、当归和霉味的气息扑面而来。

他在诊疗室的长桌上清出一块空地，把笔记本电脑打开，插上U盘。

文件不多，只有三个。第一个叫“陈伟杰风险档案.pdf”，第二个叫“参数权重日志.csv”，第三个叫“社区干预时间线.pptx”。文件名平淡得像某家大公司的季度报告。而事实上，这确实是一家大公司的产品——居延集团去年市值突破两千亿英镑，甲渠系统是它最赚钱的政府合作项目。

焦启明点开第一个文件。

陈伟杰，男，二十四岁，父母来自广东台山，本人在伦敦出生，拥有英国国籍。住在白教堂巷14号福利公寓，职业是外卖平台骑手。家庭成员：父亲陈国华，五十八岁，在格林威治的一家中餐馆后厨帮工。母亲林秀英，五十五岁，清洁工。妹妹陈美玲，十九岁，曼彻斯特大学计算机专业大二学生。

一份普通得不能再普通的档案。如果没有甲渠系统，这个年轻人的人生轨迹应该像伦敦东区无数华裔二代移民一样——出生在唐人街，上普通的公立学校，找一份辛苦的工作，攒钱供妹妹读书，然后在某一天，攒够首付，搬到郊区去，离那些拥挤的街道和油腻的厨房远一点。

但甲渠系统改变了这一切。

风险档案的第二页，是一张彩色雷达图。八个评估维度，分别是：经济稳定度、社交网络密度、地理位置风险、文化背景参数、心理状态评估、网络行为分析、家族病史、暴力倾向指数。阿杰有六项亮红灯。其中得分最差的，是“文化背景参数”——九十七分。满分一百。

焦启明把祖父的笔记摊开在桌上，对照着看。祖父记录过，甲渠系统的“文化背景参数”包含了八个子指标，分别是：族裔聚居密度、母语非英语家庭比例、族群内通婚率、传统节日参与度、母国政治倾向评分、跨国汇款频率、宗教活动参与度、饮食习惯偏离主流指数。

这八个指标，表面上看不出任何与种族直接挂钩的字眼。但任何稍懂统计学的人都能一眼看穿——这分明就是用代码写成的种族画像。而阿杰这个在伦敦出生长大、说一口伦敦腔英语、从未去过中国的年轻人，仅仅因为姓陈，仅仅因为住在白教堂巷，仅仅因为父母在春节时会给台山老家的亲戚汇款，就在甲渠系统里被标记为一个“高风险的文化异质体”。

焦启明的手指在触摸板上滑动，翻到第四页。这一页的标题是：风险干预措施及目标个体反应追踪。

他的呼吸停住了。

这个表格记录了甲渠系统在过去三个月里，对阿杰实施的七项干预措施，以及每次干预后阿杰的心理状态变化。表格的格式冷酷得让人发指，像是实验室里记录小白鼠对药物反应的数据表。第一行写着——

干预日期：10月12日。干预措施：向目标个体所在社区发布B级安全公告。公告内容：该地址区域存在“较高潜在风险”，建议居民保持警惕。目标个体反应：社交回避行为增加百分之二十三，外卖接单量下降百分之十五。

第二行：11月3日。干预措施：降低目标个体甲渠信用分二十五分。影响：银行卡额度下调，租房续约被拒，外卖平台接单权限受限。目标个体反应：心理压力指数上升至中度，开始出现失眠症状。

第三行：12月20日。干预措施：向目标个体所在外卖平台推送“用工风险提示”。平台自动减少了目标个体的高峰时段接单权限。目标个体反应：月收入下降百分之四十，开始变卖个人物品。

焦启明不敢往下看了，但他必须看。

倒数第二行：1月26日。干预措施：向反恐组推送“高风险目标”预警，建议进行预防性拘留问话。阿杰被从公寓带走，在拘留室待了十二个小时。释放后，甲渠系统记录显示——目标个体反应：社会性绝望指数达到百分之八十一。自杀概率评估，百分之六十三。

最后一行，是1月28日，除夕。干预措施：社区安全公告升级为A级，建议居民“主动观察、及时上报”目标个体行为。干预结果：目标个体于当晚二十二时四十七分，从白教堂巷14号公寓天台坠落。风险评估状态更新为：终结。

焦启明猛地把笔记本电脑合上。

诊疗室里安静得能听见墙上老式挂钟的滴答声。窗外泰晤士河上传来一声沉闷的汽笛，像是在替什么人发出一声迟到的哀鸣。

他的眼眶发酸，但没有眼泪。愤怒把泪腺堵住了。他在警队十五年，见过各种各样的死人。被枪杀的，被刀捅的，吸毒过量倒在街边的，家暴被打死的。每一个死人，都有一个具体的凶手。但阿杰的死，没有一个具体的凶手。七个干预步骤，每个步骤都披着“公共安全”的外衣，每个步骤的负责人都在法务部门预留的免责条款里。把一个人活活逼死，却没有任何人能为此负责。

杀人于无形的算法，和几千年前那些躲在人群中窃窃私语的邻里一样，都是找不到凶手的凶器。

焦启明打开第二个文件。

参数权重日志是一张巨大的表格，记录着甲渠系统所有评估参数的权重分配。他从中找到了“文化背景参数”的设计说明。这份说明是由居延集团数据科学部撰写的，用词极为谨慎。其中有一段话被焦念永标成了红色高亮——

“需要注意的是，文化背景参数虽然与某些族群特征存在统计相关性，但这种相关性不能直接等同于因果关系。参数设计遵循严格的机器自动学习原则，未引入任何人工设定的种族变量。因此，从设计意图上讲，甲渠系统不具有歧视性。”

未引入人工设定的种族变量。焦启明反复读着这句话。这是所有算法歧视者的终极护身符——我没有明说种族，我只是设置了几个恰好和种族高度相关的参数。机器不知道什么是种族，机器只知道数据。而数据不会撒谎，对吧？

问题是，数据当然会撒谎。数据会撒这个时代最精巧的谎。

焦启明想起祖父在笔记里写到的一句话：“两千年前，焦永被同僚指认时，那些人也没有当面说他是胡人细作。他们只是说，你养的马驹死了，你就是有过失。偏见从不以真名示人，偏见总是披着逻辑的外衣。”

第三个文件，社区干预时间线，是一个PPT演示文稿。焦念永在最后几页附加了一份内部邮件截图。发件人是甲渠系统东区运营总监，收件人是反恐组联络官，主题是“关于高风险目标C-W-0042（陈伟杰）的处置建议”。

邮件正文里有一句话，用的是加粗字体：建议在除夕前后实施预防性拘留，该时段目标个体族群的社交活跃度最高，干预效果最为显著。

除夕前后。目标个体族群的社交活跃度最高。

阿杰被选择在除夕夜被带走，不是巧合，而是精算。系统知道，在中国农历新年这个时间节点，华人群体的社交活动最频繁，社区内部的压力传导也最剧烈。在这个时候把一个年轻人从家人身边带走，再把他放回去，他面对的不只是自己的恐惧，还有整个社区的目光。

什么叫偏见是罪恶最好的养料？这就是。

把一个人贴上标签，再把他放进一个天然会对这个标签产生反应的社区里。系统不需要亲手动刀，系统只需要播下一颗怀疑的种子，然后等待邻居们的窃窃私语去浇灌它，等待亲人们躲闪的目光去培育它，等待每一个善意的沉默去修剪它的枝叶。等到种子长成大树的那天，一条人命就挂在上面了。

焦启明合上电脑，站起来走到窗边。诊所的窗户对着泰晤士河，河面上漂浮着冬日清晨的薄雾，一艘垃圾驳船正在缓缓驶过。

他掏出那部老旧的诺基亚手机，拨了焦念永留给他的号码。电话响了三声就接了。

“看完了？”焦念永的声音很平淡。

“看完了。”

“有什么感受？”

焦启明沉默了很久。他看着窗外灰蒙蒙的河面，想起两千年前那个守在边塞烽燧里，面对死去的马驹手足无措的隧长焦永。焦永当时是什么感受？一定也是这种愤怒和无助搅在一起的窒息感。他知道自己是清白的，但他无法证明。因为指控他的不是一个人，而是一整套制度。制度不需要证据，制度只需要流程。

“我想见他。”焦启明说。

“谁？”

“甲渠系统的设计者。不是写代码的工程师，是设计这套干预机制的人。你们邮件里提到的那个人——东区运营总监。”

电话那头沉默了几秒，然后焦念永说了一个名字。

“沈知言。”

三个字落进焦启明耳朵里的时候，他的手猛地攥紧了电话。

沈知言。这个名字他听过。三年以前，沈知言是伦敦大学学院数据科学系的明星教授，在人工智能伦理领域发表过大量论文，其中最著名的一篇，标题是《算法如何避免隐性偏见：一种基于反事实公平的建模方法》。那篇论文焦启明读过，是他还在警队时，为了弄明白甲渠系统的原理自己找来读的。论文的结论是乐观的——作者认为，通过反事实公平建模，完全可以消除算法中的隐性偏见。

一个研究算法公平的学者，怎么会变成制造算法偏见系统的运营总监？

“他现在在哪里？”焦启明问。

“还在居延集团。升了，现在是甲渠系统全球运营副总裁。”焦念永的语气里透出一丝嘲讽，“学术界的反偏见明星，工业界的偏见制造者。你说讽刺不讽刺？”

焦启明握着电话，指节发白。

“帮我安排。我要见他。不是去质问，是以一个前警探的身份，去向他请教几个问题。”

“他不会见你的。”

“他会。”焦启明看着窗外河面上越升越高的薄雾，声音平静得近乎冷酷，“因为我要告诉他，甲渠系统在东区干的事情，违反了《千禧年数据保护法》第三十一条。作为被系统标记的受害者，我有权要求查看自己的完整评估档案。如果他拒绝，这份U盘里的东西会在四十八小时内，出现在《卫报》调查记者的办公桌上。”

电话那头的焦念永轻轻地笑了。

“你现在说话很像一个验问者了。”

电话挂断。焦启明把手机放在桌上，重新打开了笔记本电脑。阿杰的档案页面停在那行冰冷的终结记录上。他把光标移到那个词上，选中，右键，添加批注。在批注栏里，他打了一行字，是祖父拓片上那封汉代劾状的最后一句话——

“以实劾，都尉免永。”

用事实来弹劾，都尉免去了焦永的罪责。两千年前，一个叫宫的调查官员用这四个字，让一个被制度误判的人免于不公。两千年后，他要在算法里重新找到这四个字。

泰晤士河上又响起一声汽笛，悠长，低沉，像一声来自远古烽燧的号角。