；第二，成立由多部委组成的联合督导组，下个月进驻云海，全面评估系统的法律、伦理、社会影响；第三，‘记忆之光’模式可以在严格控制下，向其他省市推广。”
回到酒店，陶成文长舒一口气：“我们过关了。”
张斌却忧心忡忡：“督导组来了，韦晖的压力会很大。他的每一次代码提交，都会被放在显微镜下审查。”
“这正是检验他改造是否真实的机会。”陶成文说，“如果他能通过这种级别的审查，那么他的案例就真的有推广价值了。”
（六）代码审查日：当每一行指令都被审判
督导组进驻后的第一次代码审查，气氛像法庭。
会议室里，督导组的五位专家——两位法学教授、一位计算机安全专家、一位伦理学者、一位资深检察官——面前都摆着厚厚的打印稿。那是韦晖过去六个月提交的所有代码和设计文档。
韦晖通过视频参与。他坐在矫正中心的审查室里，面前是多角度摄像头，身后还有两名督导组指派的独立技术员实时监控。
“从第3127行开始。”计算机安全专家刘教授推了推眼镜，“这个函数的作用是分析银行交易的时间模式。请解释算法逻辑。”
韦晖开始解释，用尽量通俗的语言。他解释了诈骗集团测试账户的典型时间特征：多在凌晨交易，避开银行风控系统的活跃时段；单笔金额小，避开大额监控阈值；频率高，测试账户响应速度。
“这个算法的准确率是多少？”刘教授问。。”韦晖回答，“但在实际运行中，我们设置了85的置信阈值——只有评分超过85分的，才会进入下一层人工审核。
“误报的代价是什么？”伦理学者王教授问。
“误报账户会进入‘观察名单’，系统会向该账户所属银行发送加密风险提示，银行风控系统会加强对该账户的监控。但不会直接通知账户持有人，除非触发更高阈值。”韦晖回答，“我们设计了‘误报纠正机制’：如果账户在后续监控期内无异常，系统会自动降低其风险评分，三周后移出观察名单。”
“如果账户持有人因为这额外的监控而遭遇不便呢？”王教授追问，“比如大额转账被延迟？”
“银行的标准风控流程本来就会对大额转账进行审核，我们的系统只是提供了额外的参考信息。”韦晖说，“而且我们与银行协议约定：系统提供的风险提示不作为唯一决策依据，只能作为辅助参考。”
询问持续了三小时。从算法原理到数据安全，从隐私保护到误报处理，从系统权限到应急预案。
最后，检察官老陈问了一个直击核心的问题：“韦晖，你设计的这些算法，如果被用于其他目的——比如政治监控、商业竞争、个人迫害——可能性有多大？”
这个问题让会议室安静了。所有人都盯着屏幕里的韦晖。
韦晖沉默了很长时间。监控数据显示他的心率从75升至92。
“可能性很大。”他最终诚实回答，“我设计的交易模式分析算法，稍加修改就可以用于分析一个人的生活习惯、消费能力、社交圈子。通讯模式分析算法，可以用于推断人际关系和思想倾向。行为预测算法，可以用于预判一个人的行动选择。”
他抬起头，看着摄像头：“所以我在所有关键算法中都加入了‘目的锁’——算法只能输出反诈相关的风险评分，无法输出原始行为数据。同时，系统架构设计为‘模块化隔离’，数据分析模块、风险评估模块、预警输出模块彼此独立，没有单一权限可以获取完整信息。”
“但‘目的锁’可以被破解。”刘教授说。
“可以。”韦晖承认，“所以我们需要法律、伦理、技术三层防护。法律上，明确系统只能用于反诈；伦理上，建立监督委员会；技术上，定期进行安全审计和渗透测试。没有任何一层防护是完美的，但三层叠加，可以大大降低滥用风险。”
他停顿了一下，补充道：“这也是我主动申请降低权限的原因——我不应该成为这个系统的‘上帝视角’。应该由制度，而不是个人，来守护系统的正义性。”
审查结束后，督导组闭门讨论。两小时后，刘教授代表督导组宣布初步结论：
“系统技术设计基本合理，防护措施到位。但需要增加两项改进：第一，建立‘算法影响评估’制度，任何新算法上线前，必须评估其潜在的滥用风险；第二，韦晖的代码贡献权限降为‘建议级’，所有代码必须经过至少两名独立专家的审核才能进入测试。”
这意味着韦晖不能再直接向系统提交代码，只能提供建议和草案。
视频里，韦晖点头：“我接受。这更安全。”
（七）第一次失误：当系统预警伤及无辜
系统升级后的第二周，发生了第一次严重误报。
云海市某中学副校长李老师，在筹备女儿婚礼期间，因为频繁与婚庆公司、酒店、亲友进行大额资金往来，被系统标记为“异常资金流动模式”，风险评分91分。
系统按照流