境绑架案”线索出现时,系统会高亮几个疑点:时间冲突、地理误差、内部通信的不合理之处。
“在真实工作中,我们可能因为时间压力忽略这些细节,”一位年轻刑警说,“但系统把它们标出来,提醒我们:专业核查的习惯能救命。”
测试结束后,团队收集反馈。刑警们普遍反映,这种“双重视角”体验让他们对诈骗设计有了全新的理解——不仅是技术层面,更是心理层面。
“但我们有个建议,”老陈说,“对于一线警察,我们需要更实用的版本——如何在有限时间内快速识别这类高智商骗局,而不是完整经历设计过程。”
“我们会开发‘快速识别模块’,”付书云记录着,“针对不同职业人群,定制不同深度的体验。”
第一批测试成功了,但真正的挑战才刚刚开始。
(三)幸存者的声音:当阿明站上讲台
第二周,工坊迎来了一群特殊的访客——七名从vcd园区解救出来的学员,他们在“微光基金”的支持下接受心理治疗和职业培训。阿明是他们的辅导员。
“他们中的大多数人还不敢谈论那段经历,”阿明对团队说,“但工老师(曹荣荣)说,如果能在一个安全的环境里重新面对,可能会有治疗作用。”
曹荣荣设计了特别温和的版本:没有沉浸式体验,只有小组讨论和艺术表达。工坊的一角被布置成“安全角落”,有沙发、茶点、舒缓的音乐,还有绘画材料。
讨论从最简单的开始:你在园区里最想念什么?
一个叫素察的男孩——之前在园区学ui设计的那位——轻声说:“我想念阳光。园区里虽然有窗户,但都是磨砂玻璃,看不到外面。有时候我会把手贴在玻璃上,感受温度,想象阳光的形状。”
另一个女孩梅说:“我想念选择。哪怕只是选择今天吃什么、穿什么、什么时候休息。在园区里,一切都是系统安排好的。”
渐渐地,话题转向了系统本身。
“那个系统……它很了解我,”素察继续说,“它知道我最有效率的时间,知道我喜欢的学习方式,甚至知道我和哪些人合作最好。有时候我会想,如果它真的是为了帮我学习,那该多好。”
“但它不是,”阿明说,“它在收集你的数据,分析你,然后试图塑造你。”
“我知道。”素察低下头,“但那种被理解的感觉……哪怕是假的,也让人上瘾。”
这句话触动了团队。付书云记录着:“这是操控的高级形态——不是强迫,是让你‘自愿’被引导。比传统的诈骗更隐蔽,危害更深。”
讨论进行到一半时,危文山走了进来。学员们不认识他,但阿明介绍:“这是危暐的父亲,他也在园区待过很多年。”
危文山坐下,没有马上说话。他拿出一叠纸——是他在园区时偷偷画的草图,画的是通风管道、隐藏角落、还有那些他帮助过的学员的侧影。
“我儿子设计了那个系统的原型,”他缓缓开口,“但他设计的版本,是为了帮助人发现自己,而不是被塑造。魏明哲偷走了他的设计,扭曲了它。”
他展示了一张草图,画的是一个年轻人坐在电脑前,背后有两个影子:一个在认真工作,另一个在偷偷修改代码。
“小暐在最后那段时间,每天都要活在这种分裂里。表面上服从,内心里反抗;表面上设计骗局,内心里埋下逃生通道。”危文山的声音有些哽咽,“他这么做,是因为他相信,即使是最黑暗的系统,也应该有一线光。”
学员们沉默了。梅轻声问:“他为什么不逃走?”
“因为他要确保证据能送出来,”危文山说,“因为他要保护他妈妈,也因为他想保护未来可能受害的人。有时候,逃跑是勇敢,但留下更需要勇气。”
那天下午,素察在安全角落画了一幅画:一个年轻人站在黑暗中,手里举着一盏很小的灯。灯光很弱,但照出了一条路,路上有很多脚印——大的小的,深的浅的,都是沿着光的方向。
他在画背面写:“光很弱,但可以指路。”
这幅画被留在了工坊,挂在危暐的“安全屋”画旁边。
(四)技术伦理课:当大学生体验“被迫设计”
第三周,福州大学计算机系选修“技术伦理”课的四十名学生来到工坊。这是课程的一部分——亲身体验技术滥用的后果。
负责这个模块的是孙鹏飞和沈舟。他们设计了一个简化版的“设计者体验”:学生们分成小组,每组收到一个模拟任务——“为某公司设计一个用户行为分析系统”,但任务书中有模糊的伦理边界。
“系统需要识别用户的‘脆弱时刻’,以便推送定制化广告。”一个小组的任务书上写着。
“为了提高点击率,系统可以轻微放大用户的焦虑情绪。”另一个小组的任务不同。
学生们开始设计。起初,他们专注于技术实现——用什么算法、怎么收集数据、如何优化模型。但半小时后,孙鹏飞叫停了。
“现在,请看看这份补充材料。”他分发的是危暐的设计文档节选,里面详细记录了他如何在类似任务中挣扎。