一个叫李文的学生看完后举手:“危暐在方案里埋了保护机制,但我们刚才的设计完全没有考虑伦理问题。”
“因为任务书没有要求,”同组的王涛说,“我们只想着完成任务。”
沈舟走到白板前,写下两个问题:“技术人员的责任边界在哪里?当公司要求与个人伦理冲突时,你怎么办?”
讨论热烈起来。有学生说“应该拒绝”,有学生说“可以像危暐那样偷偷做好事”,还有学生说“先保住工作再说”。
这时,程俊杰接入了一段视频——是危暐2018年在新加坡学术会议上的一段发言录像,之前从未公开过。画面上,年轻的危暐站在讲台上,声音清晰:
“技术不是中立的。我们写的每一行代码,设计的每一个系统,都嵌入了我们的价值观——无论我们是否意识到。”
“当我们设计一个推荐系统时,我们是在决定用户应该看到什么;当我们设计一个监控系统时,我们是在定义什么是‘正常行为’;当我们设计一个评分系统时,我们是在创造新的等级。”
“技术伦理不是选修课,是基础课。因为技术放大的不只是效率,还有偏见、歧视、操控。”
视频结束。教室里安静了。
李文再次举手:“老师,我们可以重新设计刚才的系统吗?加入伦理审查机制。”
“当然可以。”
学生们重新开始,但这次,每个小组都多了一个“伦理顾问”角色,负责质疑设计的潜在危害。有人加入了“用户同意”流程,有人设置了“危害预警”阈值,有人甚至设计了一个“反抗模式”——当系统被用于恶意目的时,会自动触发警报。
课后反馈中,一个学生写道:“我以前觉得技术伦理是虚的,今天才知道,它是实实在在的代码和选择。危暐的经历不是遥远的故事,是我们每个人未来可能面对的困境。”
另一个学生写道:“我知道了我以后不想成为什么样的技术人员。”
这次测试让团队看到了工坊的另一种可能:不仅是反诈骗培训,更是技术伦理教育的前沿阵地。
(五)危机暗涌:匿名威胁与工坊保卫战
第四周,工坊开始接收来自全国各地的预约申请——警方培训机构、高校计算机系、金融机构的反诈部门、甚至还有几家科技公司的伦理委员会。团队每天工作到深夜,优化体验内容,培训辅导人员。
但阴影也随之而来。
一个周三的凌晨,马文平的安全系统发出警报:有人试图入侵工坊的服务器。攻击被成功拦截,但追踪发现,攻击来自境外,手法专业。
“不是普通黑客,”马文平分析日志,“目标很明确——不是窃取数据,是破坏。他们想删除危暐的资料库。”
第二天,工坊收到一封匿名邮件,只有一句话:“有些记忆应该被埋葬,有些光应该被熄灭。”
张帅帅立即联系警方,加强工坊周边的巡逻。同时,团队内部开了紧急会议。
“魏明哲的残余势力,”林奉超判断,“虽然魏明哲已经配合调查,但他的犯罪网络太庞大,不可能完全清除。有人担心工坊的教育会唤醒更多反抗者。”
“或者,”陶成文思考,“有人不希望危暐的故事被传播——因为那证明了他们的操控不是万能的。”
程俊杰提出一个方案:“我们需要备份所有数据,分散存储。同时,公开工坊的所有材料——不是等他们来破坏,而是主动传播,让破坏失去意义。”
“就像危暐做的那样,”付书云接话,“把光分散成很多点,这样就没有人能一次性全部熄灭。”
团队决定加速开源进程。原计划三个月后公开的材料,现在提前进行。危暐的七份方案(隐去真实人名和敏感细节)、他的设计思路、保护机制、甚至部分代码,都被整理成开源文档,发布在多个平台。
“回声工坊”的网站也正式上线,提供免费的学习材料下载。首页是危暐的那句话:“光很弱,但有过。”
开源发布的第二天,攻击停止了。不是对方放弃了,而是失去了目标——光已经分散到太多地方,无法一一扑灭。
但新的威胁以另一种形式出现。
周五下午,工坊来了一位不速之客:一个西装革履的中年男人,自称是某大型科技公司的“伦理创新总监”,姓赵。
“我们对你们的工坊很感兴趣,”赵总监递上名片,“想谈合作。我们有资源,可以帮你们把工坊推广到全国,甚至海外。”
“条件是什么?”陶成文问。
“我们需要对内容进行一些……调整。”赵总监微笑,“比如,弱化‘技术人员被迫作恶’的部分,强调‘个人选择的重要性’。毕竟,我们公司有很多技术人员,不希望他们产生不必要的疑虑。”
“还有呢?”
“危暐的故事很感人,但有点……极端。大多数技术人员不会面临那种生死抉择。我们建议把重点放在‘日常伦理选择’上,比如数据隐私、算法偏见这些温和的话题。”