不消费,如何公开而不暴露,如何数字化而不异化?
演讲结束后,一个女学生找到他,眼睛红肿:“张学长,我妈妈去年被‘投资理财’骗了三十万,那是她所有的积蓄。看了你爸爸的故事,我我好像没那么恨她了。我知道她也是想让我们过得更好。”
张斌拍拍她的肩:“告诉你妈妈,钱可以再赚,家人在一起最重要。”
回修复中心的路上,张斌接到陶成文的电话,得知了隐私争议和系统升级的事。
“你觉得韦晖的建议可行吗?”陶成文问。
张斌思考了很久:“可行,但不够。系统不能只在技术层面设限,还需要社会层面的监督。我建议成立‘公民监督委员会’,邀请法律专家、伦理学者、普通市民参与,定期审核系统的运行数据和预警案例。”
“就像‘记忆之光’的伦理审核委员会?”
“更严格。”张斌说,“因为系统涉及的不是已经发生的悲剧,是可能发生的干预。干预错了,就是伤害。”
电话那头,陶成文笑了:“张斌,你成长得很快。”
“是被迫成长。”张斌轻声说,“因为我父亲用生命告诉我:好的初衷,也可能因为方法错误而造成伤害。我们得比那些骗子更小心。”
(五)全国会议:当云海模式走向舞台中央
三天后,北京。全国打击治理电信网络诈骗工作会议。
陶成文和张斌作为“坚飞守护系统”的代表参会。他们的座位不在前排,但在会议材料中,“云海预警-干预-纪念三位一体模式”被列为重点汇报内容。
轮到陶成文发言时,他走上讲台,看着台下各省市公安系统的负责人、专家学者、中央部委领导。
“过去半年,我们在云海试点运行了‘坚飞守护系统’。”他开门见山,“直接成果是:预警潜在诈骗139起,成功干预87起,破获案件23起,保护群众财产八百余万元。间接成果是:建立了全国第一个电信诈骗受害者数字纪念馆‘记忆之光’,收录故事87个,访问量超过五百万次。”
他展示了几张图:系统预警的实时界面,成功干预的案例,以及“记忆之光”上那些面孔。
“但今天,我想主要汇报我们遇到的问题。”陶成文话锋一转,“第一个问题:预警系统的数据边界在哪里?我们有没有权力在犯罪发生前,分析公民的行为数据?”
台下安静了。这是所有反诈系统都在面临但很少公开讨论的问题。
“第二个问题:系统的核心算法部分,由一名正在服刑的前诈骗集团‘技术顾问’设计。如何确保他的专业知识被用于正义,同时防止可能的滥用或后门?”
议论声响起。
“第三个问题:当系统预警后,我们介入干预的尺度如何把握?过于积极可能侵犯公民权利,过于保守可能错失挽救时机。”
陶成文没有给出标准答案,而是展示了云海的尝试:“我们正在建立‘算法审核—人工确认—法定程序’的三层机制,并计划成立公民监督委员会。我们认为,反诈不仅是技术战,更是伦理战、法治战。赢得技术而输掉法治,是更大的失败。”
二十分钟的发言结束后,提问环节很激烈。
一位南方某省的公安厅长问:“你们那个正在服刑的技术顾问,真的可信吗?如果他设计的系统有后门,或者在算法中埋下有利于诈骗集团的逻辑,怎么办?”
陶成文示意张斌回答——这是他们事先商量好的。
张斌站起来,走到讲台边:“我是张斌,‘坚飞守护系统’以我父亲的名字命名。那个技术顾问,是害死我父亲的人。”
会场哗然。
“我用了四年时间,才勉强能面对这个事实。”张斌的声音通过麦克风传遍会场,“但正是因为我亲身经历了受害者家属的痛苦,我才比任何人都更警惕系统的风险。我们对他实行最高级别监控,他的所有代码经过三道独立审核,他的算法输出与多名专家的算法交叉验证。”
他停顿,让每个字都清晰:
“我们使用他的知识,不是因为我们信任他,是因为我们监控他、制衡他、用制度约束他。同时,我们也在验证一个假设:一个犯下重罪的人,如果经过科学验证的改造,是否有可能将他的能力用于社会公益?这个问题没有简单答案,但我们必须探索——因为监狱里还有很多像他一样的高智商罪犯,社会需要决定如何对待他们。”
另一个提问来自社科院的专家:“‘记忆之光’项目是否有将痛苦‘景观化’的风险?公众浏览受害者故事,会不会变成一种情感消费?”
张斌展示了手机上的“记忆之光”界面,点开父亲的故事,拉到最忆,更小心地生活。如果你或你的家人遇到类似情况,请拨打反诈专线。’”
“我们不要眼泪,我们要警惕。”张斌说,“不要同情,要行动。纪念的最终目的,是防止需要纪念的事再次发生。”
会议结束后,公安部领导单独约谈了陶成文和张斌。
“云海模式有创新,也有风险。”领导直言,“部里决定:第一,拨款三千万,支持系统升级和全国试点扩大