本小章还未完,请点击下一页继续阅读后面精彩内容!
林砚之拿起U盘,指尖传来冰凉的触感。“你为什么现在愿意说?”她问。王海苦笑了一下,从口袋里掏出一张医院的缴费单:“我妈上周查出了肺淋巴管平滑肌瘤病——就是庭审时说的那种罕见病。我带着她去医院,医生说,要是用智愈的AI,大概率会误诊。那时候我才想明白,我当初写的那些代码,可能会害了我最亲的人。”
他的声音开始哽咽:“离职前,我偷偷把后门日志拷了下来,一直不敢交——怕陈明远报复。但昨天看到判决书,看到你说‘创新不能牺牲患者生命’,我觉得我得站出来。不然我妈要是知道我做过这种事,她都不会原谅我。”
林砚之把U盘收进公文包,拿出一张名片递给他:“这个U盘很重要,我会交给技术团队核验,之后可能需要你配合做个笔录。你放心,我们会保护你的个人信息,不会让智愈知道是你提供的。另外,你妈妈的病,我可以帮你联系市一院的呼吸科专家,他们对这种罕见病很有经验。”
王海接过名片,手指在“黄浦市科技局伦理监管处”的字样上反复蹭着,突然就哭了:“谢谢林处长……我一直觉得自己是个帮凶,现在终于能做点对的事了。”
从咖啡馆出来,林砚之立刻给老周打电话——老周是团队里的技术负责人,退休前是市信息安全中心的主任。“老周,你现在立刻回办公室,我带了个U盘,里面有智愈算法的后门日志,需要马上核验。”她语速很快,“另外,查一下智愈科技的服务器IP,看看他们有没有在判决后偷偷删除数据。”
“好,我这就回去。”老周的声音里带着警惕,“刚才我监测到智愈的后台有异常流量,好像在往境外传数据,我已经截了包,正准备分析。”
挂了电话,林砚之打车往办公室赶。车窗外,黄浦江上的货轮缓缓驶过,岸边的梧桐叶开始泛黄。她想起庭审时陈明远说的“AI准确率98.2%”,突然觉得很讽刺——那2%的误差,对患者来说就是100%的灾难。
回到办公室时,老周已经在技术室等着了。小陈把U盘插进隔离电脑,屏幕上立刻跳出一串加密文件。老周戴上眼镜,手指在键盘上飞快敲击,代码像流水一样在屏幕上滚动。“找到了,”他突然停下,指着其中一行代码,“这里有个隐藏的触发指令,输入‘ZY-2024’,系统就会自动屏蔽罕见病特征提取模块。”他又点开一个日志文件,“你看,从2023年10月开始,这个指令被调用过17次,每次都是在医院突击检查或者客户试用的时候。”
小陈凑过来看,倒吸了一口凉气:“他们竟然早就留了后门?那之前的审计沙箱里,是不是也被调用过?”
“很有可能。”林砚之皱起眉,“老周,能不能根据这个后门,追溯一下之前有多少患者可能被误诊?”
老周摇摇头:“很难,智愈的诊断数据是碎片化存储的,而且他们已经删除了一部分2023年的日志。不过我们可以根据现有的病例,估算一个范围——按照他们的调用频率,保守估计有上百个罕见病患者可能被漏诊。”
林砚之沉默了一会儿,拿起手机拨通了市卫健委的电话:“王主任,我是林砚之。智愈科技的AI系统里发现了隐藏后门,可能涉及大量漏诊患者,需要你们协调各医院做一次全面排查……对,越快越好,特别是2023年10月之后用智愈系统诊断的患者。”
挂了电话,她靠在椅背上,闭上眼睛。小陈递过来一杯热茶,轻声说:“林处,你别太自责,这不是你的错。”
“我知道不是我的错,”林砚之睁开眼,眼底有红血丝,“但我总在想,如果我们早点发现,是不是就能少一些像张阿姨那样的患者?”她想起早上张阿姨女儿的电话,姑娘哽咽着说“妈妈最近咳嗽得更厉害了”,心里就像被什么东西揪着疼。
这时,办公室的门被推开,门口站着一个人——是智愈科技的CTO赵伟。他头发乱糟糟的,眼睛红肿,手里提着一个黑色的电脑包,看起来像是一夜没睡。“林处长,”他声音沙哑,“我来交东西——智愈所有AI诊断系统的源代码,还有未删除的原始日志备份。”
林砚之和小陈对视了一眼,都有些意外。赵伟把电脑包放在桌上,拉开拉链:“陈明远跑了,早上的飞机去美国了,留了封信让我‘顶住’,但我顶不住了。”他蹲下来,双手抱着头,“那些代码是我带团队写了三年的,我看着它从一个小模型变成能在几十家医院用的系统,可陈明远为了业绩,一次次让我们改数据、留后门……我知道这不对,但我不敢反对,我怕失业,怕房贷还不上。”
“你现在交出来,是对的。”林砚之走过去,递给他一张纸巾,“这些代码和日志,能帮我们追溯更多可能被误诊的患者,也能帮其他企业避免犯同样的错。”