九书库

字:
关灯 护眼
九书库 > 黄浦风云之杜氏传奇 > 第505集:审计之外的规则

第505集:审计之外的规则(3/4)


    本小章还未完,请点击下一页继续阅读后面精彩内容!

    赵伟接过纸巾,擦了擦眼泪:“我还知道,陈明远在境外开了个离岸账户,里面转了不少钱,是用智愈的技术专利做抵押贷的。我把账户信息也存在这个U盘里了,交给你们。”他从口袋里掏出一个小小的U盘,放在桌上,“我已经跟律师咨询过了,主动配合调查可以从轻处理。我不想再帮陈明远背黑锅了,我想对得起自己写的代码。”

    第三章 座谈会上的交锋

    下午两点,行业座谈会在市科技局的大会议室召开。林砚之走进会场时,已经坐了大半的人——有医疗AI企业的负责人,有医院的代表,还有高校的专家,周明远教授也来了,坐在第一排靠中间的位置,朝她点头微笑。

    小陈把《AI医疗算法审计指引》的纸质版分发给每个人,封面上印着蓝色的黄浦江大桥图案。林砚之走上讲台,打开PPT,屏幕上出现了判决书里的关键条款:“……智愈科技需于90日内完成罕见病数据补充(样本量不低于总数据量的5%),算法决策可解释性需达到SHAP值≥0.7……”

    “今天请大家来,不是要批评谁,而是想和大家一起定规则。”林砚之的目光扫过全场,“《审计指引》里有两个核心点,我想重点说一下。第一个是‘动态审计’——高风险AI系统每季度要提交算法更新报告,报告里必须包含罕见病数据占比、决策可解释性指标,还有用户投诉处理情况。我们技术团队会随机抽查,一旦发现隐瞒更新或者数据造假,直接取消行业准入资格。”

    台下立刻有人举手,是一家小型AI企业的老板,姓刘,之前在伦理审查意见征集时提过“成本太高”的异议。“林处长,我们公司就十个人,每季度提交报告、接受抽查,人力成本根本扛不住。能不能给小企业放宽点期限?”

    林砚之早有准备,她点击PPT,切换到下一页——上面是“伦理审计帮扶计划”的细则:“我们联合了市科技金融集团,对参与试点的中小企业提供两方面支持:一是免费的审计技术培训,二是最高50万元的合规补贴,用于购买加密模块、补充数据。另外,我们还搭建了‘算法共享池’,里面有经过伦理认证的基础模型,小企业可以在此基础上二次开发,能省不少成本。”

    刘老板点点头,没再说话。这时,周明远教授举手了:“砚之,我想问一下,‘决策可解释性’的指标是怎么定的?SHAP值≥0.7,有没有考虑到不同疾病的差异?比如罕见病的样本少,模型解释性可能天生偏低。”

    “周教授这个问题提得好。”林砚之笑了笑,“我们和高校团队做过调研,罕见病的SHAP值可以放宽到≥0.6,但必须附加‘人工复核’条款——用AI诊断罕见病时,必须有两名副主任以上医师签字确认。另外,我们会建立‘罕见病数据联盟’,由市一院牵头,联合企业、高校收集罕见病病例,逐步提高模型的解释性。”

    她的话刚落,会场后排传来一个女声:“林处长,我能说两句吗?”所有人都转过头,只见一个穿米色风衣的年轻女人站起来,手里拿着一个笔记本——是张阿姨的女儿,叫苏晓。林砚之愣了一下,随即朝她点头:“当然可以。”

    “我是一名患者家属,我妈妈因为智愈的AI误诊,错过了最佳治疗时间。”苏晓的声音有些发抖,但很坚定,“我今天来,不是要抱怨,而是想跟各位企业老板说——我们患者不怕AI有缺陷,怕的是你们隐瞒缺陷。我妈妈就诊时,医生说‘AI诊断准确率98%’,我们信了,结果……”她顿了顿,深吸了口气,“如果当时智愈能说‘这个病是罕见病,AI可能不准,建议人工复核’,我妈妈就不会走到今天这一步。”

    会场里安静下来,没人说话。苏晓接着说:“现在你们要做伦理审计,要补充数据,我很高兴。但我希望你们记住,你们写的每一行代码,都关系着一条人命。合规不是为了应付审查,是为了对得起患者的信任。”

    说完,她鞠了一躬,坐了下去。林砚之看着她,心里一阵暖流——早上打电话时,苏晓还犹豫着要不要来,说“怕自己说不好”,现在看来,她比谁都说得好。林砚之清了清嗓子,打破了沉默:“苏女士的话,应该是我们所有人的初心。接下来,我们开放讨论环节,大家有什么问题、建议,都可以提出来。”

    讨论环节持续了一个多小时,问题五花八门——有企业问“外资企业能不能加入数据联盟”,有医院问“审计结果能不能作为采购依据”,林砚之和团队成员一一解答。快结束时,“医准智能”的CEO站起来说:“我们公司今天就提交试点申请,并且承诺,把罕见病数据占比提高到8%,比指引要求的还高。我们觉得,伦理不是成本,是竞争力——患者信任你,医院才会用你的产品,长期来看,这比短期利润重要得多。”

    这章没有结束,请点击下一页继续阅读!

    他的话赢得了一阵掌声。座谈会结束后,林砚之送周明远教授出门,老教授拍了拍她的肩膀:“不错,比我
本章未完,请点击下一页继续阅读》》
『加入书签,方便阅读』
内容有问题?点击>>>邮件反馈