林深把屏幕共享打开,调出交叉性分析的热力图。
红色区域像恶性肿瘤一样附着在坐标轴的左下象限。
“周总,我理解商业诉求,但根据《生成式人工智能服务管理暂行办法》第十四条,以及金融监管总局去年十二月发布的关于信贷模型公平性评估的补充通知,当模型在受保护属性上产生显着差异性影响时,审计方有责任标注风险等级。
这里——”他用光标圈出那片红色,“风险等级是最高级。”
周总监的笑容淡了一些。
他身后的书法条幅写着“稳健致远”四个字,墨迹饱满。
“林工,我们内部也做了复测,如果把‘社交活跃度’这个特征的权重下调百分之十五,同时引入一项替代变量——比如该城市的水电费缴纳记录——偏差系数可以压缩到合规线以下。
技术手段总是有的,对不对?”
林深沉默了几秒。
他调出水电费缴纳记录的数据分布图,那组数据同样存在严重的缺失问题,因为该城市有大量租户的水电费由房东统一代缴,底层根本关联不到个人。
替代变量不过是换了一种形式的盲人摸象。
他正要开口,屏幕上弹出一条私信,是团队里新来的实习生苏晓发的:“深哥,我刚跑完一轮对抗性扰动测试,发现模型对‘无房产’特征的处理有一个隐蔽的交互项,你在会上看下我传的附件。”
林深点开附件,瞳孔微微收缩。
那个交互项的逻辑是:若“无房产”且“社交活跃度低于阈值”且“年龄小于三十岁”,则自动激活一个惩罚系数,其数学形式与历史上某款曾被银保监会点名批评的歧视性产品几乎同构。
这不是偏见,这是偏见被编码成了数学公式,藏在三层神经网络的一个不起眼的节点里,像一枚定时炸弹。
“周总,”林深的声音放得很平,“我们的审计不只是看最终输出的偏差数字,还要审查特征工程和模型架构中的潜在歧视传导路径。
您说的下调权重方案,治标不治本,因为交互项里的惩罚逻辑才是真正的病灶。
我建议暂停该模型的在线推理服务,进行为期两周的白盒重构。”
视频那头安静了。
周总监端起茶杯喝了一口,放下,杯底磕在桌面上发出一声轻响。
“林工,你知道这个模型关联着多少个信贷产品的实时风控吗?
三个省,七家分行,日均调用量超过四百万次。
暂停两周?
监管那边要我们季报的,业务条线那边要冲开门红的,你一句话让我停?”
会议室里的空气像被抽走了氧。
林深听到自己心跳的声音,一下一下,擂在耳膜上。
他想说“算法公平不是一句空话”,想说“那些被误判的年轻人可能因此贷不到第一笔创业资金”,想说“我们签的审计协议第一条写的是公共利益优先”。
但所有这些话在四百万次日均调用量面前,轻得像一片羽毛。
会后,陈默把他拉到走廊尽头。
“深哥,我知道你较真,但咱们是乙方,报告可以出黄灯,可以出橙灯,你非要出红灯,以后这条业务线还要不要做了?
本章未完,请翻下一页继续阅读.........