信用分数本想消除偏见,却把历史不平等原样算进了分数里
FICO算法确实让贷款人不能再因为性别种族当面拒绝你,但它照单全收了几百年种族歧视造成的财富差距,再把这个差距冻结成一个三位数。
原视频在 YouTube 上放不出来,用音频听:
核心论点 · 点时间戳可跳到原声
信用局的祖师爷其实是想把贷款变安全
1837年大恐慌让大量商业贷款人血本无归,商人Louis Tappan看到这个问题后,于1841年创立了Mercantile Agency,全球第一家大规模信用报告服务。它靠全国各地的律师免费收集商人信息,再把这些信息卖给纽约的贷款人,律师的回报是未来的债务追讨业务转介。这套系统的核心产品不是数字,而是关于「这个人是否值得信任」的文字报告。
— Josh Lauer评估一个人靠的是品格、能力、资本三件事
当时判断信用的标准是三个C:character、capacity、capital。capital是财产,capacity是工作经历,但character这个最模糊的标准往往权重最大——这个人是不是懒汉、酒鬼、赌徒,是否受人喜爱。这些判断记在厚厚的分类账簿里,订阅的贷款人要到Mercantile Agency的办公室,隔着屏风听职员念出内容,连本人都看不到。
— Josh Lauer1900年的信用男几乎只给白人男性开账户
随着百货公司大规模推广赊账消费,信用评估专业化出现了「credit man」这个角色:坐在桌子对面亲自审问、打量顾客,判断其品格是否配得上信用额度。这个制度预设女性不该有自己的信用账户,必须挂在男性名下;非白人顾客基本不可能在1900年的大型百货公司获得信用账户。只要人来做这种品格判断,偏见就一直存在。
— Josh LauerFICO算法的发明初衷不是反歧视,却意外成了反歧视工具
1956年William Fair和数学家Earl Isaac成立Fair Isaac公司,想用计算机统计模型取代人工审查,评分只看还款历史、负债额、信用历史长短等因素,完全不涉及性别、种族。1974年《平等信用机会法》出台后,贷款人发现用算法评分能当作「我们没有歧视」的法律挡箭牌,于是FICO才真正被普遍采用,并在1989年被各大信用局统一采纳为标准评分模型。
去掉主观偏见不等于去掉了不公平
信用分数确实解决了一种不公平:不会再因为信用男不喜欢你的长相就拒绝你。但它解决不了另一种不公平——分数只能显示你漏缴了某笔贷款,却无法说明原因,比如生病、出事故、失业。美国400年奴隶制和几十年吉姆克劳法已经给黑人和拉丁裔社区造成了实实在在的财富和信用劣势,而信用分数把每个人放在同一把尺子上衡量,完全不校正这种起点差异。
— Chi-Chi Wu分数一旦被当成门槛,不平等就会被算法放大
Chi-Chi Wu指出,如果信用分数只是一个社会经济指标,它其实干得不错;问题在于这个指标被反过来当作获取信贷、租房、保险甚至就业的「守门人」。信用分数把长期的不平等获取信贷和历史性歧视的全部影响都吸收进去,再吐出一个单一数字,贷款人用这个数字做决策时,无论是否有意,都可能把这种不平等嵌得更深,甚至变得更严重。
— Chi-Chi Wu三大信用局不是在服务你,是在把你卖给别人
经过上百年的并购,全美数千家地方信用局最终只剩Equifax、Experian、TransUnion三家,消费者没有任何选择权,这被形容为「功能性垄断」。更关键的是,消费者本人根本不是这三家公司的客户——真正付钱的是贷款机构和企业,他们买的是你的数据。五分之一的消费者信用报告上有被证实的错误,二十分之一的错误严重到会导致被拒贷或多付利息,而这三家公司缺乏动力去帮你修正,因为你别无选择。
— Chi-Chi Wu泄露你数据的公司转头又卖给你身份保护服务
2017年Equifax发生美国历史上最大规模的数据泄露之一,波及近一半美国人;而早在1980年代,一旦信用局把档案存进数据库,黑客就盯上了这些系统,当时就已经发生过泄露。更扭曲的是,这些守不住你数据安全的公司,转身又向消费者出售身份盗用保护服务,等于是制造问题的人在卖解决问题的服务。
— Chi-Chi Wu免费冻结信用报告才是真正有用的自保工具
2018年起三大信用局被法律要求向所有消费者免费提供信用冻结功能,这很大程度上是2017年Equifax大泄露倒逼出来的。冻结只会阻止新的贷款人查看你的信用报告,不会影响你已有的信用卡或车贷,而且可以无限次免费冻结和解冻,比如去4S店买车时当场解冻、查完立刻重新冻结。每次信用报告被查询(hard inquiry)都会拉低分数,冻结同时也防住了这一层伤害。
— Vivian Lay原话 · 已逐字校验
They would read to the subscriber from behind a screen.
职员会隔着屏风把内容念给订阅者听。
Josh Lauer9:15
There's this idea that credit scores are somehow a reflection of your moral character or how responsible you are. That's just not correct.
有一种观念认为信用分数能反映一个人的道德品格或责任心,这完全不对。
Chi-Chi Wu18:51
So getting back to this idea that credit scores are objective, you know, they're an objective if everyone started off on a level playing field, but people don't start off on level playing fields.
回到信用分数客观这个说法——如果每个人起点都一样,它才是客观的,但现实是人们的起点根本不一样。
Chi-Chi Wu20:58
You're a captive. Your data is a captive.
你是俘虏,你的数据是俘虏。
Chi-Chi Wu22:58
I mean, think about if one in 20 cars spontaneously burst into flames or one in 20 airplanes fell out of the sky. That would be bad.
想想看,如果二十分之一的汽车会自燃,或者二十分之一的飞机会从天上掉下来,那会有多糟糕。
Chi-Chi Wu24:02
We're not the diner. We're the ... chicken.
我们不是食客,我们是……鸡。
Chi-Chi Wu25:06
someone gets their identity stolen every 4.9 seconds
每4.9秒就有一个人的身份被盗。
Vivian Lay31:59
数字与实体
| Equifax 2017年数据泄露波及比例 | 近一半美国人 | 25:49 |
| 信用报告存在已证实错误的消费者比例 | 五分之一 | 24:02 |
| 错误严重到导致拒贷或多付利息的比例 | 二十分之一 | 24:02 |
| 身份被盗的平均间隔 | 每4.9秒一次 | 31:59 |
术语
- credit freeze信用冻结
- 免费锁定信用报告,阻止新贷款人未经同意查看你的信用数据
- hard inquiry硬查询
- 贷款人调取你信用报告的记录,会短期拉低信用分数
- FICO scoreFICO信用分数
- Fair Isaac公司开发的算法信用评分模型,美国最主流的信用分数标准
收听指南
正在美国或类似信用体系国家租房、贷款买车的人,以及对算法如何继承历史偏见感兴趣的产品/政策从业者