世界太吵,來原聲聽播客

99% Invisible

信用分數本想消除偏見,卻把歷史不平等原樣算進了分數里

FICO算法確實讓貸款人不能再因為性別種族當面拒絕你,但它照單全收了幾百年種族歧視造成的財富差距,再把這個差距凍結成一個三位數。

信用評分金融史算法偏見身份盜用數據隱私消費者權益

原視頻在 YouTube 上放不出來,用音頻聽:

信用分數的來龍去脈很少有人講清楚,這集從1837年恐慌一路講到Equifax洩露,信息密度高,後半段的免費凍結教程也實用,建議整集聽完。

核心論點 · 點時間戳可跳到原聲

6:11

信用局的祖師爺其實是想把貸款變安全

1837年大恐慌讓大量商業貸款人血本無歸,商人Louis Tappan看到這個問題後,於1841年創立了Mercantile Agency,全球第一家大規模信用報告服務。它靠全國各地的律師免費收集商人信息,再把這些信息賣給紐約的貸款人,律師的回報是未來的債務追討業務轉介。這套系統的核心產品不是數字,而是關於「這個人是否值得信任」的文字報告。

— Josh Lauer
7:14

評估一個人靠的是品格、能力、資本三件事

當時判斷信用的標準是三個C:character、capacity、capital。capital是財產,capacity是工作經歷,但character這個最模糊的標準往往權重最大——這個人是不是懶漢、酒鬼、賭徒,是否受人喜愛。這些判斷記在厚厚的分類賬簿裡,訂閱的貸款人要到Mercantile Agency的辦公室,隔著屏風聽職員念出內容,連本人都看不到。

— Josh Lauer
14:26

1900年的信用男幾乎只給白人男性開賬戶

隨著百貨公司大規模推廣賒賬消費,信用評估專業化出現了「credit man」這個角色:坐在桌子對面親自審問、打量顧客,判斷其品格是否配得上信用額度。這個制度預設女性不該有自己的信用賬戶,必須掛在男性名下;非白人顧客基本不可能在1900年的大型百貨公司獲得信用賬戶。只要人來做這種品格判斷,偏見就一直存在。

— Josh Lauer
14:26

FICO算法的發明初衷不是反歧視,卻意外成了反歧視工具

1956年William Fair和數學家Earl Isaac成立Fair Isaac公司,想用計算機統計模型取代人工審查,評分只看還款歷史、負債額、信用歷史長短等因素,完全不涉及性別、種族。1974年《平等信用機會法》出臺後,貸款人發現用算法評分能當作「我們沒有歧視」的法律擋箭牌,於是FICO才真正被普遍採用,並在1989年被各大信用局統一採納為標準評分模型。

18:51

去掉主觀偏見不等於去掉了不公平

信用分數確實解決了一種不公平:不會再因為信用男不喜歡你的長相就拒絕你。但它解決不了另一種不公平——分數只能顯示你漏繳了某筆貸款,卻無法說明原因,比如生病、出事故、失業。美國400年奴隸制和幾十年吉姆克勞法已經給黑人和拉丁裔社區造成了實實在在的財富和信用劣勢,而信用分數把每個人放在同一把尺子上衡量,完全不校正這種起點差異。

— Chi-Chi Wu
20:58

分數一旦被當成門檻,不平等就會被算法放大

Chi-Chi Wu指出,如果信用分數只是一個社會經濟指標,它其實幹得不錯;問題在於這個指標被反過來當作獲取信貸、租房、保險甚至就業的「守門人」。信用分數把長期的不平等獲取信貸和歷史性歧視的全部影響都吸收進去,再吐出一個單一數字,貸款人用這個數字做決策時,無論是否有意,都可能把這種不平等嵌得更深,甚至變得更嚴重。

— Chi-Chi Wu
22:01

三大信用局不是在服務你,是在把你賣給別人

經過上百年的併購,全美數千家地方信用局最終只剩Equifax、Experian、TransUnion三家,消費者沒有任何選擇權,這被形容為「功能性壟斷」。更關鍵的是,消費者本人根本不是這三家公司的客戶——真正付錢的是貸款機構和企業,他們買的是你的數據。五分之一的消費者信用報告上有被證實的錯誤,二十分之一的錯誤嚴重到會導致被拒貸或多付利息,而這三家公司缺乏動力去幫你修正,因為你別無選擇。

— Chi-Chi Wu
25:06

洩露你數據的公司轉頭又賣給你身份保護服務

2017年Equifax發生美國歷史上最大規模的數據洩露之一,波及近一半美國人;而早在1980年代,一旦信用局把檔案存進數據庫,黑客就盯上了這些系統,當時就已經發生過洩露。更扭曲的是,這些守不住你數據安全的公司,轉身又向消費者出售身份盜用保護服務,等於是製造問題的人在賣解決問題的服務。

— Chi-Chi Wu
31:29

免費凍結信用報告才是真正有用的自保工具

2018年起三大信用局被法律要求向所有消費者免費提供信用凍結功能,這很大程度上是2017年Equifax大洩露倒逼出來的。凍結只會阻止新的貸款人查看你的信用報告,不會影響你已有的信用卡或車貸,而且可以無限次免費凍結和解凍,比如去4S店買車時當場解凍、查完立刻重新凍結。每次信用報告被查詢(hard inquiry)都會拉低分數,凍結同時也防住了這一層傷害。

— Vivian Lay

原話 · 已逐字校驗

They would read to the subscriber from behind a screen.

職員會隔著屏風把內容念給訂閱者聽。

Josh Lauer9:15

There's this idea that credit scores are somehow a reflection of your moral character or how responsible you are. That's just not correct.

有一種觀念認為信用分數能反映一個人的道德品格或責任心,這完全不對。

Chi-Chi Wu18:51

So getting back to this idea that credit scores are objective, you know, they're an objective if everyone started off on a level playing field, but people don't start off on level playing fields.

回到信用分數客觀這個說法——如果每個人起點都一樣,它才是客觀的,但現實是人們的起點根本不一樣。

Chi-Chi Wu20:58

You're a captive. Your data is a captive.

你是俘虜,你的數據是俘虜。

Chi-Chi Wu22:58

I mean, think about if one in 20 cars spontaneously burst into flames or one in 20 airplanes fell out of the sky. That would be bad.

想想看,如果二十分之一的汽車會自燃,或者二十分之一的飛機會從天上掉下來,那會有多糟糕。

Chi-Chi Wu24:02

We're not the diner. We're the ... chicken.

我們不是食客,我們是……雞。

Chi-Chi Wu25:06

someone gets their identity stolen every 4.9 seconds

每4.9秒就有一個人的身份被盜。

Vivian Lay31:59

數字與實體

Equifax 2017年數據洩露波及比例近一半美國人25:49
信用報告存在已證實錯誤的消費者比例五分之一24:02
錯誤嚴重到導致拒貸或多付利息的比例二十分之一24:02
身份被盜的平均間隔每4.9秒一次31:59

術語

credit freeze信用凍結
免費鎖定信用報告,阻止新貸款人未經同意查看你的信用數據
hard inquiry硬查詢
貸款人調取你信用報告的記錄,會短期拉低信用分數
FICO scoreFICO信用分數
Fair Isaac公司開發的算法信用評分模型,美國最主流的信用分數標準

收聽指南

誰該聽

正在美國或類似信用體系國家租房、貸款買車的人,以及對算法如何繼承歷史偏見感興趣的產品/政策從業者