機械学習の採用で融資から人種的偏見を取り除けることもある

昨年の米中小企業庁による中小企業支援策「給与保護プログラム（PPP）」は開始当初から、マイノリティの企業家、特に黒人の企業家が、白人よりも融資先を見つけるのに苦労していたことが明らかになっていた。

昨年10月に発表された全米経済研究所（NBER）のワーキングペーパーによると、8,000億ドル規模の中小企業救済プログラムから支援を受けた黒人の借り手の大半は、銀行ではなく金融テクノロジー企業から融資を受けていた。 いわゆるフィンテック企業への偏りは、他のどの人種よりも黒人の借り手に顕著に見られた。

ニューヨーク大学のサブリナ・ハウエル助教授らは、フィンテック企業や米国の大手銀行が採用している自動ローン審査・処理システムが、黒人の借り手の承認率を大幅に向上させていることを明らかにした。

ハウエル助教授は小規模銀行が融資プロセスを自動化した後、黒人所有の企業への融資率が大幅に増加したことも発見した。この結果は、機械学習アルゴリズムを採用することで、融資におけるバイアスを低減する事ができる可能性を示唆している。

アルゴリズムが偏ったデータで訓練されているために差別的になるのではないかという懸念は正当なものだが、ハウエルらの結果は、自動化によるメリットがあることを示唆している。具体的には、偏った人間による手作業でのレビューを排除することで、自動化によって差別の発生を低減できる可能性がある、ということだ。

米国の債権者は長年にわたり、差別的な信用スコアリングシステムなどで、女性やマイノリティの信用力を過小評価するモデルを使用してきた。例えば、最近まで、家賃を継続して支払っていても、住宅ローンの審査では役に立たず、特に有色人種には不利な条件となっていた。

デューク大学、ニュースクール、ボストン連邦準備銀行が2015年に発表した報告書には、不公平な融資がいかに不平等を永続させるかが端的に示されている。当時、ボストンの白人世帯の平均純資産は約25万ドルだった。黒人世帯の平均的な純資産はわずか8ドルで、持ち家の少なさが大きな違いとなっていた。レッドライン化により、ボストンの黒人世帯は何世代にもわたって住宅ローンを受けることができなかったのだ。

最近のガバナンスは、企業がAIを開発・展開する方法を改善することを目的としており、企業が偏ったAIを禁止する法律の厳格な執行を約束する連邦取引委員会の新しいガイダンスや、欧州の厳格なプライバシー規制をAIに拡張するEUの新しい規制などがある。

消費者金融業者が導入すべきAIは、システムに存在する既存のバイアスだけでなく、必然的に発生する時間の経過とともに発生するバイアスも識別できるものだ。AIは、収入と負債の比率などの従来の基準に加えて、人口統計や融資の結果に基づいて顧客のデータをふるいにかけることで、存在する可能性のあるバイアスと、貸し手が信用力を評価するために使用すべき正当な要素とを区別するのに役立つ。

2019年に発表されたコーネル工科大学の博士課程学生Xiaojie Maoらの研究では、研究者たちは、住宅ローンのデータを用いて、ベイズ推定を用いた監査アルゴリズムの精度を検証した。その結果、いくつかの要因によって、アルゴリズムの結果が人種間の不一致を過小評価したり過大評価したりすることがあることが判明した。応募者が住んでいる国勢調査区に基づいて人種を仮定すると、ほとんどが白人の地域に住んでいる黒人の応募者や、ほとんどが黒人の地域に住んでいる白人の応募者が消去されてしまう。

人種間の貧富の差の主な原因として、住宅取得率の格差が挙げられています。白人の一般家庭は、アフリカ系アメリカ人の一般家庭の10倍以上の資産を保有しているという調査結果もある。マッキンゼーは、人種間の富の格差を解消することで、2028年までに米国経済に1兆1,000億ドルから1兆5,000億ドルの利益をもたらすと予測していますが、その中でも住宅購入は大きな要素となっている。