与信審査アルゴリズムの改善要求を飲んでも融資は得られない

ハーバード大学とマイクロソフトの研究者による最新研究では、リコース生成アルゴリズムが結果を改善しないという強い証拠が見つかった。それは、銀行や金融機関などの利害関係者がモデルを再教育して更新したり、データの新しいパターンに適応するためにフレームワークを使用したりすると、アルゴリズムによって生成されたリコースが無効になる傾向があるからだ。

与信審査アルゴリズムの改善要求を飲んでも融資は得られない

予測モデルが従業員の採用から融資の承認に至るまでの意思決定を行うために配備されるにつれ、その意思決定を説明し、影響を受ける個人への修正の推奨(リコース)を提供するアルゴリズムの設計に重点が置かれるようになってきた。例えば、ある人がモデルによって融資を拒否された場合、その人はその理由とそれに対処するために何ができるかを知らされるべきである。学術的な研究論文ではいくつかのリコース生成アルゴリズムが提案されているが、これらのアルゴリズムが一貫して結果を改善するかどうかは未解決のままだった。

ハーバード大学とマイクロソフトの研究者による最新研究では、リコース生成アルゴリズムが結果を改善しないという強い証拠が見つかった。それは、銀行や金融機関などの利害関係者がモデルを再教育して更新したり、データの新しいパターンに適応するためにフレームワークを使用したりすると、アルゴリズムによって生成されたリコースが無効になる傾向があるからだ。また、これらの意思決定モデルを訓練するために使用されるデータは、データの修正、リコースの介入などにより、時間的、地理的、その他の種類の変化を受けるためだ。

共著者らは、時事問題に触発されて、AI分類器モデルを用いて成績を予測する問題を考えた。彼らは、ヨルダンとクウェートにまたがる学校からなるデータセット上で、ヨルダンの学校から収集した訓練例を用いて分類器を訓練し、クウェートの学校に展開した。

1つの仮定のシナリオでは、クウェートの生徒に予測された成績を向上させるためのリコースを提供し、生徒が成績予測のために再申請したときには、クウェートの学校のデータを含んで、訓練データセットが更新されると仮定した。2つ目のシナリオでは、研究者たちは、最初の訓練データをヨルダンではなくクウェートからのデータに入れ替えた。

最初のシナリオで最先端のリコース生成技術を適用すると、ヨルダンのデータセットで訓練された分類器から不合格の成績を受けたクウェートの生徒116人に説明が提供された。しかし、学生が推奨事項に従った上で成績予測のために再申請した場合、クウェートの生徒のデータを含んでデータセットが更新された後、分類器はわずか28.3%の学生に対して有利な予測を行うことができなかった。2つ目のシナリオでは、同じリコース生成技術を用いて66人の学生に推奨事項を提供したが、この推奨事項により、60.6%の学生が良い成績を得ている。

別の実験では、エラーが発生しやすいドイツのクレジットデータセットで分類器を訓練し、ローン申請者の信用度を判定した。成績予測問題に同じリコース生成技術を適用したところ、1,000人の志願者のうち900人にリコースが提供されていたことがわかった。しかし、わずかな変更を加えて修正されたデータセット上で分類器を再訓練した場合、推奨されたリコースを実行した後でも、22%しかローン申請は受け入れられなかったという。

最後の1つのサンプルでは、共著者らは、収入、年齢、申請方法のデータを用いて、候補者がローンを返済するかどうかを予測する分類器のベンチマークを行った。この分類器を合成データセット上で訓練したところ、1,024人の申込者のうち261人(年齢を考慮した場合)または522人(年齢という変数を考慮しない場合)が不利なモデル予測をしたと研究者らは報告している。しかし、リコース生成は候補者の可能性を大幅に向上させるものではなかった。彼らはリコース生成技術によって収入を増やすように指示されていただろうが、収入を増やしても、分類器は彼らの0%から8%しかローンを返済すると予測しなかっただろう。

研究者らは、彼らの研究を全体として捉えると、分布のシフトが、生成されたレコースの「有意な無効化」を引き起こし、意思決定者の信頼を危険にさらす可能性があることを示していると主張している。「分布のシフトがリコースやカウンターファクチュアルな説明を無効にするという問題は、初期モデルの特性というよりも、現在のレコース発見技術の直接的な結果であるように思われます」と、研究者らは書いています。「既存の技術の欠点に悩まされず、分配シフトにも頑健な、新しいリコース発見戦略を開発することは興味深いことでしょう」。

Photo by Alexander Mils on Unsplash

参考文献

  1. Kaivalya Rawal, Ece Kamar, Himabindu Lakkaraju. Can I Still Trust You?: Understanding the Impact of Distribution Shifts on Algorithmic Recourses. arXiv:2012.11788 [cs.LG]

Read more

新たなスエズ危機に直面する米海軍[英エコノミスト]

新たなスエズ危機に直面する米海軍[英エコノミスト]

世界が繁栄するためには、船が港に到着しなければならない。マラッカ海峡やパナマ運河のような狭い航路を通過するとき、船舶は最も脆弱になる。そのため、スエズ運河への唯一の南側航路である紅海で最近急増している船舶への攻撃は、世界貿易にとって重大な脅威となっている。イランに支援されたイエメンの過激派フーシ派は、表向きはパレスチナ人を支援するために、35カ国以上につながる船舶に向けて100機以上の無人機やミサイルを発射した。彼らのキャンペーンは、黒海から南シナ海まですでに危険にさらされている航行の自由の原則に対する冒涜である。アメリカとその同盟国は、中東での紛争をエスカレートさせることなく、この問題にしっかりと対処しなければならない。 世界のコンテナ輸送量の20%、海上貿易の10%、海上ガスと石油の8~10%が紅海とスエズルートを通過している。数週間の騒乱の後、世界の5大コンテナ船会社のうち4社が紅海とスエズ航路の航海を停止し、BPは石油の出荷を一時停止した。十分な供給があるため、エネルギー価格への影響は軽微である。しかし、コンテナ会社の株価は、投資家が輸送能力の縮小を予想している

By エコノミスト(英国)
新型ジェットエンジンが超音速飛行を復活させる可能性[英エコノミスト]

新型ジェットエンジンが超音速飛行を復活させる可能性[英エコノミスト]

1960年代以来、世界中のエンジニアが回転デトネーションエンジン(RDE)と呼ばれる新しいタイプのジェット機を研究してきたが、実験段階を超えることはなかった。世界最大のジェットエンジン製造会社のひとつであるジー・エアロスペースは最近、実用版を開発中であると発表した。今年初め、米国の国防高等研究計画局は、同じく大手航空宇宙グループであるRTX傘下のレイセオンに対し、ガンビットと呼ばれるRDEを開発するために2900万ドルの契約を結んだ。 両エンジンはミサイルの推進に使用され、ロケットや既存のジェットエンジンなど、現在の推進システムの航続距離や速度の限界を克服する。しかし、もし両社が実用化に成功すれば、超音速飛行を復活させる可能性も含め、RDEは航空分野でより幅広い役割を果たすことになるかもしれない。 中央フロリダ大学の先端航空宇宙エンジンの専門家であるカリーム・アーメッドは、RDEとは「火を制御された爆発に置き換える」ものだと説明する。専門用語で言えば、ジェットエンジンは酸素と燃料の燃焼に依存しており、これは科学者が消炎と呼ぶ亜音速の反応だからだ。それに比べてデトネーシ

By エコノミスト(英国)
ビッグテックと地政学がインターネットを作り変える[英エコノミスト]

ビッグテックと地政学がインターネットを作り変える[英エコノミスト]

今月初め、イギリス、エストニア、フィンランドの海軍がバルト海で合同演習を行った際、その目的は戦闘技術を磨くことではなかった。その代わり、海底のガスやデータのパイプラインを妨害行為から守るための訓練が行われた。今回の訓練は、10月に同海域の海底ケーブルが破損した事件を受けたものだ。フィンランド大統領のサウリ・ニーニストは、このいたずらの原因とされた中国船が海底にいかりを引きずった事故について、「意図的なのか、それとも極めて稚拙な技術の結果なのか」と疑問を呈した。 海底ケーブルはかつて、インターネットの退屈な配管と見なされていた。現在、アマゾン、グーグル、メタ、マイクロソフトといったデータ経済の巨人たちは、中国と米国の緊張が世界のデジタルインフラを分断する危険性をはらんでいるにもかかわらず、データの流れをよりコントロールすることを主張している。その結果、海底ケーブルは貴重な経済的・戦略的資産へと変貌を遂げようとしている。 海底データパイプは、大陸間インターネットトラフィックのほぼ99%を運んでいる。調査会社TeleGeographyによると、現在550本の海底ケーブルが活動

By エコノミスト(英国)