AI犯罪予測の功罪 社会のバイアスを強化する危険性

近年米国の警察は犯罪予測ソフトウェアを採用している。予測的警察（Predictive Policing）はどのくらい危険で、どのくらい有益なのか。米国のような広大な国土を持つ国家において法執行の改善に役立つ可能性があるが、一方で現実の現象を機械学習モデルが強化する「フィードバックループ」の可能性、人種的偏見の永続化等を助長する危険性も指摘されている。

犯罪を最大限に防止するために、都市全体に警察を配置する方法を決定するために、犯罪予測システムがますます使用されている。近年の傾向は機械学習モデルの応用であり、発見された犯罪データ（逮捕数など）は、モデルの更新に使用され、プロセスが繰り返される。

PredPol（プレドポル） – 市場をリードするシステム – は、カリフォルニア、フロリダ、メリーランドなどの場所の警察署ですでに使用されている。 警察の希望は、そのようなシステムが犯罪率を下げ、同時に警察の人間の偏見を減らすことだ。

北米の警察はこれまで「ホットスポット分析」を使用しており、過去の犯罪が記録され、地図に重ねられ、警官をそれらのエリアに集中させるようにしている。しかし、PredPolのほかPrandir、CrimeScan、ShotSpotter Missionsなど他の人々は、従来のホットスポット分析は昨日起こったことに反応しているだけで、明日はどうなるかを予測していないと指摘する。

従来型のホットスポット分析とは異なり、PredPolは明確に巡回すべき地域を特定し、「戦術的明確さ」を利用者の警察にもたらすと主張する。

アルゴリズムは、500平方フィートの四角の地域で犯罪を予測することにより機能し、各シフトに配置された四角の数は、利用可能な警察リソースに合わせて調整される。Predpol社は、犯罪の種類、犯罪の場所、および犯罪の日時の3つのデータポイントに基づいた機械学習アルゴリズムにより、予測的なポリシングを提供している。

犯罪の種類、場所、時間を含む何年にもわたる履歴データが必要であり、これを他の多くの社会経済データと組み合わせ、地震の余震を予測するために元々設計されたアルゴリズムによって分析される。ソフトウェアは、特定の犯罪が今後12時間にわたってどこでいつ発生するかを予測しようとする。アルゴリズムは、新しいデータが到着すると毎日更新される。PredPolは、カリフォルニア大学がロサンゼルス警察署と共同で実施した実験に触発されて開発されたとUCLAのJeff Brantingham教授（人類学）は説明している。

Brantinghamは、その研究は、アルゴリズムに基づいた予測が犯罪を2倍予測し、現場で使用した場合、既存のベストプラクティスの2倍の犯罪を防止できることを実証したと説明する。機械学習は、標準的な数学モデルでは簡単に記述できない、または人間の専門家の自然な知覚能力を超えるデータの統計パターンを識別するための一連のアプローチを提供すると、Brantinghamは説明している。BrantinghamはPredPol社を設立し米国の各地域とソフトウェアの提供契約を結んでいる。

PredPolのソフトウェアの基盤は、地震を予測するアルゴリズムの応用である。 地震が同様の場所で発生する可能性が非常に高いのと同様に、犯罪も同様の場所で発生する可能性が高く、両者には高い類似性があると論文は主張している。彼らのアプローチは、犯罪は、伝染のようなプロセスを介してローカル環境に広がる可能性があるという想定に基づく。たとえば、ギャングの射撃は、ライバルギャングの射撃発生地位周辺での報復暴力の波を引き起こす可能性がある。犯罪が地域に伝染することにより、時間と空間に対し「犯罪クラスター」が形成される。同様に、地震の発生は、近い空間、あるいは近い時間で別の地震が発生する可能性を高めることがよく知られている。これが地震予測のアルゴリズムを犯罪に応用できるという発想の根拠になっている。

Predpolへの反論: 警官を配置し検挙すると犯罪率が上がり、さらなる警官の配置を促すフィードバックループ

しかし、米国の研究者がPredPolが犯罪を予測する方法を調べたとき、彼らは何か不穏なものを見つけた。Danielle Ensignらの研究によれば、ソフトウェアは単に「フィードバックループ」を引き起こし、その地域の真の犯罪率に関係なく、警官が特定の地域（通常は人種的少数派が多い地域）に繰り返し送られる。

システムがどのように結論に達するかをよりよく理解するために、調査チームはPredPolソフトウェアの単純化された数学モデルを作成した。このアルゴリズムは、特定の数の役員を2つの場所に分散する方法を選択する。1つの場所にさらに送信される場合、彼らはそこでさらに逮捕する傾向がある。チームはこれがシステムにフィードバックされ、さらに同じ場所にさらに多くの役員を派遣するように導くことを発見した。

つまり、ソフトウェアが確証バイアスのコンピューター化されたバージョンのように、より多くの警官がそこに送られたという理由だけで犯罪が増加する可能性を考慮せずに、ある地域の犯罪率を過大評価することになるとEnsignらは説明する。

Ensignらはフィードバックループを停止する方法に言及している。Ensignらは別のシステムをモデル化した。このシステムでは、エリアの犯罪率が予想よりも高い場合にのみアルゴリズムが近隣に多くの警官を派遣した。 これにより、真の犯罪率にはるかに近い方法で警察官を配置することができると主張している。

市民団体の懸念

しかし、自由主義者のグループと人種的正義のグループはもっと慎重だ。 彼らは、科学によって与えられた正当性に包囲することにより、予測的警察が人種的偏見を危険な新しい方法で永続化すると主張している。彼らは、犯罪予測モデルは、刑事司法制度に内在するバイアスを反映する欠陥のある統計に依存していると主張する。これは、黒人男性が白人男性よりも警察に射殺される可能性が高いことと同じタイプのバイアスであるというのが彼らの考え方である。

プライバシーも重要な懸念事項だ。 イリノイ州シカゴでは、ある科学者が警察が近い将来に犯罪を犯したり、暴力犯罪の犠牲者となる可能性があると思われる個人のリストを作成するのを手伝った。これらの人々は、たとえ何も悪いことをしていなくても、危険な存在であるとみなされる。

（追記：Psycho-Pass 3 面白いです）

参考文献

Daniel Ensign et.al. Runaway Feedback Loops in Predictive Policing

G. O. Mohler, M. B. Short, P. J. Brantingham, F. P. Schoenberg, G. E. Tita. Self-exciting point process modeling of crime. 2011.

PredPol (2018). Science and Testing of Predictive Policing. White Paper.

Image: "Ghost in the Shell" by Miguel Vega is licensed under CC BY-NC-ND 4.0