AI犯罪予測の功罪 社会のバイアスを強化する危険性

近年米国の警察は犯罪予測ソフトウェアを採用している。現実の現象を機械学習モデルが強化する「フィードバックループ」の可能性、人種的偏見の永続化等を助長する危険性も指摘されている。

AI犯罪予測の功罪  社会のバイアスを強化する危険性

近年米国の警察は犯罪予測ソフトウェアを採用している。予測的警察(Predictive Policing)はどのくらい危険で、どのくらい有益なのか。米国のような広大な国土を持つ国家において法執行の改善に役立つ可能性があるが、一方で現実の現象を機械学習モデルが強化する「フィードバックループ」の可能性、人種的偏見の永続化等を助長する危険性も指摘されている。

犯罪を最大限に防止するために、都市全体に警察を配置する方法を決定するために、犯罪予測システムがますます使用されている。近年の傾向は機械学習モデルの応用であり、発見された犯罪データ(逮捕数など)は、モデルの更新に使用され、プロセスが繰り返される。

PredPol(プレドポル) – 市場をリードするシステム – は、カリフォルニア、フロリダ、メリーランドなどの場所の警察署ですでに使用されている。 警察の希望は、そのようなシステムが犯罪率を下げ、同時に警察の人間の偏見を減らすことだ。

北米の警察はこれまで「ホットスポット分析」を使用しており、過去の犯罪が記録され、地図に重ねられ、警官をそれらのエリアに集中させるようにしている。しかし、PredPolのほかPrandir、CrimeScan、ShotSpotter Missionsなど他の人々は、従来のホットスポット分析は昨日起こったことに反応しているだけで、明日はどうなるかを予測していないと指摘する。

従来型のホットスポット分析とは異なり、PredPolは明確に巡回すべき地域を特定し、「戦術的明確さ」を利用者の警察にもたらすと主張する。

Source: Predpol Predictive Policing Blog

アルゴリズムは、500平方フィートの四角の地域で犯罪を予測することにより機能し、各シフトに配置された四角の数は、利用可能な警察リソースに合わせて調整される。Predpol社は、犯罪の種類、犯罪の場所、および犯罪の日時の3つのデータポイントに基づいた機械学習アルゴリズムにより、予測的なポリシングを提供している。

犯罪の種類、場所、時間を含む何年にもわたる履歴データが必要であり、これを他の多くの社会経済データと組み合わせ、地震の余震を予測するために元々設計されたアルゴリズムによって分析される。ソフトウェアは、特定の犯罪が今後12時間にわたってどこでいつ発生するかを予測しようとする。アルゴリズムは、新しいデータが到着すると毎日更新される。PredPolは、カリフォルニア大学がロサンゼルス警察署と共同で実施した実験に触発されて開発されたとUCLAのJeff Brantingham教授(人類学)は説明している。

Brantinghamは、その研究は、アルゴリズムに基づいた予測が犯罪を2倍予測し、現場で使用した場合、既存のベストプラクティスの2倍の犯罪を防止できることを実証したと説明する。機械学習は、標準的な数学モデルでは簡単に記述できない、または人間の専門家の自然な知覚能力を超えるデータの統計パターンを識別するための一連のアプローチを提供すると、Brantinghamは説明している。BrantinghamはPredPol社を設立し米国の各地域とソフトウェアの提供契約を結んでいる。

PredPolのソフトウェアの基盤は、地震を予測するアルゴリズムの応用である。 地震が同様の場所で発生する可能性が非常に高いのと同様に、犯罪も同様の場所で発生する可能性が高く、両者には高い類似性があると論文は主張している。彼らのアプローチは、犯罪は、伝染のようなプロセスを介してローカル環境に広がる可能性があるという想定に基づく。たとえば、ギャングの射撃は、ライバルギャングの射撃発生地位周辺での報復暴力の波を引き起こす可能性がある。犯罪が地域に伝染することにより、時間と空間に対し「犯罪クラスター」が形成される。同様に、地震の発生は、近い空間、あるいは近い時間で別の地震が発生する可能性を高めることがよく知られている。これが地震予測のアルゴリズムを犯罪に応用できるという発想の根拠になっている。

Patrol Heat Map. source: Predpol

Predpolへの反論: 警官を配置し検挙すると犯罪率が上がり、さらなる警官の配置を促すフィードバックループ

しかし、米国の研究者がPredPolが犯罪を予測する方法を調べたとき、彼らは何か不穏なものを見つけた。Danielle Ensignらの研究によれば、ソフトウェアは単に「フィードバックループ」を引き起こし、その地域の真の犯罪率に関係なく、警官が特定の地域(通常は人種的少数派が多い地域)に繰り返し送られる。

システムがどのように結論に達するかをよりよく理解するために、調査チームはPredPolソフトウェアの単純化された数学モデルを作成した。このアルゴリズムは、特定の数の役員を2つの場所に分散する方法を選択する。1つの場所にさらに送信される場合、彼らはそこでさらに逮捕する傾向がある。チームはこれがシステムにフィードバックされ、さらに同じ場所にさらに多くの役員を派遣するように導くことを発見した。

つまり、ソフトウェアが確証バイアスのコンピューター化されたバージョンのように、より多くの警官がそこに送られたという理由だけで犯罪が増加する可能性を考慮せずに、ある地域の犯罪率を過大評価することになるとEnsignらは説明する。

Ensignらはフィードバックループを停止する方法に言及している。Ensignらは別のシステムをモデル化した。このシステムでは、エリアの犯罪率が予想よりも高い場合にのみアルゴリズムが近隣に多くの警官を派遣した。 これにより、真の犯罪率にはるかに近い方法で警察官を配置することができると主張している。

市民団体の懸念

しかし、自由主義者のグループと人種的正義のグループはもっと慎重だ。 彼らは、科学によって与えられた正当性に包囲することにより、予測的警察が人種的偏見を危険な新しい方法で永続化すると主張している。彼らは、犯罪予測モデルは、刑事司法制度に内在するバイアスを反映する欠陥のある統計に依存していると主張する。これは、黒人男性が白人男性よりも警察に射殺される可能性が高いことと同じタイプのバイアスであるというのが彼らの考え方である。

プライバシーも重要な懸念事項だ。 イリノイ州シカゴでは、ある科学者が警察が近い将来に犯罪を犯したり、暴力犯罪の犠牲者となる可能性があると思われる個人のリストを作成するのを手伝った。これらの人々は、たとえ何も悪いことをしていなくても、危険な存在であるとみなされる。

(追記:Psycho-Pass 3 面白いです)

参考文献

Daniel Ensign et.al. Runaway Feedback Loops in Predictive Policing

G. O. Mohler, M. B. Short, P. J. Brantingham, F. P. Schoenberg, G. E. Tita. Self-exciting point process modeling of crime. 2011.

PredPol (2018). Science and Testing of Predictive Policing. White Paper.

Image: "Ghost in the Shell" by Miguel Vega is licensed under CC BY-NC-ND 4.0

Read more

新たなスエズ危機に直面する米海軍[英エコノミスト]

新たなスエズ危機に直面する米海軍[英エコノミスト]

世界が繁栄するためには、船が港に到着しなければならない。マラッカ海峡やパナマ運河のような狭い航路を通過するとき、船舶は最も脆弱になる。そのため、スエズ運河への唯一の南側航路である紅海で最近急増している船舶への攻撃は、世界貿易にとって重大な脅威となっている。イランに支援されたイエメンの過激派フーシ派は、表向きはパレスチナ人を支援するために、35カ国以上につながる船舶に向けて100機以上の無人機やミサイルを発射した。彼らのキャンペーンは、黒海から南シナ海まですでに危険にさらされている航行の自由の原則に対する冒涜である。アメリカとその同盟国は、中東での紛争をエスカレートさせることなく、この問題にしっかりと対処しなければならない。 世界のコンテナ輸送量の20%、海上貿易の10%、海上ガスと石油の8~10%が紅海とスエズルートを通過している。数週間の騒乱の後、世界の5大コンテナ船会社のうち4社が紅海とスエズ航路の航海を停止し、BPは石油の出荷を一時停止した。十分な供給があるため、エネルギー価格への影響は軽微である。しかし、コンテナ会社の株価は、投資家が輸送能力の縮小を予想している

By エコノミスト(英国)
新型ジェットエンジンが超音速飛行を復活させる可能性[英エコノミスト]

新型ジェットエンジンが超音速飛行を復活させる可能性[英エコノミスト]

1960年代以来、世界中のエンジニアが回転デトネーションエンジン(RDE)と呼ばれる新しいタイプのジェット機を研究してきたが、実験段階を超えることはなかった。世界最大のジェットエンジン製造会社のひとつであるジー・エアロスペースは最近、実用版を開発中であると発表した。今年初め、米国の国防高等研究計画局は、同じく大手航空宇宙グループであるRTX傘下のレイセオンに対し、ガンビットと呼ばれるRDEを開発するために2900万ドルの契約を結んだ。 両エンジンはミサイルの推進に使用され、ロケットや既存のジェットエンジンなど、現在の推進システムの航続距離や速度の限界を克服する。しかし、もし両社が実用化に成功すれば、超音速飛行を復活させる可能性も含め、RDEは航空分野でより幅広い役割を果たすことになるかもしれない。 中央フロリダ大学の先端航空宇宙エンジンの専門家であるカリーム・アーメッドは、RDEとは「火を制御された爆発に置き換える」ものだと説明する。専門用語で言えば、ジェットエンジンは酸素と燃料の燃焼に依存しており、これは科学者が消炎と呼ぶ亜音速の反応だからだ。それに比べてデトネーシ

By エコノミスト(英国)
ビッグテックと地政学がインターネットを作り変える[英エコノミスト]

ビッグテックと地政学がインターネットを作り変える[英エコノミスト]

今月初め、イギリス、エストニア、フィンランドの海軍がバルト海で合同演習を行った際、その目的は戦闘技術を磨くことではなかった。その代わり、海底のガスやデータのパイプラインを妨害行為から守るための訓練が行われた。今回の訓練は、10月に同海域の海底ケーブルが破損した事件を受けたものだ。フィンランド大統領のサウリ・ニーニストは、このいたずらの原因とされた中国船が海底にいかりを引きずった事故について、「意図的なのか、それとも極めて稚拙な技術の結果なのか」と疑問を呈した。 海底ケーブルはかつて、インターネットの退屈な配管と見なされていた。現在、アマゾン、グーグル、メタ、マイクロソフトといったデータ経済の巨人たちは、中国と米国の緊張が世界のデジタルインフラを分断する危険性をはらんでいるにもかかわらず、データの流れをよりコントロールすることを主張している。その結果、海底ケーブルは貴重な経済的・戦略的資産へと変貌を遂げようとしている。 海底データパイプは、大陸間インターネットトラフィックのほぼ99%を運んでいる。調査会社TeleGeographyによると、現在550本の海底ケーブルが活動

By エコノミスト(英国)