「暴力性検知」のロシア製顔認識監視システムが圧政に利用される恐れ

ロシアの広範囲なリアルタイム顔認識監視システムのメーカーであるNTechLabは、「攻撃性検知」と「暴力性検知」の機能を2021年から展開する予定だ。

同社は最近、ロシア政府と中東の無名のパートナーから現金を注入された。フォーブスのレポートによると、2つのソブリン・ウェルス・ファンドから1500万ドルの新たな資金を手にした同社は現在、ラテンアメリカ、中東、そして潜在的にはアジアへの進出を視野に入れている。NtechLabは以前、アラブ首長国連邦のソブリン投資家であるMubadala Investment Companyから支援を受けたことがあるが、今回のラウンドでは誰が資金を提供したのかは明らかにしていない。

2016年、NtechLabは顔認識ソフトウェア「FindFace」を発表し、ユーザーに顔の画像を撮影してロシアのソーシャルメディアのVkontakte（VK）のプロフィールに結びつけることを約束して話題を呼んだ。 同社はそれ以来、監視のサプライヤーとなり、特にモスクワでは、同社のアルゴリズムが大規模な顔認識監視プロジェクトの動力源となっている。同社によると、2020年1月の最初の10日間で、モスクワのシステムは34人の「犯罪者」を捕まえるのに役立ったという。

しかし、もちろん、攻撃性を認識することになると、アルゴリズムの状況解釈には大きな誤差が生じる可能性がある。

これまでの研究では、顔認識は人種的に偏っており、肌の色が濃い人ほどパフォーマンスが悪いことがわかっていたが、感情や肌の色を検出するテストでは、さらに不利な結果となっている。

メリーランド大学のローレン・リュー氏の研究では、マイクロソフトと中国の企業Face++のツールがNBA選手を対象にテストされた研究では、NBA選手の400枚の写真の感情を測定しようとした。これらの画像認識モデルは、黒人選手は一貫して白人選手よりも「怒っている」と判定した。

黒人男性の顔の表情は、たとえ笑顔であっても、白人男性よりも脅威的な行動に関連した感情がスコア化されることが多く、顔認識の使用は、既存のステレオタイプをアルゴリズムに形式化し、日常生活に自動的に埋め込むことができると考えるに足る十分な理由がある、とローレン・リューはこの研究について書いている。「顔認識が黒人と白人の顔を同様に評価するまでは、黒人は肯定的な顔の表情を誇張する必要があるかもしれない。本質的にはより多くの笑顔を見せることで、技術による曖昧さと潜在的に否定的な解釈を減らすことができる」。

デトロイト警察が導入している顔認識システムは、二度の黒人男性の誤認逮捕を招いている。これは黒人男性に対する画像認識の低いスコアが、黒人男性の生活を破壊しうることを示している。

NTechLabは、テストされていない、道徳的に堕落したアルゴリズムを、その使用方法の倫理に疑問を持つ可能性の最も低い政府に広めようとしている。そして、それを主に権威主義の国家に販売することによって大金を稼ごうとしている。

参考文献

1. Lauren Rhue. Racial Influence on Automated Perceptions of Emotions. SSRN. November 9, 2018.

Photo: "Ask About: Facial Recognition 2.0"by World Economic Forum is licensed under CC BY-NC-SA 2.0