AIシステムが世界中で急速に開発・展開されているが、最も成果を挙げている応用先は、皮肉なことに監視(Surveillance)である。米国では、中国の監視国家化への批判が巻き起こったが、実際には、米国も同様のビッグブラザー国家への道を歩んでいる。


黒人のジョージ・フロイドの非業の死への抗議をするためデモ隊が街中を行進する中、ミネアポリス市警は監視ツールを訓練して彼らを特定した。何千ものCCTVカメラの映像やその他のネット上のデータストリームをふるいにかけるための時間が限られていため、警察は自動ナンバープレートリーダー、CCTV映像解析ソフトウェア、オープンソースのジオロケーションツール、そして物議を醸しているClearview AIの顔認識システムによって収集された情報に手を伸ばした。

ボルチモア市警が最初に開発し、市街地の監視に利用する特殊なカメラを装備した非武装のプレデター・ドローンが街の上空を旋回し、1万フィートの上空から個人を識別し、街中の抗議者をリアルタイムで監視した。

ニューヨーク・タイムズ紙によると、ドローンは、オハイオ州デイトン、ニューヨーク市、バッファロー、フィラデルフィアなどの都市でデモを撮影し、リアルタイムでビデオ映像を税関・国境警備局の一部門である航空海洋作戦が管理するコントロールセンターに送信した。映像はその後、「ビッグパイプ」と呼ばれる国土安全保障省が管理するデジタルネットワークに送られ、他の連邦政府機関や地方警察が将来の調査に使用するためにアクセスできるようになっていると、航空海洋作戦の高官は述べている。

調査報道メディアThe Interceptによると、Twitterとの緊密な関係を利用して、物議を醸している人工知能の新興企業Dataminrは、ジョージ・フロイド殺害後に国内を席巻した抗議デモをデジタルで監視する法執行機関を支援し、デモ参加者の最新の居場所や行動をソーシャルメディアに投稿することで警察に情報を提供したという。Twitterは、最近までCIAとともにDataminrに長年出資しており、同社に「ファイアホース」と呼ばれるコンテンツストリームへのフルアクセスを提供している。TwitterとDataminrはともにThe Interceptに対し、抗議行動の監視が監視の定義を満たしていることを否定した。

The Interceptが閲覧した内部資料によると、Dataminrは現在進行中の抗議活動だけでなく、今後行われる全国の都市での反警察暴力集会の包括的な記録を保管しており、イベントの予想時間や都市内での開始場所など、スタッフが監視活動を整理できるようにしていた。The Interceptが見た抗議活動のスケジュールによると、Dataminrはデトロイトやブルックリンからペンシルバニア州ヨーク、バージニア州ハンプトンロードまで、大小数十の抗議活動を明示的に監視していた。

しかし、ブラック・ライブ・マター(BLM)活動の網羅的な監視は、テクノロジーの暴走の数ある具体例の1つに過ぎない。州、地方、および連邦政府が、人々の電子メール、テキスト、銀行の記録、スマートフォンの場所、顔、動き、および物理的な所在に関する情報を収集して、前例のない探索ツールを提供する網羅的監視ネットワークを構築している。

米国憲法が規定する市民の基本的な権利は、デジタル時代になっていとも簡単に蝕まれてきた。テクノロジーとゆるいデータとプライバシーに関する法律のおかげで、令状を示すことなく、米国人の重要なデータやデバイスを定期的に捜索して収集する監視システムが台頭している。

機械学習を警察が利用するとどうなるか?

ミネアポリスのように、アメリカ中の州や地方の警察は、顔認識、ナンバープレートリーダー、スティングレイ(Stingray: FBIが携帯電話の通話やテキストメッセージを盗聴するために使っている装置)、予測警察、ビデオ分析ツールなどを含む自動化されたツールの範囲を使用して、ほとんど見落としのない高度な監視システムを構築している。マイアミでは、警察官に向かって何かを投げつけたとされる抗議者が、後にClearview AI顔認識システムを使って特定され逮捕されたが、警察の報告書にはその技術を使ったことは書かれていない。

ボルチモアでは、警察はスティングレイ、市のCCTVカメラにリンクされた顔認識ソフトウェア、そして警察車両の中で脊椎を骨折し死亡したフレディ・グレイのための抗議行動をリアルタイムで監視するために、上空1万フィート以上から個人を特定できる監視ドローンに頼っていた。2018年には、より多くの抗議や暴動に対応して、ボルチモアの警察は市のCCTVカメラネットワークを通じて顔認識を利用し、抗議者を特定して後に逮捕した。

携帯電話の中継塔になりすまし盗聴する「スティングレイ」技術.

同様に、ニューヨーク市警は、最初の5年半の間に顔認証技術を使って3,000人以上を逮捕した。フレディー・グレイの抗議活動中にFBIが最初に飛ばした監視用ドローンは、今日もボルチモアの空を徘徊している。Persistent Surveillance Systems社(PSS、直訳で「永続的監視システム社」)と呼ばれる民間企業が2016年からボルチモアの上空で偵察用ドローンを飛ばしており、その映像はリアルタイムで犯罪を発見し、容疑者を特定するために、市のCCTVカメラとリンクできると主張している。

PSS社の広域空中監視のイメージ図。Image via https://www.pss-1.com/press

PSSは小さな会社だが、ボルチモアでの試験的なパイロットプログラムの受け入れに成功すれば、もっと大きな軍需企業が参入してくるだろう。これらの企業は、自動化されたAI分析、マルチスペクトル画像、ナイトビジョン機能など、はるかに高いカメラ解像度は言うまでもなく、はるかに強力な技術を搭載する可能性がある。

「ボルチモアの住民の60%以上がアフリカ系アメリカ人であるが、米国の黒人とブラウンのコミュニティは常に新技術による監視の対象となる最初の列にいる」とACLUは声明の中で主張している。「このプログラムがボルチモアで進めば、黒人やブラウンの人口が多く、人種的偏見の歴史がある他の都市にもすぐに広がると予想できる。しかし、アメリカの誰もがこの技術から逃れることができると思うべきではない。ボルチモアでそれが進めば、全国の警察署が採用し始めることを期待できる。最終的には、ドローンが都市の上空を自由に飛べるようになり、この種の常時監視が安価で自動化されるようになれば、国の多くがカバーされるようになっても不思議ではない」

マイクロソフトと監視技術

法執行機関による生体認証やビッグデータ分析などの重要な分野でのAIの進歩のため制度整備と資金提供がなければ、マイクロソフト、アマゾン、パランティアの研究者たちは、監視システムの最先端にいることはなかっただろう。最近の報告書は、犯罪記録、市全体のカメラシステム、そしてオンとオフの生活に関する大量のデータを融合して分析するために、商業パートナーの研究と技術に頼って警察署が構築した監視ツール、自動化されたシステム、データベースの広範なネットワークに光を当てている。

ロサンゼルス市警(LAPD)の警官はデータマイニング会社パランティア(Palantir)のデータ分析ツールを使用して「警察と接触した人の個人情報(恋愛や仕事を含む)を保存」し、犯罪行動を予測しようとしている。

米国の情報公開法に基づいてBuzzfeed Newsが入手し公開した文書によると、「パランティア・ゴッサム」と呼ばれる監視ソフトウェアでは、名前、自宅住所、メールアドレス、車、令状、顔写真、写真などを検索することができる。また、友人、家族、パートナー、隣人、同僚などの仲間のデータを収集して追跡したり、車両の犯罪行為へのリンクを追跡したりすることもできる。2012年から2017年にかけて、ロサンゼルス学校警察署、コンプトン統一学区警察署、エルカミーノカレッジ、カルポリ大学警察部、カリフォルニア州立大学のすべてが警察データをLAPDに送信し、それをシステムに読み込ませていた。

LAPD警官の半数以上のほぼ5,000人がPalantirにアカウントを持ち、2016年には、それらの警官は1万件以上の事件をサポートするために6万件の検索を実行したという。

LAPDのPalantirデータベースには自動車登録の情報が含まれており、カリフォルニア州の運転免許証を持っている人がPalantirに登録される可能性があることを意味する。また、ロサンゼルスとその周辺地域の信号機や料金所から撮影された10億枚のナンバープレートの写真も含まれている。2015年以降にロサンゼルスを運転したことがあれば、警察は「パランティア・ゴッサム」を通じて、自分の車がいつどこで撮影されたのか、いつ撮影されたのかを確認し、名前をクリックすることで自分のすべてを知ることができる。

ニューヨーク市では、マイクロソフトは2009年からニューヨーク市警と緊密に協力して、Domain Awareness System(DAS)と呼ばれる市全体の監視プラットフォームを開発してきた。このプラットフォームの詳細は最近になって明らかになったばかりだが、DASはこれまでのところ、米国の主要都市で最も包括的な監視システムとなっているようだ。このシステムは監視で得られるデータを取り込み、リアルタイムの警告、調査、分析という3つのコア機能を提供している。アリババの「シティ・ブレイン」プロジェクトと同様に、DASはデータ収集を拡大し、データ分析を統合プラットフォームに一元化することで、警察が街全体を監視できるデジタルパノプティコンを実現している。

DASプラットフォームの詳細についてのスライドを入手した調査報道専業メディアThe Interceptによると、このシステムは最初、CCTVカメラ、環境センサ(温度、湿度、照度、UV、気圧、騒音、加速度、VOCを計測するセンシング機能)、自動ナンバープレートリーダーからの情報を収集していた。2010年までには、苦情、逮捕、911コール、令状のジオコード化されたニューヨーク市警の記録を追加し始めた。その後、ビデオ分析、自動パターン認識、予測的な取り締まり、警官のためのモバイルアプリを追加した。

2016年までに、システムは自動ナンバープレート認識技術を搭載したALPRカメラから20億枚のナンバープレート画像(1日300万枚読み取り、5年間保存)、1,500万件の苦情、330億件以上の公的記録、9,000以上のニューヨーク市警と民間のカメラフィード、20,000以上のボディカメラからのビデオなどを収集した。これらすべてを理解するために、分析アルゴリズムは、予測的な取り締まりのためのデータなど、関連するデータを抽出する。マイクロソフトとニューヨーク市警は10年以上前から、リアルタイムデータと過去のデータの両方の複数のチャンネルをAIと融合させて、すべてを処理して意味のあるものにする市全体の監視プラットフォームを作成してきた。データ収集と分析の自動化されたツールは、地元や国の法執行機関と肩を並べて働き、その範囲を拡大している。

これらすべてを理解するために、分析アルゴリズムは、予測的な取り締まりのためのデータなど、関連するデータを抽出する。マイクロソフトとニューヨーク市警は10年以上前から、リアルタイムデータと過去のデータの両方の複数のチャンネルをAIと融合させて、すべてを処理して意味のあるものにする市全体の監視プラットフォームを作成してきました。データ収集と分析の自動化されたツールは、地元や国の法執行機関と肩を並べて働き、全米の都市でその範囲を広げている。

ビッグテックと大規模監視

市民の監視はもっと商業的なアプローチからも進捗をみている。それは我々が深く依存する商業インターネット製品だ。エドワード・スノーデンがジャーナリストに手渡した国家安全保障局(NSA)の大規模監視に関する文書には、NSAはフェイスブック、グーグル、マイクロソフト、ヤフーなどインターネット企業9社のサーバーを直接盗聴し、プリズム(Prism)と呼ばれる監視プログラムでオンライン通信を追跡していることが記されていた。

英ガーディアン紙によると、世界最大のインターネット・ブランドのいくつかは、2007年に導入されて以来、プリズムに参加していると主張される。現在、「あなたのプライバシーは私たちの優先事項です」というスローガンを掲げた広告キャンペーンを展開しているマイクロソフトは、2007年12月に収集を開始した最初の企業だった。

その後、2008年にはYahoo、2009年にはGoogle、Facebook、PalTalk、2010年にはYouTube、2011年にはSkypeとAOL、そして2012年にはAppleがプリズムに参加した。

昨年、グーグルが数百万人の詳細な位置情報の履歴を「Sensorvault」に保存していることが明らかになり、アクセス権を持つ者は、特定の時間と場所でAndroidスマートフォンやGoogleマップをインストールしている人の位置情報の履歴を見ることができるようになった。政府のあらゆるレベルの警察は、彼らの捜査ツールキットにSensorvaultを追加することを熱望してきた。 Googleは、ノースカロライナ州、カリフォルニア州、フロリダ州、メイン州、ミネソタ州の FBI と警察のために、1週間に180件の「ジオフェンシング」令状を処理したと報告している。EFFが指摘しているように、警察は地理的に守られた令状に容疑者や標的となる装置の名前を記載せず、代わりに犯罪が発生した特定の時間と場所から逆算している。

しかし、最高裁が2018年に指摘したように、この種の移動データは、ターゲットの人生の詳細な肖像画を描くために使用することができ、「その人の人生の親密な窓を提供し、その人の特定の動きだけでなく、それを通してその人の『家族的、政治的、職業的、宗教的、性的な関連』を明らかにする」。容疑者を特定したり、特定の装置を標的にしたりすることなく、ジオフェンス令状を使えば、警察は特定の時間と場所にいる誰をも罠にかけることができる。これは修正第4条が防ごうとした一般化された捜索と押収そのものだ。

9.11後の国家安全保障の危機感は、基本的人権を軽視するような広範で正確な捜索と押収を行う、強権的な監視国家を作り上げた。自動化された技術に助けられて、政府のあらゆるレベルの法執行機関は、前例のない量のアメリカ人に関する情報を蓄積してきた。顔認識、自動化されたナンバープレートリーダー、スティングレイ、非武装のプレデター・ドローン、グーグルの「Sensorvault」にアクセスする地理的根拠のない令状、人々のソーシャルメディア・アカウントやスマートフォンからの地理的位置情報を使って、全国の警察は、目に見えない安全保障国家が犯罪を疑っていることを超えて、ほとんど口実もなく、市民を定期的にスパイしている。

これまでで最も網羅的な調査は、電子フロンティア財団(EFF)が最近まとめたもので、何千もの公的記録を調べて作成された報告書「監視のアトラス」(Atlas of Surveillance)だ。。この地図は、全国の州や地方の法執行機関が自由に使用している様々な自動化された監視ツールを最も詳細に示している。少なくとも1074の管轄区域や警察署がドローンを使用しており、360が顔認識を使用しており、64がスティングレイを使用しており、24がビデオ分析やコンピュータビジョンツール(自動化されたデータ分析ツール)を使用しており、26が予測的な取り締まり手段を使用している。

これらの監視システムは、大都市の警察署から、郊外に浸透し始めている。EFFによると、1,328の警察署は、AmazonのRingホームセキュリティカメラシステムとのパートナーシップを持っており、警察のアクセスを与える。そして場合によっては最初に令状を取得することなく、私有地の記録にライブアクセスが可能だ。毎日の市民と自警団プログラムは、同様に街の外でも同様に普及した正確な監視システムを構築するために、地元や国の法執行機関と手をつないで働いている。

これらのRingのパートナーシップは、利便性やセキュリティという口実のもと「トロイの木馬」を市民の家に設置していくことに成功している。動画を利用した監視はコンピュータビジョンの発達とともに加速しており、世界のビデオ監視市場は、2019年の約400億ドルから2027年までに1440億ドルに達すると予想されている。

利便性とセキュリティのために設置されたカメラが「トロイの木馬」となり警察の監視網をプライベートな領域まで拡大することを助けている。Image via Amazon.

ウォールストリート・ジャーナル紙が指摘するように、監視業界は2001年には実質的に「0ドル」だったものが、現在の数十億ドル規模の世界市場にまで成長しました。より多くのデータと市民のデジタルな目と耳を追求するために、米国政府は市場の最大手の一角を占めている。政府の監視プログラムのコストの見積もりは難しいが、2016年にワシントン・ポスト紙が報じたところによると、FBIの予算には、あらゆる形態のデジタル暗号を解読する方法を含むハイテク監視ツールを開発するための先端技術局のための6億ドルから8億ドルが含まれているという。

政府が機械学習を活用するときに起こること

ニューヨークの法執行機関のように、米連邦政府は自動化された監視ツールの数々を使って、市民に関する前例のないほどの量の情報を蓄積している。各州のアプローチをデータ収集の指針となる国の枠組みに統一するための議会の法律がないため、アメリカのプライバシーとデータに関する法律は、不完全で競合する規則の寄せ集めであり、警察による個人情報の収集に対する規制や監督はほとんど行われていない(例外はイリノイ州で、バイオメトリクスデータの収集に同意を必要とする法律を最初に可決した州である)。

自動化されたナンバープレートリーダーやCCTVカメラのようなツールから入ってくる連続的なデータの流れに加えて、法執行機関は様々なデータベースを維持しており、その多くは現在、警察が摂取する膨大な量のデータから洞察を得るために自動化された収集と処理に依存している。州、地方、国の警察は、犯罪を犯した可能性のある、あるいは犯していない可能性のある対象者の「人生のパターン」を構築するために、その人の犯罪歴や国家とのやりとり(運転免許証など)を網羅した20以上のデータベースにアクセスすることができる。

政府がアメリカ人について収集した情報量を知るには、FBIの集中犯罪データベースであるNCIC(National Crime Identification Center)を見てみよう。これらの記録には、電話や電子メールなどの通信内容、医療診断、治療、病状、インターネットの閲覧、金融取引、物理的な場所、書店や図書館での購入、貸出、閲覧、その他の店舗での購入や閲覧、メディアの視聴嗜好などが含まれている。

地方法執行機関と連邦法執行機関は、血液サンプル、指紋、顔認識、DNAサンプルを含む生体情報データベースも維持している。警察が維持しているものに加えて、ゴールデン・ステイト・キラー(黄金州の殺人鬼)事件のように、GEDMatchのような消費者遺伝学データベースも貴重な情報源であることが証明されている)。このように、このような情報を収集した後に、警察がどのように情報を使用し、共有するかを制限するための管理や監督はほとんど存在しない。

政府が合法的に(時には違法に)あなたの情報を取得すると、そのデータは様々な州、地方、連邦機関の間でシャトルされることができる。国家レベルでは、「フュージョン・センター」が地方警察と連邦警察をつなぐ役割を果たし、データや情報ツールが合法的に両方向に流れるようにしている。このようなセンターは、9.11後に作られたものであり、まだ歴史は浅いが、政府はすでに全国で76のセンターを運営している。

フュージョン・センターは、地元、州、連邦政府の法執行機関、国土安全保障のパートナー、民間団体など、様々な情報源から情報を受け取り、「脅威」に関連する政府と民間の情報を収集し、共有するための地域の中心地として機能している。実際、国土安全保障省は、これは連邦政府が州や地方の問題に介入しているのではなく、「近年、政府のあらゆるレベルのパートナーは、融合センターのための統一的で調整された支援の必要性を再確認している」と強調している。

フュージョン・センターは、分散化されて拡散しているが、州や地方の警察と国家スパイ機関のツールやデータ情報を結びつける、成長を続ける大規模な監視ネットワークの中心的な役割を果たしている。政府のあらゆるレベルの法執行機関が情報を共有し、データがどのように使用されているかについての監視や透明性がほとんどないまま、利用可能な情報の総量を拡大している。

例えば、メリーランド州はFBIに700万人の運転免許証の写真と300万人の顔写真のデータベースへのアクセスを与え、1000万人のメリーランド州民を連邦捜査官による顔認識検索に開放した。一度システムに入れば、あなたは永遠の列に並び、常に容疑者になる可能性がある。修正第4条は、法執行機関があなたを捜索するための高い法的基準を設定している。政府があなたの個人、家、書類、所持品にアクセスするには、正当な理由と令状が必要だ。しかし、現代の技術は修正第4条の抜け穴を掘り起こし、建国者が権利章典で防ごうとしたような広範囲で正確な監視を可能にする。

予測警察技術の罠

予測警察プログラムは、データ、監視技術、自動化された取り締まりシステムが連携して、犯罪を犯していない、あるいは有罪判決を受けていないアメリカ人をスパイし、捜索し、最終的にはコントロールするためにどのように機能するかを示すもう一つの例である。予測的な取り締まりは、犯罪の過去のデータ、人口統計学、社会経済学、地理学を用いて、将来の事件を予測することができるという考えを前提としている。警察は、犯罪が再び発生しそうな場所を知ることで、事前に介入して犯罪を未然に防ごうとするのである。予測警察モデルが作成する「ヒートマップ」には、犯罪や人口統計データに頼るというシステム的な落とし穴を避けようと、より少ないデータで特定の地域に警察を投入する「場所ベース」と、犯罪歴と社会的ネットワークの分析を組み合わせて「リスクの高い」個人を追跡してリスト化する「人物ベース」の2種類がある。

しかし、ほとんどの予測警察プログラムは、彼らが供給されるデータが現実の世界の人種的不平等を反映して偏っているため、大部分がシステム的に人種差別的に運営されている。「犯罪データ」と称されることが多いが、ほとんどの警察のアルゴリズムが構築されているデータは実際には逮捕データであり、有色人種の人々は白人と同じ確率で犯罪を犯しているにもかかわらず、白人よりも高い確率で逮捕されているため、さらに偏ったデータとなっている。犯罪やその他の歴史的データに依存する予測取り締まりプログラムは、必然的に深刻な盲点を生み出し、AIが対処するために持ち込まれた刑事司法制度の偏見そのものを再現することが多い。

構造的な偏りや過剰な取り締まりについての懸念にもかかわらず、予知取り締まりプログラムは広まっている。シカゴでは、2012年から国内で最も包括的で研究された予測警察システムの1つを運営していたが、そのシステムがいかに押しつけがましく、効果がないかという国民の圧力に直面した後、今年1月にプログラムを閉鎖するまでは、そのシステムを利用していた。

イェール大学の研究者が開発した疫学モデルに触発されたシカゴ市警(CPD)のプログラムは、凶悪犯罪の媒介者であるハイリスクの個人を特定することを目的としていた。アルゴリズムは、犯罪や過去のデータに基づいて、将来の犯罪が起こりそうな場所やデータを示すマップを作成し、ソーシャルネットワーク分析と組み合わせて、誰かを撃ったり、自分自身を撃たれたりする可能性が最も高い人物の「戦略的ショートリスト」を作成した。凶悪犯罪の経過を追跡するには、特定の人物を特定するだけでなく、あらゆる都市の犯罪の歴史や地理に関する情報を収集する必要がある。

これは、法執行機関が予測的な取り締まりのアルゴリズムに投入している膨大な量のデータであり、集約されたものでも粒度の高いものでもある。どのようなデータが収集され、どこに保存され、誰がそれにアクセスできるかを追跡することは、市政府にとっても困難である。例えば、警察はニューオーリンズをベースにした同様の予測警察モデルを使用しており、ソーシャルネットワーク分析に依存して、以前はサイロ化されていたデータベース内の人、場所、車、武器、住所、ソーシャルメディアの投稿、その他の指標」を導き出している。ナンバープレートの一部、ニックネーム、住所、電話番号、ソーシャルメディアのハンドルネームや投稿などのクエリ用語を入力すると、ニューオリンズ州警察のアナリストがデータ分析会社Palantirソフトウェアによってスクレイピングされた情報を確認し、既知の被害者や加害者とのつながりに基づいて、どの個人が暴力行為を行うか、または被害者になる可能性が最も高いかを判断する。Palantirはニューオリンズを予測警察技術のテストに利用した。

2013年、社会科学のシンクタンクであるランド社の研究者たちは、CPDの予測的取り締まりプログラムへの前例のないアクセスを許可され、戦略会議に参加したり、数ヶ月間にわたって警官と一緒に行動したりした。使用されているツールの技術的な洗練にもかかわらず、ランド社の研究者の研究では、予測警察プログラムは効果がないと結論づけられた。その後の法廷闘争によって、2013年以降、シカゴで逮捕された人や指紋を採取された人がすべて含まれていることが明らかになった。実際、研究者たちは、予測的な取り締まりが殺人や凶悪犯罪の発生率に有意な差をもたらさないことを発見した。犯罪の予防と軽減に焦点を当てたシステムに情報を提供するのではなく、リストは逮捕者をターゲットにするために使用されていた。

予測警察プログラムは効果がなく、システム的に差別的であることが示されているが、その利用は全米の都市で急速に広まっている。これに対応して、サンフランシスコ、ボストン、ポートランドなどのいくつかの都市では、警察のドラグネット監視システムの一部を標的にして、公権力者による顔認証の使用を禁止している。しかし、ほとんどの国では、これらのツールは立法府によって規制されておらず、ゆるい武力行使法に制約されており、政策は政府がどのように技術を使用するかになる。法執行機関の手の中では、捜索と押収のこれらの異常な力は、犯罪を防ぐというよりも、人々を逮捕することに向けて訓練されている。

地方および国の法執行機関による監視が劇的に拡大していることを考えると、議会は生体認証プログラムを抑制し、これらの監視システムへの監視メカニズムを確立する一連の法案を検討してきた。先月、エド・マーキー上院議員(D-MA)とジェフ・マークレー上院議員(D-OR)は、連邦政府機関による顔やその他の生体認証技術の使用を禁止し、法執行機関に対する連邦および州の資金提供を同様の禁止を制定することを条件とする法案を提出した。

メルクリー上院議員はまた、2月にコーリー・ブッカー上院議員とともに「アルゴリズム説明責任法」( [Algorithmic Accountability Act](https://www.wyden.senate.gov/imo/media/doc/Algorithmic Accountability Act of 2019 Bill Text.pdf))の法案を提出した。これは、連邦取引委員会に、管轄下にある企業がアメリカ人に影響を与えるような不正確、偏った、または差別的な決定を行った場合、アルゴリズムを研究し、修正するように規制するよう指示するものだ。どちらも可決される可能性は低い。しかし、議会からの枠組みがなければ、国民は国家の監視権限を建国者の意図したバランスに戻そうと暗躍している。

国家の手を縛るために書かれた米国憲法修正第4条は、正当な理由や警察が何を見つけるかもしれないと思うかを具体的に説明した令状なしで、不合理な捜索や押収から市民を保護している。しかし、テクノロジーは大量監視への扉を開き、政府が令状や正当な理由がなくても、その人の「人生のパターン」の写真を政府に提供する、まさにドラグネットシステムを構築することを可能にしている。

監視国家の危険性は、ますます明らかになってきている。先月、国土安全保障省が抗議者やジャーナリストを国内で監視することを許可したことが明らかになった。国土安全保障省はニューヨーク・タイムズ紙のジャーナリストと国家安全保障法のブログ「Lawfare」を運営する法律専門家に関するインテリジェンス報告書を作成するまでに至った。過剰に構築された監視国家が国民のコントロールから抜け出しているかもしれないという警告として役立つはずだ。

関連記事

中国のAI技術が生んだ功利主義的監視国家
中国の高度監視社会は、欧米の政治思想のフレームでは功利主義的と捉えることができる。人々の自由を減じる代わりに安全や利便性という幸福の要素をもたらしているからだ。だが、そもそも我々が信じる自由とは何か。ヒトが技術で生み出すあたらしい世界を説明する思想が必要になっている。
物議を醸すピーター・ティール出資の顔認識システム新興企業「Clearview AI」
米国の主要な移民法執行機関である司法省、ベストバイやメイシーズなどの小売業者、アラブ首長国連邦の政府系ファンドは、ソーシャルメディアやウェブ上の数十億枚の写真をスクレイピングしてデータベース化し、物議を醸している顔認識スタートアップClearview AIの顧客として世界中の数千の政府機関や民間企業の中にリストアップされている。

参考文献

Photo by Adam Nieścioruk on Unsplash