権威主義と監視技術が融合したときビッグブラザーが生まれはしないか?

権威主義的な権力が「ビッグブラザー」として市民を従わせるために監視を使うのなら「個人の自由 vs 権力」という懐かしい近代の出来事になる。あるいはもっと悪いことになる。

権威主義と監視技術が融合したときビッグブラザーが生まれはしないか?

※本稿は顔認証、監視技術をめぐるエッセイです。

香港の抗議者が「顔認証避け」のレーザー

香港の抗議者がレーザーを使用して治安部隊が使用する顔認識カメラを攪乱しているのが話題になっている。先週はプラネタリウムにレーザーを当てる「レーザーポインターデモ」が行われたそうだ。

ニューヨークタイムズのPaul Mozurの記事によると、当局は抗議リーダーをオンラインで追跡し、スマホの持ち主を探している。現在、多くの抗議者が顔を覆っており、警察が逮捕の標的を特定するためにカメラやその他の監視ツールを使用しているのではないかと彼らは恐れているのだ。実際、香港では法執行機関による顔認識技術の採用とカメラやその他の追跡ツールのネットワークがほんど本土中国並みに急速に拡大している。

ソーシャルやチャットでは抗議者、警察官双方の顔写真が流通している。抗議者の間でチャットアプリ「Telegram」の利用が広まっているが、そこで抗議者のグループチャットを設定した男性が逮捕されており、監視から自由なわけではないようだ。顔のデータを基に即時的にアイデンティティを特定しその人物を監視、時には捕捉する……というディストピアもののSF小説のような出来事が起きている。本土中国ではすでに採用されているシステムだが、それが香港に導入され、欧米社会の「普遍的な価値観」である「自由」「人権」を圧迫しにかかっているように見える。

顔認証の危険性

顔認証には法執行機関がそれを濫用する恐れがあるだろう。権威主義的な政府は、それを市民統制のために利用することを躊躇しないはずだ。

特に新疆ウイグルで実行されている大規模監視システムは極めて危険である。ヒューマン・ライツ・ウォッチの報告書によると、新疆当局は「統合ジョイント・オペレーション・プラットフォーム」(一体化联合作战平台、IJOP)と呼ばれるシステムで一般人から実に様々な情報を収集しており、その範囲は血液型から身長、「宗教的雰囲気」から政治的所属にわたる。IJOPは電話や自動車、IDカードを追跡して人びとの動きをモニタリングするのだ。電気やガソリンスタンドの使用履歴も取得される。人びとの移動の自由は、システムにプログラムされた要因によって決定された、その人物がもたらすと当局が認識する脅威レベルに応じて、さまざまな程度に制限される。

これらの追跡には顔スキャナーと生体認証チェックポイント、無数の監視カメラ等が用いられているとThe Gardianは報じている。

顔認証にはアップサイドは存在する。パスワードレスな認証として顔は眼球の虹彩と並んでかなり有望と考えられる。「Amazon Go」のような無人コンビニでは顔認証は重要な技術になるだろう。無数のカメラ等のセンサーを利用して買い物客の動きを追い、客が手に取った商品を自動的に会計に加算するシステムにおいて、顔認証は相当役立つのではないだろうか。

オーウェリアン主義というディストピアシナリオ

このブログで指摘したが、権力が正しく監視を応用できるのなら、「個人の自由 vs 最大多数の最大幸福」という問題になるはずである。

だけど、権威主義的な権力が「ビッグブラザー」として市民を従わせるために監視を使うのなら「個人の自由 vs 権力」という懐かしい近代の出来事になる。あるいはもっと悪いことになる。そして、香港や新疆で起きているのはオーウェリアン主義(Orwellianism)の発露ではないだろうか。このまま技術の社会活用が人を支配する方向に進んでいくとかなりまずい。

Photo by Christopher Burns on Unsplash

Read more

​​イオンリテール、Cloud Runでデータ分析基盤内製化 - 顧客LTV向上と従業員主導の分析体制へ

​​イオンリテール、Cloud Runでデータ分析基盤内製化 - 顧客LTV向上と従業員主導の分析体制へ

Google Cloudが9月25日に開催した記者説明会では、イオンリテール株式会社がCloud Runを活用し顧客生涯価値(LTV)向上を目指したデータ分析基盤を内製化した事例を紹介。従業員1,000人以上がデータ分析を行う体制を目指し、BIツールによる販促効果分析、生成AIによる会話分析、リテールメディア活用などの取り組みを進めている。

By 吉田拓史
Geminiが切り拓くAIエージェントの新時代:Google Cloud Next Tokyo '24, VPカルダー氏インタビュー

Geminiが切り拓くAIエージェントの新時代:Google Cloud Next Tokyo '24, VPカルダー氏インタビュー

Google Cloudは、年次イベント「Google Cloud Next Tokyo '24」で、大規模言語モデル「Gemini」を活用したAIエージェントの取り組みを多数発表した。Geminiは、コーディング支援、データ分析、アプリケーション開発など、様々な分野で活用され、業務効率化や新たな価値創出に貢献することが期待されている。

By 吉田拓史