サーベイランスの中心で愛を叫んだけもの 中国のAI技術が生んだ功利主義的監視国家

前書き

この文章は、監視が自由を抑制する一方で、利便性や安全をもたらすというトレードオフをめぐる議論を土台にした論考である。この文章は新疆ウイグルにおける中国政府による網羅的大量監視や香港での出来事、それから顔認識の危険利用をめぐる議論などを踏まえている。僕は今起こっていることを政治思想のフレームで解釈しても限界があるという考え方をしている。中国がファーストペンギンでありそこから学んで他の国々がもっと好ましい実践をすることを望んでおり、それにはいままでの考えにとらわれない新しい考え方が必要だと思い探索をしてみた。

サマリー

中国の高度監視社会は、欧米の政治思想の枠組みでは「最大多数の最大幸福」を目論む功利主義的と捉えることができる。人々の自由を減じる代わりに安全や利便性という幸福の要素をもたらしているからだ。だが、そもそも我々は我々が信じるほど自由なのか、そもそも個人主義の世界で育まれた幸福はどう定義されるのか。西欧近代発の思想は先端技術を社会実装する現代から遠く後ろに置いてかれている。いま我々にはヒトが生み出そうとする新しい世界を説明する思想が必要になっている。

1. 依図科技の「蜻蛉の目」

機械学習スタートアップのYitu Technologies（依図科技）は上海に本拠を置く中国版ナスダック「STAR Market」に上場する計画を立てていると取り沙汰されている。2012年にマサチューセッツ工科大（MIT）卒業生のレオ・ズーによって設立された依図科技は米系VCの出資を受けており、調査コンサルタント会社CB Insightsによると企業価値23億7000万ドルと評価される。同社のビジネスには、空港、バス停、住宅地に展開できる顔、画像、音声認識技術を活用したセキュリティ製品が含まれる。

依図科技の顔認識システム「Dragonfly Eye（蜻蛉の目）」はすでに18億枚の顔の画像を収録している。最近、あなたが中国を訪れた場合は、そのデータベースのなかにあなたの顔があるはずだ。同社は政府に対し顔認識ナビゲーションソフトウェアと照合アルゴリズム等を提供している。

依図科技は犯罪者を検出する顔認識アルゴリズムを採用する中国の都市では、概ね犯罪が減少していると説明している。このシステムが実装されて以来、福建省廈門市の市内バスのスリは30％減少しているという。2015年6月以降、蘇州ではシステムにより500件の刑事事件が解決された。警察は杭州で開催された2016年のG20サミットの開催中、顔認識アルゴリズムによって特定された9人の容疑者を逮捕した。「蜻蛉の目」は、浙江省での殺傷されてから5年たった犠牲者の頭蓋骨さえ特定した。

この23億ドルのユニコーンはその経済価値と同時に被疑者の捕捉の促進という利便性を中国社会に提供している。中国のような広大な国土と莫大な人口を抱える国家にとって、監視技術による警察能力の拡張は必要不可欠なのかもしれない。日本のように人の居住スペースに対する警察の「密度」が高く、人々を権威やルールに従うように徹底的に教育し、人々が自発的に規範からの逸脱を恐れる国では、中国の状況は想像しづらいかもしれない。

2. 監視技術をカタパルトとして世界的AI企業が登場

中国では新興AI企業が台頭している。台頭するAI企業は機械学習技術を応用した監視システムを中央、地方政府に提供することで、早期の黒字化を果たした。中国国内最大の新興AI会社は北京旷视科技（Megvii）と商湯科技（センスタイム）の二つであり、彼らは自社技術が何千人もの犯罪者を逮捕を促したと主張している。どちらも、中国やロシアの国家基金からだけでなく、アリババなどのビッグテックから数億ドルの資金を集めている。

商湯科技のWebsiteによると、人の目視による顔の認識の精度は97％だが、同社製品の顔認識の精度は2014年にそれを超える99.15%を記録した。顔検出に関しても92.9%と高い検出率を実現し、2016年のComputer Visionに関する世界トップの国際会議の一つである「CVPR 2019」で1位を獲得した。中国の警察はSenseTotemおよびSenseFaceシステムを使用して監視映像を分析し、事件の被疑者を特定する。市民のプライバシーへの関心の薄さと治安の悪さは、中国がこの会社のテクノロジーを利用して14億人の住民を徹底的に監視する国家を作るのを容易にした。中国政府は、警察が指名手配の犯罪者を見つけるために顔認識を使用するというストーリーでの宣伝を好む。共産党の公式新聞であるPeople's Dailyの記事は、ポップスターのジャッキー・チャンのコンサートで顔の認識を利用して行われた一連の逮捕劇を取り上げている。

商湯科技は香港中文大学の教授Tang Xiaoouによって2015年に設立されたAI企業であり、昨年黒字化を達成し、多種多様な機械学習ソリューションを提供するようになっている。世界最大の顔認識対応監視ネットワークの構築に向けた中国政府の取り組みに貢献するだけでなく、上海市、 中国のスマートフォン大手Xiaomiから小売業者Suning等との協業を通しスマートシティ、スマートフォン、自動車、金融、小売等の業界に進出。日本でもホンダと提携し自動運転技術を開発している。

興味深いのはモバイル向けチップで最大シェアをとる半導体大手Qualcomm（クアルコム）とAIチップを開発していることだ。このチップは業界をリードするNVIDIAの製品を補完する可能性があるという。商湯科技は機械学習に特化した「ドメイン固有アーキテクチャ（Domain Specific Architecture: DSA）」の開発で、GoogleやMicrosoftと同じ土俵に乗ろうとしている。中国のAI企業は監視技術で育てた機械学習技術を様々な領域に応用しており、監視システムを通じて膨大なデータセットに触れられる利点が、彼らに優位性を与えている。調査会社CB Insightsによると、昨年中国企業が530件のカメラとビデオ監視の特許を申請した。これは米国で申請された数の5倍以上である。

プライバシーや個人の権利を巡る懸念に足をとられない中華AIの進化は世界の顧客と投資家を引き付けている。商湯科技の企業価値が75億ドルを突破したとBloombergは9月6日に報じている。同社は設立してたった4年である。米軍基地から中国政府にまで監視システムが使用されている監視カメラメーカーHikvisionは、6月にグローバル株式ベンチマークであるMSCI新興市場指数の抽出元に選ばれた。同社の株は5年間で5倍近く上昇している。

世界で最も優れた監視技術が世界中に輸出されるまで間もない。「一帯一路」構想の下で中国政府は発展途上国との輸出交渉を進めている。すでに中国政府とジンバブエとの間ではすでにそのような取り引きがまとまった。ただこのディールは顔認識の「不都合な課題」を浮き彫りにする可能性があるかもしれない。MITとスタンフォード大学の研究では、肌のダークな女性の性別を決定するためのエラー率が20〜34％であることが判明し、 色白の男性の1％未満を大きく上回ったということだ。

3.「全てを知る者」の創造

中国共産党は商業インターネットの開始直後から「金盾工程」（グレイト・ファイヤー・ウォール）と呼ばれるインターネット情報検閲システムを導入し、徐々に高度化してきた。このシステムは中国共産党に不都合な情報や敏感な問題にアクセスできないようフィルタリングを施している。有名なのは「天安門事件」という言葉がネットから消失してしまう現象である。

中国政府は上述のSenseTimeやMegvii等と協力し監視カメラのネットワーク化プロジェクト「天網工程」（Project Sky Net）を進めている。中国全土にはすでに2億台以上の監視カメラがあると言われ、北京は2020年までに合計4億台の導入を目指している。天網工程は三つの要素技術で構成されている。それは「天網」（ネットワーク化）、「天算」（画像高速処理能力）、「天智」（人工知能の応用）である。

この天算と天智の発達の典型例が顔認識である。中華人民共和国公安部が2015年に開始した世界で最も強力な顔認識データベースを構築するプロジェクトはそれを使用して、カメラが捉えた顔を3秒以内に中国の13億人以上の市民のいずれかであるか識別することをほぼ達成しつつある。2015年当時の目標は示された顔とデータベースにある証明写真とを約90％の精度で一致させることだったが、行政や民間企業で顔認識の社会実装が急速に進んでいることから察すると、すでにその精度は超えている。

今後は中国全土で高度な5Gネットワークが展開されると予想されるため、このような顔認識データベースを、サービスの一部として生体情報を即座に登録しおよび取得する民間企業のサービスに需要が高まるだろう。2020年に現状の2倍の4億のカメラの導入を予定し、即時的に顔とその人の国民IDと照合され、他の情報との混合を通じて、中央管理システムでその人の行動をすべて管理することを政府は目指している。その代わり、悪事を働いた人はすぐさま当局に捕捉され、人々には様々な活動で顔や生態情報を共通のIDにできる利便性が付与される。

やがてこの網羅的監視が悪事の取り締まり以外の効果を見せつつある。自身の行いを正し、自身に関するデータを積極的に提出すればメリットが得られるような仕組みになっており、監視する側は労少なくしてより詳細な情報が入手できるようになっている。

中国政府所有の軍事および防衛コングロマリットであるChina Electronics Technology Corporation（CETC, 中国電子科技集団）は監視カメラに映った人物の行動を機械学習モデルで解析し、何をしようとしているのかを判断する「DeepAction+」を開発した。機械学習により、ただの混雑なのか、あるいは通路を塞ぐ、暴動の前兆の密集などの異常行動なのかを識別したり、警戒区域を設定し、そのなかで異常行動があった場合に通知することも可能とされる。

すでにカメラの動画から人物の頭、手の動きなどを検知し、暴力行為を検知したり、異常行為警報では、人物が暴力を振るった場合に通知をする。救助識別では、監視カメラに向かって大きく手を振ると、救助が必要だとして通知できるという

4. 行動に影響を及ぼす信用スコア

信用スコアは監視とは異なる効果により中国人の行動のデザインで大きな役割を果たしており、見方によっては、これも「広義の監視」と考えられる。2015年1月28日に開始された中国「芝麻信用」では、5つの観点で信用度を評価する。2014年に中国人民銀行に社会信用システム構築の権限を与えられ、2015年から運用を開始した。5つの観点は学歴や職業、居住地域の「身分特質」、アカウントのアクティブ度合、アリババでの購買頻度などの「行為偏好」、SNS上の交友関係、友達の数・質（友達のスコア）など「人脈関係」、一般的なクレジット履歴の「信用歴史」、金融資産、不動産などの「支払い履行能力」である。

芝麻信用は徹底的なアメとムチの設計になっている。芝麻信用は最低は350点、最高は950点。一般に700以上で「極めて良好」とされ、600点以上になると、レンタカーでのデポジットの免除や優遇ローン利率などのメリットをもたらしてくれる。その一方、社会的信用スコアが低いと、大学への入学が難しくなり、特定の仕事を排除し、さらには旅行を制限される可能性があるのだ。

信用力の測定手段の欠如が、中国における信用スコア普及を後押しした。一人当たりのクレジットカード保有枚数は、米国が3.1枚、日本が2.0枚、中国は0.3枚であり、クレジットカードを持たない層の信用力の測定手段として、芝麻信用に代表される信用スコアが普及したのだ。

それから中国社会のあり方が前提になっている。個人も企業も「信用」に乏しい社会事情がある。大きな国土のなかである地域で違法行為を働くと身を隠し、他の地域で同様の違法行為を働く人々が存在する。人と人との取引の前提はお互いを信用しないことである。

信用スコアの導入は消費者だけでなく、企業側にも大きなメリットをもたらしている。デポジット免除により、サービス利用時の受付時間が大幅に短縮されるだけでなく、消費者は不正利用によるスコア低下を避けようとするため、ルールに則った利用を自発的に行うようになることが明らかになる。すでに中国国民の関心は「どうすれば点数が上がるのか」に移行している。

中国の最終的な目標は2020年までに、信用スコアを包含する包括的な「社会信用システム」を築くことである。これは、芝麻信用のようなものだけでなく政府、法執行機関、そして企業の様々な情報を統合すると言われる。同時に国内で横行する詐欺、汚職、および不正行為に対処することによって「誠意文化」を確立することを目指していると中国共産党は唄う。この社会信用システムと天網工程が融合したとき、それは神の目の創造に近づいていくはずだ。あるいはSF作家、伊藤計劃の『ハーモニー』の世界のようになる。

5. 最悪シナリオ: 新疆ウイグルの大規模網羅的監視

ただし中国は監視技術の社会実装の最悪シナリオを提示してもいる。新疆ウイグル自治区は権威主義的な権力が監視技術を利用し人々のプライバシーと自由、尊厳を著しく侵害する端的な例である。同地域のトルコ系ムスリム1300万人は2016年からCETCが開発した「統合ジョイント・オペレーション・プラットフォーム」（一体化联合作战平台、IJOP）による政府の完全な監視下にある。

今年5月にヒューマンライツウォッチ（HRW）の報告書が衝撃的だった。HRWは現地の警察や公務員が利用するIJOPと接続するモバイルアプリを入手し、それをリバースエンジニアリングすることで、IJOPの全体像を明らかにした。

報告書によると、IJOPは新疆にいるすべての人の行動をくまなく追跡しており、電話や自動車、IDカードを追跡してその行動を統合的なシステムによって監視している。新疆当局は電気やガソリンスタンドの使用履歴の情報を取得し、12歳から65歳までの地域の全住民のDNAサンプル、指紋、虹彩スキャン、血液型などの生態情報も収集している。IJOPは様々な異常検知の手段を内包しており、政府にとって異常の範疇に入る行動をとった人物は拘留し、長時間に及ぶ尋問をしたり、拘束のもと「再教育」を施したり、テロリストと判定すると長期の拘留をしたりする事例がHRWや欧米メディアにより報告されている。

IJOPは人々の行動さえも制限している。報告書は「IJOPと自治区の検問所の一部が連携することで、一連の不可視な、つまりヴァーチャルな塀が形成されている。人びとの移動の自由は、システムにプログラムされた要因によって決定された、その人物がもたらすと当局が認識する脅威レベルに応じて、さまざまな程度に制限される」と記述する。

IJOPシステムのもう1つの重要な要素は、個人的な関係の監視である。IJOPアプリは、新しい電話番号を取得した人や外国のリンクを持っている人に関連する人を調査するよう警察官や行政官に指示するという。また、当局は、イスラム復古主義である「ワッハーブ派」と「爆弾テロ犯の家族」に注意するよう指示している。（＊筆者注、ワッハーブ派はイスラム復古主義運動の唱道者であり、過激な原理主義的思想が内在するものの必ずしもテロを聖戦（ジハード）と捉えるテロリスト、過激派とは重なり合わない。ワッハーブ派の過激な集団が過激派と重なるとの理解が好ましい。ただ、その境界線は曖昧なときがあるのも確かである）。

また、このアプリは、政府の役人がタスクを遂行したときの成果にスコアを付与している。上位レベルの「スーパーバイザー」が下位レベルの役人にタスクを割り当て、パフォーマンスを監視するためのツールである。 IJOPアプリは、政府の抑圧的な命令を効率的に遂行するために政府の役人を管理することをも目的としていると報告書は指摘する。これは上述した信用スコアの官僚組織版である。

この大規模監視は「すべての世帯の全員」から「包括的な方法」でIJOPシステムのためのデータを収集する必要があることを強調する新疆の地方政府の声明を基礎とするものである。

IJOPは非常に高価である。この地域の公安関連支出は、2017年に570億9,500万人民元（91億6,000万ドル）であり、過去10年間で10倍に増加した。セキュリティに関する官民パートナーシップへの政府の投資は2015年の2,730万ドルから2017年には少なくとも11億ドルに増加したとされている。

悲しいことに新疆は監視技術の実証基盤となっている。新疆のIJOPには他の地方政府から視察が多くあり、採用を検討している地域もあるという。前述した商湯科技（センスタイム）もSenseNetという合弁会社を通じてこの大規模監視に技術供与をしていた（現在は株式を売却済みとセンスタイムは説明している）。Hikvisionのカメラはモスクや拘留キャンプに設置されている。CETCが子会社を通じて約42％を所有するHikvisionは、新疆当局と最低2億9000万ドルに相当する契約を結んでいる。新疆の「セキュリティゴールドラッシュ」を利用しているもう1つの企業は、米国がセキュリティの脅威と表現しているHuaweiである。 Huaweiも去年、新疆当局と警察官がデータを分析するのを支援することをめぐり契約を結んだ。

監視自体の高度化と人間行動の分析の深化がはかられている。これは非常に高度な実証基盤を提供する一方で、倫理から照らし合わせると、閾値を飛び越えている。これにより生まれる技術と運用が最終的に社会にどのような影響をあたえるのだろうか。新疆の監視を行う権力の状況はまさしくジョージ・オーウェルの『1984』における「ビッグブラザー」である。

このシステムは網羅的大規模監視の下に新疆の人々を貶めており、警察官や行政官の監視を監視し、その執行を促進している。システムは上に立ち、監視者と被監視者の双方を支配している。言い換えると、システムが作り出した環境が人間を支配している。

6. 自由と功利主義の妖しい関係

さて、ここまで中国の事例から監視社会の状況を辿ってきた。次は人間社会が監視技術の社会実装をどう考えるかである。中国で実行されている大規模監視は利便性と自由のトレードオフをもたらしていると様々な人が指摘しており、『幸福な監視国家・中国』（梶谷 懐、高口 康太）は話題の書籍でもある。僕は中国が作り上げた大規模監視国家を説明するのに欧米が18世紀から築き上げた政治思想では十分ではないと考えている。だが、欧米の政治思想のフレームはアウトラインを作るには悪くない素材なので、まずそこから始めてみよう。

監視技術による利便性の拡大によって損なわれる自由とはそもそも何だろうか。HRWや欧米メディアが監視を非難するとき、彼らはその前提に西欧市民社会が定義する自由の概念を踏まえている。自由は普遍的な概念であると彼らは信じて疑わないわけだ。

18世紀以降の西欧市民社会の「自由」（Liberty）には大まかに言うと二つの種類がある。それは自由意志と市民的自由である。

まず自由意志をみてみよう。自由意志とは人間が自己の判断や理性をコントロールできるという「仮説」である。自由意志という考え方が生まれてきた背景には、神の存在があり、その神の意思とは別に自己に理性が存在し自由であるという考え方が存在した。古典的な哲学では、人間が〈自由な〉意志に基づいて自己の行為に関する（主として倫理的な）決定を下せることは「疑い得ない」事実としている。対立する概念である「決定論（determinism）」とは、ある時点の世界の状態が原因となり、その次の時点の世界の状態がもたらされるならば、自然法則にしたがってこの因果が繰り返されるという考え方である。自由意志と決定論は両立するかしないかという議論があり、この世界に自由意志は存在しており、それゆえこの世界は決定論的世界ではないと考えるのが、「リバタリアニズム（libertarianism）」である。リバタリアンのように自由意志を重んじる立場の人にとって中国の大規模監視は悪夢に違いない。

しかし、この自由意志については神経科学と心理学などから反論がある。実際には自由意志とは「人間が自由に考え、自由に行動を決定しているという自信」という解釈が適当かもしれない。アメリカの生理学者ベンジャミン・リベット（1916 – 2007）は1983年、われわれがとある動作をしようとする「意識的な意思決定」以前に、「準備電位（Rediness Potential）」と呼ばれる無意識的な電気信号が立ち上がるのを、脳科学的実験により確認したと主張した。人間の脳はあまりにも深い謎のベールに包まれており、脳がどう動いているか、どう意識を”シミュレート”しているかをめぐる決定的な説明は存在しないが、われわれの感覚が告げる「自由な選択」とは、無意識下で形成された脳の化学プロセスに過ぎない可能性があるのだ。

あるいは実験心理学や行動経済学も「自由意志」に厳しい判断を下すだろう。我々の認知には深いバイアスがあり、それに基づいた判断はしばしば不合理になりやすく、ときには好ましい意思決定自体へと誘導することが必要であるというのが行動経済学の考え方である。

だが「この自由意志を持っている"自信"」は個人の精神の健康にとってかなり重要なのではないか。誰かに自分の意識やその自由が阻害されていると感じるのならば、それはとても不健康な状態と言っていいだろう。監視が行動に影響すると考えるのが妥当なため、監視が「自由意思の”自信”」を阻害するのは間違いない。

さて、もうひとつの「市民的自由」とはどのようなものか。これに取り組むときに絶好の素材はイギリスの功利主義者ジョン・スチュアート・ミルである。ミルはその功利主義的な思想を踏み台にして｢市民的自由」について「他者の幸福を毀損しないかぎりにおいて私固有の幸福を追求する自由」と定義している。

自由の名に値する唯一の自由は、われわれが他人の幸福を奪い取ろうとせず、また幸福を得ようとする他人の努力を阻害しようとしないかぎり、われわれは自分自身の幸福を自分自身の方法において追求する自由である。

人間の行為の究極的な目的は、幸福な生を享受することにあると功利主義者は考えている。したがって行為の正しさの判断基準は、それが幸福を推し進めるどうかにある。万人が自由に固有の幸福を追求し、かつそれを享受している状態、これをミルは「最大幸福状態」と呼んだのだ。ミルの議論は、自由をイデオロギー的に絶対視する見方とは一線を画している。功利主義的な視点から出発し、市民的自由を定義しているのである。

他方、功利主義者のジェレミー・ベンサムはパノプティコン（一望監視装置）と呼ばれる刑務所を設計した。このパノプティコンと現代の監視の類似性について話してみたのがこのブログである。ベンサムは囚人の尊厳をおとしめてやろうという考え方をしているのではなく、むしろ功利主義思想に基づき、道徳の改革、健康の維持、勤勉の涵養（かんよう）、教育の普及のための矯正施設としてこの監獄を設計している。囚人の側からは監視者の状況が知れない一望監視により、囚人は監視を常に想定してないなくてはいけなくなる。この監視装置は他者の自由を阻害する行動を抑止することで、個々人の自由を確保し「最大多数の最大幸福」をもたらせるという彼の信念に基づいているのだ。

つまり功利主義のもとでは、監視は市民的自由を阻害するのではなく、保全することができる手段ともなりうる。中国の大規模監視はこのような性質を帯びていると表現することが可能である。

ただ、パノプティコン的功利主義への批判も存在する。主要な批判者はフランスの哲学者ミシェル・フーコーである。フーコーはパノプティコンにより看守（監視者）がいなくとも、囚人自らが自発的に規律を守る、命令に従順な人間（機械）が誕生する、と彼は『監獄の誕生』で主張している。彼はパノプティコンでは囚人の監督という権力の行使が、最小の費用で、匿名の水準で、しかも自動的に達成される。そこでは監督と服従という権力関係が囚人自身のうちに組みこまれ、囚人が自分で自分を監督するように仕向けられると主張する。フーコーはパノプティコンのような近代の規律訓練型の権力のあり方は学校や、病院、工場、軍隊など監獄以外の施設にも応用されていると主張する。

さて、功利主義は「社会全員の幸福の総和を最大にしよう」という考え方であるが、これに対し、もうひとつ大きな流れが、「義務と権利」を中心にする考え方である。同じ「権利」でも何を中心にするかで2つに分かれるのだ。それは「リベラリズム」とさっき触れた「リバタリアニズム」である。

「リベラリズム」は通常の基本的人権として考えられる結社の自由、言論の自由といった政治的自由を尊重するとともに、いわば福祉の権利も重視する。そういう意味では福祉国家の思想である。

これに対し「リバタリアニズム」は、政治的自由とともに経済の領域における自由を重視する。自分が労働によって正当に得た物は自分のものと考えて、所有権を非常に重視している。例えば、福祉のためとはいえども累進課税で国家が強制的に取り上げることには反対する。規制緩和、民営化の思想でもある。

ジョン・ロールズやマイケル・サンデルが提唱するコミュニタリアニズム（共同体主義）では、リベラリズムやリバタリアニズムはあくまでも人権というように個人を中心に考えるが、コミュニタリアニズムは人々が共にあることに注目し、共に考え、共に行動する共通性を重要視している。コミュニタリアニズムの特徴として「善き生き方」を考えることが、正義を考える上でも重要だという点がある。共通性と善のふたつに注目し、政治の目的を「共通善（何がコミュニティにとって善いことかという考え方）」に置いている。このコミュニタリアニズムは気候変動、不平等の是正等のような大きな事象を社会が解決したいときに有用な可能性がある。

このリバタリアニズムとリバタリアニズム、コミュニタリアニズムとの比較により功利主義の輪郭がはっきりしてきたのではないだろうか。功利主義を目指すために最も好ましい手段が「パノプティコン」を造ることである可能性は否定できない。となると、中国が実行する大規模監視は正当化されるだろう（もちろん新疆ウイグル自治区は除く）。プライバシーの侵害が自由意思と市民的自由を減じても、人々が幸福ならばいいよね、というのが中国の考え方である。

欧米のリーダーが中国のような新興国が欧米型の政治思想と制度を受け入れるという淡い期待をよそに、中国はリベラリズムやリバタリアニズムとも異なる「第三の道」である功利主義を実践しているということが、西欧政治思想のフレームから理解できることだ。そして、新疆ウイグル自治区がフーコーが警鐘を鳴らしたような規律訓練型権力により完全に精神を支配された機械を作り出す状態に当てはまるかもしれない。

7. ナショナリズムと監視技術の融合

中国の監視社会は功利主義の他に別の西欧的な政治思想をその基本に獲得しているようにみえる。それは「ナショナリズム（国家主義）」である。諸説あるが、ナショナリズムは主としてフランス革命に始まり、ナポレオン戦争を通じて拡がり、19世紀前半のウィーン体制時代にヨーロッパで高まって19世紀後半に他の世界にも拡大されたと考えられている。「国民が一つの主権のもとで統合された国家を形成すべきである」という、主権国家または国民国家をめぐる考え方を基にしている。

国民国家は国民と規定された人（Nation）たちを「自分たちは国民だ」という魔法にかけて動員することができることが画期的だった。プロイセンの宰相のビスマルクはこのメカニズムを通じて徴兵し、国力に勝るフランスとの戦争をうまくやった。このプロイセンがしていることと同じことを、帝国主義に蹂躙された経験をもつ中国共産党はいま行っている。監視技術は中国が世界の覇権をつかむ意思を実現させるために国民の行動を好ましい形で管理する有力な手段の一つなのだろう。中国の状況は権威主義国家がナショナリズムで国民の動員力を高め、その「精度」を監視社会の活用で埋め合わせているとも言える。

ただし、13億人の心を一つの規範に収斂していくことは大きな矛盾をはらんでいる。国家や権力の発展は必ずしも、その構成員の幸せにつながらないことは20世紀までの歴史が示している。ひとたび戦争が始まるとあまりにもたくさんの人が死に、社会の重要な資源が無為にされる。中国が使う技術は最先端の者である一方、その利用方法はとても古く、彼らがあまり好まない西欧的なものですらある。平均的な中国人には「強い権力が人民を導かないといけない」という思考回路が埋め込まれている。

ここには個人主義と集団主義の差異が存在する。欧米社会やその影響を受けた日本のような社会では、ある程度のグラデーションを持ちながら集団主義から個人主義への移行が起きてきた。個人主義と国家主義がせめぎあい一定の個人主義が認められた社会である。いいかえれば、人々（People）が国民国家（Nation State）からの自由を勝ち取ったという文脈が存在する。

この権威主義とナショナリズムによる監視技術の利用は危険をはらんでいる。いわゆる「ビッグブラザー」が誕生する可能性があり、それが新疆ウイグル自治区で国民の統一を阻害するムスリムに対して、大規模網羅的監視の形で牙をむいているのだ。

8. そもそもあなたの幸福とは何か？

個人主義の世界では、幸福はとても重要な指標になっていると考えられる。これは中国型監視を正当化できるかもしれない。大規模監視にさらされ、自由の一部を失っていても、人々が幸福であれば問題ではないという考え方だ。

しかしそもそも「幸福」とは何か、という問いには決定的な答えが存在しない。ヒトはそれぞれあまりにも複雑で異なるシステムを内在している。そのシステムたちが幸福という抽象的な概念に対して一致したことも一貫していたこともない。

だから、功利主義的な監視社会を作ったときにそれを正当化する幸福をどう定義するか、という部分に設計思想の特徴が現れる。これまでの人文・社会の学問がうまく答えを出せていない分野かもしれない。もちろんそれをめぐる探求は紀元前から始まっており、その考え方たちは現代にまで伝播し続けており、それを信じる人たちがいる。

経済学には幸福をある程度扱いやすい形で表現していた時期がある。自己の効用（消費者が消費によって得ることができる主観的な満足）を最大化する合理的な個人を想定することで、個人の動機や行動をモデル化した。だが、これはヒトという謎の生物を扱うことにおいてあまりにも単純化が過ぎている面がある。もちろんそのモデル化により解決できる問題があるため、役には立つ。ただ、多分正しくない、というわけである。

金さえあれば幸せになるというのは資本家が信じる妄想に過ぎない。ダニエル・カーネマンとアンガス・ディートンの研究である一定の年収水準を超えると、年収と感情的幸福感は関連しなくなると主張した。彼らは収入や生活の満足感、感情やストレスなど、「ギャラップ・ヘルスウェイズ幸福指数」を基にし電話調査の回答を分析した結果、低所得は離婚などの不幸に伴う感情的な痛みを悪化させ、体調不良、孤立などをもららしうるため、低い生活評価と低い感情的幸福感は関連付けられるという。年収7万5000ドルまでは年収が増加すると感情的幸福が増加するという関係だったが、7万5000ドル以降の年収の増加に対して感情的幸福は増加しなかったと論文は説明している。高所得者は「人生の満足度を買うことはできるが感情的幸福を買うことはできない」という。高所得者は教育や余暇等のさまざまな投資により人生の自己評価は高くなるが、感情的幸福は頭打ちになるのだ。

この幸福指数がそうするように、人生の評価（満足）と感情的幸福を分けるのはとても有用な手法に感じられる。

この感情的幸福とは脳の中の生化学プロセスであるというのは一つの考え方である。『サピエンス全史』の史学者ユヴァル・ノア・ハラリは幸福をめぐる仮説のなかのひとつとして、進化生物学者が主張する脳の中の生化学プロセスだとする考え方を自身のブログで紹介している。

進化生物学者は「快楽適応（ヘドニック・トレッドミル現象）」について補足説明を提供する。彼らは、私たちの期待と幸福の両方が、政治的、社会的、文化的要因によって実際に決定されるのではなく、生化学システムによって決定されると主張する。彼らは、昇進、宝くじの当選、または真の愛の発見によって幸せになることはない。人々は、肉体的な心地よい感覚というたった一つのことだけで幸せになる。 昇進したばかりで喜んでいる人は、本当はその良いニュース自体に反応しているわけではない。 彼女は、血流を介して流れるさまざまなホルモンや、脳のさまざまな部分の間で点滅する電気信号の嵐に反応しているのだ。

彼は快楽はあっという間に消え失せるという悲しい事実を教えてくれもする。一部の進化生物学者の説明のもとでは、我々の感情的幸福は閾値を超えるとすみやかに抑制され、新しい何かを求めるように設計されているということになる。

悪いニュースは、心地よい感覚がすぐに収まることである。もし私が去年昇進し、いまもまだその新しい役職に就いているとしても、当時感じていた非常に心地よい感覚はずっと前に落ち着いているだろう。そのような感覚を感じ続けたい場合、私は別の昇進を取得しなければならない。そしてもう一つ。 これはすべて進化のせいだ。進化は幸福そのものには関心がない。生存と繁殖のみに関心があり、幸福と惨めさを単なる仲間として使用する。進化は、私たちが何を成し遂げようとも、私たちは不満を持ち続け、永遠にもっと多くのものをつかむことを確実にする。 したがって、幸福は恒常性システムである。 私たちの生化学システムが狭い境界内で体温と糖度を維持するように、それは私たちの幸福度が特定のしきい値を超えて上昇することをも防ぐ。

それでも、「恒常的な感情的幸福」という前人未踏の地を踏みしめたがる人たちがいる。脳内報酬の分泌はいわゆる感情的幸福と深い関係があり、酒、コーヒー、エナジードリンク、たばこから違法薬物までさまざまな「ドラッグ」はその脳内物質の分泌に深い関係がある。広義のドラッグは精神と肉体の高まりとその後の降下の双方をもたらすが、アメリカ西海岸の人々が大麻に過剰な期待を示すように、ダウンサイドのない「ドラッグ」が生まれるのも近いかもしれない。そうなればダウンサイドを負わずして感情的幸福感を人為的に引き上げ、快楽適応から解放されることが可能になるだろうか。感情的幸福感に満たされた人々が違法行為に手を出す可能性は低そうであり、だとすると悪意の行動を抑止するための監視が不要になる。ただこれは人々が総じてドラッグ中毒に陥っている未来かもしれず、注意が必要だ。

裏返せば、監視システムの中にいても感情的幸福を満たす手段はたくさんありそうだ。それで満足ならそれで全然いい。しかし、あなたが自由意志や社会的自由を不可欠のものと捉えるタイプの人間だったら、『マトリックス』の主人公のように自分が監視装置のなかで飼われている家畜であると自覚した瞬間に、人生の自己評価はとても低い地点に落ち込むだろう。

9. 大規模監視と信用スコアは「選択的アーキテクチャ」

友好的な大規模監視は行動経済学における「選択的アーキテクチャ」との類似性で語ることができる。ノーベル経済賞を受賞した行動経済学者のリチャード・セイラーは、自身が提唱した選択的アーキテクチャを「選択者の自由意思にまったく（あるいはほとんど）影響を与えることなく、それでいて合理的な判断へと導くための制御あるいは提案の枠組み」と説明している。行動経済学の基礎は、人間の認知にはたくさんのバイアスが含まれており、そのために不合理行動をとる生き物であるという事実である。不合理行動をとる人間に対してはなんらかの介入が必要になるが、それをパターナリズム（温情主義）のように強制的に行うのではなく、自由意思を尊重したまま「誘導」する手法を彼と法学者のキャス・サスティーンは提案し、それを「ナッジ（Nudge: 肘で小突くの意）」と名付けた。

これは「行動デザイン（Behavior Design）」の経済・法分野への応用とみることができる。行動経済学は人間の意思決定の規範的理論とした期待効用理論を人間行動の記述として妥当性を欠くものとして退け、それをヒューリスティクスとバイアス、あるいはプロスペクト理論等で置き換えるという重要な役割を果たしている。そしてこの新しい経済アクターモデルを元に分析と施策を提案する中で、セイラーはナッジに辿り着いた。このナッジは「リバタリアン・パターナリズム」という考え方に基づくとセイラーは説明している。リバタリアンというと、完全な自由主義という意味、パターナリズムとは逆に国家の介入・干渉のことである。この2つの相反する言葉は実は両立するのではないかという考えから生まれたのが、リバタリアン・パターナリズムである。

考えようによっては、中国の網羅的監視は人々に選択的アーキテクチャを与え、合理的な選択へと「ナッジ」しているとも言える。このアーキテクチャからの漏れを包括的に防ぎ、抜け穴を突ける可能性を極限まで減らすために監視を利用しているのだ。これほどまでに厳格にアーキテクチャを採用しなくてはいけないのは、中国の特有の前提条件がある。それは中国人はお互いを信用しない社会に生きていることだ。そこから、いいことをするのが合理的な世界を作る、というのが習近平の目的なのだろう。

繰り返しになるが、これはベンサムがパノプティコンで「道徳の改革、健康の維持、勤勉の涵養（かんよう）、教育の普及」（この言葉遣い自体が中国共産党との類似性を想起させる）を成し遂げようとしたことと一種の類似と言っていいだろう。とても興味深いのは、ミルやベンサムの功利主義者の考えはいまも西欧市民社会の基底を流れているものでもあることだ。それが異なる政治の文脈をもつ中国で、とても鮮明な形で現れたということだ。

最も大きな違いは欧米はプライバシーを気にするが、中国はそうではないということだ。欧米は王政に対して市民の政治参加と基本的な権利を勝ち取る過程で民主主義を発展させ、市民の自由を奪う国家からの自由を求めるところから今の社会の基礎を作り、一部の国家はその後の福祉国家を通じた「国家による自由」へと足を踏み入れた。そこにプライバシーも含まれる。日本も大まかに言えばこの流れの中にある。しかし、中国は共産党独裁という権威主義体制から「権威主義者による限定的な自由」へと向かってきている。この極めてパターナリスティックな自由の提供により、人々は幸福を感じているとされる。欧米はエドワード・スノーデンがNSAの実行する超大規模監視の行状を告発したとき、権威への不信と怒りが巻き起こったが、中国では監視の結果、犯罪が抑止されたり信用スコアによって得られる便益に人々は喜んでいる。

倫理的な問いも存在する。「ヒトはどのくらいヒトをハックするべきか」が中心的な問いである。あなたに働きかけることで合理的な行動を引き出そうとする手法は、行動デザインというジャンルで発達しており、モバイルアプリなどの設計に活かされている点はこれを読んでもらいたいし、それが行き過ぎてユーザーの中毒を引き起こしていることについては、これを読んでもらいたい。過剰なハックの末にあるは快楽に関連する神経系に電極をつけて常時の多幸感に包まれたラットの姿である。主観的には「とても気持ちいい」が客観的には「とても気持ち悪い」。

だが、倫理はそこまで人間の意思決定を縛り付けはしない。実際には欧米には人が進んで監視を求める例がある。それは外部から物理的に隔離された富裕層向けの住宅地であるゲーテッドコミュニティである。そこでは外部からの犯罪の可能性を断った後、人々は監視システムを導入し、お互いを監視することを自ら望んでするという奇怪な行動が認められる。それがなぜ驚きかというと人々がゲーテッドコミュニティに居住する理由は安全の他にプライバシーが大きいのだが、わざわわざそれを自ら放棄することを望んでいるからだ。もちろんそのおかげで、セキュリティの堅牢さは増すことになる。生体認証、指紋認証、モバイルアプリ、監視カメラ、ナンバープレートの撮影等による監視により、内部からの犯罪を抑止できるし、セキュリティガードの仕事は限定された範囲を見張ることだけになる。

10. IoTの衝撃

そして監視社会に決定的なインパクトを与えそうなのがIoTである。IoTがくまなく社会実装されるすべてがデータ収集機となりすべてがインテリジェンスを宿すことになるから、より網羅的な監視にさらされることになる。中国の事例は他山の石ではなくて、他の国の人々もよく考えておかないといけない。

GoogleやMicrosoftは遠隔地にある巨大コンピュータクラスタであるクラウドから、近接地にあるマイクロデータセンターやデバイスのエッジへとその版図を拡大してきている。この現象のひとつの重要な要素である機械学習チップの開発ではGoogleやMicrosoftが先んじている印象だが、中国は長期的な国家戦略に従い膨大なリソースを割いて追いかけていくだろう。そのときにあなたをめぐる情報は米中のビッグテックにくまなく収集されることになるだろう。与えられる利便性はとても莫大なものになる一方、あなたはプライバシーについて諦めないといけないかもしれない。

自律機械の端的な例であり、大規模な投資がされている分野が、自動走行車だ。自動走行車は大量のセンサーとその情報を処理するためのコンピューティング資源を積み、外部の計算機に頼ることなく即時の意思決定をしている。センサデータの処理要件は極めてシビアであり少しでもレイテンシがあると事故が起きてしまうかもしれない。したがってクラウドに分析・意思決定の場を置くことは考えられない。リアルタイムの遠隔地との通信は渋滞情報などの提供に絞られる。機械同士をつなぐ通信が重要視される。このように機械同士がつながることをM2M（Machine to Machine）と表現される。

これはとても象徴的な例であり、自律システムが中央集権的な処理系に依存せず、お互いに会話をしながら、エッジで生まれている膨大なデータを処理していくことになる。組み込み知能を伴うロボット、機械知能（Machine Intelligence）等を含む広義の自律システムがあなたの身の回りに存在することになる。詳しくはここに書いた。

すべてがスマートになる世界では、ローレンス・レッシグが指摘する「アーキテクチャ」（選択的アーキテクチャと重複する部分がある）に加え、従来型のアメとムチの統治にも拍車がかかるはずである。法の執行を人間に委託する必要がなくなり、違法行為は近接するロボットやあるいはシステムにより防止されるだろうし、その兆候が出た時点で、その人の行動に力強く影響力を行使することで予防するということもあり得る。『マイノリティリポート』や『攻殻機動隊』の世界である。

つまり、IoTというバズワードが示すのは、あなたがそのなかを行動する環境が、インターネットサービスのようになってくる未来に向かっていることだ。環境があなたの行動を織り込んで、刻一刻と変化し、その背後の戦略もまた刻一刻と変化し、あなたの逸脱行為を防ぎ、あなたの幸福を最大化するよう計らうようになる。自律的な機械があなたの行動をすべて助けることであなたの能力は人類史を逸脱するレベルまで高められる。そのとき「自由」という言葉がどういう意味をもつのか、それは僕にはまだわからない。

11. 結論: 人類は「未来の人類」をどう定義するか、幸福をどう定義するか？

このようにあなたが監視と自律システムが渾然一体になった社会にいるとき、ある一面ではそれがあるべき幸福のあり方のように見える一方で、もう一方では『千と千尋の神隠し』のような食べることをやめられない豚のようにも映る。すでに起こっているテクノロジーの進化とそれが誘発する変化に対し、社会は追いついていないのである。途中で説明した西欧近代のさまざまな思想はたぶんもう役に立たなくなっている。リベラリズムやリバタリアニズム、それから功利主義やナショナリズムのような西欧近代の思想フレームワークは時代に追いつけなくなっている。昔ながらのやり方では今度のゲームは解けそうにない。

「ヒトがこれまで歩んできた歴史」という文脈に依存しない思考で、次の世界に最も好ましい思想群を作らないといけない。そのなかで「いまの人類」が「未来の人類」をどう定義するか、「未来の幸福」をどう定義するかは非常に重要な問いではないか。そしてその結果定義された「未来の人類」に向かって人類を進化させる必要があるのではないか、というのが僕の結論だ。

Axionという会社の戦略は「人類を著しく進化させる」である。これは「人類をあらゆる制約から自由にし、その幸福の追求を最適化する」というビジョンや、高度な情報流通装置をつくるというミッションと並列するこれについては別の機会に語っておきたい。

参考文献

1. J.S.Mill "On Liverty"
2. "From travel and retail to banking, China’s facial-recognition systems are becoming part of daily life" SCMP
3. Meng Jing, "World’s most valuable AI start-up SenseTime raises US$620 million to spearhead China tech ambitions", South China Morning Post
4. Meng Jing, "Qualcomm bets on Chinese AI start-up SenseTime in bid to make mobile devices smarter", South China Morning Post
5. Sarah Dai, "China AI unicorn SenseTime launches automatic ‘touch-up’ tool for self-conscious live-streamers" South China Morning Post
6. Chris Buckley, Paul Mozur, "How China Uses High-Tech Surveillance to Subdue Minorities"(May, 2019), New York Times
7. Paul Mozur, "Inside China’s Dystopian Dreams: A.I., Shame and Lots of Cameras" (July, 2018), NewYork Times
8. Paul Mozur, "How Mass Surveillance Works in Xinjiang, China", NewYork Times
9. Louise Lucas, Emily Feng “Inside China’s Surveillance State” by The Financial Times
10. 大屋 雄裕（2019）. 「個人信用スコアの社会的意義」. 慶應義塾大学.
11. Louise Matsakis, "How the West Got China's Social Credit System Wrong", Wired
12. ユヴァル・ノア・ハラリ 『サピエンス全史』
13. Daniel Kahneman and Angus Deaton (2010), ”High income improves evaluation of life but not emotional well-being”
14. Richard H. Thaler, Cass R. Sunstein, John P. Balz"Choice Architecture"