中国が世界に先んじて施行するAI規制に注目が集まる
中国が3月1日に施行するAIレコメンド規制に世界の注目が集まっている。今回の規制は、価格設定、検索結果の管理、動画の推奨、コンテンツのフィルタリングなどのアルゴリズムを対象とし、主要テック企業に新たな規制を課すものだ。
中国は3月1日、人工知能を規制する世界で最も野心的な取り組みの一環として、レコメンド（推薦）アルゴリズムに関する新たな規制を施行する予定だ。
この規則は、価格設定、検索結果の管理、動画の推奨、コンテンツのフィルタリングなどのアルゴリズムを対象としている。今回の規制は、価格設定、検索結果の管理、動画の推奨、コンテンツのフィルタリングなどのアルゴリズムを対象としており、配車、eコマース、ストリーミング、ソーシャルメディアなどの主要企業に新たな規制を課すことになる。
中国は、世界最大のインターネット人口を擁し、eコマース、ビデオゲーム、スマートフォンの最大市場でもある。アプリ利用者が生成するビッグデータを活用したアルゴリズムは、トレンドや人々が適切なコンテンツとマッチングされるのに役立っている。
この規制は、中国で最も人気があり、最も価値のあるハイテク企業に対する異常な取り締まりを拡大するもので、多額の罰金や株式公開の延期などが行われている。習近平国家主席は10月の演説で、「わが国のデジタル経済の急速な発展の中で、いくつかの不健全で無秩序な兆候と傾向が生じている」と述べたと、ニュースレター「Pekingnology」が翻訳している。
この規制は、電子商取引の規則を執行する強力な組織である国家インターネット情報弁公室が起草した。この規定では、偽のアカウント、トラフィック数の操作、中毒性のあるコンテンツの宣伝などが禁止されている。また、配達員や配車ドライバーなどのギグワーカーの保護も規定されている。
国家インターネット情報弁公室によると、この新規制は、いわゆるコンテンツ中毒に歯止めをかけることも目的としている。例えば、TikTokの姉妹アプリである中国のショートビデオ共有プラットフォーム「抖音（Douyin）」で使用されているアルゴリズムでは、ユーザーの好みや興味に合わせたコンテンツが無限に続くことが知られている。また、多くのゲームで採用されているアルゴリズムは、プレイヤーがより多くの時間とお金を費やすことを促し続けるように設計されている。
規制にはオンラインサービスへの苦情に対応するための条項もある。例えば、企業は、個人の特徴を利用してユーザーに異なる価格の商品を提示することを禁止される。また、アルゴリズムを利用してお勧め商品を提示する場合には、ユーザーに通知し、ユーザーがそれを拒否できるようにすることが求められる。
この規則に違反した企業は、罰金を科せられたり、新規ユーザーの登録が禁止されたり、事業免許が取り消されたり、ウェブサイトやアプリが停止されたりする可能性がある。
また、この1年半で、中国の規制当局が著名な企業の処罰を躊躇しないことが明らかになった。Didi（滴滴出行）という配車アプリは、米国でのIPO後すぐに、データ処理に関する政府の懸念により、中国のアプリストアから削除された。eコマース大手のアリババは、独占禁止法違反で数百万ドルの罰金を支払うことになった。
スタンフォード大学のDigiChinaプロジェクトが翻訳した資料によると、「主流の価値観を維持する」「ポジティブなエネルギーを積極的に発信する」「論争や紛争を防止または軽減する」などの規定があるが、これらの規定は曖昧で解釈の余地がある。また、資料によると、中国企業に対し、ユーザーを「中毒や過度の消費」に導くような政策を避けるよう求めている。同様の懸念は、昨年の有名人文化の取り締まりや、未成年者のビデオゲームのプレイ時間の厳格な制限などにもつながっている。
先行する業界側の自主規制
この規則が施行される前から、中国の企業は変化を遂げている。抖音を始めとする多数の動画アプリを展開するバイトダンスは、10月から、長時間視聴したユーザーにログオフを促す5秒間のビデオを表示するようにした。これは、アルゴリズムによってキュレートされたフィードへの中毒性を抑制するための措置だ。また、同社は抖音やその他のアプリに、個人情報が推薦アルゴリズムに組み込まれることをユーザーが拒否できる機能を導入している。中国のあるメディアの調査によると、昨年、個人情報保護に関する別の法律に対応して、人気アプリ28個のうち26個が、ユーザーがパーソナライズされた推薦を拒否する方法を導入していた。
中国のハイテク企業はすでに、政府が有害とみなす情報の共有に関する規則を遵守するために、コンテンツを綿密に監視している。今月初めには、ソーシャルメディアの微博で、中国代表のフィギュアスケート選手であるアメリカ生まれのZhu Yi選手を含む、オリンピック選手を攻撃する71,000件の投稿が削除された。
テンセントビデオ（腾讯视频）は、1999年に公開された映画『ファイトクラブ』のエンディングを中国の配給会社が変更したバージョンを投稿した（オリジナルはすぐに復活した）。また、中国の視聴者に絶大な人気を誇るシットコム「フレンズ」では、LGBTをテーマにしたシーンが、中国国内のストリーミングプラットフォーム上で削除または変更されていると言われている。
また、フェイクニュースや合成音声、AIを使って人の顔を縫い付けるディープフェイク画像・動画などを総称した「合成コンテンツ」への対応も提案されているが、これも関連している。その中で、ディープフェイクソフトのメーカーは、作成者の実名を確認し、ディープフェイクコンテンツを「目立つように表示」することが義務付けられる。中国で人気を博しているディープフェイクアプリは、プライバシーや個人データの所有権をめぐる社会的な議論を巻き起こしている。
専門家の見方
カーネギー国際平和財団のフェローで、中国のAIエコシステムを研究しているマット・シーハンは、3月1日の規制によって中国が「信頼できるAI」をめぐる法規制で世界を先行する流れが加速する指摘している。
「これらの規則の中には、推薦アルゴリズムが「ポジティブなエネルギーを積極的に広める」ことを規定するなど、中国固有のものもある」とシーハンは書いている。「また、アルゴリズムがユーザーの権利や利益を侵害した場合に、アルゴリズム提供者が「説明」と「救済」を行うことを義務付けるなど、国際的な議論の流れを汲む規定もある。このような規定が実施されれば、中国企業は、アルゴリズムの解釈可能性に関する新しい種類の情報開示や手法の実験に拍車がかかる可能性がある。これは、機械学習研究の中でも特に未成熟な分野だ」
国家インターネット情報弁公室は、推奨アルゴリズム規則を発表した直後に、さらに野心的な取り組みとして、インターネット上のすべてのアルゴリズムを管理するための3年間のロードマップを発表した。このロードマップを実行するには、中華人民共和国工業情報化部など、プロジェクトに共同署名した9つの規制当局の多くから意見を聞く必要がある。
AIガバナンスに対するアプローチのひとつは、工業情報化省傘下の有力なシンクタンクである中国情報通信技術研究院（CAICT）から生まれているという。CAICTは、政策立案や技術の試験・認証の多くの面で活躍しているが、AIシステムを測定・試験するためのツールの作成に注力することになった。
2021年7月、CAICTは中国の電子商取引大手JDの研究室と共同で、「信頼できるAI」に関する中国初のホワイトペーパーを発表した。欧米ではすでに一般的になっている「信頼できるAI」とは、システムの堅牢性、偏り、説明可能性のテストなど、AIガバナンスのより技術的な側面の多くを指す。
CAICTの基本方針における「信頼できるAI」の定義は、欧米の機関で発表されている定義と非常によく似ているが、この論文で注目すべきは、これらの原則がいかに早く具体的な行動に移されているかという点だ。
「CAICTは、政府が後援するAIの業界団体と協力して、さまざまな種類のAIシステムのテストと認証を行っている。2021年11月には、顔認識システムを対象とした信頼できるAI認証の最初のバッチを発行した。この種の認証は、実施の技術的な厳密さによっては、アルゴリズムの解釈可能性の向上を加速させるのに役立つかもしれないが、単に官僚的な貸し借りの形になってしまう可能性もある」とシーハンは書いている。
盈科律师事务所（Yingke Law Firm）のディン・メンダン弁護士はサウスチャイナ・モーニング・ポストに対し、「フードデリバリーやカスタマイズされたコンテンツ配信、Eコマースプラットフォームを運営するなど、パーソナライズされたレコメンデーションメカニズムを使用するテック企業は、この新しい規制による影響を最も大きく受けるだろう」と述べている。これらの分野では、機械学習アルゴリズムは、中国の経済発展やインターネット利用の拡大に貢献してきたが、一方で、ビッグデータの分析を利用して消費者に不利な価格設定を行うなどの問題も発生し、社会問題化している。
米国側の動き
中国の規制は、米国で国家レベルで検討されているものよりもはるかに野心的なものだ。警察による顔認識の使用は、特定の都市での使用のみと制限されている。米国上院で提案されているアルゴリズム説明責任法（Algorithm Accountability Act）の法案は、性別や人種で差別するアルゴリズムを制御することを目的としているが、立法上の公聴会以上には進んでいない。
吉田拓史
上院議員のエイミー・クロブチャー（民主党、ミネソタ州）とシンシア・ルミーズ（共和党、ワイオミング州）は最近、ソーシャルメディアのプラットフォームに対し、ソーシャルメディア中毒に対処し、有害な使用に対抗するための機能を実装するよう義務付ける超党派の法案を提出した。
ソーシャルメディアのプラットフォームが、アルゴリズムによってユーザーを夢中にさせる危険なコンテンツを押し付けたり、誤情報を広めたりして、人々よりも利益を優先させることを繰り返してきた。しかし、仮にこのような法案が成立したとしても、テクノロジー企業からの法的な挑戦を受けることになるだろう。中国と異なり米国は民主的なプロセスを踏む。これが、時には速度の差として不利に働く場合がある。
有料購読者へのご案内
購読頂きありがとうございます。ブログなどで報告している通り、アクシオンの本サイトにはブルームバーグ、ニューヨーク・タイムズ、サイエンティフィック・アメリカン等の厳選された記事を有料会員限定で提供しています。オリジナルと足し上げると毎月70本程度の有料記事を提供しており、今後も有料記事が拡大する方向で進んでいます。ぜひ、本サイトを訪れてください。
ニューヨーク・タイムズ
