中国が世界に先んじて施行するAI規制に注目が集まる

中国は3月1日、人工知能を規制する世界で最も野心的な取り組みの一環として、レコメンド（推薦）アルゴリズムに関する新たな規制を施行する予定だ。

この規則は、価格設定、検索結果の管理、動画の推奨、コンテンツのフィルタリングなどのアルゴリズムを対象としている。今回の規制は、価格設定、検索結果の管理、動画の推奨、コンテンツのフィルタリングなどのアルゴリズムを対象としており、配車、eコマース、ストリーミング、ソーシャルメディアなどの主要企業に新たな規制を課すことになる。

中国は、世界最大のインターネット人口を擁し、eコマース、ビデオゲーム、スマートフォンの最大市場でもある。アプリ利用者が生成するビッグデータを活用したアルゴリズムは、トレンドや人々が適切なコンテンツとマッチングされるのに役立っている。

この規制は、中国で最も人気があり、最も価値のあるハイテク企業に対する異常な取り締まりを拡大するもので、多額の罰金や株式公開の延期などが行われている。習近平国家主席は10月の演説で、「わが国のデジタル経済の急速な発展の中で、いくつかの不健全で無秩序な兆候と傾向が生じている」と述べたと、ニュースレター「Pekingnology」が翻訳している。

この規制は、電子商取引の規則を執行する強力な組織である国家インターネット情報弁公室が起草した。この規定では、偽のアカウント、トラフィック数の操作、中毒性のあるコンテンツの宣伝などが禁止されている。また、配達員や配車ドライバーなどのギグワーカーの保護も規定されている。

国家インターネット情報弁公室によると、この新規制は、いわゆるコンテンツ中毒に歯止めをかけることも目的としている。例えば、TikTokの姉妹アプリである中国のショートビデオ共有プラットフォーム「抖音（Douyin）」で使用されているアルゴリズムでは、ユーザーの好みや興味に合わせたコンテンツが無限に続くことが知られている。また、多くのゲームで採用されているアルゴリズムは、プレイヤーがより多くの時間とお金を費やすことを促し続けるように設計されている。

規制にはオンラインサービスへの苦情に対応するための条項もある。例えば、企業は、個人の特徴を利用してユーザーに異なる価格の商品を提示することを禁止される。また、アルゴリズムを利用してお勧め商品を提示する場合には、ユーザーに通知し、ユーザーがそれを拒否できるようにすることが求められる。

この規則に違反した企業は、罰金を科せられたり、新規ユーザーの登録が禁止されたり、事業免許が取り消されたり、ウェブサイトやアプリが停止されたりする可能性がある。

また、この1年半で、中国の規制当局が著名な企業の処罰を躊躇しないことが明らかになった。Didi（滴滴出行）という配車アプリは、米国でのIPO後すぐに、データ処理に関する政府の懸念により、中国のアプリストアから削除された。eコマース大手のアリババは、独占禁止法違反で数百万ドルの罰金を支払うことになった。

スタンフォード大学のDigiChinaプロジェクトが翻訳した資料によると、「主流の価値観を維持する」「ポジティブなエネルギーを積極的に発信する」「論争や紛争を防止または軽減する」などの規定があるが、これらの規定は曖昧で解釈の余地がある。また、資料によると、中国企業に対し、ユーザーを「中毒や過度の消費」に導くような政策を避けるよう求めている。同様の懸念は、昨年の有名人文化の取り締まりや、未成年者のビデオゲームのプレイ時間の厳格な制限などにもつながっている。

先行する業界側の自主規制

この規則が施行される前から、中国の企業は変化を遂げている。抖音を始めとする多数の動画アプリを展開するバイトダンスは、10月から、長時間視聴したユーザーにログオフを促す5秒間のビデオを表示するようにした。これは、アルゴリズムによってキュレートされたフィードへの中毒性を抑制するための措置だ。また、同社は抖音やその他のアプリに、個人情報が推薦アルゴリズムに組み込まれることをユーザーが拒否できる機能を導入している。中国のあるメディアの調査によると、昨年、個人情報保護に関する別の法律に対応して、人気アプリ28個のうち26個が、ユーザーがパーソナライズされた推薦を拒否する方法を導入していた。

中国のハイテク企業はすでに、政府が有害とみなす情報の共有に関する規則を遵守するために、コンテンツを綿密に監視している。今月初めには、ソーシャルメディアの微博で、中国代表のフィギュアスケート選手であるアメリカ生まれのZhu Yi選手を含む、オリンピック選手を攻撃する71,000件の投稿が削除された。