中国、ChatGPTのようなAIサービスにセキュリティ審査を義務化

(ブルームバーグ) -- 中国は、生成型AIサービスの運用を許可する前にセキュリティーの審査を義務付ける計画で、バイドゥを含む国内最大のハイテク企業が発表したChatGPTのようなボットに不透明感を与えている。

中国国家インターネット情報弁公室（CAC）は、コンテンツが正確で知的財産を尊重し、差別や安全保障を脅かさないことを保証しなければならないと、一般からの意見募集のために発表したガイドライン案で述べている。また、AI事業者はAIが生成したコンテンツを明確に表示する必要があると、中国のインターネット監督機関はウェブサイトに掲載した声明で述べている。

CACの要求は、11月にOpenAIのChatGPTが業界に火をつけて以来、生成AIの爆発的な成長を規制しようとする北京の試みをさらに強めるものだ。アリババからセンスタイム、百度まで、すべての企業が世界最大のインターネット市場のための決定的な次世代AIプラットフォームを構築することを目指している。Alphabet Inc.のGoogleやMicrosoft Corp.が、ユーザーの簡単な指示だけで詩や芸術などのオリジナルコンテンツを作成できるジェネレーティブAIを研究している多くのハイテク企業の中に含まれており、海外での開発の波が高まっていることを反映したものである。

中国は、チップから電気自動車（EV）までの技術をめぐって米国と対立しているときに、AIを発展させたいと考えていることを公言している。しかし、中国政府がどのようにこの新興分野を活性化させ、取り締まるつもりなのかは、まだ不明だ。火曜日のガイドラインは、個人情報の保護から党が好ましくないと判断したメッセージの検閲まで、データとコンテンツに関する既存の規制を、急成長するAIの分野に基本的に移植するものだ。

中国はおそらく、アメリカの検索サービスやソーシャルメディアに対して行ったように、OpenAIやGoogleのような外国のAIサービスを禁止することになるだろう。北京は、オンラインのコンテンツや議論を厳しく管理することを主張している。しかし北京は今のところ、イノベーションの余地を必要とする新進の分野をつぶすことを恐れて、地元企業への締め付けを強めすぎないようにすると予想される、と香港大学のAngela Zhang准教授（法学）は述べた。

「この新しい技術に対するCACの素早い反応は、この分野における規制の意欲を明確に示している」とZhangは述べている。「こうした動きは、今後、中国のAI規制にも波及していく可能性が高いだろう。しかし、これまでのところ、中国の規制当局は、国内におけるジェネレーティブAI（生成AI）の発展に多くの余地を与えるために、その規制アプローチにかなり慎重であると私は見ている」

アリババ株はCACの発表後、火曜日に最初の上昇分の多くを取り戻したが、センスタイムはほぼ横ばいであった。アリババは火曜日、Slackのような作業用アプリとAmazon Echoのようなスマートスピーカーに生成AIを組み込み、その後そのポートフォリオを同社の他のサービスに拡大する計画について説明した。センスタイムは前日、大型AIモデル「SenseNova」とユーザー向けのチャットボット「SenseChat」のデモを行った。

これは、約1ヶ月前に選択的テスト用に公開された百度のErnieボットに続くものだ。現在の国内リーダーとされる同社は、香港で7％も下落した。チャイナモバイルなどの中国の通信事業者や、360セキュリティ・テクノロジー社からAIチップメーカーのカンブリコン・テクノロジーズまでの小規模なAI関連銘柄も大きく下落した。

トリビウム・チャイナのシニアアナリスト、トム・ナンリストは、「モデルの訓練方法に影響を与える可能性があり、この点が非常に重要であると私には思われます」と述べている。この規則は、中国におけるAIモデルのトレーニング方法に影響を与える可能性が高いが、規制当局が通達の広範な条項をどのように解釈するかに大きく依存すると、彼は付け加えた。

北京は、広範囲の産業で人工知能の利用を管理するための規則を導入する予定だ。2月、科学技術省の関係者は、政府が戦略的産業と見なすAIサービスの安全で制御可能なアプリケーションを推進すると述べた。

さらに、強力な規制当局は、AIサービスが大規模なモデルを訓練する際に使用したデータとアルゴリズムについて透明性を確保する必要があると強調し、敏感で貴重な情報の管理を維持することに北京が重点を置くことを強化した。

「サービスプロバイダーは、データの起源、サイズ、種類を含む、AIトレーニングに使用されるデータに関する一定の情報を提供する必要がある」とCACはその声明で述べている。「また、AIプラットフォームが使用した基本的なアルゴリズムやその他の技術を共有することも求めている」

ブルームバーグ・インテリジェンスの見解

CACが4月11日に発表した新しいガイドラインに基づき、北京ではChatGPTスタイルのサービスに対する規制が強化されているが、アリババ、バイドゥ、センスタイム、ネットイースによるこの分野の拡大計画が抑えられることはなさそうだと、弊社では考えている。CACが提案した規則は、初めて違反した場合は公開問責、繰り返し違反した場合は業務停止と罰金というもので、現地のハイテク企業を管理するための一般的な指令と一致している。 - アナリスト Catherine Lim、Trini Tan

この規則は、ChatGPTのようなサービスが、共産党の厳格なネット上の論争や好ましくないコンテンツの禁止に従わなければならないことを保証するためのものだろう。しかし、将来のサービスに対してより明確な基本ルールを提供することで、百度やセンスタイムのような企業を後押しする可能性もある。火曜日にCACは、社会から逸脱していると見なされるコンテンツは禁止されると述べたが、詳細な説明はなかった。

新しい規制が今後のAI開発にどのような影響を与えるかは不明だ。テンセントを含むほぼすべての大手ハイテク企業は、AIの可能性を活用する方法を模索している。

しかし、中国企業が長期的に大規模なAIモデルの開発に必要なハイエンドチップや技術への確実なアクセスを確保できるかどうかについては懸念がある。例えば、センスタイムは米国の制裁下にあり、資本や重要な米国製部品へのアクセスを阻害されている。また、バイデン政権は昨年、大規模な生成モデルの開発に不可欠なAIアクセラレータチップの中国顧客への販売に制限をかけた。

(第5段落よりアナリストのコメントとシェアアクションを更新した）

--Sarah Zhengの協力を得ている。

© 2023 Bloomberg L.P.

翻訳：吉田拓史、株式会社アクシオンテクノロジーズ