テンセント、AI自動生成コンテンツを規制強化背景に情報戦リスク

中国のIT大手テンセントが運営するSNS「WeChat（WeChat（微信））」は2024年3月下旬、AI（人工知能）のみで自動生成されたコンテンツへの規制を強化し、AIを利用して収益を上げていたアカウントを永久凍結した。この措置は、低品質コンテンツの氾濫を防ぐと同時にに、AIが悪用された情報戦や世論操作への警戒感が高まっていることを示すものだ。中国の生成AIコンテンツ（AIGC）（AI生成コンテンツ）市場が急拡大する中、プラットフォーム企業の責任が改めて問われている。

なぜ今、重要か

今回の規制強化は、中国の生成AIコンテンツ（AIGC）市場が1.4兆元（約29兆円）規模に達すると予測される中で行われた。AIによるコンテンツ生成は新たなビジネスチャンスを生む一方、その悪用は深刻な社会的・安定的リスクをはらむ。特に、AIが生成する精巧な偽情報が、政治プロパガンダや軍事的な偽旗作戦に利用される脅威は、各国で安全保障上の重要課題となっている。中国政府は2023年8月に「生成AIサービス管理暫定弁法」を施行するなど統制を強めており、今回のテンセントの動きは、政府の意向を汲んだプラットフォーム側の自主規制強化とみられている。

収益化アカウントの永久凍結

中国のSNS上で拡散した情報によると、AIを用いてコンテンツを自動生成し、1日あたり800元（約1万7000円）の収益を得ていたとされるチームのアカウントが、WeChatの公式プラットフォームから永久凍結された。WeChat側が示した凍結理由は「非人間による自動化されたコンテンツ制作」であり、人間の創造性や主体性が介在しない点を問題視した形だ。

WeChatはAI生成コンテンツに関する新たな規則を導入。AIを補助的な「ツール」として活用することは認める一方、人間の監督や編集を伴わない完全にな自動生成は明確に禁止した。しかし、どこまでが「補助的」で、どこからが「主体的でない」のか、その線引きは依然として曖昧であり、コンテンツ制作者の間で混乱が広がる可能性も指摘されている。

中国政府の統制とプラットフォームの役割

中国では、サイバースペース管理局（CAC）がインターネットコンテンツに対する強力な監督権限を持つ。プラットフォーム事業者は、政府のガイドラインに基づき、不適切と見なされるコンテンツを検閲・削除する責任を負っている。新華社通信などの国営メディアは、健全なサイバー空間の構築を繰り返し呼びかけており、プラットフォームへの圧力は強まる一方だ。

今回のWeChatの措置は、単なる品質管理の問題にとどまらない。AIによる偽情報が社会の安定を損ない、ひいては国家の安全を脅かすという認識が背景にある。競合であるByteDanceの「Douyin（Douyin（抖音））」やバイドゥの「文心一言」なども同様の規制強化を進めており、これは中国の主にテック企業に共通する動きとなっている。

技術解説：AI偽情報と情報戦

今回の規制強化の背景には、AI技術の軍事・情報戦への転用リスクがある。現代のAI技術、特に大規模言語モデル（LLM）や拡散モデルは、国家が関与する情報業務の能力を飛躍的に高める可能性を秘めている。

性能諸元と生産規模: 最新の生成AIは、人間が作成したものと見分けがつかないレベルのテキスト、画像、音声を、極めて高速かつ大量に生成できる。例えば、数千のボットアカウントを使い、特定のテーマに関する偽ニュースやプロパガンダ投稿を1時間で数万件規模で拡散することが可能だ。これにより、世論を特定の方向に誘導するコストが劇的に低下する。

電子戦（情報戦）への応用: AI生成コンテンツは、敵対国の世論を分断したり、選挙に介入したり、あるいは軍事作戦を有利に進めるための偽情報を流布する「情報戦」の強力な武器となり得る。例えば、敵国の指導者に関する偽のスキャンダル動画を拡散させ、政治的混乱を引き起こすといったシナリオが考えられる。

比較対象と検知技術: ロイター通信の報道によると、2024年の台湾総統選では、中国と関連するとみられるAI生成コンテンツを用いた情報業務が観測された。これに対し、AI生成物を見破るための電子透かし（ウォーターマーク）技術や検知モデルの開発も進んでいるが、生成技術の進化に追いついていないのが現状であり、技術的な「いたちごっこ」が続いている。

日本への影響と示唆

テンセントによるWeChatのAI生成コンテンツ規制強化は、日本企業にとって複数の具体的な影響をもたらす。まず、中国市場でコンテンツビジネスを展開する日本のアニメ制作会社やゲーム開発会社は、AI利用のガイドラインを再確認し、人間の主体性が介在しないコンテンツの提供を避ける必要がある。例えば、キャラクターのセリフやストーリーラインの一部にAIを補助的に用いることは許容される可能性が高いが、AIが完全に生成した動画やテキストをWeChat公式アカウントプラットフォームで配信すれば、アカウント永久凍結のリスクが生じる。

次に、この動きは、日本国内でのAI活用にも影響を及ぼす可能性がある。中国での「非人間による自動化されたコンテンツ制作」に対する厳しい姿勢は、将来的に日本を含む他国でも同様の規制が導入される先行事例となり得る。特に、1日800元（約1万7000円）の収益を上げていたアカウントが凍結された事例は、AIによる自動収益化モデルの脆弱性を示しており、日本企業がAIを活用したコンテンツビジネスを構築する際には、収益性だけでなく、プラットフォーム側の倫理規定や品質基準への適合も考慮に入れる必要がある。

最後に、日本のAI開発企業やコンテンツプラットフォームは、中国のプラットフォームがどのように「人間の主体性」を定義し、技術的にそれを判別するのかを注視すべきだ。これは、AIの進化がもたらす著作権問題やフェイクニュース対策といった共通の課題に対する、具体的な解決策や技術的アプローチを学ぶ機会となる。