山口真一　日本人の半数以上が騙される!?　生成AIの普及でウィズフェイク2.0時代に

生成AIの大衆化が情報環境にもたらすインパクト

　AI技術の進展、生成AIの普及は、本物と見分けのつかない動画・画像・音声などを作り出すディープフェイクの大衆化をもたらしている。つまり、一人ひとりが手軽にディープフェイクを生成することが可能となった。これは、将来的な偽・誤情報の爆発的な増加を意味しており、「ウィズフェイク2・0」とも呼べる新たな局面に突入したといえる。

　この現象はすでに現れている。災害時の混乱を増幅させる投稿、政治的意図を明確に含む情報、詐欺行為といった悪用例が増加している。例えば、2022年に静岡県で台風による水害が起きた際には、ドローンで撮影したとされる、大半の家屋が水没している写真がSNS上に投稿されたが、それはAIによって作成された偽画像であった。驚くべきことに、その作成者は特別な技術者ではなく、一般人であった。彼は「Stable Diffusion」という、誰でも使用可能なサービスを用いて偽画像を作成していた。

　ディープフェイクの発展と普及は、世論工作の大衆化という現象ももたらしている。安価にアクセスできる技術を駆使して、個人やグループが社会や政治に影響を与える力を増大させているのである。例えば、中国共産党に有利な世論工作のため、月額30ドルという安価なサブスクリプションサービスの生成AIによる偽動画が使われていたという事例が存在する。また、イスラエルのあるグループが、４万件におよぶアバターを作成してSNSアカウントを付与し、AIを用いてSNSへの投稿を自動生成して世論工作を展開するビジネスを構築しているという報道もあった。この手法は、すでにいくつかの国の選挙に利用され、日本語での操作も確認されているようだ。

　これらの事例から、ディープフェイクと世論工作の連携が、今後、ますます進化・拡大すると予測される。その手法は、単なる国家間の情報戦にとどまらず、ビジネスでも利用されるようになっている。個人や小規模なグループでさえも、低コストで高度な世論操作を行える技術とインフラが整備されつつあるといえる。

（続きは『中央公論』2023年12月号で）

中央公論 2023年12月号

電子版

オンライン書店

• 
• 
• 
• 
•