「騙すAI」VS「見抜くAI」が勃発か？ますます精巧になる「ニセ写真・ニセ動画」の作成技術

Instagramにアップされたマーク・ザッカーバーグCEOの偽ムービー

Instagramにアップされたマーク・ザッカーバーグの偽ムービー

Facebookのマーク・ザッカーバーグCEOが、データの盗難やコントロールに関して語るムービーが話題となっている。その理由は、同ムービーがいわゆる「ディープフェイク」と呼ばれる手法で作成された偽物だったからだ。

このムービーは、アーティストのBill Posters氏とDaniel Howe氏が広告会社Cannyと共同で作成し、@bill_posters_ukというアカウントによってInstagramに投稿したもの。英国のドキュメンタリー映画祭である「Sheffield Doc/Fes」のための「Spectre」という展示の一部として作られたという。

ザッカーバーグCEOのディープフェイクは、2017年に公開されたオリジナルをベースに作成され、俳優の声を組み合わせて完成させたようだ。Spectreで公開された偽ムービーには、ほかに女優・モデルのキム・カーダシアンや俳優のモーガン・フリーマン、トランプ大統領のものもある。

本物のニュースっぽく見せるために「CBSN」のテロップを入れていることから、米放送局CBSはFacebookに対しムービーの削除を要請しているというが、今のところは削除されていない。「このコンテンツも、Instagram上のすべての偽情報と同じように扱う」というのがInstagramサイドの判断のようだ。

架空のアイドルの顔画像を自動生成できるサービスも誕生

「顔」へのAI技術の活用としては、偽画像だけでなく、架空の人物の顔画像を生成するというアプローチもみられる。

ベンチャー企業のジーンアイドルが6月10日に発表したのは、AIを活用して架空のアイドルの顔画像を自動生成できるサービス「A.I.dols Codebase」（β版）。ブロックチェーン技術も活用し、同サービスで生成したアイドルとユーザーの情報をヒモ付けて管理できることが特徴という。

A.I.dols Codebase（β版）

架空アイドルの生成方法としては、ディープフェイクにも用いられる「画像を生成するAI」と「評価するAI」を敵対させ、精度を向上させる手法「GAN（Generative Adversarial Network）」を活用。画像生成用AIの学習には、実在するアイドルの顔写真を使用している。

A.I.dols Codebase β版の利用料は無料で、サービス開始当初利用できるサービスとしては、顔画像の生成のほか、生成した架空アイドル同士を合成して新たなアイドルを生み出す機能なども利用できる。

今後予定されている機能の追加には、合成音声で台詞を読み上げる機能、ボディを自動生成する機能、アイドル同士が対話できる機能などがある。将来的には、生成したアイドル同士がユニットを組んでオリジナルソングを歌い、VTuberとしてライブ活動を行うことなども視野に入れているようだ。また、同社はA.I.dols Codebaseをベースにしたアイドル育成ゲーム「Rosetta Stage」も開発中という。

Adobeは偽画像を見抜くAIツールを開発中

加工された写真やディープフェイク動画、生成された架空の人物の顔などが世の中に溢れる状況を危惧し、偽画像を見抜く研究も活発化している。

各種のクリエイティブ・ツールを開発・提供するAdobe Systemsも、偽画像を見抜くAIツールの開発に取り組んでいることを明らかにした。

今回発表されたのは、同社がカリフォルニア大学バークレー校の研究チームと提携して開発しているAIツール。Photoshopで顔の表情を変化させる際などに用いられる「Face Aware Liquify」機能による画像への編集内容を検出し、取り除く機能を提供するという。

Adobeは偽画像を見抜くAIツールの開発に取り組む

同ツールは、まだ初期段階にあるとされるが、現時点でもFace Aware Liquify機能によって変更された顔を99%の精度で検出できており、53%だったという人の目による検出確率を大幅に凌いでいる。特定の機能だけでなく、あらゆる改変を検知できるよう、今後の進化に期待したいものだ。

SNSによるコミュニケーションにも「盛った」画像が横行する中で、改変された画像を検知し、元に戻すツールの必要性は、今後ますます高まっていくことだろう。「騙すAI」対「見抜くAI」の攻防は、さらに激化していきそうだ。ネット上におけるコンテンツの信頼性を高めるためにも、見抜くAIの勝利を期待したい。

---