研究背景

顔，身体，音声，自然言語などの人間由来の情報をAIが学習し，本物と見紛うシンセティック情報の生成が可能になりつつあります．シンセティック情報は，コミュニケーション分野やエンターテイメント分野を始めとした様々な用途で活用されています．一方で，シンセティック情報の負の側面として，詐欺や思考誘導，世論操作を行う目的で，愉快犯や攻撃者が，フェイク映像，フェイク音声，フェイク文書といったフェイク情報を，AIを用いて生成・拡散させており，国際的な脅威となっています．

研究目的

本研究では，画像・映像，音声，テキストといった単一のモダリティによるユニモーダルメディアに加えて，複数のモダリティで構成されたマルチモーダルメディアを対象に，AIによる生成物か否かといった真贋判定のみならず，どのような経緯で生成されたのかといった来歴を含めた詳細な情報を提供可能な，フェイク情報拡散の防御技術を確立します．また，第三者による意図しないメディアの自動収集や，AIによる当該メディアの改変，フェイク情報の学習を事前に防止可能な，フェイク情報拡散の予防技術を確立します．さらに，ユニモーダルメディアとマルチモーダルメディアを対象に，リアル情報とフェイク情報からなる大規模データセットと多様なフェイク情報を生成する生成モデルに加えて，本研究で開発したフェイク情報拡散の防御モデルと予防モデル，および本研究に関連した多数の防御モデルで構成された，フェイク情報の生成と防御・予防という攻防の実践に適したフェイク情報研究基盤（SYNTHETIQ X）を構築します．