ディープフェイク拡大と情報信頼性確保への最前線　稗田利明

こんにちは、稗田利明です！

生成AIの急速な発展により、ディープフェイク技術が社会に深刻な影響を及ぼしている。2025年の世界経済フォーラム「グローバルリスク報告書」では、今後2年で最も深刻なリスクの一つとして「誤報と偽情報」が挙げられ、国内外で対策強化の動きが加速している4 5。特にディープフェイクは、選挙や金融詐欺、個人の評判毀損など多岐にわたる被害をもたらし、SNS上では2025年に約800万件が共有されると予測されるほど拡大している3 5。

こうした状況を受け、デジタルコンテンツの真正性を証明する技術開発が進む。TOPPANデジタルは、衆議院議員の公式サイトを活用し、画像に電子透かしと来歴情報を埋め込む実証実験を実施。改ざんや二次利用時に情報源や改変の有無を確認できる仕組みの有効性を検証した。実験ではホームページ上で電子透かしが保持されることを確認できたが、SNSでは画像圧縮により電子透かしや来歴情報が劣化・欠落する課題も明らかになった。これにより、SNS事業者との連携による対策の必要性が浮き彫りとなった。

TOPPANデジタルが展開する「AVATECT®」は、eKYCによる本人確認、SBTやVCによるデジタル証明、電子透かしなど4つの技術要素を組み合わせ、アバターやデジタルコンテンツの唯一性・真正性を証明する基盤を提供している。特にメタバースの普及が見込まれる中、アバターの不正利用やなりすまし防止、資産価値の保護が重要課題となっている。

ディープフェイク拡大は、Z世代を中心に自己表現の抑制やジェンダー不平等の助長、社会的信頼の崩壊といった深刻な社会的・文化的影響ももたらしている3。こうしたリスクに対抗するためには、民間企業・官学・SNS事業者が連携し、技術と制度の両面から情報の信頼性を担保する仕組みの構築が不可欠である。

今後は、政治家や著名人のコンテンツ保護にとどまらず、一般消費者も対象とした正しい情報流通の社会実現が期待されている。超高齢化社会を迎える日本では、アバターを介してリアルとバーチャルを自在に行き来できるインフラ整備も重要となる。ディープフェイク対策の最前線では、技術革新と社会制度の両立が求められている3 5。

稗田利明のIT Insights

ITの未来を探る、情報発信"

ディープフェイク拡大と情報信頼性確保への最前線　稗田利明

Citations: