「ディープフェイク映像」読み取り「3日→30秒」に短縮...リアルタイムに検出して捕捉

「ディープフェイク映像」読み取り「3日→30秒」に短縮...リアルタイムに検出して捕捉

Deep Brain AIのイ・ジョンス理事が5日、ソウルのコンベンションセンター、COEXで「生成型AIフォーラム2024」を開き、ディープフェイク自動検出ソリューションをデモストレーションしている。このソリューションは、あるアダルトサイトでアメリカの歌手テイラー・スウィフトのディープフェイク映像を見つけ出した。

生成型AI（人工知能）スタートアップDeep Brain AI（ディープブレイン・エイアイ）が5日、YouTube（ユーチューブ）やTikTok（ティックトック）、Telegram（テレグラム）など、SNS（ソーシャルメディア）に流通する特定人物の動画の中でディープフェイク映像を見つけ出す「ディープフェイク自動探知ソリューション」を公開した。

Deep Brain AIはこの日、ソウルのコンベンションセンター、COEX（コエックス）で「生成型AIフォーラム2024」を開き、ディープフェイク自動検出ソリューションなどの新規ビジネスモデルを紹介した。特定の映像をディープフェイクかどうかを判別するだけでなく、SNSにリアルタイムにディープフェイク映像が流通しているかどうかを確認できるのが特徴だ。

例えば、芸能人ユ・ジェソクのディープフェイク映像を見つけるためには、キーワードに「ユ・ジェソク」と入力した後、写真1枚をアップロードすればよい。その後、「Telegram」、「YouTube」などのチャンネルを選択すると、ソリューションはTelegramとYoutubeにアップロードされた関連人物の映像をすべてクローリングした後、人物の自然さ、もとの写真との対比、AIソリューションの使用の有無などを判断し、ディープフェイクかどうかを分析する。ディープフェイク映像の存在が発見されると、リンクとともにユーザーにアラームが提供される。

Deep Brain AIのイ・ジョンス理事は、「SNSやアダルトサイトを含む様々なチャンネルで流通している映像がディープフェイクかどうかを一度に判別することができる」とし、「24時間自動的にオンラインで再生されている映像の中でディープフェイク映像を発見できる」と話した。

判別精度は90%以上だ。探知時間もFHD映像基準で最大30秒以内に検出することができる。通常、映像分析の専門家や企業が映像1つをディープフェイクかどうかを判別するのに3日ほどかかるのとは対照的だ。Deep Brain AIのチャン・セヨン代表は、「2019年からディープフェイクの検出技術を開発・高度化してきており、高い性能を実現できるようになった」と話した。Deep Brain AIは、既に警察庁などの捜査機関に映像のディープフェイク判別ソリューションを供給している。

Deep Brain AIの「ディープフェイク自動検出ソリューション」はYouTubeでドナルド・トランプ元米大統領の映像を見つけた後、真偽を判別した。画面に映し出された映像はすべて「本物(REAL)」と判定された。

チャン代表は「ディープフェイクの検出は、アルゴリズムだけでなく、データセットをどれだけ構築しているかも重要だ」とし、「Deep Brain AIは5年以上にわたって関連研究を続けてきており、データも無数に積み重ねてきたため、高精度を誇っている」と話した。

その他、自動検出ソリューションは、クローリングした映像のスクリプトやコメントなどを分析し、世論の賛否を判断してくれる。ディープフェイク映像がどれだけ増えているかなど、検出に関する統計も提供している。

このソリューションは、芸能プロダクションや政党などで集中的に活用されるものと予想される。所属芸能人や政治家のディープフェイク映像が流通しているかどうかをリアルタイムに把握することで、さらなる拡散を防ぎ、捜査などを依頼できるからだ。Deep Brain AIはSaaS（サービス型ソフトウェア）方式でソリューションを供給する計画だ。

チャン代表は「ディープフェイク映像の流通の有無を迅速に検出し、コストを大幅に削減することができるだろう」とし、「これにより、政治、教育、学校、エンターテイメント分野のディープフェイク犯罪を減らすことに貢献できるはずだ」と強調した。

<画像=生成型AIスタートアップDeep Brain AI、「ディープフェイク自動検出ソリューション」公開>

原文：https://www.unicornfactory.co.kr/article/2024110516581241858