大統領室のイスが空席となっている。韓国の憲法裁判所が、尹錫悦（ユン・ソンニョル）前大統領の罷免（ひめん）を決定し、韓国は6月3日に早期の大統領選を実施する局面を迎えた。しかし、今回の選挙には見えない影が忍び込んでいる。アルゴリズムで組み立てられた虚像、実際と区別しにくい虚偽、ディープフェイクという名の幽霊が選挙の過程に浸透している。
「一般有権者が実際の映像で誤認する可能性があった場合でも違法に該当します」
11日、韓国インターネット自律政策機構(KISO)と中央選挙管理委員会が共催した「選挙期間インターネット情報サービス運営懇談会」で選管の関係者はこう話した。現実と虚構の境界が曖昧になっている今、法はその境界を明確に区別しようと試みている。
2023年に改正された公職選挙法はディープフェイクについて、AI技術で生成され、実際と区別しにくくい音響・イメージ・映像形態のコンテンツと定義する。法はこのようなコンテンツを活用した選挙運動を禁じている。しかし、法の言語と技術の現実の間には常にギャップが存在する。
ソーシャルメディアは政治的メッセージの拡散速度を加速した。TikTok（ティックトック）で「尹錫悦」と「ディープフェイク」を一緒に検索すると、NETFLIX（ネットフリックス）のドラマのシーンと合成された前大統領の顔が登場する。このようなコンテンツは風刺とパロディの名で共有されている。一部のコンテンツは「AI生成コンテンツ」と表記されているが、実際のスピーチシーンにAIの音声を巧妙に合成した場合、一般の有権者が真偽を区別できるだろうか？
尹氏だけではない。 「（共に民主党の）李在明（イ・ジェミョン）予備候補が夫人を罵る動画」というディープフェイクも流布されたとの情報提供があった。このようなコンテンツは単純なユーモアを越えて。有権者の判断を歪曲する危険性を内包している。
KISOの関係者は「1分未満の短い映像や写真もディープフェイクに該当する場合、制裁対象になる可能性がある」と警告した。現代人はもはや長いテキストや動画を消化しない。10秒の映像、一枚の写真が数千語の言葉よりも強力なメッセージを伝える。そしてその10秒の真実が民主主義の未来を左右し得る。
選管は「『実際と区別しにくい』という基準は、有権者が直観的に偽物であることを認識できなければならないという意味だ」とし、「現実と少しでも混同される余地があれば公職選挙法違反だ」と基準を明確にした。これは単なる法的解釈を越えて、情報化時代の民主主義の生存戦略だ。
制度だけで十分だろうか？技術は常に制度より速く進化する。今日明確な解釈が、明日は無意味になるかもしれない。リアルタイムに生成され拡散されるディープフェイクに対応するためには、市民のメディアリテラシー、すなわち情報を批判的に解釈する能力が何よりも重要だ。
ディープフェイク技術は諸刃（もろは）の剣だ。創作と表現の新しい地平を開いたが、同時に真実と虚構の境界を崩した。特に選挙という民主主義の中核過程で、この技術の誤乱用は致命的な結果を招く可能性がある。
6月3日、有権者は投票所に向かうだろう。有権者たちが手にした投票用紙には、単に候補者の名前だけがあるわけではない。そこには、我々の社会が真実と技術、そして民主主義の間の複雑な関係をどのように確立するかについての問いも一緒に含まれている。
人工知能が生み出す仮想現実の中で、我々はどのように真実を守るのだろうか。皮肉なことに、最も大切なのは我々の「本物の」目だ。疑い、問いかけ、考える能力こそ、現代民主主義の最後の砦（とりで）かもしれない。
