重要なポイント
2024年の米国選挙が近づくにつれ、生成AIディープフェイクが民主主義プロセスの完全性に深刻な脅威をもたらしています。
ディープフェイク技術は、偽情報を広め、評判を傷つけ、選挙プロセスへの信頼を損なうために戦略的に使用されています。
ディープフェイクに対する一般の認知度が高まることは、「嘘つきの配当」に貢献します。
2024年の米国選挙が近づく中、生成AIディープフェイク、特に音声クローン技術の高度な開発は、民主主義のプロセスに深刻なリスクをもたらしています。
これらの進歩により、悪意のある組織は偽情報を拡散し、評判を傷つけ、国民の信頼を損なうことがより容易になります。現在進行中の米国選挙サイクルで注目を集めたディープフェイクの数々は、こうした新たな脅威に対処する必要性を強調しています。
ディープフェイクはどのように民主主義を脅かすのか?
ジョー・バイデン大統領は7月21日、2期目には立候補しないと宣言し、カマラ・ハリス副大統領を全面的に支持し、支持を表明した。
発表後、ハリス氏が言葉を詰まらせるディープフェイク動画が公開された。 XとTikTokで急速に広まり、200万回以上の再生回数を獲得した。22秒の動画には、ハリス氏が次のように言っているとされている。
「今日は今日。そして昨日は昨日。明日は明日の今日。だから今日を生きなさい。そうすれば、未来の今日が過去の今日と同じように明日になるでしょう。」
ビデオを見た視聴者は、映像が本物かどうか疑問視し、その信憑性に疑問を投げかけている。
このカマラ・ハリスのディープフェイク動画は、ジョー・バイデンが彼女を民主党候補として支持した後に共有された。
このクリップは、2023年にハワード大学でハリス氏が行ったスピーチのものです。彼女は、この偽のビデオで聞かれるような言葉を一度も言っていません。@billdmccarthyより . https://t.co/GptLwJ9Ku5 https://t.co/uJxSXmsCMw pic.twitter.com/Nn7mOZNb4h
— シャヤン・サルダリザデ (@Shayan86) 2024 年 7 月 22 日
しかし、ビデオは改変されており、オリジナルの音声はAIによって生成されたと思われる音声に置き換えられていた。
メディア・マターズ・フォー・アメリカが報告書を発表 TikTokで拡散され、何百万回もの再生回数を記録したディープフェイクに関するレポート。レポートの発表後、TikTokは直ちに当該動画と偽造音声をプラットフォームから削除した。
TikTokの広報担当者は次のように述べた。 同プラットフォームは、有害なAI生成コンテンツや誤解を招く編集されたメディアに対して厳しい規則を設けている。TikTokはそのようなコンテンツを積極的に削除し、ファクトチェッカーと協力してプラットフォーム上のコンテンツの正確性をリアルタイムで検証していると強調した。
ディープフェイクの無制限な拡散は、政治家の評判を傷つけ、国民の認識を歪め、最終的には機能する民主主義の基盤となる重要な信頼を損なう可能性があります。さらに、ディープフェイクに対する国民の認識が高まるにつれて、「嘘つきの配当」に対する懸念が高まっています。これは、本物の音声や動画が簡単に偽物として却下され、実際に不正行為を行っている人々に隠れ蓑を提供する現象です。
2024年のキャンペーンでディープフェイクの危険性が増大
2024年の選挙シーズンでは、AIが生成したディープフェイクの厄介な使用がすでに見られている。
1月21日、ニューハンプシャー州の有権者パトリシア・ギングリッチさんは、ジョー・バイデン大統領の声を装ったと思われる自動電話を受け、来たる予備選挙で投票しないよう指示されたと報告した。経験豊富な政治評論家ギングリッチさんはすぐにメッセージの信憑性を疑ったが、それでもメッセージは他の有権者約5,000人に届いた。
もう一つの厄介な例として、フロリダ州知事ロン・デサンティスの選挙運動は、ドナルド・トランプ前大統領がアンソニー・ファウチ博士を温かく抱きしめる様子を映したAI生成ビデオを配布した。 この虚偽の描写は、COVID-19パンデミック中のトランプ大統領とファウチ氏の間のよく知られた緊張関係を利用して、論争を巻き起こし世論を操作することを目的としていた。
https://youtu.be/hLuUmNkS21Aもう一つの懸念すべき事例として、ディープフェイク音声 エリザベス・ウォーレン上院議員のものと誤って伝えられた音声は、ウォーレン上院議員が従来反対してきた政策を支持していると主張した。この操作された音声は激戦州の特定の有権者層に向けられており、ウォーレン上院議員の信頼性を傷つけ、有権者の支持を揺るがす意図があった。
ソーシャルメディアの巨人は責任を負わなければならない
ディープフェイクの増加は、企業環境における重大なセキュリティ上の脅威としても浮上しています。Facebook、TikTok、YouTube などの主要なオンライン プラットフォームは、ユーザーが作成したディープフェイクの迅速かつ広範な拡散を意図せず助長しています。
通信品位法第230条 この法律は、ディープフェイクを含むユーザーコンテンツに対するオンラインプラットフォームの責任を広く免除するものです。この法的保護により、これらのプラットフォームを管理する少数の民間企業がデジタル世界の広大な部分を事実上監視できるようになり、正当性の危機を引き起こしています。
現在、ディープフェイクの影響を受けた著名人の主な手段は、財産法または不法行為法を用いて作成者に対して民事責任を追及することです。しかし、原告が作成者を特定するのに苦労したり、作成者が米国法の管轄外にいる可能性があるため、このアプローチは効果がないことが多いです。
