ファクトチェッカーたちは、投票が迫る他の国々への警告として、厳しい選挙の数日前に公開された偽の音声記録への対処に奔走した。
Morgan Meaker
Wired
03.10.2023 12:00 PM
スロバキアの選挙の2日前、フェイスブックに録音された音声が投稿された。そこには、リベラル政党「進歩スロバキア」を率いるミハエル・シメチュカと、日刊紙「デンニークN」のモニカ・トドヴァーという2人の声が録音されていた。
シメチュカとデンニークNは即座にこの音声をフェイクだと非難した。通信社AFPのファクトチェック部門は、この音声はAIを使って操作された形跡があると述べた。しかし、この録音は開票を前にした48時間のモラトリアム期間中に投稿されたもので、その間はメディアも政治家も沈黙を守ることになっている。つまり、スロバキアの選挙規則では、この投稿を広く否定することは難しかったのだ。また、この投稿は音声であったため、メタの操作されたメディア・ポリシーの抜け穴を突いたことになる。メタの操作されたメディア・ポリシーの抜け穴とは、ある人物が言ったこともない言葉を言うように編集されたフェイク・ビデオだけがルールに反するというものだ。
選挙は、スロバキアのための相反するビジョンを持つ2人のフロントランナーの間の緊迫したレースだった。日曜日に、親NATO政党である進歩的スロバキアが、隣国ウクライナへの軍事支援を撤回するキャンペーンを行ったSMERに敗れたことが発表された。
投票に先立ち、EUのデジタル・チーフであるヴィエラ・ジュロヴァーは、スロバキアの選挙は、モスクワが選挙に介入するために使用する「数百万ユーロ規模の大量操作兵器」に対してヨーロッパの選挙がいかに脆弱であるかを示すテストケースになるだろうと述べた。その余波を受け、世界各国はスロバキアで起きたことを熟読し、自国が直面しうる課題についてのヒントを探ることになるだろう。EUの最近の調査で、偽情報の標的にされる危険性が特に高いと示唆されたポーランドでは、2週間後に投票が行われる。来年は、イギリス、インド、EU、アメリカでも選挙が行われる。スロバキアでソーシャルメディア上の偽情報との戦線を維持しようとしているファクトチェッカーたちは、彼らの経験から、AIはすでに選挙を混乱させるのに十分なほど進化している一方、反撃するツールが不足していると言う。
選挙期間中、ヒンコヴァー・フランクフスカーのチームは、テレビ討論会での主張のファクトチェックとソーシャルメディア・プラットフォームの監視に時間を割き、長時間働いた。DemagogはMetaのファクトチェック・パートナーであり、ソーシャルメディア企業と協力して、Facebookなどのプラットフォームで拡散している偽情報の疑いに対してファクトチェック・ラベルを作成している。
AIは、彼らの仕事に新たな挑戦的次元を加えた。選挙の3日前、MetaはDemagogチームに、シメチュカが勝利したらビールの値段を2倍にすると提案する音声記録が支持を集めていると通知した。シメチュカはこのビデオをフェイクだと言った。「しかし、事実確認は政治家の発言だけではできません」とヒンコヴァー・フランクフスカーは言う。
音声が操作されたことを証明するのは難しい。ヒンコバ・フランクフスカーは、AIが作成した投稿について聞いたことはあったが、彼女のチームは実際にファクトチェックをしたことはなかった。彼らはこの録音がどこから送られてきたのかを追跡し、最初に匿名のインスタグラムのアカウントに投稿されたことを突き止めた。そして、専門家に電話をかけ、その録音が偽物か操作されたものかを尋ねた。最後に、イレブン・ラボというアメリカの会社が作ったAI音声分類器を試した。
数時間後、彼らは録音が改ざんされていることを確認することができた。スロバキア語のフェイスブックでは、訪問者がこの投稿に出くわしたときに、彼らのラベルを見ることができる。「独立したファクトチェッカーは、この写真や画像は人々を誤解させるような方法で編集されていると述べています。」フェイスブックのユーザーは、とにかくビデオを見るかどうかを選択できる。
ビールと不正投票の音声はどちらも、ファクトチェックのラベルとともにフェイスブックに表示されたままである。「コンテンツがファクトチェックされた場合、私たちはラベルを付け、フィードのランクを下げます。私たちのコミュニティ・スタンダードは、それがAIによって作成されたものであれ、個人によって作成されたものであれ、すべてのコンテンツに適用されます。」
今回の選挙は、EUのデジタルサービス法が8月に導入された後、最初に行われた結果的な投票のひとつであった。この法律は、オンライン上の人権をよりよく保護することを目的としたもので、偽情報を緩和するための努力において、プラットフォームにより積極的で透明性のある行動を取らせるための新しいルールを導入した。
「スロバキアは、何が効果的で、どこに改善が必要かを見るためのテストケースだった。私の見解では、（新法は）プラットフォームに対し、コンテンツのモデレーションやファクトチェックの能力を高めるよう圧力をかけた。スロバキアの選挙でメタがファクトチェッカーを増員したことは知っているが、それで十分かどうかはこれからわかるだろう」と、テクノロジーが民主主義に与える影響に焦点を当てた調査グループ、リセットのアナリスト、リチャード・クチタは言う。
クチタは、2つのディープフェイク音声のほかに、極右政党Republikaがソーシャルメディアに投稿したAI音声のなりすましによる2つの動画も目撃している。ひとつはミハエル・シメチュカ、もうひとつはズザナ・チャプトヴァー党首のものだ。これらの音声には、声が偽物であるという宣言が含まれていた：「これらの声は架空のもので、実在の人物に似ているのはまったくの偶然です。」しかし、この声明は20秒のビデオの15秒後まで点滅せず、リスナーを騙そうとしたものだとクチャは言う。
スロバキアの選挙はポーランドでも注視されていた。ポーランドのファクトチェック団体『プラウダ・アソシエーション』の会長であるヤクブ・シリジャは言う。Śliż氏は、スロバキアでは偽情報がビデオや画像ではなく、音声記録にパッケージ化される傾向にあることも懸念している。
スロバキアのHincová Frankovskáと同様に、Śliżもまた、AIを使用して作成または操作されたものを確実に識別するためのツールを欠いている。「利用可能なツールは、確率のスコアを与えてくれます。しかし、これらのツールはブラックボックスの問題を抱えている。投稿がフェイクである可能性をどのように判断しているのかがわからないのだ。もし、別のAIを使って、この投稿は87パーセントAIが作成したものだと魔法のように教えてくれるツールがあったとしたら、どうやってこのメッセージを視聴者に伝えればいいのでしょうか？」
ポーランドではまだ、AIによって生成されたコンテンツはあまり流通していない。「しかし、人々は本物の情報源を信用させないために、AIが生成したという事実を利用しているのです。」ポーランドの有権者が、与党である保守政党「法と正義」が前例のない3期目の政権を維持すべきかどうかを決めるまで、あと2週間ある。この週末、ワルシャワには野党を支持する巨大な群衆が集まり、野党が支配する市政府は、群衆がピーク時には100万人に達したと推定している。しかし、かつてツイッターとして知られていた『X』では、デモ行進の動画がAIを使って加工され、群衆がより多く見えるようになっているとの指摘がユーザーから寄せられた。
Śliżは、この種のコンテンツは異なるソースを照合することで事実確認が容易だと考えている。しかし、スロバキアのように、投票直前の数時間にAIが作成した音声記録がポーランドで出回れば、それはかなり難しくなる。「ファクトチェック機関として、それにどう対処するかという具体的な計画はありません。だから、このようなことが起きれば、痛みを伴うことになる」と彼は述べた。
