ジェフリー・ミラー: 偽の AI 画像がどのようにしてインドの緊張を煽るのか

動画: 国民党は、政治攻撃広告用の偽写真の作成に人工知能 (AI) を使用したことを認めた。クレジット: ビデオ - ニュースハブ; 画像 - ゲッティイメージズ。

民主主義プロジェクトのジェフリー・ミラー著

分析: もはや百聞は一見に如かず。

人工知能 (AI) によって作成された、驚くほどリアルでありながらフェイクな画像がここにあります。

これまでのところ、そのほとんどは、本物の欺瞞の試みというよりは、単なる好奇心のように見えます。

先月、ニュージーランド国民党が宣伝用画像の制作にAI画像生成アプリ「Midjourney」を利用していたことが明らかになった。その結果には、架空の医療従事者や、犯罪を心配する恐ろしい表情の市民が含まれていました。

この場合、AI の使用は比較的問題がありませんでした。AI の作成物は、過去に使用されていたであろうストック写真を効果的に置き換えました。

メディアが疑惑を提起するまで、本物のように見える画像が実際には偽物であることに気づいた人は、いたとしてもほとんどいませんでした。

ニュージーランドの例は、選挙キャンペーンで AI 画像がどのように使用されるかを示しましたが、AI 画像が国際関係に多大な影響を与えることも期待できます。

3月、ベリングキャットの創設者エリオット・ヒギンズは、ニューヨーク警察に「逮捕」されたドナルド・トランプの驚くべき「ディープフェイク」画像をツイートした。

Midjourney も使用したヒギンズ氏は、画像を AI の作品であると明確にラベル付けしました。

しかしそれでも、画像が急速に拡散し、テクノロジーの洗練さを示すショーケースとして機能することは止まりませんでした。

ヒギンズ氏はまた、フランスのエマニュエル・マクロン氏の仲介によるウラジーミル・プーチン大統領とジョー・バイデン氏の架空の「平和サミット」のAIが生成した偽画像をツイートした。

ウクライナにおける戦争の現状を考慮すると、これらは誰もだます可能性は低いでしょう。

しかし、ヒギンズ氏がウクライナでの架空の核爆発を基にして作成した現実的に見えるディープフェイクは、戦争の霧の中でAIが持つ可能性のある可能性を示した。

昨年ロシアがウクライナに侵攻した直後、ウォロディミル・ゼレンスキーがウクライナ国民に武器を捨てるよう呼びかける偽動画が、ニュースサイト「ウクライナ24」でハッカーによって公開された。

インド太平洋地域では、信頼性の高い AI 生成画像が使用されて、この地域の地政学的な緊張がさらに高まるのは時間の問題でしょう。

ニュージーランドのクリス・ヒプキンス首相は、前任者のジャシンダ・アーダーン首相に倣って、彼が「太平洋の軍事化」と呼ぶものを非難した。

しかし、2023年のわずか前半のうちに、米国はフィリピンおよびパプアニューギニアと新たな防衛協定を締結した。これは、中国が昨年ソロモン諸島と独自の安全保障協定を結んだことへの対応である。

緊張は高まっており、AI が緊張を次のレベルに引き上げる可能性があります。

おそらく、太平洋の広大さは、偽情報の試みにいくつかの利点を生み出します。

たとえば、離島の環礁付近にある軍艦の偽画像をすぐに反証するのは難しいかもしれない。

太平洋の遠隔地にある貧弱な通信インフラも役に立ちません。

さらに、AI によって作成されたコンテンツの台頭は、一般の人々が何を信じるべきか迷っていることを意味するかもしれません。

1月に発表されたブルッキングス研究所の報告書では、偽情報工作の背後にいる人々の主な目的として「混乱の種を蒔くこと」が挙げられている。

報告書では、ガボン大統領によるロボットのような大統領演説の例を挙げているが、これはディープフェイクの証拠だと考える人もいれば、大統領が単に病気であると考える人もいた。実際の真実はともかく、混乱と軍事クーデター未遂が続いた。

AI には、本物のコンテンツであっても懐疑と不信の目で見られる鏡の間を作り出す力があります。

AIが大混乱を引き起こす可能性を示す実際の例は先月、ワシントンの国防総省で起きた爆発の偽画像がツイッター上で拡散し、金融市場を一時的に暴落させた時だった。

国際関係における AI の新たな課題には、多くの潜在的な対応策があります。

一つの選択肢は規制することだ。

中国は最近、同意が得られない限り、本物の人物のディープフェイク画像を禁止した。そして同国の規制当局は現在、AIで生成された「合成」コンテンツにはそのように明確にラベルを付けることを義務付けている。

ニュージーランドでは先週、内務省がソーシャルメディア上のコンテンツも対象とする厳しい新たなメディア規制を提案した。提案には、「警告ラベルとコンテンツに関する勧告」、および違反に対する罰金が含まれています。

規制のマイナス面は、行き過ぎの可能性があることです。

「偽情報」と「誤った情報」という用語は現在、頻繁に武器として利用され、単に政敵の主張を中傷するために使用されています。

もっと楽観的に言えば、一般の人々はよく言われているほど世間知らずではありません。

結局のところ、ほとんどの人は写真をデジタル的に変更できるという考えに今ではよく慣れています。現在の Adobe Photoshop の最初のバージョンは 1987 年にリリースされました。

それでも、昨年アブダビで開催された第1回グローバル・メディア会議では、メディア・リテラシーを高める必要性が、偽情報との戦いに関する議論のテーマとして目立った。このテーマは、2023年に開催されるイベントでも取り上げられる可能性が高い。今年11月に開催されました。

著者が主催者のゲストとして出席した第1回大会の新しい「白書」では、簡単な即効性のある解決策は存在しないという見解がまとめられていた。

むしろ、政府からソーシャルメディアプラットフォーム、報道機関、教育機関、消費者自身に至るまで、誰もが果たすべき役割を持っていました。

AI が偽情報に使用される可能性についての認識を高めることが、間違いなく解決策の一部です。

選択の余地はありません。

コペンハーゲンを拠点とする未来学者のソフィー・ビトヴェド氏は、グローバル・メディア・コングレスの白書で、将来私たちが消費するコンテンツの最大99パーセントがAIによって作成される可能性があると推定しています。

これを超えて、おそらく根本原因に取り組む必要があります。

国際関係においては、紛争や緊張の緩和により、偽情報が定着することがさらに困難になるでしょう。

現在のディープフェイクの最前線がウクライナの戦場にあるのは偶然ではない。

戦時には、平時のルールは無視され、ほとんどすべてのことが可能であるか、少なくとも潜在的にもっともらしいものに見えます。

ベリングキャットのエリオット・ヒギンズが作成した架空の核爆弾はその代表的な例です。

インド太平洋では、着実に上昇する地政学的気温が、将来の AI によって生成される偽情報やプロパガンダ活動の理想的な温床となっています。

結局のところ、国際関係における AI フェイクの影響を和らげる最善の方法は、簡単であると同時に難しいものでもあります。

私たちは、意見が合わない国家間のさらなる外交、関与、妥協が必要です。

競争と紛争を減らすことによってのみ、AI の恐ろしい創造物が現実ではなくフィクションのように見えるようになるでしょう。

もちろん、これは言うは易く行うは難しです。

人間の問題を解決するには人間の介入が必要です。

AI には私たちの代わりにそれを行うことはできません。

民主主義プロジェクト

ジェフリー・ミラーは、デモクラシー・プロジェクトの地政学アナリストであり、現在のニュージーランド外交政策と関連する地政学問題について執筆しています。彼はドイツと中東に住んだ経験があり、アラビア語とロシア語を学んでいます。開示：ジェフリーは、主催者であるエミレーツ通信社のゲストとして、2022年のグローバル・メディア・コングレスに出席しました。