生成AIの急速な発展に伴い、特に「ディープフェイク」と呼ばれる虚偽のコンテンツが蔓延し、現実と虚偽の境界がますます曖昧になっています。ディープフェイクはAIを利用して生成された偽のコンテンツであり、既存の人物や場所、出来事を非常にリアルに模倣し、視聴者を誤解させ、時には現実そのものを覆すことがあります。特に、世界中で今後行われる選挙が20億人もの有権者を引きつけると予想されている中、偽情報は選挙の公正性や公共の信頼に対する深刻な脅威となっています。そんな中、テクノロジーの巨人であるマイクロソフトはどのようにこの課題に対処しているのでしょうか?
ディープフェイクの現実的な脅威
2022年のウクライナ紛争勃発後、地元の写真家たちは戦場での文化遺産破壊の記録に努めました。しかし、これらの実際の写真とともに、大量の偽の戦争画像が広がり、真実と虚偽の境界が曖昧になってしまいました。人々はどの画像が本物なのかを見分けることができずに混乱しました。
この問題に対処するため、写真家たちは新しいツールを使用し、自分たちの写真がディープフェイクではないことを証明し始めました。この技術の発展は、最終的にマイクロソフトの「コンテンツ完全性ツールキット」(Content Integrity Suite)の開発につながりました。このツールはオンラインコンテンツの透明性を高め、ユーザーが真実と偽情報を区別するのを助けることを目的としています。
透明性を高める:AIの反撃武器
マイクロソフトの「コンテンツ完全性ツールキット」は、すでに多くの政治団体、選挙管理機関、メディア組織で広く使用されており、作品に明確な出典を付け、透明性を高め、偽情報の拡散を防いでいます。AI技術を通じて、マイクロソフトはオンラインコンテンツの透明性を高めるだけでなく、世界の情報エコシステムに信頼をもたらしています。
マイクロソフトのメディア出典部門の責任者であるアンドリュー・ジェンクス(Andrew Jenks)は、ディープフェイクの脅威はその欺瞞性だけでなく、広範な影響にもあると指摘しています。彼は「ディープフェイクは認知ハッキングの一種であり、現実に対する認識や世界の見方を変えてしまいます」と述べています。
ジェンクスはまた、マイクロソフトが共同設立した「コンテンツ出典と信憑性連合(C2PA)」の議長も務めており、デジタルコンテンツ(AI生成の資産を含む)の出典と履歴を確認するための公開技術標準を制定することを目指しています。AI生成コンテンツの増加に伴い、コンテンツの真の出典を確認することは、偽情報の拡散を防ぐ上で極めて重要です。
透明なAI技術:コンテンツ証明書の役割
マイクロソフトが導入した「コンテンツ証明書」(Content Credentials)は、デジタルコンテンツに信頼できる出典を提供するためのツールの一つです。画像、動画、音声に暗号化されたメタデータを付加することで、クリエイターは作品の作成時間、作成者、AIの使用有無などを明確にすることができます。これにより、透明性が向上し、編集や改ざんがより容易に検出できるようになります。
また、マイクロソフトは消費者向けに「コンテンツ完全性チェックツール」やブラウザ拡張機能も提供しており、人々は簡単にコンテンツ証明書をスキャンして出典情報を確認できます。ユーザーはLinkedInなどのプラットフォーム上で画像や動画のコンテンツ証明書アイコンを確認することもできます。
ジェンクスは「AIが関与しているかどうかにかかわらず、コンテンツ証明書は透明性を確保するための重要な層を提供し、オンラインコンテンツを共有したり消費したりする際に、より賢明な判断を下す手助けをします」と述べています。コンテンツの出典や履歴を確認することが容易になるにつれ、具体的な出典情報がないコンテンツに対して、人々はより懐疑的になるかもしれません。
AIとコンテンツの未来
ディープフェイク対策において、マイクロソフトはコンテンツ証明書ツールを提供するだけでなく、画像生成AI製品(Designer、Copilot、Paintなど)においてもAIの使用有無や画像生成の時間などの詳細を明確に表示しています。また、Copilotに写真をアップロードする際、人物の顔を自動的にぼかすなど、ディープフェイクの悪用を防ぐための保護対策も導入しています。
AI技術が進化する中で、コンテンツの透明化は偽情報との戦いにおいて重要な手段となっています。マイクロソフトは責任あるAIツールを開発し、世界中のユーザーが真実と虚偽をより簡単に区別できるよう支援し、オンラインコンテンツに対する信頼を取り戻そうとしています。これは単なる技術の進歩にとどまらず、情報化時代の信頼危機への応答でもあります。
結論
情報化時代において、ディープフェイクの脅威はもはやいたるところに存在しています。しかし、マイクロソフトや他のテクノロジー企業の取り組みによって、AIは偽情報を作り出すだけでなく、偽情報と戦うための強力な武器にもなり得ることが証明されています。透明性のあるツールが増えるにつれ、私たちはより真実で信頼できるデジタル世界の到来を期待することができるでしょう。
オリジナル記事、著者:AIの番人,転載の際には、出典を明記してください:https://nipponai.jp/article/deepfake-ai/