ディープフェイクとは？危険性や見分け方をわかりやすく解説

ディープフェイクとは、AIが作り出す加工された偽の写真や動画のことで、実際には起こっていない行動をあたかも現実のように見せる技術やそのメディアを指します。

例えば、誰かが話している場面をAIが加工し、その人が言っていない言葉を言っているように見せたり、別の場面に登場しているかのように映像を作り出すことができます。AIは、元の画像や動画の特徴を分析し、それを使って新しい映像を作り出すため、非常にリアルに見えますが、実際は作られた偽の情報です。

ディープフェイク技術は、人の顔や身体、声を別の人物のものに置き換えることで、実際にはその人が言ったことのない内容を言ったり、やったことのない動作をしたりする様子を映し出すために使用されます。

ここでは、ディープフェイクがこれほどまでに危険な理由、作成方法と合法性、オンラインでディープフェイクを見破る方法について説明します。

ディープフェイク技術の危険性

ディープフェイク技術自体は新しいものではありませんが、最近のAIツールの進化で、よりリアルな映像や音声を簡単に作成できるようになりました。

この技術は、悪意を持って使われることもあり、例えば誰かになりすまして詐欺を行ったり、脅迫に使われたりすることがあります。また、ディープフェイクによって誤った情報が広まり、その結果、無実の人が名誉を傷つけられることもあります。偽の写真や動画が広まることで、大きな混乱や誤解を生んだり、人々に悪い印象を与える可能性があるため、注意が必要です。

ディープフェイクはどのように作成されるのか？

ディープフェイクがどのように作られるか、不思議に思うかもしれません。この技術では、まずターゲットとなる人の写真や動画を大量に集める必要があります。AIはそのデータを使って、その人の顔の表情や体の動き、特徴を詳しく分析します。さらに、新しい画像や音声を追加しながら、その人物に関するデータを学習します。

こうしてAIは、集めた情報をもとに、一見すると本物に見えるような画像や動画、音声を作り出します。最終的には、影や唇の動き、まばたきなどを細かく調整して、より自然な仕上がりにします。結果として、作られた映像や音声が本物と区別がつきにくいリアルなものになるのです。

ディープフェイクは合法なのか？

ディープフェイクが被害者にもたらす被害は甚大なものとなる場合があるにもかかわらず、この技術は完全に違法というわけではありません。 ただし、米国内の一部の州では、その内容や意図に応じてディープフェイクを不法とするようになってきています。 中にはこの技術に対する対策を講じている州もありますが、ディープフェイクの作成と配布を規定する連邦法は現在ありません。 ディープフェイク説明責任法 (DEEP FAKES Accountability Act) は、2019年に初めて米国議会で取り上げられましたが、これが成立すると、ディープフェイクに関連した行為が新たに刑事責任の対象となり、被害者が法的措置をとることが可能となります。

ディープフェイクを見破るには

ディープフェイクが日を追ってリアルなものになってきているため、画像や動画が本物かどうかを見破るのは難しいかもしれません。 しかし、ディープフェイクを見破り、偽の画像や動画に騙されたり誤解させられたりするのを防ぐためは、いくつかのポイントがあります。

まばたきが不自然である

ディープフェイク動画では、人物がまばたきをする様子が自然かどうかに細心の注意を払いましょう。 人物のまばたきが不自然、あるいは視線が顔の方向と一致していない場合は、ある人物の顔がディープフェイクとして別の人物の体に重ね合わされた可能性を示しています。 また、ディープフェイクの人物像をじっくり観察すると、通常はピクセル化された目が使用されていることがわかるため、人物の目を注意深く見ることで、ディープフェイク動画の不自然なまばたきを見抜くことも可能です。

音声が一致しない

動画や録音された音声を聞くとき、音声の歪みに気を配ることで、ディープフェイクとして改ざんされたかどうかを判断できます。 動画の背景とは一致しない不自然な反響や背景ノイズが聞こえることがあります。 例えば、都心の交通音が聞こえる中で有名人が話している動画の背景に荒れたトウモロコシ畑が映っている場合、その動画がディープフェイクである可能性が高いと言えます。

顔の位置や表情が不自然である

動画中の人物の顔の動き方で、明らかなディープフェイクの兆候がわかります。 人間には自然な体の動きや表情がありますが、数多くの参考データをAIに学習させても、人が走ったり笑ったりしている様子をAIが正確に表現するのは難しいものです。 ある人物が誰かを追いかけている動画で、登場人物の体が自然な動きをしていない場合、それはディープフェイクかもしれません。 また、ディープフェイク画像や動画に写っている人物の影にも着目してください。AIは自然光を再現できないことが多いためです。

肌の質感が不自然である

ディープフェイクは、通常、画像や動画の質を向上させるソフトウェアを使用して人物の肌をなめらかに見せるため、肌のしわや毛穴、傷はほとんど見られなくなります。 また、ディープフェイクを作成するために使われるAI技術の多くは、歯を1本1本区別することができません。そのため、笑っている人物の歯の境界がはっきりしない画像の場合、それがディープフェイクである可能性が考えられます。 同様に、AI技術では、人物の指など体の個々の部分がぼやける傾向もあります。 あまりにもぼやけた画像や滑らかな画像はディープフェイクである可能性があります。AIが人物画像を生成する状況を必ずしも理解しているわけではないためです。

まとめ：ディープフェイクに騙されないようにしましょう

AIが正確なコンテンツを生成する能力を向上させ続けているため、ディープフェイクを実際の画像や動画、音声データと区別するのが非常に難しい場合があります。

しかし、ディープフェイクによく見受けられる兆候に最新の注意を払って、嘘や偽情報が拡散するのを防ぐことが重要なのです。