Что такое дипфейки?

Дипфейк — это форма медиаконтента, например фото или видео, созданного искусственным интеллектом (ИИ) для изображения реальных или несуществующих людей, выполняющих действия, которые они никогда не совершали. ИИ обрабатывает картинку, видео или голосовую запись, чтобы проанализировать характерные особенности человека, а затем накладывает их на существующие кадры с помощью уникальных алгоритмов. Технология дипфейка может использоваться, чтобы показать, как человек говорит что-то, чего он никогда не говорил, или делает что-то, чего никогда не делал, подставив его лицо, тело или голос на другого человека.

Читайте дальше, чтобы узнать, почему дипфейки настолько опасны, как они создаются, легальны ли они и как их обнаружить в Интернете.

Опасности технологии дипфейка

Хотя технология дипфейка не нова, она позволяет сделать мультимедийные файлы более правдоподобными благодаря росту числа инструментов ИИ. Технологию дипфейка можно использовать со злым умыслом несколькими способами, например для выдачи себя за другого человека, шантажа и мошенничества. Дипфейк может создаваться для распространения ложной информации или нанесения ущерба репутации человека, если на фото или видео, созданном ИИ, изобразить его в неподобающей ситуации или при совершении противоправных действий. Подделка фотографии, видео или голосовой записи может вызвать массовое замешательство, распространить ложную информацию и испортить чью-либо репутацию.

Как создаются дипфейки?

Возможно, вам интересно, как создаются такие реалистичные изображения, видео и аудиозаписи. Для генерации дипфейков требуется большой объем данных, в первую очередь о человеке, который выбран мишенью. После того как будет собрано достаточное количество фотографий и видео, ИИ проанализирует все об этом человеке, включая его мимику, движения тела и уникальные особенности. В то же время ИИ сможет изучить данные из добавляемых изображений или голоса человека. Объединив данные об объекте атаки, ИИ может создать естественную картинку, видео или запись голоса. После этого можно добавить незначительные движения, немного изменить тень, движения губ, моргание и многое другое, чтобы фото или видео выглядели как можно более естественными.

Легальны ли дипфейки?

Несмотря на огромный вред, который может быть нанесен жертвам этой технологии, дипфейки не являются полностью незаконными. Однако в некоторых штатах дипфейки стали объявлять вне закона в зависимости от их содержания и намерений. Хотя в нескольких штатах принимаются меры против этой технологии, в настоящее время федерального закона, касающегося создания и распространения дипфейков, нет. Закон об ответственности за ДИПФЕЙКИ был впервые представлен Конгрессу в 2019 году. Если он будет принят, то будет создан новый состав уголовных преступлений, связанных с дипфейками, и у жертв появится возможность обратиться в суд.

Как определить дипфейки?

Поскольку дипфейки с каждым днем становятся все более реалистичными, распознать, настоящий ли это медиаматериал, бывает непросто. Тем не менее есть несколько признаков, по которым можно распознать дипфейк и не дать себя обмануть или ввести в заблуждение ложными изображениями или видео.

Отсутствие естественного моргания

В видео с дипфейком обратите особое внимание на то, насколько естественно человек моргает. Если человек моргает непостоянно или направление его взгляда и лица не совпадают, это признак того, что лицо человека могло быть подставлено к телу другого человека в виде дипфейка. Еще один показатель неестественного моргания в видео с дипфейком можно распознать по глазам субъекта: если внимательно рассмотреть дипфейк, на нем будут пиксельные глаза.

Несоответствующее аудио

При прослушивании видео или голосовой записи можно определить дипфейк по любым искажениям звука. Можно услышать странное эхо или фоновый шум, не соответствующий предполагаемому фону видео. Например, если выступает знаменитость, а на заднем фоне слышен шум городского транспорта, но на видео она запечатлена на пустынном кукурузном поле, то видео, скорее всего, является дипфейком.

Странное расположение и выражения лица

Очевидным признаком дипфейков является то, как на видео двигается лицо человека. У людей движения тела и мимика выглядят естественно. ИИ же с трудом удается создать точное изображение бегущего или смеющегося человека, даже при наличии большого количества опорного материала. Если на видео показан человек, который гонится за кем-то, а его тело не двигается так, как должно, это может быть дипфейк. Кроме того, внимательно посмотрите на тени человека на фото или видео с дипфейком, поскольку ИИ часто не учитывает естественное освещение.

Неестественные текстуры

Для дипфейков обычно используется программное обеспечение для улучшения фотографий или видео, чтобы разгладить кожу человека настолько, что на ней почти не видно морщин, пор или пятен. Люди также заметили, что многие технологии ИИ, используемые для создания дипфейков, не способны разделить зубной ряд на отдельные зубы, поэтому если человек улыбается, а зубы по отдельности не видны, это может быть признаком дипфейка. Аналогичным образом ИИ также склонен размывать отдельные части тела, например пальцы рук. Чрезмерно размытые или сглаженные изображения могут быть дипфейками, поскольку ИИ не всегда понимает контекст, в котором должен сгенерировать человека.

Не поддавайтесь на дипфейки

Дипфейки чрезвычайно трудно отличить от реальных изображений, видео и аудиозаписей, поскольку ИИ продолжает совершенствовать свои возможности по созданию более точного контента. Тем не менее важно знать распространенные признаки дипфейков, чтобы не поверить в ложь и не распространять дезинформацию.