Прогресс несет вместе с собой не только технологические прорывы, но и невиданные ранее мошеннические действия. Так было во все времена. Внедрение искусственного интеллекта позволило злоумышленникам с помощью нейросетей создавать дипфейки. Вместе со специалистами отдела защиты информации АлтГУ разбираемся, что это такое.      

Дипфейк (deepfake, от deep learning — «глубокое обучение» и fake — «подделка») — синтез правдоподобных, но все-таки поддельных изображений, видео и звука при помощи искусственного интеллекта. Также дипфейками называют текстовый или ной контент, полученный в результате этого синтеза. Чаще всего дипфейки изображают известных людей в вымышленных ситуациях. В некоторых случаях к дипфейкам относят также письменные тексты, созданные при помощи нейросети для имитации речи конкретного человека.

Современные инструменты для создания дипфейков могут генерировать фото, видео, аудио и тексты в режиме реального времени (например, в случае прямой видеотрансляции). При этом они могут быть использованы в легитимных целях, например для того, чтобы снизить бюджет и срок производства музыкальных клипов, фильмов, сериалов и рекламы или «оживить» знаменитость из прошлого для медиапроекта.

Однако чаще всего дипфейки создают и применяют в преступных целях. В частности, с дипфейками связаны следующие риски:

• Дискредитация. Злоумышленники могут создавать и распространять контент, в котором публичные лица говорят компрометирующие их вещи, находятся в состоянии алкогольного опьянения или участвуют в действиях сексуального и/или преступного характера.
• Дезинформация. Дипфейки могут использовать для распространения ложных новостей с целью воздействия на определенную аудиторию или на все общественное мнение.
• Финансовое мошенничество. Имитируя чужой голос или стиль переписки с помощью искусственного интеллекта, преступники могут, например, от лица топ-менеджера попросить сотрудника компании перевести деньги на свои счета.
• Раскрытие персональных данных. Злоумышленники могут выведывать личную информацию о человеке, представляясь его близким или знакомым по аудио- или видеосвязи.
• Обман систем аутентификации. Мошенники могут проходить аудио- и видеоаутентификацию, чтобы получить доступ к деньгам, ценной информации или корпоративным информационным системам.
• От подобных рисков не застрахован никто — современные нейросети могут клонировать голос человека всего по 3-5 секундам аудиозаписи и создавать убедительно выглядящие видео на основе пары фотографий.

Если вам звонят, присылают голосовое сообщение или видео, то вы видите знакомое лицо, слышите родной голос, но обращаются к вам с нехарактерными просьбами. Здесь велика вероятность, что это дипфейк-мошенничество. К счастью, есть конкретные признаки — визуальные и звуковые, по которым можно распознать подделку, не будучи техническим специалистом.

• Проблемы с освещением и тенями. Дипфейки часто некорректно работают с физикой света: направление теней на лице может не совпадать с их направлением на фоне, блики на коже выглядят неестественно или отсутствуют вовсе. Или же собеседник на видео сидит вполоборота к окну, а на его лице — студийное освещение. 
• Размытые или «плавающие» границы лица. Обратите внимание на височную линию: в дипфейках часто наблюдаются размытие, мерцание или неестественные цветовые переходы по линии роста волос. 
• Неестественное моргание и «мертвые» глаза. Человек моргает в среднем от 10 до 20 раз в минуту. Сгенерированные же дипфейки моргают то слишком редко, то слишком часто. При этом движения век могут быть слишком резкими, а порой моргание рассинхронизируется, и один глаз не совпадает с другим. 
• Также для дипфейков характерны «остекленевшие» глаза и «мертвый» взгляд с неподвижными зрачками. А иногда зрачок — как правило, один — может на мгновение повернуться в неожиданном направлении из-за галлюцинации нейросети. При анализе статичного изображения, например фотографии, имеет смысл увеличить область глаз и сравнить отражения на радужках — в настоящих фото они будут идентичны, а вот у дипфейков зачастую отличаются.
• Статичный или размытый фон. В сгенерированных видео фон часто выглядит нереалистично: он может быть чрезмерно размытым, его элементы не взаимодействуют с персонажем, а порой картинка за спиной собеседника остается неподвижной даже при движении камеры.
• Странная мимика. Дипфейки плохо имитируют сложные эмоции: выражение лица может не меняться при смене темы разговора, улыбка выглядит «застывшей», а мелкие морщинки и складки, появляющиеся у живых людей при проявлении эмоций, у подделок отсутствуют.

Монотонность и электронный тембр. Если собеседник звучит необычно ровно, без естественных колебаний интонации, или вы слышите слабый электронный призвук — высока вероятность, что вы общаетесь с дипфейком. Настоящая речь содержит множество вариаций тона и естественные несовершенства.

Отсутствие звуков дыхания. Люди делают микропаузы, вдыхают между фразами, особенно в длинных предложениях, а еще сопят, хрипят и откашливаются. Синтетические голоса часто упускают эти нюансы или расставляют их неестественно.

Роботизированная речь или внезапные обрывы. Голос может резко обрываться, слова звучат «склеенными», а ударения и интонирование нетипичны для речи вашего знакомого.

Также обращайте внимание на отсутствие характерных особенностей речи — говора, употребления «местечковых» слов и выражений, присущих вашему собеседнику в реальной жизни, но плохо имитируемых дипфейком. Помните, что чтобы скрыть визуальные и звуковые артефакты, мошенники часто имитируют плохую связь, присылая сильно зашумленное видео или звуковое сообщение. Низкое качество видеотрансляции или полученного медиафайла — первый «звоночек» о том, что собеседника на другом конце необходимо дополнительно проверить.

1. Если у вас есть хоть малейшие подозрения, что ваш собеседник не реальная личность, а дипфейк, то:
2. Если это звонок или видеозвонок — прервите разговор и перезвоните по известному вам номеру или свяжитесь по другому каналу. 
3. Если это голосовое или видео-сообщение в мессенджере — проверьте, что это действительно аккаунт вашего знакомого, а не созданный мошенниками поддельный. Даже если аккаунт настоящий — свяжитесь со знакомым по телефону, возможно, его взломали. Это поможет жертве принять меры, чтобы восстановить доступ к учетной записи.
4. Не торопитесь выполнять просьбу пишущего или звонящего. Любимая манипуляция мошенников — создать ложное чувство срочности. Реальный человек практически всегда может подождать несколько минут, пока вы перепроверите информацию.

К сожалению, практически никак. Да, можно соблюдать обычные правила цифровой гигиены и ограничить публичный доступ к вашим фото и видео. Закрыть профили в соцсетях от посторонних, удалить видео с вашим голосом и лицом из открытого доступа. Но это возможно только если вы никак не взаимодействуете с медийным пространством — например, лектор, выступления которого попадают в публичный доступ, уже никак не защитит себя от желающих создать дипфейк с его голосом или лицом.

Что можно сделать — так это обучить родственников распознавать дипфейки. Пожилые люди, дети и те, кто мало знаком с технологиями — самые уязвимые мишени. Расскажите им о схемах обмана и покажите примеры дипфейков (их можно легко найти в интернете). 

Также позаботьтесь о безопасности ваших аккаунтов в мессенджерах и соцсетях — используйте ключи доступа, уникальные пароли и двухфакторную аутентификацию везде, где это возможно. Даже если мошенники создадут дипфейк с вашим лицом, им будет сложнее получить доступ к вашим аккаунтам и рассылать лживые сообщения от вашего имени.