Как преступники используют дипфейки, в чем суть дипфейк-технологий и как защититься от обмана с дипфейками?
Что такое deepfake
В последние годы наблюдается рост числа атак с использованием дипфейков, особенно в финансовом секторе, что связано с развитием технологий и все большей доступностью инструментов для создания дипфейков.
Английское слово «deepfake» возникло из двух понятий: «deep learning» – «глубинное обучение нейросетей» – и «fake», то есть подделка. Дипфейковые видео создаются посредством переноса лица и мимики реального человека в новое видео с актером, в результате чего появляется качественная подделка. Такие технологии стали возможны в связи с развитием искусственного интеллекта. Пока что специалисты способны отличить дипфейк от настоящего видео, но в будущем это может стать невозможным или весьма затруднительным.
Где чаще всего используются дипфейки
Вот несколько примеров использования дипфейков.
1. Финансовые платформы и криптовалютные схемы
В сфере финансовых услуг участились случаи мошенничества с использованием дипфейков. Киберпреступники используют дипфейки для проведения транзакций и получения доступа к банковским счетам. Примерами могут служить атаки, в ходе которых мошенники использовали поддельные голосовые сообщения от руководителей компаний для перевода крупных сумм.
Также известный случай произошел в 2023 году, когда мошенники создали видео с изображением американского предпринимателя Илона Маска, где он якобы призывал людей инвестировать в фальшивую криптовалютную схему. Видео выглядело настолько убедительно, что многие пользователи были обмануты и потеряли свои деньги, отправляя платежи на счета, контролируемые мошенниками.
2. Социальные сети и знаменитости
Здесь дипфейки используются для распространения фальшивой информации и манипулирования общественным мнением. «Одним из ярких примеров использования дипфейков в социальных сетях являются видео с актером Томом Крузом, которые стали вирусными на платформе «TikTok» в 2023 году. Эти видео создали настолько реалистичное изображение, что миллионы пользователей приняли их за настоящие. Суть этих атак заключалась в том, чтобы привлечь внимание и продемонстрировать возможности технологии, тем самым показав, насколько легко можно манипулировать восприятием общественности в социальных сетях», – отметил эксперт по искусственному интеллекту Мирослав Радкевич.
3. Мессенджеры
Дипфейки применяются для обмана пользователей, создавая видимость общения с друзьями или членами семьи. Например, было зафиксировано несколько случаев, когда злоумышленники создавали поддельные видео и аудиозаписи, прося о финансовой помощи. «В мае 2023 года мошенники использовали дипфейки, чтобы обмануть менеджера по продукту в одной из компаний. Они подделали изображение и голос генерального директора, связавшись с сотрудником через мессенджер «WhatsApp». Атака включала не только фальшивые аудио- и видеоматериалы, но и манипуляции в текстовых сообщениях, чтобы убедить жертву перевести средства на счет злоумышленников. Сценарий этой атаки стал еще более правдоподобным, когда злоумышленники предложили перейти на видеозвонок якобы из-за плохого качества связи, а затем переключились обратно на текст для завершения мошенничества», – рассказал эксперт по ИИ.
4. Политические атаки
В 2023 году дипфейки также использовались для политической дезинформации. Такие видео воспринимались многими как реальные, грозя серьезными последствиями для общественного мнения и информационной безопасности.
Как распознать дипфейк
Распознать дипфейки бывает сложно, но есть несколько признаков, которые могут помочь.
1. Несоответствие движений лица и голоса
«Обратите внимание на синхронизацию губ и звуков, особенно на сложные слова и фразы. Если движение губ выглядит неестественно, скорее всего, это дипфейк», – пояснил эксперт по ИИ Радкевич.
2. Проблемы с морганием
Многие дипфейки имеют проблемы с реалистичным морганием – глаза выглядят неестественно или моргают слишком редко.
3. Неестественное освещение
Неправильное или неестественное освещение на лице, которое не соответствует фону или окружению, может также выдать подделку.
Как защититься от дипфейков
Для защиты от атак на личном уровне следует:
— Использовать двухфакторную аутентификацию на всех своих аккаунтах.
— Установить системы распознавания лиц и программное обеспечение для обнаружения дипфейков.
— Не доверять сообщениям и видео, которые кажутся подозрительными или неожиданными, даже если они исходят от знакомых людей.
Популярные дипфейковые обманы
В будущем, с развитием технологий, дипфейки будут невероятно реалистичны, а атаки – намного более сложные.
— Интерактивные дипфейки – это технологии, способные реагировать в режиме реального времени на действия человека, создавая иллюзию реального общения.
— Автоматизированные фальшивые новостные потоки. Создание и распространение фальшивых новостей с помощью дипфейков, которые будут настолько правдоподобны, что их будет трудно отличить от реальных событий.
«Дипфейки, вероятнее всего, будут еще более активно использоваться мошенниками в следующих годах. Технологии дипфейков становятся все более совершенными и доступны широкой публике, что создает идеальную почву для злоупотребления», – уверен эксперт по ИИ.
Вот самые популярные сценарии разводов с дипфейками:
1. Фальшивые видеозвонки
Мошенники могут имитировать видео- и аудиозвонки от известных лиц, включая руководителей компаний, с целью получения доступа к конфиденциальной информации или переводов крупных сумм.
2. Фальшивые информационные кампании
Использование дипфейков в политических или экономических кампаниях для дискредитации конкурентов или создания фальшивых новостей.
3. Социальное манипулирование
Подделка изображений и видео для создания ложных ситуаций в социальных сетях с целью манипулирования общественным мнением.
Оксана Дяченко, РИАМО