Мошенники с применением продвинутых алгоритмов возможности ИИ для получения данных потерпевшей стороны, создают поддельные голоса и изображения, получают большое разнообразие способов обмана, используя доверие пользователей интернета и мобильных платформ.
За последние годы ИИ научился многому: писать стихи, рисовать картины, программировать и даже придумывать шутки. Нейросети применяют для поиска информации, автоматизации рутинных задач, анализа данных и многого другого. Они ускоряют работу, повышают точность и делают технологии доступнее.
Пока мы используем нейросети для пользы, мошенники уже вовсю зарабатывают на них деньги. И делают это настолько ловко, что жертвы осознают обман только когда уже слишком поздно.
Ситуация: вы берете телефон, чтобы ответить на звонок, а в трубке слышите близкого человека. Голос – точь-в-точь его: тембр, интонации, манера говорить. Он срочно просит перевести деньги – “карта заблокирована”, “попал в беду”, “перешли на новый счет”. Вы переводите деньги, а потом выясняется, что это был голосовой дипфейк. Деньги ушли в никуда, вернуть их нереально.
Или другая ситуация: в интернете попадается товар по отличной цене. Надежный сайт, реальные отзывы, видео обзоры, красивые фото. Все выглядит убедительно и профессионально. Но после оплаты товар так и не приходит. В реальности этот магазин никогда не существовал. Ни товара, ни продавца, ни довольных клиентов – все сгенерировал искусственный интеллект.
Фейковые звонки обычно поступают с незнакомых номеров и в позднее время, чтобы застать вас врасплох — например, когда вы уже спите.
Сгенерированный нейросетями голос часто звучит неестественно. Он может быть слишком монотонным или немного роботизированным, содержать неверные ударения или частые паузы. Насторожить должны излишне короткие фразы, потому что их легче сгенерировать и тяжелее распознать как ложные. Также подозрительны непривычные для вашего собеседника выражения, манера общения или слова-паразиты.
В настоящее время существуют основные способы мошенничества с использованием ИИ:
Фальшивые голосовые сообщения в мессенджерах:
Один из самых распространенных видов афер — это создание фальшивых голосовых сообщений с помощью ИИ. Мошенническая схема обычно начинается с захвата аккаунта жертвы в мессенджере. Злоумышленники прибегают к уловкам вроде фальшивых просьб о помощи (“Проголосуйте за моего родственника в конкурсе!”). Жертву убеждают ввести свой номер телефона и код из СМС, что позволяет преступникам получить доступ к ее учетной записи.
Далее мошенники собирают голосовые сообщения, ранее отправленные владельцем аккаунта, и используют их как основу для создания поддельных аудиозаписей и иногда видео. С помощью технологий ИИ они генерируют фальшивые сообщения, в которых голос звучит идентично голосу жертвы. Эти записи рассылаются контактам из списка друзей с просьбами о срочной финансовой помощи, например: “Одолжи деньги, срочно нужно до утра!” Убедительность таких сообщений делает их особенно опасными, ведь люди склонны доверять голосу знакомого человека, не подозревая подвоха.
Фейковые видеоролики-кружочки в мессенджере Telegram:
Еще один популярный способ обмана связан с использованием коротких видеороликов, так называемых “кружочков”, в Telegram. Схема начинается с захвата аккаунта жертвы, после чего мошенники анализируют доступные фотографии, загруженные самим пользователем. Используя снимок из профиля, ИИ создает реалистичные видеоролики, имитирующие движения лица, мимику и жесты жертвы.
Такие поддельные “кружочки” публикуются от имени владельца аккаунта, вызывая доверие у друзей и знакомых. Затем мошенники рассылают сообщения с просьбами о деньгах, подкрепляя их визуальной “достоверностью”. Этот метод обмана становится все популярнее из-за простоты реализации и высокой эффективности, поскольку визуальный контент усиливает доверие к мошеннической схеме.
Самая популярная площадка для таких атак — Telegram. Вот как это выглядит.
1. Взлом аккаунта. Мошенники получают данные для входа в аккаунт через социальную инженерию — поддельные конкурсы с голосованием и фейковые розыгрыши подписки Telegram Premium.
Жертва переходит по ссылке «голосования» и попадает на фишинговый сайт. Там пользователь вводит свой номер телефона и код авторизации, как при стандартном входе в Telegram на новом устройстве. Злоумышленники получают все данные для авторизации с сайта на свой сервер, тем самым перехватывая доступ к аккаунту жертвы.
2. Сбор материала. После «угона» аккаунта и авторизации на своем устройстве злоумышленники скачивают из переписок голосовые сообщения. Если материала мало, хакеры собирают образцы из соцсетей.
3. Генерация голоса. С помощью искусственного интеллекта создают несколько сообщений — с просьбой прислать денег и сообщения для отвода глаз с посылом «Это я, не волнуйся, задай какой-нибудь вопрос, если не веришь» или «Не могу говорить, потом перезвоню обязательно».
4. Генерация фото банковской карты. Хакеры собирают в слитых базах данные паспорта жертвы и с помощью телеграм-бота создают фотокарты известного банка с именем и фамилией жертвы, куда можно перевести деньги. При этом сам номер карты привязан к счету мошенника в другом, обычно малоизвестном банке.
- Атака. Злоумышленники используют аудио в нескольких сценариях. Кто-то присылает их в начале переписки вместе с фейковым фотокарты, чтобы немедленно вызвать реакцию, другие подключают голосовые уже в ходе беседы, когда жертва начинает сомневаться.
Генерация голоса в реальном времени
Особое место среди новейших методов занимает технология синтеза голоса в реальном времени, позволяющая мошенникам вести живой диалог от имени знакомого жертвы человека. Этот подход требует значительных технических ресурсов, поэтому пока встречается редко. Однако его потенциал вызывает тревогу. Так например с помощью ИИ можно с высокой точностью воспроизвести голос, что позволяет преступникам вступать в прямое общение с жертвой.
Такой метод усиливает психологическое воздействие: слыша знакомый голос, человек теряет бдительность и не может критически оценить ситуацию. Эксперты прогнозируют, что с развитием технологий подобные схемы станут более распространенными, увеличивая число жертв. Специалисты подчеркивают: защита от таких угроз требует не только технических решений, но и повышения цифровой грамотности пользователей.
Как злоумышленники просят взаймы голосами друзей и родственников
Схема с использованием голосовых клонов людей не нова, своего пика, как и другие виды мошенничества, она достигла во время пандемии. Но в отличие от тех же фишинговых писем, где можно взять несколько минут на раздумья и прочитать письмо несколько раз, голос вызывает у жертвы больше доверия и оставляет меньше времени для критического анализа.
Видеоролики с реальными лицами:
В ближайшем будущем мошенники могут получить мощный инструмент для обмана — технологию онлайн-генерации видео с лицами реальных людей. Используя всего несколько фотографий жертвы, искусственный интеллект способен создать динамичное видео, которое практически неотличимо от реального. Это открывает возможности для проведения видеозвонков, в которых мошенники могут выдавать себя за знакомых или близких жертвы, значительно повышая шансы на успех аферы.
“На сегодняшний день качество таких поддельных видео несовершенно: внимательный наблюдатель может заметить артефакты, выдающие искусственное происхождение изображения.
Видеоролики с умершими лицами:
Мошенники могут использовать цифровые копии умерших людей, созданные при помощи искусственного интеллекта (ИИ), в различных схемах. Такие угрозы в основном направлены против родственников и знакомых покойных, причем злоумышленники реализуют их через соцсети и мессенджеры.
Что нужно сделать чтобы уберечь себя от мошенников:
Мошенники неохотно отвечают на уточняющие вопросы и твердят только о том, что ситуация не терпит отлагательств. Собеседник может специально запугивать вас, чтобы затуманить рассудок и побыстрее выманить данные или деньги. Постарайтесь держать себя в руках и ничего не предпринимайте без проверки. Задавайте наводящие и уточняющие вопросы собеседнику. А лучше всего положить трубку и заблокировать номер.
Не раскрывайте личную и корпоративную информацию — даже если во время беседы вы всерьез думаете, что звонит друг, начальник или представитель банка. Если злоумышленник получит данные вашего паспорта, банковских карт и аккаунтов, он сможет украсть не только ваши деньги, но и личность. Удостоверьтесь, что это не обман: задайте вопросы, ответить на которые может только звонящий.
