Какие преступления совершаются с использованием искусственного интеллекта?
Искусственный интеллект уже использовался для написания зловредного кода (работоспособных червей и троянов) и писем для шантажистов-вымогателей, позволяющих преступнику скрыть свои языковые особенности, но такие случаи редко попадают в газеты. Намного больший резонанс вызывают случаи, когда искусственный интеллект используется для мошенничества, создания дипфейков как с целью опорочить жертву, так и для шантажа или с политическими целями.
Мошенники изобретательны в своём использовании ИИ. Подделывают фотографии, голос и даже видео. Основные категории преступлений, связанных с использованием ИИ, включают:
- Финансовое мошенничество
Сюда входят преступления, направленные на кражу финансовых средств. Преступники используют ИИ для создания дипфейков голосов или видеозаписей, подделывают голоса близких людей и создают фальшивые сообщения с просьбой о помощи. Часто жертвами мошенников становятся уязвимые категории, такие как пожилые люди.
- Преступления против частной жизни и кибербуллинг
Системы, создающие дипфейки (фальшивые фотографии и видео), часто применяются в случаях кибербуллинга и шантажа. В школах и соцсетях подростки используют генеративные алгоритмы для создания фейковых обнаженных изображений своих сверстников, что приводит к травле и серьёзному психологическому вреду.
- Дезинформация и пропаганда
Террористические организации и экстремистские группы используют ИИ для создания и распространения дипфейков, дезинформационных роликов и мемов, целью которых является разжигание ненависти, радикализация населения и побуждение к насилию. Технологии искусственного интеллекта позволяют легко создавать ложные факты, манипулировать общественным мнением и деморализовать противника. Известны случаи, когда ИИ использовался для наполнения целых новостных сайтов и ведения аккаунтов в социальных сетях.
- Технологический терроризм и экстремизм
Экстремистские группы используют ИИ для анализа уязвимостей, автоматизации создания вредоносных программ и координации атак. Также ИИ помогает им в анонимной вербовке через создание фальшивых личностей в социальных сетях.
- Фишинг и спам
С помощью ИИ преступники персонализируют фишинговые атаки, чтобы они казались более правдоподобными. Алгоритмы анализируют поведение пользователей и круг их общения, помогая злоумышленникам создавать максимально убедительные персонализированные сообщения.
Кто говорит? Дипфейк
Излюбленная цель преступников — уязвимые категории людей, такие, как одинокие пожилые люди. У пожилых людей, особенно одиноких, часто снижается критическое восприятие; им бывает тяжело отличить реальность от подделки, особенно — такой убедительной подделки, которые в массовых количествах создают мошенники и особенно — если в неё хочется верить. В статье журналисты рассказывают о многочисленных случаях, когда мошенники использовали инструменты искусственного интеллекта, чтобы сделать вымышленные истории более убедительными. Целью преступников являются пожилые люди.
Как это работает?
Как правило, преступники могут представляться внуками или другими родственниками, связь с которыми по какой-либо причине прервалась. Для придания большей убедительности вымышленным историям создаются фальшивые учётные записи в социальных сетях, куда выкладываются изображения, созданные или отредактированные (технология дипфейк) искусственным интеллектом.
Голосовые дипфейки не обошли и российских преступников. Банк России выпустил статью о том, как Мошенники обманывают людей с помощью дипфейков, а в статье Осторожно, дипфейк: как злоумышленники наживаются на россиянах с помощью ИИ журналисты из Лиги безопасного Интернета рассказывают об основных схемах, посредством которых мошенники обманывают своих жертв, используя подделанные при помощи ИИ голоса. Наконец, в Блоге Касперского опубликована статья, в которой подробно описаны механизмы создания и использования голосовых дипфейков.
Тему голосовых дипфейков нельзя считать полностью раскрытой, не рассказав и о таком явлении, как пранкеры. Широкую известность получила пара пранкеров Владимир Кузнецов (Вован) и Алексей Столяров (Лексус), которые неоднократно обманывали мировых лидеров, включая президента Франции Эммануэля Макрона и президента Польши Анджея Дуду. Многие специалисты считают, что для подделки голосов были использованы технологии голосовых дипфейков, но сами пранкеры утверждают, что использовали живых актёров.
Дипфейки в школах как инструмент травли
Отдельной категорией преступлений является травля в учебных заведениях, в процессе которой агрессоры используют нейросети для создания убедительных дипфейков, на которых жертвы (в большинстве случаев — несовершеннолетние) изображаются в сексуализированном виде. Широкое распространение, анонимность и простота использования как генеративных нейросетей, так и дополнений к ним, позволяющим создавать убедительные дипфейки на основе единственной фотографии жертвы, делают такие инструменты привлекательными для агрессоров. В статье Фальшивая порнография перечислены реальные и прямые последствия для детей, включая клевету, домогательства, вымогательства и издевательства.
Чрезвычайную остроту проблема получила в Южной Корее, в которой на данный момент уголовной полицией расследуется 513 дел о создании дипфейков. В стране разворачивается масштабный кризис дипфейков, 93% из которых создаются подростками в возрасте до 20 лет.
Отметим, что создание и распространение сексуализированных фотореалистичных изображений несовершеннолетних является уголовным преступлением в большинстве стран, даже если на сгенерированных картинках не изображены реальные личности: согласно отчётам, огромное количество подобных материалов затрудняет работу полиции по выявлению реальных случаев эксплуатации детей.
Дипфейки в руках террористов
Дипфейки активно и массово создаются различными террористическими организациями в целях пропаганды. Так, террористическая организация ХАМАС активно использует технологии искусственного интеллекта, включая дипфейки, для создания пропагандистских материалов. С октября 2023 года в интернете распространялись изображения, якобы демонстрирующие последствия израильских атак на сектор Газа, включая фотографии раненых и погибших детей.
Как ХАМАС, так и другие террористические организации используют дипфейки для распространения ложной информации. Создаваемые материалы направлены на деморализацию гражданского общества и усиление поддержки со стороны мировой общественности. Использование ИИ в пропагандистских целях позволяет террористическим организациям создавать убедительные материалы, которые сложно отличить от реальных, что усиливает их влияние на аудиторию и усложняет борьбу с дезинформацией.
Не брезгуют созданием дипфейков и неонацисты, которые используют искусственный интеллект для создания пропагандистских материалов и распространения своей идеологии, а также для получения чертежей оружия для 3D-печати и создания вредоносного кода. С развитием технологий ИИ экстремистские группировки смогут создавать всё более сложный и убедительный пропагандистский контент, что ещё сильнее усложнит борьбу с экстремизмом.
Фишинг
Наконец, рассмотрим ещё одну категорию инструментов искусственного интеллекта, которая часто используется мошенниками. Мы уже обсудили голосовые и видео-дипфейки, а также сгенерированные и отредактированные изображения. На очереди — большие языковые модели (LLM), или искусственные интеллекты, которые общаются текстом.
В 2024 году, по данным исследовательской компании Intel 471, наблюдается значительное увеличение использования ИИ в сфере киберпреступности. Модели искусственного интеллекта используются для автоматизированного анализа огромных массивов данных, полученных в результате утечек. ИИ используется для создания специализированных чат-ботов и персонализированных атак, которые, в свою очередь, используются для создания фальшивых личностей, манипуляции жертвами, втягивания их в романтические и иные схемы вымогательства. Чат-боты на базе ИИ часто используют для создания реалистичных сообщений, которые обманывают пользователей и побуждают их раскрывать личную информацию или переводить деньги мошенникам.
Заключение
В завершение сегодняшней темы отметим, что использование искусственного интеллекта в преступных целях создает серьёзные вызовы для общества, правоохранительных органов и государственной безопасности. ИИ позволяет злоумышленникам создавать убедительные письма для фишинговых атак, генерировать фальшивые личности, производить дипфейки и дезинформацию, которые подрывают безопасность и доверие к цифровой информации. Эти угрозы требуют срочных мер как на законодательном, так и технологическом уровне, включая совершенствование технологий для выявления сгенерированного контента и обучение пользователей цифровой безопасности.
В следующей статье мы расскажем, как правоохранительные органы применяют ИИ для борьбы с этими и другими угрозами, защищая общество в эпоху быстро развивающегося искусственного интеллекта.
