Использование ИИ для фишинга

ИИ — это палка о двух концах: пока мы осваиваем новые технологии, мошенники уже используют их против нас. Генеративный ИИ позволяет им в считанные минуты создавать дипфейки, фишинговые сайты и писать убедительные сообщения от имени друзей
ИИ-боты, притворяющиеся живыми людьми, активно используются злоумышленниками в романтических переписках — мошенники создают выдуманных персонажей и с их использованием одновременно общаются со множеством жертв, устанавливая с ними тесную эмоциональную связь. Подобная переписка может длиться неделями и даже месяцами, постепенно переходя от легкого флирта к обсуждению «выгодных инвестиционных схем», и заканчивается, разумеется, после того, как жертва вложит свои средства в мошеннические проекты. За счет длительного личного общения любые подозрения, которые могли возникнуть у жертвы, понемногу рассеиваются. Подобные схемы называются Pig Butchering, но если ранее они реализовывались за счет гигантских мошеннических ферм в Юго-Восточной Азии, на которых «работали» тысячи человек, то теперь для подобных разводок все чаще используется ИИ.
Кетфишинг, при котором скамеры создают поддельную личность или притворяются другим реальным человеком, с развитием нейросетей значительно упростился. Современные генеративные нейросети способны достаточно точно сымитировать чью-то внешность, голос и стиль письма. Злоумышленнику достаточно собрать публично доступную информацию о том или ином человеке, а затем «скормить» эти данные ИИ. Пригодится все: фото и видео, публичные посты и комментарии, информация о родственниках, хобби, возрасте и так далее. Поэтому, если к вам обращается родственник или друг, который почему-то пишет с нового аккаунта и, например, просит у вас денег в долг, — скорее всего, это вовсе не родственник и уж точно не друг. В подобном случае лучшее решение — связаться с реальным человеком по другому каналу, например по телефону, и спросить у него напрямую, все ли в порядке. Не повредит также задать несколько личных вопросов, ответы на которые злоумышленник не сможет найти в открытых источниках и даже в переписке.
Но правдоподобная имитация другого человека в переписке — лишь часть проблемы: есть ведь еще и аудио- и видеодипфейки. Скамеры распространяют дипфейки популярных блогеров и криптоинвесторов в соцсетях: «знаменитости» приглашают подписчиков на персональные консультации, в «эксклюзивные» инвестиционные чаты, разыгрывают денежные призы и дорогие подарки. Соцсети, впрочем, не единственное место, где оперируют дипфейками: их также генерируют для видео- и аудиозвонков в реальном времени. В этом году женщина из Флориды лишилась 15 тыс. долларов, думая, что разговаривает с дочкой, попавшей в аварию. Мошенники реалистично подделали голос и даже манеру плача девушки.
Не доверяйте онлайн-знакомым, с которыми вы не знакомы вживую. Даже если вы общаетесь длительное время и вам кажется, что вы нашли «родственную душу», насторожитесь при любом упоминании криптовалют, инвестиций и иных схем, в которых вам нужно поделиться собственными деньгами. Не ведитесь на внезапные заманчивые предложения от лица знаменитостей и крупных компаний в соцсетях. Всегда заходите в их официальные аккаунты и перепроверяйте информацию. Если на каком-то этапе «розыгрыша призов» вас попросят оплатить комиссию, налог или доставку или ввести данные вашей банковской карты для получения денежного приза — остановитесь.
Связывайтесь с родственниками и друзьями, обращающимися к вам с необычными просьбами, по другому каналу, например по телефону. На всякий случай спросите, о чем вы говорили на последней встрече. В случае с близкими людьми стоит заранее договориться об использовании какой-либо ключевого слова, известного только вам, которое позволит подтвердить личность. Если вы делитесь друг с другом геолокацией, проверьте ее и уточните, где сейчас находится ваш собеседник. Не ведитесь на манипуляции: мошенник или ИИ может говорить вам, что ситуация срочная и что у него нет времени отвечать на глупые вопросы.
По материалам Касперский