Новая стратегия киберпреступников
Эксперты в области цифровой безопасности выявили изощренную схему мошенничества, при которой злоумышленники используют искусственный интеллект для поиска жертв. Согласно данным сервиса Ask Silver, чат-бот ChatGPT стал инструментом для продвижения фейковых онлайн-магазинов, предназначенных для хищения платежной информации.
Механика манипуляции
Схема опирается на использование брендов с высокой узнаваемостью, которые недавно прекратили свое существование или были поглощены другими корпорациями. Мошенники создают качественные копии сайтов этих компаний, занимая нишу, оставленную закрывшимися оригиналами.
В качестве наглядного примера исследователи приводят британский обувной бренд Russell & Bromley. После того как компания вошла в состав Next и закрыла свой официальный портал, преступники запустили его фальшивый аналог. Благодаря манипуляциям с алгоритмами, нейросеть начала предлагать этот ресурс пользователям, интересовавшимся продукцией бренда.
Метод «отравления данных»
Специалисты полагают, что для достижения такого результата хакеры применяют тактику «отравления данных». Суть метода заключается в массовом размещении в сети контента, который искусственно повышает авторитет мошеннических ресурсов в глазах ИИ-моделей. В результате система начинает ошибочно классифицировать фишинговые страницы как достоверные источники информации.
Реакция разработчиков и будущие угрозы
После обнародования данных об этой схеме разработчики ChatGPT обновили алгоритмы для запросов, касающихся Russell & Bromley. Теперь система выдает предостережения о рисках и советует пользователям проявлять бдительность при посещении подозрительных сайтов с аномально низкими ценами.
Однако эксперты обеспокоены тем, что проблема носит системный характер. В эпоху появления агентных ИИ-систем, способных совершать финансовые транзакции без участия человека, риски возрастают многократно. «Мошенники традиционно быстро адаптируются к новым технологиям», — отмечают аналитики, подчеркивая, что сфера генеративного ИИ становится новым полем противостояния между киберпреступниками и разработчиками систем защиты.