Учёные нашли способ блокировать создание фишинговых сайтов через ИИ

Исследователи из Техасского университета придумали, как поставить заслон на опасной дороге. Они создали программу, которая мешает чат-ботам вроде ChatGPT исполнять заказы мошенников — например, генерировать фишинговые сайты. Интересный поворот, не правда ли? Бороться с одним ИИ при помощи другого.

ChatGPT — это всего лишь инструмент, такой же, как молоток или интернет. Его можно использовать, чтобы построить дом, а можно — чтобы нанести вред. Учёные как раз и ищут способы сделать так, чтобы вред был минимальным, а сила — направлялась в мирное русло.

Разработанное учёными программное обеспечение выполняет роль интеллектуального фильтра. Оно учит чат-бота распознавать и тут же отклонять те запросы пользователей, которые пахнут созданием фишинга. По сути, это новая линия обороны, встроенная прямо в диалог.

Конечно, у современных ИИ-ассистентов уже есть какие-то базовые ограничения. Но соавтор работы, доктор Ширин Нилизаде, признаёт: её команда легко нашла лазейки и обошла эти защиты. Это доказывает, что встроенных фильтров недостаточно — мошенники уже учатся их обманывать. Значит, нужен более умный и проактивный подход.

Игра в кошки-мышки по-новому

Учёные нашли способ блокировать создание фишинговых сайтов через ИИ

С приходом умных чат-ботов мир кибермошенничества изменился. Теперь для создания поддельного сайта не нужны навыки программирования или верстки. Достаточно попросить об этом нейросеть — и всё готово буквально за минуты. Это открывает дорогу даже тем злоумышленникам, у которых нет особых технических талантов.

«Мощь этих инструментов огромна, и мы наглядно показали, как ею можно злоупотребить», — констатирует Нилизаде.

Чтобы создать своего «защитника», команда пошла от противного. Они сами сформулировали десятки инструкций, которые могли бы использовать мошенники для создания фишинга. На этих примерах программа и научилась видеть опасные паттерны, определённые ключевые слова и подозрительные конструкции. Теперь она может пресекать такие запросы гораздо надёжнее.

Работа техасских учёных уже вызвала живой отклик в индустрии кибербезопасности. Исследователи вышли на крупнейшие технологические компании, включая Google и OpenAI, с предложением интегрировать их наработки в системы безопасности чат-ботов. Ведь в конечном счёте безопасность — это общее дело.

«Я невероятно рада, что смогла внести вклад в такое важное исследование, — делится эмоциями одна из авторов, Пуджита Тота. — И с нетерпением жду, когда мы сможем поделиться результатами с коллегами по всему миру и найдём новые способы применения этой технологии». В конце концов, кто, если не мы?