WormGPT — чат-бот для киберпреступников

Неизвестный разработчик создал свою собственную версию чат-бота, подобного ИИ-чат-боту ChatGPT, но с неправомерным назначением. Этот новый чат-бот, названный WormGPT, был разработан для оказания помощи киберпреступникам.

WormGPT был создан в марте, но только в июне разработчик начал продавать доступ к платформе на популярном хакерском форуме. В отличие от законопослушных ChatGPT и Google Bard, хакерский чат-бот не имеет ограничений, которые мешают отвечать на вопросы о незаконных действиях. Для подтверждения своих слов разработчик предоставил снимки экрана, демонстрирующие возможность попросить WormGPT написать вредоносный код на языке Python и получить советы по осуществлению кибератаки. При создании чат-бота использовалась относительно устаревшая модель GPT-J с открытым исходным кодом от 2021 года, которая была обучена на материалах, связанных с разработкой вредоносного программного обеспечения. И вот появился WormGPT.

Эксперты по кибербезопасности из компании SlashNext протестировали WormGPT и в ответ на их запрос чат-бот создал фишинговое электронное письмо с целью скомпрометировать корпоративную электронную почту. Это письмо было убедительным и содержало хитроумные стратегические маневры, направленные на успешное осуществление атаки.

Разработчик оценил доступ к чат-боту в 60 евро в месяц или 550 евро в год. Возможно, продукт пока еще далек от совершенства, так как один из покупателей пожаловался на низкую производительность платформы. Однако это явный признак того, что генеративный искусственный интеллект может стать оружием в руках киберпреступников. И с течением времени подобные технологии будут совершенствоваться.