Блог компании Positive Technologies | ChatGPT и кибербезопасность

Хотя популярный ChatGPT пока далек от совершенства, и не все его ответы верны, в умелых руках профессионалов чат-бот способен на многое. Как оказалось, ChatGPT может стать неплохим помощником для исследователей кибербезопасности.



ChatGPT помог охотникам за уязвимостями выиграть конкурс белых хакеров Pwn2Own

В конце февраля в Майами (Флорида, США) завершился престижный хакерский конкурс Pwn2Own, в котором впервые в истории наряду с живыми багхантерами принял участие искусственный интеллект.

Команда охотников за уязвимостями Claroty Team82 решила использовать в качестве помощника ChatGPT и не прогадала. Продвинутый чат-бот помог белым хакерам взломать Softing edgeAggregator Siemens — программное обеспечение, используемое в промышленных приложениях. Команда выиграла конкурс и заработала 20 000 долларов.

Исследователи безопасности отметили, что ChatGPT здорово им помог. Чат-бот дал экспертам возможность сэкономить время и избавил их от необходимости обучаться написанию внутреннего модуля. В результате, багхантеры смогли оптимально распределить усилия и провести успешную кибератаку.

А что в даркнете?

ChatGPT активно набирает популярность в киберпреступном сообществе.  По данным ИБ-компании NordVPN, количество новых сообщений на форумах даркнета, посвященных чат-боту,  всего за месяц выросло на 625% — со 120 в январе до 870 в феврале. В то же время число новых тем форумов увеличилось с 37 до 91, продемонстрировав рост на 145%.

Исследователи с уверенностью утверждают, использование ChatGPT стало самой горячей темой даркнета в феврале 2023 года.

Чаще всего посетители киберпреступных форумов пытались выяснить, как заставить чат-бота создать вредоносное ПО, получить над ним полный контроль и использовать для проведения кибератак.

Заметим, что «хакерские способности» ChatGPT пока далеки от совершенства. Искусственный интеллект не способен самостоятельно превратить уязвимость в работающий эксплойт и организовать успешную кибератаку. Мы не можем сказать, что хакерский конкурс Pwn2Own выиграл искусственный интеллект. Победителями соревнования стали специалисты высокого уровня, которые задавали боту правильные вопросы и игнорировали неправильные ответы.

Тем не менее, развитие искусственного интеллекта, как и других новых технологий, несет потенциальные угрозы кибербезопасности, давая злоумышленникам новые возможности для осуществления кибератак. Поэтому исследователи ИБ постоянно держат руку на пульсе, чтобы быть в курсе самых актуальных киберугроз и надежно защищать пользователей и компании от хакерских атак.