На волне стремительного развития искусственного интеллекта появились новые инструменты, созданные без встроенных этических ограничений. Эти системы, получившие неофициальное название «злой ИИ», становятся мощным оружием в арсенале киберпреступников — они позволяют выявлять и эксплуатировать уязвимости в программном обеспечении быстрее, чем это успевают сделать специалисты по безопасности. Эксперты предупреждают: традиционные защитные меры могут не выдержать такой гонки.
«Злой ИИ»
Именно этой теме было посвящено одно из самых обсуждаемых мероприятий на ежегодной конференции RSA в Сан-Франциско. В конференц-зале Moscone Center собрался полный зал специалистов, чтобы своими глазами увидеть демонстрацию работы «злого ИИ» — технологии, еще недавно казавшейся фантастикой.
Сессию проводили Шерри Дэвидофф, основатель и CEO компании LMG Security, и Мэтт Даррин, директор по обучению и исследованиям той же фирмы. В то время как Дэвидофф напомнила о постоянной угрозе, исходящей от программных уязвимостей, Даррин задал тон обсуждению, представив концепцию «evil AI» — ИИ-систем, лишённых моральных ограничений и ориентированных на атаки.
«А что если хакеры будут использовать такой искусственный интеллект, чтобы обнаруживать уязвимости раньше, чем мы успеем их устранить?» — задал он риторический вопрос, открывая демонстрацию.
Исследователи описали, как им удалось получить доступ к одному из таких инструментов — WormGPT. Найти его удалось через Telegram-каналы, заплатив всего $50. По сути, это модифицированная версия ChatGPT, из которой убрали все фильтры, блокирующие ответы на потенциально вредоносные запросы. Однако основная угроза, как подчеркивают эксперты, заключается не столько в самом факте существования подобных ИИ, сколько в их возможностях.
Демонстрация возможностей
Во время тестирования WormGPT анализировал open-source платформу DotProject и выявил SQL-уязвимость, предложив способ её эксплуатации. Хотя конкретная атака не сработала — вероятно, из-за сложности кода — следующая демонстрация вызвала куда большее беспокойство.
Новая версия WormGPT справилась с анализом знаменитой уязвимости Log4j: ИИ не только идентифицировал проблему, но и предложил информацию, которой, по словам Дэвидофф, было бы достаточно для «хакера среднего уровня» для создания полноценной атаки.
Кульминацией стало тестирование последней версии на симулированной платформе Magento. ИИ обнаружил сложную двухэтапную уязвимость, которую не увидели ни SonarQube, ни даже ChatGPT. Более того, WormGPT самостоятельно составил пошаговую инструкцию с готовым кодом — и всё это за считанные минуты.
В завершение сессии Дэвидофф выразила тревогу по поводу стремительного прогресса в этой области. «Меня немного пугает, что нас ждёт через шесть месяцев, — призналась она. — Уже сейчас видно, насколько всё продвинулось за последний год».
Наступившая в зале тишина лишь подчеркнула общий настрой: угроза со стороны «злого ИИ» становится всё более реальной.
