Исследователи добились прорыва в области искусственного интеллекта, взломав более половины тестовых веб-сайтов с использованием автономных команд ботов GPT-4. Эта новая техника позволяет ботам координировать свои действия и создавать новых по мере необходимости, при этом эксплуатируя ранее неизвестные уязвимости "нулевого дня".
Ранее исследователи уже продемонстрировали способность GPT-4 самостоятельно взламывать известные, но не исправленные уязвимости. Однако на этой неделе они представили усовершенствованную методику, позволяющую взламывать "нулевые дни".
Новая методика под названием HPTSA (Hierarchical Planning with Task-Specific Agents - Иерархическое планирование с агентами для конкретных задач) использует команду специализированных агентов вместо одного универсального. Команда управляется "планирующим агентом", который распределяет задачи между "субагентами" - экспертами в конкретных областях. Это похоже на то, как руководитель распределяет работу между подчиненными, повышая эффективность взлома.
Тестирование показало, что HPTSA в 5,5 раз эффективнее одиночного агента GPT-4 и смогла взломать 8 из 15 уязвимостей "нулевого дня", в то время как одиночный агент смог взломать только 3.
Однако существуют опасения, что подобные методы могут использоваться для злонамеренных атак. Исследователи подчеркивают, что использование чат-ботов типа GPT-4 недостаточно для взлома, и их работа направлена на этичное применение ИИ.
