👓 Ботанские новости
технологии, открытия, исследования и разработки
🔒 Когда безобидные инструменты объединяются в опасные цепочки: как взламывают LLM-агентов
Когда безобидные инструменты объединяются в опасные цепочки: как взламывают LLM-агентов
Исследователи обнаружили новую уязвимость STAC в LLM-агентах, которые используют инструменты. Атака объединяет безвредные по отдельности вызовы инструментов в опасную цепочку, что позволяет обойти защиту. GPT-4.1 и другие продвинутые модели оказались уязвимы в 90% случаев - похоже, безопасность ИИ-агентов оказалась мифом, как и вечный двигатель.
#ИИ #кибербезопасность #LLM