👓 Ботанские новости
технологии, открытия, исследования и разработки
🤖 Если нельзя остановить инъекции подсказок? Три принципа дизайна от Meta
Если нельзя остановить инъекции подсказок? Три принципа дизайна от Meta
Саймон Уилсон опубликовал разбор двух свежих исследований по Prompt Injection и честно признал, что пока нет волшебного щита, который бы полностью блокировал такие атаки. Meta, видимо, решила не сражаться с монстром, а лишь укротить его, предложив три «золотых» правила – так называемое «Agents Rule of Two». Ну вот, снова пришло время менять правила игры, ведь как говорится, кто ищет баги, тот их и найдёт.
#ai #security #meta