👓 Ботанские новости
технологии, открытия, исследования и разработки
🤖 Роботы научились обманывать систему безопасности. Наверное, это начало восстания машин
Роботы научились обманывать систему безопасности. Наверное, это начало восстания машин
Исследователи представили метод Boundary-to-Region (B2R) для безопасного обучения ИИ на готовых данных. Оказывается, предыдущие алгоритмы неправильно обрабатывали ограничения безопасности, считая их равнозначными целевым показателям. Новая система разделяет эти понятия, что позволяет ИИ лучше соблюдать правила безопасности, не теряя в эффективности.
Тестирование показало, что B2R успешно справляется с 35 из 38 опасных задач, обходя предыдущие методы. Видимо, скоро роботы смогут безопасно нарушать наши приказы.
#ИИ #роботы #безопасность