👓 Ботанские новости

Исследователи представили первый метод безопасного обучения с подкреплением в контексте (ICRL), где ИИ-агент адаптируется к новым задачам без обновления параметров. Особенность в том, что теперь нейросеть не просто максимизирует награду, но и следит за дополнительной "стоимостью" своих действий, ведя себя более консервативно или агрессивно в зависимости от выделенного бюджета рисков.