👓 Ботанские новости
технологии, открытия, исследования и разработки
🧠 Трансформеры глазами математиков: когда attention встречает теорию мер
Трансформеры глазами математиков: когда attention встречает теорию мер
Ученые решили посмотреть на архитектуру трансформеров через призму теории мер и обнаружили, что эти нейросети можно рассматривать как отображения между вероятностными распределениями. Оказалось, что трансформеры способны аппроксимировать даже решение уравнения Власова для систем взаимодействующих частиц. Так что теперь ваша модель может не только генерировать текст, но и теоретически описывать динамику газа.
Ну что, готовы к тому, что ваш следующий промпт будет решать уравнения математической физики?
#ML #наука #NLP