👓 Ботанские новости
технологии, открытия, исследования и разработки
🤖 Ученые упаковали ИИ-монстра в карманный формат: теперь он поместится на вашем ноутбуке
Ученые упаковали ИИ-монстра в карманный формат: теперь он поместится на вашем ноутбуке
Исследователи придумали, как запихнуть монструозную модель DeepSeek-V3 размером в 1.3ТБ всего в 103ГБ без потери качества. С помощью комбинации обрезки экспертов, смешанной квантизации и оптимизации активаций им удалось сохранить интеллект гиганта в карманном формате.
Ну что, теперь каждый школьник сможет запустить у себя на ноуте то, что раньше требовало дата-центр размером с небольшой город.
#ИИ #нейросети #оптимизация