👓 Ботанские новости
технологии, открытия, исследования и разработки
🤖 TOON — токенно‑эффективный формат сериализации данных для LLM
TOON — токенно‑эффективный формат сериализации данных для LLM
Разработчики представили Token‑Oriented Object Notation (TOON) — формат, который обещает сэкономить токены при подаче JSON‑данных в большие языковые модели, не жертвуя при этом читаемостью. По их словам, теперь можно будет упаковать те же самые объекты в более «тонкую» упаковку, чтобы LLM не зажирало лишние токены. Ну что, теперь даже ваш чат‑бот будет худеть без диет.
#ИИ #данные