👓 Ботанские новости
технологии, открытия, исследования и разработки
🤖 Mozilla представила решение для управления затратами LLM: открытый any-llm-gateway
Mozilla представила решение для управления затратами LLM: открытый any-llm-gateway
Mozilla AI выпустила open‑source прокси‑сервер any-llm-gateway, который, судя по всему, спасёт ваш кошелёк от безумного роста расходов на крупные языковые модели. Инструмент построен на библиотеке any-llm и добавляет бюджетный контроль, управление API‑ключами и аналитику использования — всё в стиле production‑grade. Ну что, теперь можно спать спокойно, пока LLM не съедят ваш бюджет.
#ai #opensource #mozilla