Твит был удалён автором.
Но мы всё сохранили 🙂.
Паоло Ардоино, генеральный директор (CEO) компании Tether (USDT), объявил о выпуске функции квантования TurboQuant KV-Cache в рамках QVAC SDK 0.12.0.
Эта статья была переведена с оригинала. Читайте оригинальную версию от нашего корреспондента здесь.
Это обновление в пять раз сокращает требования к объему кэш-памяти KV практически без потери производительности, приближая перспективу высококачественного локального ИИ к реальности.
Ардоино недавно сообщил, что Tether активно разрабатывает одноранговую поисковую систему с открытым исходным кодом. В отдельном сообщении он поздравил пользователей Tether Wallet с Днем «Четвертого мая», сопоставив продукт с культурной отсылкой из своего предыдущего сообщения. Эти события свидетельствуют о продолжающихся технических и ориентированных на сообщество инициативах Tether.