Tweeten raderades av författaren.
Men vi sparade allt 🙂.
Paolo Ardoino, verkställande direktör (VD) för Tether (USDT), har meddelat lanseringen av TurboQuant KV-Cache Quantization inom QVAC SDK 0.12.0.
Denna artikel har översatts från originalet. Läs originalversionen av vår korrespondent här.
Denna uppdatering komprimerar kraven på KV-cacheminne med upp till fem gånger med nästan förlustfri prestanda, vilket gör utsikterna för högkvalitativ lokal AI mer verkliga.
Visa inlägget på X Laddar...
Ardoino rapporterade nyligen att Tether aktivt arbetar med att utveckla en öppen källkodsbaserad peer-to-peer-sökmotor. I ett separat inlägg skickade han en hälsning med anledning av ”May the Fourth” till användarna av Tether Wallet, där han i ett tidigare meddelande kopplade produkten till en kulturell referens. Dessa utvecklingar belyser Tethers pågående tekniska och gemenskapsinriktade initiativ.