Tweetet blev slettet af forfatteren.
Men vi gemte alt 🙂.
Paolo Ardoino, administrerende direktør (CEO) hos Tether (USDT), har annonceret lanceringen af TurboQuant KV-Cache Quantization som en del af QVAC SDK 0.12.0.
Denne artikel er oversat fra originalen. Læs den oprindelige version af vores korrespondent her.
Denne opdatering komprimerer kravene til KV-cachehukommelse med op til fem gange med næsten tabsløs ydeevne, hvilket bringer udsigten til lokal AI af høj kvalitet tættere på virkeligheden.
Ardoino meddelte for nylig, at Tether er i fuld gang med at udvikle en open source-peer-to-peer-søgemaskine. I en separat opdatering sendte han en hilsen i anledning af »May the Fourth« til brugerne af Tether Wallet, hvor han i en tidligere besked knyttede produktet sammen med en kulturel reference. Disse udviklinger understreger Tethers løbende tekniske og fællesskabsorienterede tiltag.