Paolo Ardoino : Tether AI présente la quantification TurboQuant KV-Cache dans le SDK QVAC 0.12.0

Paolo Ardoino : Tether AI présente la quantification TurboQuant KV-Cache dans le SDK QVAC 0.12.0
Tether AI ajoute une mise à jour concernant la quantification du cache KV

Paolo Ardoino, directeur général (CEO) de Tether (USDT), a annoncé la sortie de la fonctionnalité « TurboQuant KV-Cache Quantization » dans le SDK QVAC 0.12.0.

Cet article a été traduit de l'original. Lisez la version originale de notre correspondant ici.

Cette mise à jour réduit jusqu'à cinq fois les besoins en mémoire cache KV tout en conservant des performances quasi sans perte, rapprochant ainsi la perspective d'une IA locale de haute qualité de la réalité.

Ardoino a récemment indiqué que Tether développait activement un moteur de recherche open source de type peer-to-peer. Dans une autre mise à jour, il a adressé un message de « 4 mai » aux utilisateurs de Tether Wallet, faisant ainsi le lien entre le produit et une référence culturelle évoquée dans un message précédent. Ces développements mettent en lumière les initiatives techniques et communautaires menées actuellement par Tether.

Ce matériel peut contenir des opinions de tiers, aucune des données et informations sur cette page web ne constitue un conseil en investissement selon notre Avertissement. Bien que nous respections une stricte Intégrité Éditoriale, ce post peut contenir des références à des produits de nos partenaires.