Tether QVAC, mobilde 1B ince ayar için çoklu platform BitNet LoRA'yı başlattı

Tether, QVAC Fabric içinde çapraz platform BitNet LoRA ince ayar (fine-tuning) ve çıkarım (inference) çerçevesi duyurdu. Amaç, BitNet LoRA kullanarak Microsoft BitNet (1-bit LLM) modellerini eğitmek için gereken hesaplama ve belleği azaltmak. Tether, cihaz üzerinde ölçeklenebilirlik iddiasında: 125M parametreli bir model yaklaşık 10 dakikada ince ayar yapılabilirken, 1B parametreli bir model yaklaşık 1 saat alıyor. Ayrıca modellerin mobilde 13B parametreye kadar ölçeklenebileceğini söylüyor. Bu sürümdeki önemli güncellemeler: çerçeve heterojen donanımı (Intel, AMD, Apple Silicon) destekliyor ve Adreno, Mali ve Apple Bionic dahil olmak üzere NVIDIA olmayan mobil GPU’larda BitNet LoRA’yı etkinleştiriyor—Tether bunu 1-bit LLM LoRA ince ayarı için ilk NVIDIA-dışı kurulum olarak adlandırıyor. Tether’in alıntıladığı performans ölçümleri, mobil GPU’larda CPU’ya kıyasla BitNet çıkarımının 2–11x daha hızlı olduğunu ve geleneksel 16-bit modellere göre GPU bellek kullanımının %~77,8’e kadar daha düşük olduğunu gösteriyor. Tether bunun yüksek uç bulut altyapısına bağımlılığı azalttığını ve federated learning gibi merkeziyetsiz eğitim modellerini desteklediğini savunuyor. Kripto trader’lar için bunun esas olarak stablecoin ekosistemleriyle bağlantılı bir teknoloji ve AI altyapı maliyeti sinyali olduğu, doğrudan token katalizörü olmadığı söylenebilir. USDT üzerindeki piyasa etkisi muhtemelen sınırlı olacak, ancak daha fazla dağıtım gelirse AI anlatısı genel hissiyatı iyileştirebilir.