Tether QVAC uruchamia międzyplatformowy BitNet LoRA do dostrajania 1B na urządzeniach mobilnych

Tether ogłosił wieloplatformowy framework BitNet LoRA do fine-tuningu i inferencji w ramach swojego QVAC Fabric. Celem jest ograniczenie wymagań obliczeniowych i pamięciowych do trenowania modeli Microsoft BitNet (1-bitowe LLM) przy użyciu BitNet LoRA. Tether twierdzi skalowalność na urządzeniu: model 125M parametrów można fine-tunować w około 10 minut, natomiast model 1B parametrów zajmuje mniej więcej 1 godzinę. Firma twierdzi również, że modele mogą skalować do 13B parametrów na urządzeniach mobilnych. Kluczowe aktualizacje w tym wydaniu: framework obsługuje heterogeniczny sprzęt (Intel, AMD, Apple Silicon) i umożliwia BitNet LoRA na mobilnych GPU niebędących NVIDIA, w tym Adreno, Mali i Apple Bionic—Tether nazywa to pierwszą konfiguracją nie-NVIDIA do fine-tuningu LoRA dla 1-bitowych LLM. Wskaźniki wydajności przytoczone przez Tether obejmują 2–11x szybszą inferencję BitNet na mobilnych GPU w porównaniu z CPU oraz do ~77,8% mniejsze użycie pamięci GPU w porównaniu z tradycyjnymi modelami 16-bitowymi. Tether argumentuje, że to zmniejsza zależność od zaawansowanej infrastruktury chmurowej i wspiera zdecentralizowane schematy treningowe, takie jak uczenie federacyjne. Dla traderów kryptowalut to przede wszystkim sygnał technologiczny i kosztowy dotyczący infrastruktury AI powiązany z ekosystemami stablecoin, a nie bezpośredni katalizator tokenów. Wpływ na rynek dotyczący USDT prawdopodobnie będzie ograniczony, ale narracja AI może poprawić ogólny sentyment, jeśli po ogłoszeniu BitNet LoRA nastąpią kolejne wdrożenia.