Tether QVAC lansează BitNet LoRA multiplatformă pentru fine-tuning de 1B pe mobil

Tether a anunțat un framework cross-platform BitNet LoRA pentru fine-tuning și inferență în cadrul QVAC Fabric. Scopul este reducerea calculului și memoriei necesare pentru antrenarea modelelor Microsoft BitNet (LLM 1-bit) folosind BitNet LoRA. Tether afirmă scalabilitate on-device: un model de 125M parametri poate fi fine-tuned în aproximativ 10 minute, în timp ce un model de 1B parametri durează în jur de 1 oră. De asemenea spune că modelele pot scala până la 13B parametri pe mobil. Actualizări cheie în această versiune: framework-ul suportă hardware eterogen (Intel, AMD, Apple Silicon) și permite BitNet LoRA pe GPU-uri mobile non-NVIDIA, inclusiv Adreno, Mali și Apple Bionic—Tether numește aceasta prima configurație non-NVIDIA pentru fine-tuning LoRA a LLM 1-bit. Măsurători de performanță citate de Tether includ inferență BitNet de 2–11x mai rapidă pe GPU-urile mobile versus CPU și până la ~77,8% consum mai mic de memorie GPU comparativ cu modelele tradiționale pe 16-biți. Tether susține că aceasta reduce dependența de infrastructura cloud high-end și susține tipare de antrenament descentralizate, precum federated learning. Pentru traderii cripto, aceasta este în principal un semnal tehnologic și de cost al infrastructurii AI legat de ecosistemele de stablecoin, mai degrabă decât un catalizator direct pentru tokenuri. Impactul asupra pieței pentru USDT este probabil limitat, dar narațiunea AI ar putea îmbunătăți sentimentul general dacă vor urma mai multe implementări după anunțul BitNet LoRA.