Tether QVAC көпплатформалы BitNet LoRA-ны ұялы үшін 1B финетюнингке шығарды

Tether өзінің QVAC Fabric ішінде кросс-платформалы BitNet LoRA fine-tuning және inference фреймворкін жариялады. Мақсаты — BitNet LoRA қолдана отырып Microsoft BitNet (1-bit LLM) модельдерін оқытуға қажетті есептеу қуаты мен жадты азайту. Tether құрылғыда масштабталуын мәлімдейді: 125M параметрлік модельді шамамен 10 минутта fine-tune жасауға болады, ал 1B параметрлік модельге шамамен 1 сағат қажет. Сондай-ақ модельдер мобильді құрылғыда 13B параметрге дейін өсуі мүмкін делінеді. Бұл релиздегі негізгі жаңалықтар: фреймворк гетерогенді аппараттық қамсыздандыруды (Intel, AMD, Apple Silicon) қолдайды және Adreno, Mali, Apple Bionic секілді NVIDIA емес мобильді GPU-ларда BitNet LoRA-ны іске қосуға мүмкіндік береді — Tether бұл 1-bit LLM LoRA fine-tuning үшін алғашқы NVIDIA емес конфигурация деп атайды. Tether келтірген өнімділік көрсеткіштері мобильді GPU-ларда CPU-ға қарағанда BitNet inference 2–11x жылдамырақ екенін және дәстүрлі 16-bit модельдерге қарағанда GPU жадын шамамен ~77,8%-ға дейін аз пайдаланатынын көрсетеді. Tether бұл жоғары деңгейлі бұлттық инфрақұрылымға тәуелділікті азайтады және федеративті оқыту сияқты орталықтандырылмаған оқыту үлгілерін қолдайды деп санайды. Крипто трейдерлер үшін бұл негізінен stablecoin экожүйелеріне қатысты технологиялық және AI-инфрақұрылым шығындарының сигналы болып табылады, токенге тікелей катализатор емес. USDT-ге нарықтық әсері ықтимал түрде шектеулі болады, бірақ BitNet LoRA туралы жарияланғаннан кейінгі қосымша орналастырулар орын алса AI-нарықтық әңгіме жалпы сезімді жақсартып жіберуі мүмкін.