Tether QVAC запускає кросплатформний BitNet LoRA для донавчання 1B на мобільних пристроях

Tether оголосила про крос-платформений фреймворк BitNet LoRA для донавчання (fine-tuning) та інференсу в межах свого QVAC Fabric. Мета — зменшити обчислювальні та памʼятні витрати на тренування моделей Microsoft BitNet (1-bit LLM) з використанням BitNet LoRA. Tether стверджує масштабованість на пристрої: модель з 125M параметрів можна донавчити приблизно за 10 хвилин, тоді як модель з 1B параметрів — близько 1 години. Також вказується, що моделі можуть масштабуватися до 13B параметрів на мобільних пристроях. Ключові оновлення в цьому релізі: фреймворк підтримує гетерогенне апаратне забезпечення (Intel, AMD, Apple Silicon) і дозволяє BitNet LoRA працювати на мобільних GPU, що не належать NVIDIA, включно з Adreno, Mali та Apple Bionic—Tether називає це першою не-NVIDIA конфігурацією для LoRA донавчання 1-bit LLM. Наводяться показники продуктивності: інференс BitNet на мобільних GPU у 2–11 разів швидший порівняно з CPU та до ~77,8% менше використання GPU-памʼяті у порівнянні з традиційними 16-бітними моделями. Tether стверджує, що це знижує залежність від висококласної хмарної інфраструктури та підтримує децентралізовані схеми тренувань, такі як federated learning. Для криптотрейдерів це в першу чергу технологічний і вартісний сигнал щодо інфраструктури ШІ, повʼязаний із екосистемами стейблкоїнів, а не прямий каталізатор для токенів. Ринковий вплив на USDT, ймовірно, буде обмеженим, але AI-наратив може покращити загальний сентимент, якщо після оголошення BitNet LoRA зʼявляться додаткові розгортання.