Tether QVAC ra mắt BitNet LoRA đa nền tảng cho tinh chỉnh 1B trên di động

Tether công bố một khung BitNet LoRA đa nền tảng cho fine-tuning và suy luận bên trong QVAC Fabric của họ. Mục tiêu là giảm lượng tính toán và bộ nhớ cần thiết để huấn luyện các mô hình Microsoft BitNet (LLM 1-bit) bằng BitNet LoRA. Tether tuyên bố khả năng mở rộng trên thiết bị: mô hình 125M tham số có thể fine-tune trong khoảng 10 phút, trong khi mô hình 1B tham số mất khoảng 1 giờ. Họ cũng nói mô hình có thể mở rộng lên tới 13B tham số trên thiết bị di động. Những cập nhật chính trong bản phát hành này: khung hỗ trợ phần cứng phi đồng nhất (Intel, AMD, Apple Silicon) và cho phép BitNet LoRA trên GPU di động không phải NVIDIA, bao gồm Adreno, Mali và Apple Bionic—Tether gọi đây là cấu hình không-NVIDIA đầu tiên cho fine-tuning LoRA của LLM 1-bit. Các chỉ số hiệu năng Tether nêu ra bao gồm suy luận BitNet nhanh hơn 2–11x trên GPU di động so với CPU, và tiết kiệm bộ nhớ GPU tới ~77,8% so với các mô hình truyền thống 16-bit. Tether lập luận rằng điều này giảm sự phụ thuộc vào hạ tầng đám mây cao cấp và hỗ trợ các mô hình huấn luyện phân tán như federated learning. Đối với nhà giao dịch tiền mã hóa, đây chủ yếu là một tín hiệu công nghệ và chi phí hạ tầng AI liên quan đến hệ sinh thái stablecoin hơn là chất xúc tác trực tiếp cho token. Tác động thị trường lên USDT có khả năng hạn chế, nhưng câu chuyện về AI có thể cải thiện tâm lý chung nếu có nhiều triển khai hơn sau thông báo BitNet LoRA.