Tether QVAC ចេញ​ដំណើរការ BitNet LoRA លើពហុក្របខ័ណ្ឌ សម្រាប់​ការត្រួតពិនិត្យ 1B លើទូរស័ព្ទចល័ត

Tether បានប្រកាសអំពី ស៊ុមធ្វើការ BitNet LoRA លើប្លាតហ្វોર્મច្រើន សម្រាប់ fine-tuning និង inference ក្នុង QVAC Fabric របស់វា។ គោលដៅគឺកាត់បន្ថយកម្ចីកំណត់ និងចងចាំដែលត្រូវការ ដើម្បីបណ្តុះម៉ូឌែល Microsoft BitNet (LLM 1-bit) ការប្រើប្រាស់ BitNet LoRA។ Tether បានអះអាងពីសមត្ថភាពពង្រីកលើឧបករណ៍: ម៉ូឌែល 125M ពារ៉ាម៉ែត្រ អាចធ្វើ fine-tune ប្រហែល 10 នាទី ខណៈម៉ូឌែល 1B ពារ៉ាម៉ែត្រ យករយៈពេលប្រហែល 1 ម៉ោង។ វាក៏អះអាងថាម៉ូឌែលអាចពង្រីកដល់ 13B ពារ៉ាម៉ែត្រ លើទូរស័ព្ទបាន។ អាប់ដេតសំខាន់ៗ នៅក្នុងការចេញផ្សាយនេះ: ស៊ុមគាំទ្រឧបករណ៍មិនស្រដៀងគ្នា (Intel, AMD, Apple Silicon) និងបើកឱ្យប្រើ BitNet LoRA លើ GPU មាន់ Mobile ដែលមិនមែន NVIDIA រួមមាន Adreno, Mali និង Apple Bionic—Tether ចាត់ទុកថា ជាកំណត់ត្រាដំបូងដែលមិនមែន NVIDIA សម្រាប់ fine-tuning LoRA នៃ LLM 1-bit។ ចំនួនសមត្ថភាពដែល Tether ដាក់សូម្បីរួមមាន inference BitNet លឿន 2–11x លើ GPU មាន់ Mobile ប្រៀបធៀបនឹង CPU និងប្រើចងចាំ GPU ហួសច្រើនដល់ ~77.8% តិចជាងម៉ូឌែល 16-bit ពីរបៀបប្រពៃណី។ Tether ពន្យល់ថា វាកាត់បន្ថយការគួចផ្អែកលើហេដ្ឋារចនាសម្ព័ន្ធប្លាទឈមខ្ពស់ និងគាំទ្រមូដបណ្តុះបណ្តាលបែកចេញដូចជា federated learning។ សម្រាប់អ្នកជួញដូរក្រាបតូ នេះជាសញ្ញាបច្ចេកទេស និងសញ្ញាកំពូលចំណាយហេដ្ឋារចនាសម្ព័ន្ធ AI ដែលទាក់ទងនឹងប្រព័ន្ធស្ដេបខិន មិនមែនជាកត្តាកាន់ token ដ៏ផ្ទាល់។ ផលវិបាកលើទីផ្សារទៅលើ USDT មានសក្តានុពលតិច ប៉ុន្តែនារីវេប AI អាចធ្វើឱ្យអារម្មណ៍ទូទៅប្រសើរឡើង ប្រសិនបើមានការដាក់បង្ហាញច្រើនជាប់ក្នុងបន្ទាប់ពីការប្រកាស BitNet LoRA។