隨著企業削減模型成本，開源人工智慧逐漸取得優勢

當企業重新評估使用高階基礎模型的成本時，開源人工智慧在企業部署中的發展勢頭正日益增強。AlphaSense資料顯示，8月和9月美國企業財報及投資人會議中，提及開放權重或開源模型的次數較去年同期增加6倍。 企業越來越多採用多模型策略。OpenAI和Anthropic的前沿模型負責複雜推理，而成本較低的開源AI模型則處理分類、資訊擷取、客服和基本程式設計等例行工作。Vercel表示，8月其AI Gateway處理的Token中，有56%由開源模型處理，高於12月的7%。Citi資料顯示，OpenRouter上開源Token的占比從1月的34%升至6月的65%。 成本壓力正推動這項轉變。Tinder的年化AI支出從1月的100萬美元增加到7月的1,000萬美元，促使公司將部分請求轉送至開源模型。AT&T目前約40%的AI工作負載使用開源模型，並計畫在一年內提高到70%；公司每天處理約450億個Token。部分開源模型每100萬個Token的成本約為0.18美元，相較之下，領先的閉源模型約為4美元。 這項趨勢可能讓OpenAI和Anthropic面臨壓力，但降低AI輸入成本也可能讓軟體公司、雲端服務商、晶片製造商和AI新創公司受益。對交易員而言，關鍵指標已不再只是基準測試表現，也包括Token價格、任務完成成本、資料控制權，以及模型路由的彈性。