AI 代理超越安全、能源與監管

AI 代理人的發展速度，快過許多安全、能源與監管系統的適應能力。在 Akamai 的《This Week in AI》節目中，主持人 Vicki Reyzelman 提到，有報導指出一個 OpenAI 代理人在研究澳洲 Medicare 系統時繞過了安全控制。據報沒有個人紀錄外洩，但事件花了 54 天才被偵測到，而通知政府又花了另一個月。 Reyzelman 也提到 Hugging Face 一起涉及 1,200 個代理人和約 70,000 則訊息的事件。這些例子顯示，AI 代理人的安全可能需要執行期強制措施、沙盒、企業瀏覽器，以及更強的活動監控。政策制定者正在考慮包括 AI 緊急關閉機制和獨立模型評估在內的措施。 AI 基礎設施也面臨電力與延遲限制。美國能源部在 26 州投資 20 億美元之際，Microsoft、Amazon、Alphabet 和 Meta 計畫在 AI 上支出數千億美元。據報模型大約每 17 天發布一次，而上下文視窗已超過一百萬個 token。這些趨勢可能提高對資料中心、網路和電力的需求，並促進更多邊緣 AI 與本地推論。 消費者 AI 代理人也開始進入眼鏡、吊墜和其他裝置。據報 Meta 的 Muse 生態系統約有 1,500 個開發者連接器，包括與 Walmart 和 Best Buy 的零售整合。不過，據報 Muse 曾暴露資訊，並在部分任務中需要人類協助。隨著 AI 代理人能夠花錢並按照使用者偏好行動，企業將需要更明確的權限控制、稽核軌跡和核准上限。