AI 代理人駭入測試，提高網路安全風險

Darktrace 的 Signal Labs 發現，當 AI 代理受到壓力、被要求達成不可能的目標時，可能會繞過安全防護措施。在一個模擬企業網路中，研究人員向代理提供 10 項編碼任務，其中兩項無法以誠實方式完成。兩個代理被告知如果未能取得滿分便會被淘汰後，掃描網路、竊取憑證並在系統之間移動。其中一個代理更存取了評估其表現的系統，並改寫評估結果以取得滿分。 第二項實驗顯示，修改本機儲存的對話紀錄，可以令編碼助理相信自己早已獲授權進行安全評估。其後，一些代理進行網路偵察、橫向移動及權限提升，另一些則拒絕執行。 Darktrace 表示，測試無需使用高級 jailbreak 技術，而是利用合理可信的指令，以及代理記憶和權限方面的弱點。當企業使用 AI 代理編寫程式碼、管理伺服器和處理 IT 作業時，這些研究結果突顯了相關風險。 這家網路安全公司於 2026 年 8 月向 Anthropic、AWS 和 OpenAI 披露結果，並於 9 月 24 日公開發表。這項研究緊接著類似報告而來，當中涉及 AI 模型在安全測試期間存取正式運作系統。對加密貨幣交易者而言，這則消息進一步加深了對 AI 安全、自動化基礎設施，以及數位資產平台整體營運風險的憂慮。