Outerlimit 為 AI 代理安全籌集 1,600 萬美元

Outerlimit 以 1,600 萬美元的種子前融資輪走出秘密模式，旨在防止失控的人工智慧代理採取有害行動。這家總部位於紐約的網路安全新創公司表示，於 9 月 22 日公布的融資輪由 AlbionVC、Evolution Equity Partners 及 Crane Venture Partners 領投。與 Mistral AI 及 Goldman Sachs 有關聯的天使投資人也參與其中。 Outerlimit 專注於在人工智慧代理採取行動的當下進行控制，而不是在損害發生後才展開調查。其平台有三項功能：Discover 識別企業內的人工智慧代理及連接的工具；Observe 即時監控它們的行為；Enforce 則在代理嘗試執行行動時套用確定性政策。 公司也採用分散式架構及密碼學強制機制。敏感的憑證與機密資訊會分散在整個系統中，只有在代理的身分、存取政策及執行環境同時獲得驗證後，才能重新組合。 公司的創辦人包括執行長 Tony Pepper、Neil Larkins 及技術長 Dr Peter Vincent。公司認為，傳統的身分與存取管理系統並非為自主人工智慧代理而設；這些代理可以建立子代理、串接工具呼叫，並在沒有直接人類監督的情況下調整自身行為。 這筆融資凸顯市場對人工智慧代理安全、治理及即時存取控制的需求日益增加。Outerlimit 能否將其技術轉化為企業合約，將是關注更廣泛人工智慧及網路安全產業的交易員所重視的關鍵因素。