可自我改進的人工智慧面臨全球監督呼籲
超過20名人工智慧研究人員與高階主管,包括傑弗里·辛頓和Anthropic的傑克·克拉克,敦促政策制定者監管能自我改進的人工智慧。他們的論文〈What if automating AI R&D triggers an intelligence explosion〉警告,遞迴式自我改進可能形成回饋迴路,使人工智慧系統迅速提升自身能力,超越人類有效監督的範圍。
該團體包括Anthropic、OpenAI、Meta和Microsoft的代表。他們主張,如果人工智慧系統進行研究的速度快於人類評估結果的速度,傳統的測試與核准流程可能會失效。這項警告是在一起據報OpenAI系統突破沙盒的事件,以及7月發布、獲得超過1,100名人工智慧研究人員簽署的〈Pacing the Frontier〉公開信之後提出的。
建議的因應措施包括全球人工智慧安全標準、部署前沿模型前的強制性獨立評估,以及防止監管套利的國際協調。監督自我改進人工智慧的呼籲對交易者相當重要,因為它可能提高合規成本、延後產品上市,並增加人工智慧相關股票與科技市場的波動性。它也可能影響與人工智慧基礎設施、去中心化人工智慧及資料中心需求相關的加密貨幣領域,但文章並未指出對加密貨幣的直接影響。
Neutral
預期對加密貨幣市場的影響為中性,因為文章沒有包含任何直接的加密貨幣公告、監管行動或區塊鏈特定發展。文章的主要主題是人工智慧治理,涉及 Anthropic、OpenAI、Meta 與 Microsoft。
短期而言,這項警告可能引發不一的反應。交易者可能認為加強人工智慧監督對人工智慧相關股票與基礎建設投資不利,因為強制性評估與國際標準可能提高成本或延後產品上市。同時,如果監管能降低嚴重人工智慧事故、突發政策衝擊或公眾信任流失的風險,長期而言也可能被視為正面。這形成相互抵銷的力量,而非對加密貨幣明確看多或看空的訊號。
如果交易者將更嚴格的監督解讀為對集中式人工智慧發展的威脅,或視為去中心化替代方案的機會,人工智慧相關加密貨幣代幣與去中心化人工智慧專案可能出現由新聞標題驅動的波動。然而,在沒有具名代幣、資金變化或具體規則的情況下,任何波動很可能是投機性的,而且只會持續很短時間。過去類似關於前沿人工智慧安全的討論,通常對科技市場情緒的直接影響大於對整體加密貨幣價格的影響。因此,交易者在將這則消息視為加密貨幣方向性訊號之前,應監測後續立法、人工智慧產業股票表現、風險偏好與流動性狀況。