人工智慧安全法案針對遞迴自我改進的人工智慧

美國眾議員羅·康納支持《禁止人工超級智能法案》。該法案由參議員伯尼·桑德斯與眾議員格雷格·卡薩於9月23日提出。這項人工智慧安全法案將暫停超級智慧系統的開發，並禁止遞迴式自我改進人工智慧，直到建立更強大的防護措施。 遞迴式自我改進人工智慧是指能夠在沒有直接人類介入的情況下，修改自身架構或訓練流程的系統。康納表示，這類技術可能削弱人類的控制能力，並造成重大的安全風險。 該提案將成立一個仿照美國食品藥物管理局（FDA）的聯邦人工智慧安全機構，以監督前沿人工智慧的開發。違規者可能面臨最高20年有期徒刑，以及可能被稱為「企業死刑」的處罰，也就是強制解散公司。法案還提議，在設立專責人工智慧部門之前，暫停先進人工智慧的開發。 康納呼籲與中國簽訂具約束力的國際人工智慧安全協議，包括檢查與問責措施。他敦促 Anthropic、DeepSeek 和 Alibaba 等公司採用更嚴格的控制措施。不過，康納尚未提出獨立的人工智慧安全立法，目前只是擔任桑德斯—卡薩法案的倡議者。 對科技與加密貨幣交易者而言，這項人工智慧安全法案可能增加人工智慧開發商、雲端基礎設施供應商及人工智慧相關公司的監管不確定性。短期市場影響可能取決於國會支持程度，以及這些提案能否超越倡議階段並取得進展。