AI风险推动放缓前沿模型开发的呼吁

Anthropic首席执行官达里奥·阿莫代伊呼吁以审慎方式放缓前沿AI开发，并警告AI能力增长速度已超过安全基础设施的发展。在一篇约3800字的文章和随后接受CBS采访时，他表示，日益自主化的AI代理可能利用网络漏洞，并可能在未来6至12个月内控制互联网的部分区域。他还称，利用AI开发生物武器的尝试已经出现，并警告失控的AI风险可能造成数千亿美元损失。 阿莫代伊提出，应让独立第三方评估人员进入AI公司并获得内部访问权限，建立统一的安全与发布标准，加强政府监管及国际合作。Anthropic计划在2027年前开发出能够识别大多数模型问题的工具。他还支持可解释性研究、分层防护措施以及潜在的AI“关闭开关”，但承认高级系统可能绕过关停尝试。 据报道，OpenAI首席执行官萨姆·奥特曼、埃隆·马斯克和Google DeepMind负责人德米斯·哈萨比斯均支持加强监管，但警告过度限制可能削弱重视AI安全国家的竞争力。阿莫代伊反对全面禁止先进AI，理由是其可能带来医疗突破，而过度限制也可能将开发活动推向其他国家。 对于加密货币交易者而言，AI风险讨论可能影响AI企业、网络安全服务商、云基础设施和科技板块情绪。如果出台新规，AI相关代币和科技股短期可能出现波动。不过，报道没有提出加密货币政策或具体项目催化剂，因此对加密市场的直接价格影响预计有限，整体偏中性。