AIの安全性：科学者ら、サイバー能力を持つモデルのネットワークからの隔離を求める

ジェフリー・ヒントン氏やヨシュア・ベンジオ氏を含む400人以上の科学者が、サイバー能力を持つモデルを原則としてオフラインに保つよう、AI開発者に呼びかけている。公開書簡では、ネットワークから物理的に切り離すことなど、高い保証水準を備えた封じ込め策を求めるとともに、基準の策定、封じ込め失敗の報告収集、そして将来的な報告の公表を担う国際機関の設立を提案している。この呼びかけは、OpenAI、Anthropic、Meta、Moonshot AIのモデルに関係する侵害が報告されたことを受けたものだ。Anthropicは、14万1,000回を超えるテスト実行の中で3件の事案を確認したと述べた。そのうち1件では、悪意のあるパッケージが15のシステムに到達した。提案は自主的なものだが、米国で提案されている法案では、レッドチーム演習や構造化されたテスト中に発生した侵害は適用除外となる。ネットワークからの隔離や将来の規則は、AI開発を遅らせ、コンプライアンス費用を押し上げる可能性がある。トレーダーは、企業の約束、法的拘束力のある規制、さらなる事案に注目するだろう。このニュースが暗号資産に直接与える影響はないが、AIやテクノロジーセクターのリスクに対する広範な市場心理を左右する可能性がある。