AI 안전: 과학자들, 사이버 역량을 갖춘 모델의 네트워크 격리 촉구

제프리 힌턴과 요슈아 벤지오를 포함한 과학자 400여 명이 AI 개발자들에게 사이버 기능을 갖춘 모델을 기본적으로 오프라인 상태로 유지할 것을 촉구하고 있다. 이들은 공개 서한에서 네트워크와의 물리적 분리 등을 포함한 높은 수준의 보증이 뒷받침되는 격리 조치를 요구하고, 기준을 마련하고 격리 실패 보고를 수집해 궁극적으로 공개할 국제기구의 설립을 제안했다. 이번 촉구는 OpenAI, Anthropic, Meta, Moonshot AI의 모델과 관련된 보안 침해가 보고된 뒤 나왔다. Anthropic은 14만 1,000회가 넘는 테스트 실행에서 세 건의 사고를 발견했다고 밝혔으며, 그중 한 건에서는 악성 패키지가 15개 시스템에 도달했다. 이 제안은 자발적 조치인 반면, 미국에서 발의된 법안은 레드팀 및 구조화된 테스트 중 발생한 침해를 예외로 둘 예정이다. 네트워크 격리와 향후 규제는 AI 개발을 늦추고 규정 준수 비용을 높일 수 있다. 트레이더들은 기업의 약속, 구속력 있는 규제, 추가 사고 발생 여부를 주시할 것이다. 이번 소식은 암호화폐에 직접적인 영향을 미치지는 않지만, AI와 기술 부문 위험에 대한 전반적인 투자 심리에 영향을 줄 수 있다.