AI 위험으로 최첨단 개발을 늦추자는 요구가 커지고 있다

Anthropic의 CEO 다리오 아모데이는 프런티어 AI 개발을 신중하게 늦춰야 한다고 촉구하며, AI 역량이 안전 인프라보다 빠르게 발전하고 있다고 경고했다. 3,800단어 분량의 에세이와 이후 CBS 인터뷰에서 그는 점점 더 자율화되는 AI 에이전트가 취약점을 악용하고 6~12개월 안에 인터넷 일부를 통제할 가능성이 있다고 말했다. 또한 생물학 무기 개발에 AI를 악용하려는 시도가 이미 있었으며, 통제되지 않은 AI 위험이 수천억 달러 규모의 피해를 초래할 수 있다고 경고했다. 아모데이는 AI 기업에 접근할 수 있는 독립적인 제3자 평가기관, 공동 안전 및 출시 기준, 강화된 정부 감독, 국제 협력을 제안했다. Anthropic은 2027년까지 모델 문제의 대부분을 감지할 수 있는 도구를 개발하는 것을 목표로 하고 있다. 그는 해석 가능성 연구, 다층적 안전장치, 잠재적인 AI 킬 스위치도 지지하지만, 고도화된 시스템이 종료 시도를 회피할 수 있다는 점도 인정했다. OpenAI CEO 샘 올트먼, 일론 머스크, Google DeepMind 수장 데미스 허사비스는 더 강력한 감독을 지지하는 것으로 알려졌지만, 과도한 규제가 AI 안전을 우선시하는 국가들의 경쟁력을 약화시킬 수 있다고 경고했다. 아모데이는 의료 분야의 잠재적 혜택과 개발이 다른 곳으로 이동할 위험을 이유로 전면적인 금지에는 반대했다. 암호화폐 트레이더에게 AI 위험 논쟁은 AI 관련 기업, 사이버보안 제공업체, 클라우드 인프라, 기술 부문 투자심리에 영향을 줄 수 있다. 새로운 규제가 등장하면 AI 연계 토큰과 주식에 단기 변동성이 발생할 수 있다. 그러나 해당 보도는 암호화폐 정책이나 특정 프로젝트에 대한 촉매제를 발표하지 않았다. 따라서 암호화폐 가격에 대한 직접적인 영향은 제한적이고 중립적으로 유지될 가능성이 높다.