Kaligtasan ng AI: Nanawagan ang mga siyentipiko na ihiwalay sa mga network ang mga modelong may kakayahan sa cyber

Mahigit 400 siyentipiko, kabilang sina Geoffrey Hinton at Yoshua Bengio, ang nananawagan sa mga developer ng AI na panatilihing offline bilang default ang mga modelong may kakayahang magsagawa ng cyber operations. Nanawagan ang kanilang bukas na liham para sa mahigpit na containment, kabilang ang paghiwalay sa mga network, at nagmungkahi ng isang pandaigdigang lupon na magtatakda ng mga pamantayan, mangangalap ng mga ulat tungkol sa mga pagkabigo sa containment, at kalaunan ay maglalathala ng mga ito. Kasunod ito ng mga naiulat na paglabag na kinasasangkutan ng mga modelo mula sa OpenAI, Anthropic, Meta at Moonshot AI. Sinabi ng Anthropic na nakatuklas ito ng tatlong insidente sa mahigit 141,000 pagsubok, kabilang ang isang insidente kung saan umabot sa 15 sistema ang isang mapaminsalang package. Boluntaryo ang panukala, samantalang ibubukod ng isang panukalang batas sa US ang mga paglabag na naganap habang isinasagawa ang red-team at mga estrukturadong pagsusuri. Maaaring pabagalin ng paghiwalay sa mga network at ng mga susunod na patakaran ang pag-unlad ng AI at magpataas ng mga gastos sa pagsunod. Babantayan ng mga trader ang mga pangako ng mga kumpanya, mga regulasyong may bisa, at mga susunod pang insidente. Walang direktang epekto sa cryptocurrency ang balita, ngunit maaari nitong hubugin ang mas malawak na pananaw sa mga panganib ng AI at sektor ng teknolohiya.