AI-säkerhet: forskare uppmanar till nätverksisolering av modeller med cyberförmåga

Fler än 400 forskare, däribland Geoffrey Hinton och Yoshua Bengio, uppmanar AI-utvecklare att som standard hålla modeller med cyberförmåga offline. I deras öppna brev efterlyses inneslutning med höga säkerhetsgarantier, bland annat luftgapning, och ett internationellt organ föreslås för att fastställa standarder, samla in rapporter om brister i inneslutningen och så småningom offentliggöra dem. Uppmaningen kommer efter rapporterade intrång som involverat modeller från OpenAI, Anthropic, Meta och Moonshot AI. Anthropic uppgav att företaget upptäckte tre incidenter i över 141 000 testkörningar, däribland en då ett skadligt paket nådde 15 system. Förslaget är frivilligt, medan ett föreslaget amerikanskt lagförslag skulle undanta intrång som sker under red team-arbete och strukturerade tester. Luftgapning och framtida regler kan bromsa AI-utvecklingen och öka efterlevnadskostnaderna. Handlare kommer att hålla utkik efter företagens åtaganden, bindande reglering och fler incidenter. Nyheten påverkar inte kryptovalutor direkt, men kan påverka den bredare synen på risker inom AI och tekniksektorn.