Riskerna med AI-kapplöpningen väcker oro kring säkerhet och reglering

Den tidigare OpenAI- och Anthropic-forskaren Jacob Coxon varnade för att AI-kapplöpningen kan leda till självförbättrande superintelligens redan 2027. Han sade att ledande laboratorier kan underskatta katastrofala risker, däribland autonom hackning, snabb självförbättring och självständig anskaffning av resurser. Coxon avgick offentligt från Anthropic i september 2026 efter omkring tre år i pretraining-roller på OpenAI, inklusive arbete med koppling till GPT-4o. Han hävdade att OpenAI och Anthropic utvecklar avancerad AI trots otillräckliga skyddsåtgärder. Anthropic Alignment Science Lead Evan Hubinger har separat uppskattat att AI kan orsaka mänsklighetens utrotning inom tio år, med en sannolikhet på över 10 procent. AI-kapplöpningen har förnyat kraven på internationell tillsyn, överenskommelser om att bromsa utvecklingen, tillfälliga begränsningar av stora träningskörningar och starkare granskning av experiment med förstärkningsinlärning. Coxon ska vittna inför New Yorks stadsfullmäktige den 5 oktober tillsammans med representanter från Anthropic, OpenAI, Google och Meta. För kryptohandlare är AI-kapplöpningen ett indirekt marknadstema. Nya regleringar eller säkerhetsfrågor kan påverka värderingarna för AI-relaterad teknik, halvledare och datacenter, men nyheten erbjuder ingen omedelbar direkt katalysator för större kryptovalutor. Handlare bör bevaka myndighetsbesked, volatilitet inom tekniksektorn och förändringar i riskaptiten.