AI-risker driver krav på att bromsa utvecklingen av spjutspetsteknik

Anthropics vd Dario Amodei har förespråkat en kontrollerad inbromsning av utvecklingen av avancerad AI och varnat för att AI:s förmågor utvecklas snabbare än säkerhetsinfrastrukturen. I en essä på 3 800 ord och i en efterföljande intervju med CBS sade han att alltmer autonoma AI-agenter inom sex till tolv månader skulle kunna utnyttja sårbarheter och potentiellt kontrollera delar av internet. Han varnade också för att AI redan hade försökt missbrukas för biologiska vapen och att okontrollerade AI-risker kunde orsaka skador på hundratals miljarder dollar. Amodei föreslog oberoende tredjepartsutvärderare med tillgång till AI-företag, gemensamma säkerhets- och lanseringsstandarder, starkare statlig tillsyn och internationellt samarbete. Anthropic siktar på att utveckla verktyg som kan upptäcka de flesta modellproblem senast 2027. Han stöder även forskning om tolkningsbarhet, säkerhetsskydd i flera lager och en möjlig AI-nödavstängning, samtidigt som han medger att avancerade system kan kringgå försök att stänga av dem. OpenAI:s vd Sam Altman, Elon Musk och Google DeepMinds chef Demis Hassabis uppges stödja starkare tillsyn, men varnar för att alltför långtgående begränsningar kan försvaga konkurrenskraften hos länder som prioriterar AI-säkerhet. Amodei avvisade ett generellt förbud och hänvisade till möjliga medicinska fördelar samt risken att utvecklingen flyttar någon annanstans. För kryptohandlare kan debatten om AI-risker påverka AI-relaterade företag, cybersäkerhetsleverantörer, molninfrastruktur och sentimentet inom tekniksektorn. Den kan skapa kortsiktig volatilitet i AI-kopplade kryptotoken och aktier om nya regler införs. Rapporterna innehåller dock ingen kryptopolitik eller projektspecifik katalysator. Den direkta priseffekten på krypto väntas därför förbli begränsad och neutral.