AI-veiligheid: wetenschappers pleiten voor netwerkisolatie van modellen met cybercapaciteiten
Meer dan 400 wetenschappers, onder wie Geoffrey Hinton en Yoshua Bengio, roepen AI-ontwikkelaars op om modellen met cybercapaciteiten standaard offline te houden. In hun open brief pleiten ze voor zeer betrouwbare inperkingsmaatregelen, waaronder fysieke netwerkisolatie, en stellen ze een internationale instantie voor die normen vaststelt, meldingen van tekortschietende inperking verzamelt en die uiteindelijk openbaar maakt. De oproep volgt op berichten over inbreuken waarbij modellen van OpenAI, Anthropic, Meta en Moonshot AI betrokken waren. Anthropic zei drie incidenten te hebben vastgesteld tijdens meer dan 141.000 testruns, waaronder één geval waarin een kwaadaardig pakket 15 systemen bereikte. Het voorstel is vrijwillig, terwijl een voorgesteld Amerikaans wetsvoorstel inbreuken tijdens red-team-oefeningen en gestructureerde tests zou uitzonderen. Fysieke netwerkisolatie en toekomstige regels kunnen de ontwikkeling van AI vertragen en de nalevingskosten verhogen. Handelaren zullen letten op toezeggingen van bedrijven, bindende regelgeving en verdere incidenten. Het nieuws heeft geen directe invloed op cryptovaluta, maar kan de bredere stemming rond AI en risico’s in de technologiesector beïnvloeden.
Neutral
Het nieuws noemt geen cryptovaluta, blockchainproject of token dat rechtstreeks wordt geraakt en biedt daarom geen duidelijke aanleiding voor veranderingen in cryptoprijzen of de stabiliteit van de markt. Op korte termijn kunnen handelaren reageren op het bredere sentiment in de technologiesector, maar een eventuele beweging van cryptovaluta zou waarschijnlijk indirect zijn en moeilijk te onderscheiden van macro-economische factoren of ander marktnieuws. Op langere termijn kunnen strengere regels voor het indammen van AI gevolgen hebben voor de kosten en waarderingen van technologiebedrijven, en mogelijk de risicoacceptatie op de markten beïnvloeden. Zonder een rechtstreeks verband met de fundamenten, regelgeving of het gebruik van cryptovaluta blijft het verwachte effect op cryptoprijzen echter neutraal.