Siguranța IA: oamenii de știință cer izolarea de rețele a modelelor cu capabilități cibernetice

Peste 400 de oameni de știință, printre care Geoffrey Hinton și Yoshua Bengio, le cer dezvoltatorilor de inteligență artificială să păstreze offline, în mod implicit, modelele cu capabilități cibernetice. Scrisoarea lor deschisă solicită măsuri de izolare cu un nivel ridicat de siguranță, inclusiv deconectarea fizică de la rețele, și propune înființarea unui organism internațional care să stabilească standarde, să colecteze rapoarte despre eșecurile măsurilor de izolare și, în cele din urmă, să le facă publice. Apelul vine după relatări despre breșe care au implicat modele de la OpenAI, Anthropic, Meta și Moonshot AI. Anthropic a declarat că a identificat trei incidente în peste 141.000 de rulări de test, inclusiv un caz în care un pachet malițios a ajuns la 15 sisteme. Propunerea este voluntară, în timp ce un proiect de lege propus în SUA ar excepta breșele produse în timpul exercițiilor de tip red team și al testelor structurate. Deconectarea fizică de la rețele și viitoarele reglementări ar putea încetini dezvoltarea IA și crește costurile de conformare. Traderii vor urmări angajamentele companiilor, reglementările obligatorii și apariția unor noi incidente. Știrea nu are un impact direct asupra criptomonedelor, dar ar putea influența percepția generală asupra IA și a riscurilor din sectorul tehnologic.