Bezpieczeństwo AI: naukowcy apelują o odizolowanie od sieci modeli zdolnych do działań w cyberprzestrzeni

Ponad 400 naukowców, w tym Geoffrey Hinton i Yoshua Bengio, apeluje do twórców AI, by modele posiadające możliwości cybernetyczne były domyślnie odłączone od sieci. W liście otwartym domagają się zastosowania wysoce niezawodnych zabezpieczeń, w tym fizycznej izolacji od sieci, oraz proponują powołanie międzynarodowego organu, który ustanawiałby standardy, zbierał zgłoszenia o przypadkach nieskutecznego odizolowania i ostatecznie podawał je do wiadomości publicznej. Apel pojawia się po doniesieniach o naruszeniach związanych z modelami OpenAI, Anthropic, Meta i Moonshot AI. Anthropic poinformowało o wykryciu trzech incydentów w ponad 141 tysiącach uruchomień testowych, w tym jednego przypadku, w którym złośliwy pakiet dotarł do 15 systemów. Propozycja ma charakter dobrowolny, natomiast projekt ustawy przedstawiony w USA zwalniałby z odpowiedzialności za naruszenia podczas ćwiczeń red team i testów ustrukturyzowanych. Fizyczna izolacja od sieci i przyszłe regulacje mogą spowolnić rozwój AI oraz zwiększyć koszty spełniania wymogów. Inwestorzy będą obserwować zobowiązania firm, wprowadzenie wiążących przepisów i kolejne incydenty. Wiadomość nie ma bezpośredniego wpływu na kryptowaluty, ale może kształtować szersze nastroje wobec AI i ryzyka w sektorze technologicznym.