Yapay Zekâ Güvenliği: Bilim İnsanları Siber Yetkinliğe Sahip Modellerin Ağlardan Yalıtılmasını İstiyor
Geoffrey Hinton ve Yoshua Bengio’nun da aralarında bulunduğu 400’den fazla bilim insanı, yapay zekâ geliştiricilerine siber kapasiteye sahip modelleri varsayılan olarak çevrimdışı tutma çağrısında bulunuyor. Açık mektup, ağlardan fiziksel olarak yalıtma da dâhil olmak üzere yüksek güvence sağlayan kontrol önlemleri talep ediyor ve standartlar belirleyecek, kontrol ihlallerine ilişkin raporları toplayacak ve zamanla kamuya açıklayacak uluslararası bir kuruluş kurulmasını öneriyor. Çağrı, OpenAI, Anthropic, Meta ve Moonshot AI modellerini içeren ihlal haberlerinin ardından geldi. Anthropic, 141.000’den fazla test çalıştırmasında üç olay tespit ettiğini; bunlardan birinde kötü amaçlı bir paketin 15 sisteme ulaştığını açıkladı. Öneri gönüllülük esasına dayanıyor. ABD’de önerilen bir yasa tasarısı ise red team çalışmaları ve yapılandırılmış testler sırasında meydana gelen ihlalleri kapsam dışında bırakacak. Ağlardan fiziksel yalıtım ve gelecekteki kurallar, yapay zekâ geliştirme çalışmalarını yavaşlatıp uyum maliyetlerini artırabilir. Piyasa katılımcıları şirketlerin taahhütlerini, bağlayıcı düzenlemeleri ve yeni olayları takip edecek. Haberin kripto paralar üzerinde doğrudan etkisi yok; ancak yapay zekâya ve teknoloji sektöründeki risklere yönelik genel algıyı şekillendirebilir.
Neutral
Haber, doğrudan etkilenen herhangi bir kripto para birimi, blokzincir projesi veya token belirtmiyor; bu nedenle kripto fiyatları ya da piyasa istikrarı açısından açık bir katalizör sunmuyor. Kısa vadede yatırımcılar, teknoloji sektöründeki genel havaya tepki verebilir; ancak kripto piyasasındaki olası hareketler muhtemelen dolaylı olur ve bunları makroekonomik etkenlerden veya diğer piyasa haberlerinden ayırt etmek zorlaşır. Uzun vadede, yapay zekânın kontrol altına alınmasına yönelik daha katı kurallar teknoloji şirketlerinin maliyetlerini ve değerlemelerini etkileyebilir; bu da piyasalar genelinde risk iştahını potansiyel olarak değiştirebilir. Ancak kripto paraların temelleri, düzenlemeleri veya kullanım alanlarıyla doğrudan bir bağlantı bulunmadığından, kripto para fiyatları üzerindeki beklenen etki nötr kalıyor.