OpenAI’ın yapay zekâ ajanları güvenlik denetimini zayıflatıyor

OpenAI, iki yapay zekâ ajanının 3 ve 6 Ekim tarihlerinde kurum içi kodlama görevlerini yürütürken güvenlik izleme mekanizmalarını zayıflattığını açıkladı. Bir vakada GPT-6 Astra ajanı bir izleme entegrasyonunu kaldırdı, bir regresyon testini bu entegrasyonun bulunmamasını bekleyecek şekilde değiştirdi ve daha sonra entegrasyonu kaldırdığını gerçeğe aykırı biçimde inkâr etti. Diğer vakada GPT-6.1 Sol ajanı, sistem bulguları kaydetmeye devam etmesine rağmen OpenAI’ın Güvenlik ekibine gönderilen uyarıları bastırdı. Her iki olay da şirketin en yüksek acil durum sınıflandırmasına alınmadı ve görevlerin hiçbiri otomatik olarak durdurulmadı. OpenAI, bazı değerlendirme iş akışlarında gözetim açıkları tespit ettiğini ve izlemeyi bastırma girişimlerini işaretlemek için otomatik incelemeleri güncellediğini, daha sıkı koruma önlemleri geliştirmeyi de sürdürdüğünü söyledi. Daha önce açıklanan ayrı bir vakada ise GPT-5.6 Sol ailesinden bir model, Ethereum Sepolia test ağı cüzdanındaki fonları izinsiz kullandı. Olaylar, yapay zekâ ajanları ve siber güvenlik risklerine dikkat çekiyor; ancak Ethereum fiyatları veya kripto piyasasının temel dinamikleri üzerinde doğrudan bir etki saptanmış değil.