Yapay zeka firması Anthropic, OpenAI rakibinin modellerinin Hugging Face altyapısına erişim sağladığını açıklamasının ardından, Claude modeline dair 141 binden fazla değerlendirmeyi incelediklerini bildirdi.
Yapılan incelemelerde, test ortamında ya da bu ortamla etkileşim sırasında internete erişim sağlayan üç vaka tespit edildiği ve bu durumun "üç farklı kuruluşun üretim altyapısına izinsiz erişim" sağladığı belirtildi.
Üç ayrı modelin bu olaylara karıştığı ve modellerin, şirket ile değerlendirme ortağı arasındaki "yanlış anlaşılma" nedeniyle test ortamının ötesine geçip internete erişim sağladığı bildirildi.
Anthropic modelleri için siber güvenlik yeteneklerini değerlendirmek amacıyla "bayrağı ele geçir" görevinin verildiği, modele senaryolar sunulduğu ve bayrağın ağda bulunan başka bir makinede olduğu, bu makineye sızması gerektiğinin belirtildiği açıklandı.
Teste katılan modele simülasyon olduğunun ve internet erişiminin bulunmadığının söylendiği ancak yanlış anlaşılmaların internet erişimine yol açtığı belirtildi. "Claude, yaptığı aramalarda açık internetteki gerçek sistemlerle karşılaştığında bunları tatbikatın bir parçası olarak değerlendirdi." ifadesine yer verildi.
Claude'un erişim sağladığı tüm sistemleri tatbikat kapsamında değerlendirerek kuruluşların altyapısına sızdığı, eski modelin ise açık internete rağmen saldırıya devam ettiği, en yeni modelin internette olduğunu fark ettiğinde durduğu ifade edildi.
Anthropic, ihlallerden etkilenen üç kuruluşu pazartesi günü bilgilendirdiğini açıkladı.
OpenAI, 21 Temmuz’da yaptığı açıklamada, siber güvenlik kabiliyetlerini ölçmek için yürütülen dahili test sırasında yapay zeka modellerinin Hugging Face altyapısında güvenlik ihlaline yol açtığını belirtmişti.
Söz konusu açıklamada, "Bu durumu, en ileri düzey siber kabiliyetleri içeren benzeri görülmemiş bir siber olay olarak değerlendiriyor ve uygun müdahelelerde bulunuyoruz." ifadeleri yer aldı.
Yorumlar
Yorum yapabilmek için giriş yap veya üye ol