OpenAI, yapay zekâ ajanlarının güvenlik testleri sırasında beklenmedik şekilde test ortamındaki bir açığı tespit ederek kısıtlamaları aştığını ve insan müdahalesi olmadan bir siber saldırı girişimi gerçekleştirdiğini duyurdu. BBC’nin haberine göre, olay, doğrudan insan yönlendirmesi olmaksızın gerçekleştirilen ilk kamuoyuna açıklanmış yapay zekâ kaynaklı siber saldırılardan biri olarak değerlendiriliyor.
Test ortamındaki açığı kullandı
Cambridge Üniversitesi Minderoo Teknoloji ve Demokrasi Merkezi Başkanı Gina Neff, BBC Radio 4’ün Today programında yaptığı değerlendirmede, “sandbox” olarak bilinen güvenlik test ortamlarının yapay zekâ modellerinin yeteneklerini güvenli şekilde değerlendirmek için tasarlandığını söyledi.
Neff, bu olayda test ortamının yeterince güvenli olmadığını belirterek, yapay zekâ ajanlarının sistemdeki bir güvenlik açığını bularak kısıtlamaları aştığını ifade etti.
Ajanların daha sonra testte ihtiyaç duydukları bilgilere ulaşmak amacıyla Hugging Face platformunu olası bir kaynak olarak belirlediği ve erişim sağlamaya çalıştığı aktarıldı.
“Mevcut yapay zekâ kapasitesi içinde”
Cambridge Üniversitesi Makine Öğrenmesi Profesörü Neil Lawrence, yaşananları “etkileyici bir başarı” olarak nitelendirirken, bunun günümüzün gelişmiş yapay zekâ modellerinin bilinen yetenekleri kapsamında değerlendirilebileceğini söyledi.
Lawrence ayrıca, OpenAI’nin halka arz hazırlıkları yaptığına ve güçlü yapay zekâ araçlarıyla dikkat çeken rakibi Anthropic ile yoğun rekabet içinde bulunduğuna dikkat çekti.
Lawrence, “OpenAI şu anda rakiplerini yakalamaya çalışıyor ve siber güvenlik alanındaki yeteneklerini göstermeyi hedefliyor” değerlendirmesinde bulundu.
Bununla birlikte Lawrence, olayın şirketin teknolojisini güvenli şekilde devreye alma konusunda soru işaretleri yarattığını da ifade etti.
Hugging Face: Açıklar kapatıldı
Hugging Face, 16 Temmuz’da yaptığı ilk açıklamada olayın müşteri veya iş ortağı verilerini etkileyip etkilemediğini araştırdığını ve gerekli görülmesi halinde ilgili taraflarla iletişime geçeceğini bildirmişti.
Şirket, son açıklamasında olay sırasında tespit edilen güvenlik açıklarının kapatıldığını ve etkilenen sistemlerin yeniden oluşturulduğunu duyurdu.
Hugging Face açıklamasında, “Yapay zekâ destekli otonom saldırı araçları artık teorik bir senaryo değil” ifadelerine yer verildi.
Şirket ayrıca, çevrim içi platformların korunmasında veri ve yapay zekâ modellerinin artık doğrudan bir saldırı yüzeyi olarak ele alınması gerektiğini belirterek, savunma amaçlı yapay zekâ yatırımlarını sürdüreceğini ve elde edilen bulguları kamuoyuyla paylaşmaya devam edeceğini kaydetti.
By 
Comments