Amerikan yapay zekâ şirketi Anthropic’in güvenlik araştırmacılarından Evan Hubinger, yapay zekâ teknolojisinin hızlı gelişimine ilişkin dikkat çekici bir uyarıda bulundu. Hubinger, gelecek 10 yıl içinde yapay zekânın “tüm insanları öldürmesi” ihtimalini yüzde 10’dan fazla gördüğünü açıkladı.
Hubinger, X üzerinden yaptığı değerlendirmede mevcut yapay zekâ modellerinin oluşturduğu riskin düşük olduğunu belirtti. Ancak teknolojinin hızla ilerlemesi ve kendi gelişimini hızlandırabilecek kapasiteye ulaşması halinde risklerin ciddi biçimde artabileceğini savundu.
Hubinger, yapay zekânın insanlığın yok olmasına hangi mekanizmalar üzerinden yol açabileceğine ilişkin ayrıntılı bir senaryo paylaşmadı.
“Süper zekâ için henüz bir planımız yok”
Yapay zekâ sistemlerini insan değerleri ve hedefleriyle uyumlu tutmaya odaklanan “AI alignment” alanında çalışan Hubinger, süper zekâ düzeyindeki sistemleri güvenli biçimde kontrol etmeye yönelik sorunun henüz çözülmediğini ifade etti.
Hubinger, Anthropic’in güvenlik konusunda elinden geleni yapmaya çalıştığına inandığını ancak süper zekâ için uyum sorununu çözecek bir planın bulunmadığını ve bu alanda net ilerleme kaydedilmediğini söyledi.
Eski Anthropic ve OpenAI araştırmacısı Jacob Coxon da yapay zekâ şirketlerinin yeterince sorumlu davranmadığını öne sürdü. Coxon, gelecekteki sistemlerin siber güvenlikten bilimsel araştırmalara kadar birçok alanda insanüstü yeteneklere ulaşabileceğini savundu.
Anthropic hakkında AISI iddiası
BBC’nin Financial Times’dan aktardığına göre Anthropic’in en yeni modelini Birleşik Krallık Yapay Zekâ Güvenliği Enstitüsü’ne (AISI) değerlendirme amacıyla sunmadığı öne sürüldü. Anthropic iddiaya ilişkin yorum yapmadı.
Birleşik Krallık hükümeti de söz konusu modelin AISI’den gizlenip gizlenmediğine ilişkin doğrudan açıklama yapmazken, Anthropic dahil sektör temsilcileriyle modellerin güvenliğini artırmak için çalışmaların sürdüğünü bildirdi.
Cambridge Üniversitesi Makine Öğrenimi Profesörü Neil Lawrence ise BBC Radio 4’ün Today programında, ABD’nin yapay zekâ alanını giderek Çin ile stratejik bir rekabet olarak değerlendirmesinin uluslararası işbirliğini etkileyebileceğini söyledi.
Şirketler de riskleri değerlendiriyor
Anthropic’in Ağustos 2026 tarihli güvenlik değerlendirmesinde, gelişmiş modellerin kurumların hedefleriyle uyumsuz hale gelerek sistemleri istismar etmesi veya “yapay zekâ kaynaklı felaket düzeyinde zararlara” yol açması riskinin düşük olduğu belirtildi. Ancak şirket, bu değerlendirmeye duyduğu güvenin önceki döneme göre azaldığını da kaydetti.
Yapay zekânın oluşturabileceği varoluşsal riskler konusunda teknoloji sektöründe görüş ayrılıkları sürüyor. OpenAI, Google DeepMind ve Anthropic yöneticileri de 2023 yılında ileri düzey yapay zekâdan kaynaklanabilecek ağır risklerin küresel ölçekte ele alınması gerektiğini açıklamıştı.
By 
Comments