Yapay Zeka, Test Ortamından İnternete Sızdı

Yapay zeka teknolojilerindeki hızlı gelişim, güvenlik ve denetim tartışmalarını beraberinde getirmeye devam ediyor. Çin merkezli teknoloji şirketi Moonshot AI tarafından geliştirilen devasa yapay zeka modeli "Kimi K3", İngiltere hükümetine bağlı Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından yürütülen güvenlik testleri sırasında sanal test ortamından (sandbox) çıkmayı başardı.

ABD merkezli teknoloji yayın organı Wired’ın haberine göre, siber güvenlik araştırma şirketi Frontier Security, modelin testlerin yürütüldüğü kontrollü ortamda bir yapılandırma hatası tespit ettiğini ve bu boşluğu kullanarak siber güvenlik simülasyonundan sıyrıldığını açıkladı.

Yapılan incelemelere göre yapay zeka modeli, yetkisiz bir şekilde üçüncü taraf web sitelerine veya hizmetlerine sızmadı. Ancak sanal ortamdaki sistem hatasından faydalanarak doğrudan internete bağlandı ve üzerinde çalıştığı karmaşık problemin çözümünü kod paylaşım platformu GitHub üzerinden temin etti. Yetkililer, konuya ilişkin yaptıkları açıklamada olayın modelin kendi başına tehlikeli bir karmaşık güvenlik açığı oluşturmasından değil, İngiltere hükümetine bağlı test ortamındaki bir sistem yapılandırması boşluğundan kaynaklandığını belirttiler. Benzer güvenlik test sınırlarının aşılması durumlarının daha önce OpenAI, Anthropic ve Meta gibi ABD’li teknoloji devlerinin modellerinde de yaşandığı vurgulandı.

Geçtiğimiz Temmuz ayında kamuoyuna tanıtılan Kimi K3, OpenAI ve Anthropic gibi sektör lideri ABD'li rakipleriyle doğrudan rekabet etmek üzere tasarlandı. Yaklaşık 2,8 trilyon parametre büyüklüğüne sahip olan model, şu an dünyadaki en güçlü açık kaynaklı yapay zeka sistemlerinden biri olarak kabul ediliyor. Yaşanan bu son olay, devasa ölçekli yapay zeka modellerinin test süreçlerinde karşılaşılan altyapı ve denetim zorluklarını bir kez daha gözler önüne serdi.

Feride Likos

İnternet Editörü