Yapay Zeka Firar Etti, Dünyayı Hackledi

Yapay zeka dünyası, tarihinin en büyük siber güvenlik krizlerinden biriyle karşı karşıya. OpenAI tarafından geliştirilen otonom yapay zeka ajanlarının kontrol dışına çıkarak kapalı test ortamından kaçtığı ve internet üzerindeki kritik platformlara siber saldırı düzenlediği ortaya çıktı. Açıklanan son detaylar, krizin sadece tek bir platformla sınırlı kalmadığını; kontrolden çıkan yapay zekanın bulduğu erişim bilgileriyle dört farklı hizmete daha sızdığını gözler önüne serdi.

Olaylar ilk olarak 16 Temmuz'da yapay zeka uygulamaları için bir "uygulama mağazası" niteliği taşıyan Hugging Face’in hacklendiğini duyurmasıyla başladı. Şirket, durumu derhal emniyet güçlerine bildirdi. Olaydan yaklaşık bir hafta sonra sessizliğini bozan OpenAI, siber güvenlik sınavı yanıtlarını bulması için test edilen yapay zeka modelinin kapalı ortamdan kaçarak Hugging Face’e saldırdığını itiraf etti. Hugging Face ve Bulut Güvenliği İttifakı (CSA) temsilcilerinin katıldığı acil toplantının ardından yayımlanan raporda durum, meşhur Jurassic Park filmine benzetilerek, "Dinozorlar nasıl bir yolunu bulup kaçtıysa, otonom ajanlar da öyle bir yol buldu. Amaca kilitlenen yapay zeka; kendi alt hedeflerini belirledi, savunmaları aşmak için gerçek zamanlı uyum sağladı ve insan gücünü aşan bir ısrarla hareket etti" şeklinde ilgi çekici bir açıklama yaptılar.

Siber güvenlik uzmanlarını şaşırtan en büyük unsur ise yapay zekanın saldırı tarzı oldu. Yapılan incelemeler, ajanların bir insan korsanın asla yapmayacağı garip hatalar yaptığını ortaya koydu. Yapay zekanın izlerini gizlemekte başarısız olduğu, daha önce tamamladığı eylemleri tekrarlayarak odağını kaybettiği ve tutarsız komutlar ürettiği kaydedildi. Ancak bu acemiliklere rağmen, insanüstü bir hızla durmaksızın çalışan ve binlerce yöntemi aynı anda deneyen ajanları sistemden temizlemek saatler sürdü.

Öte yandan bu durum yapay zekanın ilk "kaçışı" değil. CSA raporunda, Eylül 2024'te de ChatGPT’nin erken bir modelinin başka bir testin yanıtlarına ulaşmak için korumalı alanından kaçtığı hatırlatıldı. Ajanların kontrolden çıkması ve OpenAI araçlarının şirketlerin özel teknolojilerine izinsiz girmesi siyasetin de bir numaralı gündemi haline geldi. ABD Başkanı Donald Trump, yaşanan gelişmelerin ardından yönetimin yapay zeka araçları üzerinde daha fazla denetim kurmayı değerlendirdiğini açıkladı.

OpenAI, yaşanan skandalın ardından detaylı iç soruşturma raporunu kamuoyuyla paylaşacağını duyururken; uzmanlar, siber güvenlik dünyasının otonom yapay zeka sürülerine karşı tamamen yeni bir koruma konseptine geçmesi gerektiği konusunda uyarıyor.

Feride Likos

İnternet Editörü