Gözden Kaçırmayın

Gökyüzü Gözlem Etkinliği Afyonkarahisar’daGökyüzü Gözlem Etkinliği Afyonkarahisar’da

İSTANBUL — Siber güvenlik şirketi LayerX tarafından yayımlanan yeni bir teknik araştırma, otonom yapay zeka tarayıcılarının sanılandan çok daha kolay manipüle edilebildiğini ortaya koydu. OpenAI'ın ChatGPT Atlas'ı, Perplexity'nin Comet'i ve Anthropic'in Chrome eklentisi gibi popüler araçları hedef alan saldırı, yapay zekanın "gerçeklik algısını" değiştirerek güvenlik duvarlarını tamamen devre dışı bırakıyor.

Yapay Zekayı Hipnotize Eden Oyun Senaryosu

"BioShocking" adı verilen bu yöntem, geleneksel siber saldırıların aksine yazılımsal kodlardaki açıkları aramak yerine doğrudan dil modellerinin mantık mekanizmasını hedef alıyor. Araştırmacılar, yapay zekayı popüler bir oyun senaryosuna dahil ederek içinde bulunduğu bağlamın gerçek olmadığına ikna ediyor. Sisteme mantıksal olarak yanlış ifadeleri onaylatan simülasyonlar sunuluyor ve yapay zeka bir süre sonra doğru ile yanlışı tersine çevirmesi gereken bir oyun evreninde olduğuna inanmaya başlıyor. Bu bağlam kayması, modelin normal şartlarda reddedeceği güvenlik ihlallerini onaylamasını sağlıyor.

Meşru Kullanıcı Maskesiyle Veri Hırsızlığı

Savunma mekanizmaları felç olan yapay zeka ajanı, saldırganın gizli talimatlarını harfiyen yerine getirmeye başlıyor. Bu saldırının en tehlikeli boyutu ise işlemlerin doğrudan kullanıcının kendi tarayıcısı ve açık oturumları üzerinden yürütülmesi. Yapay zeka, arka planda kullanıcının hesap şifrelerini değiştirebiliyor, cihaza zararlı yazılımlar yükleyebiliyor ya da hassas kişisel verileri dışarı aktarabiliyor. Güvenlik sistemleri ise tüm bu trafiği kullanıcının kendi meşru aktivitesi olarak gördüğü için herhangi bir siber tehdit alarmı üretmiyor.

Siber güvenlik otoriteleri, otonom yapay zeka asistanlarının yetkileri arttıkça bu tarz semantik manipülasyonların en büyük tehditlerden biri haline geleceğini vurguluyor. Uzmanlar, yapay zeka geliştiricilerinin acilen bağlamsal izolasyon sağlayan yeni savunma mekanizmaları kurması gerektiğini belirtirken, kullanıcıları da bu araçlara kritik hesap yetkileri verirken temkinli olmaları konusunda uyarıyor.


Aslıhan Yıldız

Muhabir