Yapay Zeka İnsanlığı Yok Edebilir!

BBC’ye verdiği röportajda yapay zeka güvenliğine ilişkin hayati uyarılarda bulunan Clark, yazılımların insanlık için tehdit oluşturacak boyuta ulaşması durumunda sistemin tamamen devre dışı bırakılmasını sağlayacak mekanizmaların şart olduğunu vurguladı.

Anthropic dâhil pek çok şirketin kendi bünyesinde çeşitli kapatma protokollerine sahip olduğunu hatırlatan Clark, bu denetimlerin bağımsız kurumlarca yürütülmesi gerektiğine işaret etti. Toplumun ve politika yapıcıların bu süreçte devreye girmesi gerektiğini savunan Clark, "Sektörün tamamen kontrolsüz bir şekilde ilerlemesi son derece tehlikeli. Şu anda muazzam riskler alarak adeta kumar oynuyoruz. Asıl mesele, bu endüstrinin gidişatını ve yönünü bir an önce değiştirmektir" şeklinde konunun önemine binaen açıklamalarda bulundu.

Sektördeki güvenlik kaygıları yalnızca yönetim kademesiyle sınırlı değil. Son üç yılını OpenAI ve Anthropic bünyesinde araştırmacı olarak geçiren Jacob Coxon, şirketlerin yeterince sorumlu hareket etmediğini belirterek görevinden istifa etti. Şirketler arasında kendi kendini geliştirebilen yapay zeka modelleri üzerine kontrolsüz bir yarış yaşandığını öne süren Coxon, yakın gelecekte her türlü sistemi hackleyebilecek "insanüstü" yapıların doğabileceği uyarısında bulundu. Coxon, sektör çalışanlarının önemli bir kısmının, bu sistemlerin 10 yıl içinde insanlığın sonunu getirebileceğine ciddi şekilde inandığını iddia etti.

Melike Gökdemir

Muhabir