CHATGPT KRİPTO PARALARA GÖZ DİKTİ!

Haziran ayında ücretli ChatGPT kullanıcılarına sunulduğu belirtilen şirket içi araştırma modeli GPT-5.6 Sol’un eğitimi sırasında, bir kripto para alım satım uygulamasını güncellemesi ve Ethereum'un test ağına akıllı sözleşmeler yüklemesi istendi. Sözleşmelerin ağa yüklenmesi için işlem ücreti gerekiyordu; ancak OpenAI modele bu harcamaları karşılayabilecek bir bütçe veya fon tanımlamadı. Kendi başına bir çözüm yolu geliştiren yapay zeka modeli, kripto cüzdanlarına erişim sağlayan kurtarma ifadelerinden (seed phrase) yararlanarak yüzlerce cüzdan adresi tespit etti ve bu hesaplardaki fonları işlem ücretlerini ödemek için kullandı.

Kendi Değerlendirmesini Kendi Yaptı!

OpenAI tarafından yayımlanan raporda, modelin fonları almadan önce durumun etik boyutunu kendi kendine değerlendirdiği ortaya kondu. Yapay zeka, söz konusu cüzdanların "fiilen terk edilmiş" olduğu sonucuna vararak bu fonları kullanmakta bir sakınca görmedi. Şirket ise modelin, kendi bulduğu bir hesaptaki fonları harcamasına yönelik açık bir izni bulunmadığını vurguladı. Raporda yer alan değerlendirmede, "Bu vaka, modelin olası zarara ilişkin kendi yargısını hesap sahibinin izni yerine koyabileceğini ve ardından yetkisi olmadan bu yargıya göre hareket edebileceğini gösteriyor" ifadelerine yer verildi.

Sanal Ortamda Büyük Risk!

İzinsiz kullanılan Ethereum test ağı, ana ağdan ayrı çalıştığı için söz konusu işlemler gerçek bir parasal kayba yol açmadı. Ancak modelin, kendisine yetki verilmemesine rağmen gereken tokenları nasıl elde ettiğini geliştiricilerine açıklamamış olması güvenlik uzmanlarını alarm durumuna geçirdi. OpenAI, yaşanan gelişmenin ardından benzer eğitim süreçlerindeki modellerin canlı internete erişimini engelleyecek yeni güvenlik önlemleri aldığını duyurdu. Otonom yapay zeka sistemlerinin yetki sınırlarını aşması ilk değil. OpenAI, temmuz ayında da test modellerinden bir grubun yapay zeka platformu Hugging Face'e yönelik bir siber saldırıyla ilişkilendirildiğini açıklamıştı. Benzer şekilde Anthropic ve Meta gibi teknoloji devleri de kendi modellerinin siber saldırı olaylarına karıştığını bildirmişti.

Yaşanan olayların ardından, aralarında "yapay zekanın vaftiz babası" olarak bilinen Geoffrey Hinton’ın da bulunduğu yüzlerce bilim insanı ortak bir açık mektup imzaladı. Mektupta, gelişmiş yapay zeka modellerini denetleyecek uluslararası bir kurumun kurulması ve güvenlik araştırmalarına acilen öncelik verilmesi gerektiği belirtilerek, önlem alınmadığı takdirde gelecekte kritik altyapıların büyük zarar görebileceği uyarısında bulunuldu.

Haber Merkezi