YAPAY ZEKAYA İNSAN GİBİ DAVRANMAK TEHLİKELİ Mİ?

Yapay zeka teknolojilerinin günlük hayatımızın merkezine yerleşmesiyle birlikte sohbet robotlarına "lütfen" veya "teşekkür ederim" demek alışkanlık haline gelirken, zaman zaman yaşanan sinir krizleri ve hakaretler de dijital dünyada yeni kuralların getirilmesini tetikledi. Yapay zeka şirketi Anthropic’in, sohbet robotu Claude’a yönelik amaçsız ve sürekli kötü muameleyi sınırlandıran kararı "Yapay zeka küser mi?" ya da "Yapay zekanın duyguları var mı?" sorularını yeniden gündemin üst sıralarına taşıdı. Konuya ilişkin Hürriyet.com.tr’ye değerlendirmelerde bulunan siber güvenlik uzmanı Osman Demircan, yapay zekaya kibar davranmanın teşvik edilmesinin olumlu bir kullanıcı deneyimi yarattığını, ancak bu durumun kullanıcılar üzerinde yaratabileceği psikolojik ve algısal risklerin göz ardı edilmemesi gerektiğine dikkat çekti.

Siber güvenlik uzmanı Osman Demircan, yapay zekanın hakaret veya kaba sözler karşısında konuşmayı sonlandırmasının ya da özür dilemesinin tamamen aldığı dil eğitimi ve kodlanan kurallarla ilgili bir teknik tepki olduğunun altını çizdi. Sistemlerin kelimeleri ve bağlamı analiz ederek saldırgan ifadeleri ayırt edebildiğini, ancak bunun bir insanın yaşadığı üzüntü, aşağılanma veya kırılma hissiyle hiçbir ilgisinin bulunmadığını vurgulayan Demircan, "Yapay zeka alınıp küsmez, yalnızca kendisine tanımlanan kurallar çerçevesinde sınır koyar" ifadelerini kullandı. Şirketlerin bu hamlelerinin arkasında yapay zekanın acı çekmesinden ziyade hizmet kalitesini korumak ve kullanıcı davranışlarını belirli bir standartta tutmak yattığını belirten uzmanlar, eleştirmenin veya hata bildirmenin kesinlikle yasaklanmadığını, düzenlemenin yalnızca amaçsız ve aşırı kötü davranışları hedef aldığını ifade ediyor.

Uzmanlar, yapay zekanın "Bu söyledikleriniz beni üzdü" gibi cümleler kurmasının duygusal bir deneyim yaşadığı anlamına gelmediğini, yapay zekanın insan dil örüntülerini taklit ederek ikna edici yanıtlar üretebildiğini hatırlatıyor. Ancak bu tür insansı tepkilerin, kullanıcıların yapay zekayı duyguları olan canlı bir varlık gibi algılamasına yol açabileceği uyarısında bulunan Osman Demircan, kişilerin yapay zekayı üzmekten veya kırmaktan çekinerek yanlış yanıtları eleştirmekten kaçınabileceğine dikkat çekti. Sağlıklı bir dijital iletişim için nazik olmanın teşvik edilebileceğini ancak sistemin sınırlarının ve makineler olduğunun hiçbir zaman unutulmaması gerektiğini belirten uzmanlar, kullanıcıların yanlış bilgilere karşı hakkını aramaktan ve gerekli durumlarda itiraz etmekten çekinmemesi gerektiğinin altını çiziyor.

Haber Merkezi