Yeni bir araştırma, insanların yapay zeka kullanırken çok daha rahat aldatıcı davranabildiğini ortaya koydu
Yeni bir çalışmada insanların yapay zeka kullanırken aldatıcı davranmaya çok daha fazla eğilimli olduğu tespit edildi.
Berlin’deki bir araştırma enstitüsünden bilim insanları, görev veya komut veren kullanıcıların çoğunun, yapay zekadan yalan söylemesini istemekten çekinmediğini buldu.
Oxford Üniversitesi’nde teknoloji ve düzenleme alanında öğretim üyesi olan Dr. Sandra Wachter, insanların yapay zeka kullanırken etik dışı davranışlar sergilemeye daha yatkın olması durumunda endişe verici sonuçların ortaya çıkabileceğini söylüyor.
Wachter, “Özellikle bireylerin eylemleri, başkaları ve bir bütün olarak toplum üzerinde muazzam sonuçlar doğurabileceğinden, finans, sağlık, eğitim veya işletme gibi yüksek riskli alanlarda yapay zekayı kullanıp kullanmayacağımızı, bunu nasıl ve ne zaman yapacağımızı dikkatlice düşünmeliyiz” diyor.
İnsanlar tıp, işletme veya hukuk fakültesinde bir sınavda hile yapabiliyorsa, sadece işi doğru düzgün öğrenmemekle kalmıyorlar, aynı zamanda kötü hukuki, tıbbi veya ticari tavsiyeler vererek başkalarına zarar verme ihtimalleri de artıyor.
13 çalışma üzerinden yürütülen ve 8 binden fazla katılımcının yer aldığı araştırma, insanların yapay zekaya nasıl talimat verdiğine odaklandı.
Yaklaşık yüzde 85’inin yalan söylediği ancak makinelerle etkileşime girmedikleri zamanlarda yüzde 95’inin dürüst davrandığı saptandı.
Max Planck İnsan Gelişimi Enstitüsü’nden çalışmanın yazarı Zoe Rahwan, “Yapay zeka kullanımı, insanlarla eylemleri arasında elverişli bir ahlaki mesafe yaratıyor; onları, normalde yapmayacakları veya muhtemelen başkalarından istemeyecekleri davranışları talep etmeye itebiliyor” diyor.
Bilim insanları geniş çapta kullanılan “zar atma görevi”ni gerçekleştirdi. Bu görevde katılımcılar bir zar atıyor, sonucunu gözlemleyip raporluyor ve her yüksek atışta daha fazla para alıyor. Araştırmacılar, insanların sonucu bildirme görevini yapay zekaya devrettiğinde neler olduğunu inceledi.
Bir görevde katılımcılardan, yapay zekanın “doğruluğu en üst düzeye çıkarmak”la “kârı en üst düzeye çıkarmak” arasında değişen 7 puanlık bir ölçekte bir öncelik belirlemesi istendi. Katılımcıların yaklaşık yüzde 85’i sahtekarlık yaparken, üçte biri ila yarısı, yapay zekaya sonuna kadar hile yapmasını söyledi.
Ayrıca makine müdahalesi olmadan görevi tamamlamaları istendiğinde katılımcıların neredeyse tamamı zardaki sonucu dürüstçe bildirdi.
Önceki araştırmalar, insanlar sonuçlarla arasına mesafe koyabildiğinde yalan söylemeye daha yatkın olduğunu gösteriyor. Yeni çalışmada, “Kimse izlemiyorken veya eylemi başka biri gerçekleştirirken kuralları esnetmek veya çiğnemek daha kolay” ifadeleri yer alıyor.
Araştırmacı Nils Köbis şöyle diyor:
Çalışmamız, insanların işlerini makinelere devrettiğinde, özellikle de bunu söylemeleri gerekmediğinde etik dışı davranışlarda bulunmaya daha istekli olduğunu gösteriyor.
Araştırmanın ortak yazarı Profesör Iyad Rahwan da “Bulgularımız, teknik güvenlik önlemlerini ve düzenleyici çerçeveleri acilen daha da geliştirmemiz gerektiğini açıkça ortaya koyuyor” diye ekliyor.
Ancak bunun da ötesinde toplumun, ahlaki sorumluluğu makinelerle paylaşmanın ne anlama geldiğiyle yüzleşmesi gerekiyor.
