Henüz hiçbirimiz İstanbul’da minibüs caddesinin hayhuyunda kendi kendine gidebilen bir araba hayal edemesek de yapay zekâ araştırmacıları uzunca bir süredir bu teknolojiyi hayata geçirmek için uğraşıyorlar. Yeterli işlemci gücü ve güçlü algılayıcılar ile böyle arabaların trafiğe çıkması artık mümkün. Bu teknolojinin avantajları kazaların çok azalacak olması (arabalar aralarında iletişim kurabiliyorlar) ve araba sürmek için trafikte geçirdiğimiz zamanı başka işlerde kullanacak olmamız. Ama önemli bir sorun var: Otonom (sürücüsüz) araba kaza yapıp birini öldürürse, bundan kim sorumlu olacak?
24 Ekim 2018’de Nature dergisinde yayınlanan bir makale yapay zekâ tarafından yönetilen otonom arabaların etik sorunlarını ilginç bir yöntemle araştırıyor. Araştırmacılar 223 ülkeden yüz binlerce insana internet üzerinden iki seçenekli sorular sorarak kaza yapmak üzere olan bir arabanın nasıl davranmasını tercih edeceklerini anlamaya çalışıyorlar. Eğer araba illa birine çarpacaksa, üç yaşlı kadını mı ezsin, yoksa kırmızıda geçen bir genci mi? Yayaları mı tehlikeye atsın, yoksa arabanın içindekileri mi?
Çalışmanın amacı bu soruların doğru cevaplarını bulmak değil. Asıl amaç insanların normalde ahlak ve etik anlayışlarına göre cevapladığı bazı sorulara yapay zekânın nasıl cevap vermesi gerektiği konusunda uzlaşma sağlamak. Otonom arabadan nasıl davranmasını bekliyoruz? Bu beklentiler kültürel faktörlere göre değişiyor mu? İşte bunu anlamak için farklı kültürlerden insanlara tercihlerini sormuşlar.
Deneye katılanlara toplamda dokuz farklı ‘kaçınılmaz kaza’ senaryosu verilmiş ve iki seçenekten birini seçmeleri istenmiş: İnsanları mı hayvanları mı kurtaralım? Araba düz gitmeye devam mı etsin, yoksa direksiyonu mu kırsın? Daha çok hayat kurtarmayı seçsin mi? Kadınları mı, erkekleri mi kurtarsın? Yaşlıları mı, gençleri mi? Sağlıklıları mı? Engellileri mi? Trafik kurallarına uyanları mı, uymayanları mı? Sosyal statüsü yüksek olanları mı, düşük olanları mı?
Yaklaşık 493 bin kişiden toplanmış, 40 milyona yakın karar analiz edildiğinde, soruların cevaplarında net tercihlerin yapıldığı (hayvanlar yerine insanları kurtarmak, az kişi yerine çok kişiyi kurtarmak), ama tercihlerin kültürlere göre ciddi farklılıklar gösterdiği saptanmış. Basit bir kümeleme yaklaşımı ile yazarların kabaca Batı, Doğu ve Güney olarak isimlendirdiği üç farklı kültürel grup ortaya çıkmış. Bu grupların farklılıklarına örnek vermek gerekirse, daha çok Hristiyan kökenli kültürlerden oluşan Batı grubu daha bireyci bir anlayışı temsil ederek, az kişi yerine çok kişi kurtarma tercihini güçlü bir şekilde ifade etmiş. Müslüman ve Budist ağırlıklı Doğu grubunda yaşlılara duyulan saygı nedeniyle gençlerin kurtarılması öncelikli bulunmamış. Yapılan analizde Türkiye’nin Güney Amerika ülkelerinin ağırlıkta olduğu Güney grubunda yer aldığını görüyoruz. Kültürel tercihler bakımından Türkiye’ye en yakın ülke Azerbaycan olmuş. Bu grupta gençleri yaşlılara tercih etmek güçlü ifade edilmiş.
Deneyin burada çok azına değinebildiğim kültürel sonuçlarının ilginçliği bir yana, yapay zekâ etiği açısından işaret ettiği noktalar önemli. İşten yorgun argın evine dönen, kafasında ay sonunu nasıl getireceğini kuran bir sürücü önüne üç yaşlı kadın ve kırmızıda geçen bir genç çıktığı zaman en doğru kararı vermeyebilir, arabaya takla attırıp hem yayaları, hem de kendini ateşe atabilir. Fakat her durumda davranışının sorumluluğunu taşır. Ülkeden ülkeye farklılıklar gösteren ve çoğu zaman baskın dini inancın kurguladığı ahlak sisteminden esinlenen hukuk kuralları bu sorumluluğun sonuçlarını farklı şekillerde çizebilir. Sürücü kurtulursa bir ülkede beş, diğerinde on yıl hapis yatabilir, bir başkasında ceza almayabilir.
Çalışmayla ilgili sosyal medyada ‘elbette gençleri tercih etmeli’, ‘tabii ki trafik kurallarına uyanları kurtarmalı’ gibi yorumlar yapılmış, fakat tıpkı çalışmanın da gösterdiği gibi, bu yorumlar ülkelere göre değişiyor, aslında evrensel tercihler yok. O halde otonom arabanın da çalıştığı ülkeye göre davranışlarını değiştiren bir algoritması mı olmalı?
Albert Ali Salah
Boğaziçi Üniversitesi Bilgisayar Bölümü öğretim üyesi
