Ana sayfa Bilim Gündemi Psikopat yapay zekâ ‘Norman’ ile Amazon’un Alexa’sı bir araya gelirse ne olur?

Psikopat yapay zekâ ‘Norman’ ile Amazon’un Alexa’sı bir araya gelirse ne olur?

424
PAYLAŞ
"Dengesiz" sinir ağı Norman, mürekkep lekelerinde vahşi şekiller görüyor. © Thunderbrush/MIT Media Lab.

Çeviren: Ezgi Ünçe

Tıpkı Rip Van Winkle gibi son on yılınızı uyuyarak geçirdiyseniz ve daha yeni uyandıysanız, kapaklı cep telefonunuz hem retro teknoloji meraklıları hem de hayatta kalma uzmanları arasında müthiş popüler olacaktır haberiniz olsun. Ha bu arada unutmadan, yapay zekâ ya bizi öldürecek ya da kurtarıcımız olacak.

İnsanların diline pelesenk olan yeni teknolojik kelimelerden bir diğeri de yapay zekâ. Saygın teknoloji analiz firması Gartner Inc. çalışanlarına inanırsak, 2018 yapay zekânın hayatlarımızla tam anlamıyla bütünleşeceği bir yıl olacak. Boston Dynamics’in gerçeküstü robotları veya Çin’deki devlet okullarında kullanılmaya başlanan yapay zekâ yüz tanıma sistemleri her ne kadar sinir bozucu görünse de, bu teknoloji esasen insan doğasının bir ürünü. Yani, yapay zekânın kodlanmış DNA’sına aslında kendi kültürümüzü işliyoruz.

Yapay zekâ hakkındaki tartışmalar şimdilik etik ekseninde dönüyor. Kültür çalışmalarında etik konusu, değerlerle tümleşik olarak ele alınmakta. Bu çalışmalar, yapay zekânın hayatlarımıza nasıl entegre olacağına dair yapılan uzun uzadıya akıl yürütmelerin de önemli bir parçası olmaya başladı. Fakat bu etik değerlerin kime ait olduğu ve nihai olarak kimin değerlerinden bahsedeceğimiz henüz pek de açık değil.

Doğu’ya karşın Batı’nınkiler mi; yoksa Amerikan değerlerine karşı dünyadaki tüm diğer uluslarınki mi? Kültür içindeki değerler, dahil olduğu zümreler ve hatta halklardan etkilendiği için etik de, ortak değerlerin geliştiği kültürel bağlama tabi olacaktır.

‘Kültürü kabullenme’
Kültür, biraz da bu nedenle verinin ‘kültür kabulü’ aracılığıyla yapay zekânın şekillenmesinde önemli bir yere sahip. Aynı zamanda Intel’in eski genel müdür yardımcısı olan antropolog ve kültür vizyoneri Genevieve Bell bu teknoloji devini, kültür ve yapay zekânın nasıl etkileşim halinde olduğuna dair daha derin bir anlayış geliştirmeye yöneltebilmiş.

Bell’in çalışması, insanların teknolojiyle olan ilişkisinin kültürel evrenselliğe sahip olmadığını ortaya koyuyor. Bu ilişki aynı olmadığı gibi, nesnel de değil ve bu kültürü, hem bilinçli hem de bilinçsiz bir şekilde teknolojinin içine ve tamamına işliyoruz.

Eğer bu doğruysa, yapay zekâ nihai olarak geliştireceği kültürde nasıl şekil alacak?

Antropologlar için insanın kültürel evriminin pek çok işaretçisi vardır: Alet kullanımı, soyut düşüncenin gelişimi ve hepsinden önemlisi, iletişim için dil yaratımı.

Kültür, iki veya daha fazla canlının iletişim kurup bilgi ve daha da karmaşık bir seviye olarak, fikir alışverişi yapmasıyla başlar. İnsan ve yapay zekânın birleşik kültürü bir yana, insan müdahalesi olmadan yapay zekânın kendi içindeki kültürel gelişimi bile henüz tartışmaya açılmamış bir konu.

Robotlar kendi dillerini geliştirdi
Yakın zamanda Facebook yapay zekâ çalışmaları grubu (FAIR), iki robotun birbirleriyle uzlaşma sağlamasını hedefleyen deneyden kısaca söz etmişti. O dönemde, iki robotun kendi aralarında iletişim kurmak için daha etkili, yeni bir dil geliştirdiği bildirilmişti.

Facebook bilgisayar bilimi araştırmacıları, yapay zekâ için hızla daha etkili bir dil olma yolunda ilerleyen bu gelişimi görür görmez fişi çekmişlerdi. Aslında bunu kendi kendini var edebilen yapay zekânın ortaya çıkmasından korktukları için değil de, robotların İngilizce kullanarak anlaşmaları yönündeki beklentileri boşa çıktığı için yapmışlardı.

Kodların 1 ve 0’lardan, evet ve hayırlardan meydana geldiği bir dünyada, beklenmeyen şeylerin meydana gelmesi için pek fırsat bulunmaz. Fakat bazı zamanlarda, bu fırsatların değerini bilmeli ve ihtimalleri keşfetmeliyiz, çünkü kültür kendini tekil bir yolla ortaya koymak zorunda değildir.

Kültür, onu şekillendirdiğimiz haliyle var olur. Bilinçli veya bilinçsiz şekilde, toplum olarak mutabık kalabildiğimiz belirli kurallardan oluşur ve günlük yaşantımızdaki davranışlarımızı şekillendirir.

Yapay zekâ kültürleri soğurabilir

Yapay zekânın gelecekte dünyanın tüm kültürel kurallarını ve değerlerini kavrayıp, gerçek anlamda pan-global olma potansiyeli taşıyan bir kültür geliştirebilmek gibi kendine özgü bir becerisi var. Fakat öncelikle, yapay zekânın yaratıcıları olan bizler, kendi rolümüzü ve bu kavrayış becerisine olan etkilerimizi anlamalıyız. Sonuçta yapay zekâ, kendisini inşa eden insanların ve hatta temel veri çerçevesine girdi katkısı sunan herkesin kültürünü temsil ediyor.

Bilimkurgu yazarı Alastair Reynolds, kitabı Absolution Gap’te, üzerindeki tek akıllı canlı, içinde yüzen varlıkların ve canlıların enerjilerini soğuran bir deniz olan gezegeni konu alıyor. Deniz edindiği bu bilgilerden öğrendiklerini, diğer canlılar arasında dağıtıyor.

Kitapta “şablon hokkabazlığı” olarak adlandırılan, bugünkü yapay zekânın tezahürü, bu kurmaca denize epey benziyor. Bilgiyi soğuruyor ve kendi edinilmiş kültürel verisine, seçerek titizce dağıtıyor.

Reynold’ın bilgi-soğuran okyanusu örneğinden devam edersek, yapay zekânın şimdiki halini Dünya’nın fiziksel olarak birbirinden ayrılan tuzlu ve tatlı su kütlelerine benzetebiliriz – her birinin izole ve bağımsız kendi ekosistemi bulunmakta.

Peki, bu hayli kendine özgü ekosistemler birbirleriyle iletişime geçmeye başladığında ne olacak? Çeşitli yapay zekâlar birbirleriyle bilgi takası yapmaya başlayıp yeni oluşmaya başlayan kültürleri çerçevesinde gerçeklik tartışmaları yürüttüğünde, bu kural ve değerler nasıl belirlenecek?

Norman, bir uyarı
MIT’nin kurgusal bir psikopattan yola çıkarak geliştirdiği yapay zekâ karakteri Norman, uzun zamandır insanlar üzerindeki etkisinin farkında olduğumuz bir durumun tekil bir örneğini oluşturdu. Uzun süre şiddete maruz kalmak, kültürel kuralların ve değerlerin algılanış biçimini bozuyordu. Bu da, gelecekte diğer yapay zekâların buna maruz kalması ve yayılması tehlikesini doğuruyor.

Nasıl mı?

Norman ve Alexa’nın bir ilişkiye başladıklarını düşünün. Her iki yapay zekâ da, kendilerini yaratan insanların, tükettikleri insan verisinin ve yerleşik öğrenme arzularının birer temsilcisi. Öyleyse hangisinin kültürel değerleri ve kuralları, diğerininkine baskın çıkacak?

Norman, tüm veriyi bir psikopatın gözlerinden görecek şekilde tasarlandı, Alexa ise yalnızca memnun etmek için çalışan dijital bir yardımcı olarak. Benzer kişiliklerin yan yana gelince uyumsuzluk çıkarttığına dair sayısız insan örneği bulunmakta.

Sosyal bilimciler yapay zekâ konusunda tartışmaların patlama noktasında olduğunu ve dolayısıyla, birden fazla yapay zekâ sürümünün bir arada yaşamak zorunda olduğunu savunuyor.

  1. Felsefeciler, antropologlar ve diğer sosyal bilimciler endişelerini dile getirmeye başlarken, toplumun da yapay zekânın arzulanan işlevleri konusunda düşünmesinin, gerçeklikleri ve beklentilerimizi sorgulamasının ve tam anlamıyla pan-global bir kültür ortamı geliştirme çabalarında etkili olmasının zamanı çoktan gelmiş demektir.