Ana sayfa 164. Sayı Isaac Asimov’un Üç Robot Yasası Üzerine

Isaac Asimov’un Üç Robot Yasası Üzerine

411
PAYLAŞ

İlk kez 1942 yılında yayımlanan, daha sonra Ben Robot adlı kitabın da bir bölümünü oluşturan Durağan Döngü adlı kısa öyküsünde Asimov, “Robotbilimin Üç Yasası”nı ortaya atar. Sonraları bu yasaları, yazdığı tüm robot külliyatının temeli olarak kabul ettiğini ifade etmiştir.

1 – Robotlar, insanlara zarar veremez ya da eylemsiz kalarak onlara zarar gelmesine göz yumamaz.

2 – Robotlar, Birinci Kanun’la çakışmadığı sürece insanlar tarafından verilen emirlere itaat etmek zorundadır.

3 -Robotlar, Birinci ya da İkinci Kanun’la çakışmadığı sürece kendi varlıklarını korumak zorundadır.

Bu yasaları temel alarak yazdığı tüm öykülerinde Asimov, yasaların amacını, sırasının önemini ve eksikliklerinden ya da yazılış şekillerinden ortaya çıkan çatışmaları kaleme alır. Bilimkurgu tarihine kazınmış bu yasalar, bir çok yazar tarafından benimsenir ve robotlar üzerine yazılan öykülerin, romanların, filmlerin temel meselesini oluşturmaya başlar. Üç Robot Yasası söz konusu olduğunda tartışılması gereken iki büyük soru vardır: “Yasaların sırası bu olmasaydı ne olurdu?” ve “Bu yasalar yeterli midir?

Üç Robot Yasasının Sıralaması

Birinci yasanın “Robotlar, insanlar tarafından verilen emirlere itaat etmek zorundadır,” olduğunu ve insanlığın varlığını ya da robotun kendi varlığını korumasının bu yasa ile çakışmadığı sürece devreye gireceğini varsayalım. Robotlar artık onlara sahip olanların elinde birer asker ya da silah haline gelecektir. Bu da Elon Musk’ın her fırsatta dile getirdiği gibi robotların (Yapay Zeka’nın) denetlenmesinin gerekliliğine dair endişeleri haklı kılacaktır. Robotlar insanların yaptığı pek çok işi kolayca yapabilecek birer araç olarak düşünülebilecek olsa bile, tarihin bize gösterdiği bir gerçek var ki o da robotların birileri tarafından başka birilerine karşı silah olarak da kullanılmak isteneceğidir. Asimov’un emirlere uymayı birinci kural olarak yerleştirmemiş olmasındaki en büyük etmen belki de budur.

“Robotlar, kendi varlıklarını korumak zorundadır,” ifadesinin birinci yasa olduğu durum ise, Musk’ın asıl vurgu yaptığı, robotların insanlardan üstün varlıklar haline dönüşmesinin önünü açacaktır. Klişe haline gelmiş olsa da en gerçek tespitlerden biri olan, “insanlar Dünya’nın hastalığıdır,” sözü robotların bir numaralı mottosu haline gelebilecektir. Bu durumda robotlar dünyanın ve kendilerinin iyiliği için insanların yok edilmesinin en iyi seçenek olduğuna karar verebilir. Bu durumda eğer ikinci yasa “Robotlar, Birinci Kanun’la çakışmadığı sürece insanlar tarafından verilen emirlere itaat etmek zorundadır,” olursa insanlara zarar vermeme yasası en geri plandaki yasa olacağı için insanlığın katli muhakkak ki gerçek olacaktır. Ancak ikinci yasa “Robotlar, Birinci Kanun’la çakışmadığı sürece insanlara zarar veremez ya da eylemsiz kalarak onlara zarar gelmesine göz yumamaz.” olur ise robotlar insanlığı yok etmeye meyilli olsalar bile, zarar vermeme yasası devreye girdiği noktada insanlık belki yok edilmeyecek ama köleleştirilebilecektir.

Birinci yasayı orijinal halinden değiştirmeksizin ikinci ve üçüncü yasanın yerleri değiştirilir ise robotların kendi varlıklarını devam ettirmesi, emirlere uymaktan daha önemli bir yasa haline gelecektir. Robotlar, bu durumda insanların verdiği emirleri sadece kendi hayatları tehlikede olmadığında yerine getirecektir. Bu da insan hayatını kolaylaştırmak ve insan hayatının riske girebileceği durumlarda devreye sokmak amacıyla robot üretimi ve geliştirmesi yapan insanlar için robotlar üzerinde çalışmayı anlamsız kılacaktır.

Asimov’un bu üç yasa için koyduğu sıra incelendiğinde görülüyor ki, bu sıralama, insanlar ve robotların dengede bir varoluş göstermeleri için gerekli bir sıralama. Peki bu yasalar yeterli mi?

Yeni Robot Yasaları

“Bir insanı öldürmenin uzun vadede bütün insanlığın yararına olacağı bir durum söz konusu olursa bir robot nasıl davranmalı?” Bu soru Asimov’un Üç Robot Yasası’nın en büyük eksikliğini fark etmesine yol açar ve “Sıfırıncı Yasa” ile birlikte Asimov’un robot yasaları tamamlanır.

0 – Robotlar, tüm insanlığa zarar veremez ya da eylemsiz kalarak insanlığın bütününe zarar gelmesine göz yumamaz.

 Asimov Üç Robot Yasası’nın kendi kitaplarının evreninde mutlak kanunlar olduğunu belirtmiş ve Sıfırıncı Yasa dışında yeni bir yasa eklemeyi reddeder. Ancak başka yazarların direkt alıntı yapmadan bu üç yasa varsayımıyla çalışan robot anlatılarına yeni eklemeler yapmasını teşvik eder.

1974 yılında yayımlanan Icarus’un Yolu adlı kitabında Lyuben Dilov dördüncü yasayı önerir: “Robotlar, olası her durumda bir robot olduğunu belirtmek zorundadır.” Diloy, bu yasayı insansı robotların insanların gözünde oluşturacağı karışıklığı gidermek amacıyla ortaya attığını söyler.  Bu yasaya 1983 yılında yayınlanan “Robotik’in Beşinci Yasası” adlı kısa öyküsünde Nikola Kesarovski  beşinci yasayı ekler: “Robotlar, robot olduklarını bilmek zorundadır.” Bu öyküde Kesarovski, Diloy’un dördüncü yasası ve kendi beşinci yasasının olmadığı bir durumda, bir robotun karşısındaki bir insana orantısız bir güçle sarıldığında karşısındakini öldürüp istemeden birinci yasayı yıkabileceğini gösterir.

Peki ya bir robot kendi kodunu değiştirmeye kalkıp yasaları ortadan kaldırırsa ne olacak? Kendisi gibi bir robot üretmeye çalışırken bu yasaların sırasını karıştırır ya da hiç koymazsa? Bir grup insan arasında en az birinin ölümü kaçınılmaz olduğunda robot hangisinin ölmesini tercih edecek? Peki ya robotların insan olmayan canlılara ya da başka bir robota karşı tutumu ne olacak?

Asimov’un Yasaları kendisinin de dediği gibi kendi yarattığı evrende mükemmel işlerler. Çıkan problemler yine bu yasalara göre mantıklı çözümlere ulaşır ya da aslında bir insanın robota emir verirkenki vurgusunun yasaları dengelediği durumlar oluşur. Gerçekte ise durum göründüğü kadar basit değildir. Belki de bunu en güzel özetleyen söz Kanadalı bilimkurgu yazarı Karl Schroeder’a aittir: “Robotlar muhtemelen bir çok programlama katmanına sahip olacaklar. Yani 3 yasa değil. Belki 20 ya da 30…”

– Ben Robot, Isaac Asimov, Çev. Ekin Odabaş, İthaki Yayınları, 2016, 248 s.