S\u00fcper g\u00fc\u00e7l\u00fc yapay zek\u00e2n\u0131n ortaya \u00e7\u0131k\u0131p y\u0131k\u0131c\u0131 sonu\u00e7lar do\u011furdu\u011fu bir sabaha uyand\u0131\u011f\u0131m\u0131z\u0131 d\u00fc\u015f\u00fcnelim. Nick Bostrom\u2019\u0131n S\u00fcper Zek\u00e2, Max Tegmark\u2019\u0131n Ya\u015fam 3.0 gibi kitaplar\u0131 ve ayn\u0131 zamanda son zamanlardaki makaleler k\u00f6t\u00fc niyetli yapay zek\u00e2n\u0131n insanl\u0131k i\u00e7in bir risk oldu\u011funu savunuyor.<\/p>\n
Konu hakk\u0131nda sonsuz fikir ortaya at\u0131labilir ancak daha somut ve deneysel bir soru sormam\u0131z gerekirse: Bir felaketin yakla\u015ft\u0131\u011f\u0131n\u0131 nas\u0131l anlayaca\u011f\u0131z?<\/p>\n
Asl\u0131nda manip\u00fcle edilmi\u015f s\u00fcper zek\u00e2n\u0131n yakla\u015fmakta oldu\u011funun i\u015faretini felaket habercisi\/ kanarya olarak adland\u0131rabiliriz. E\u011fer bir yapay zek\u00e2 program\u0131 \u00e7ok temel ve yeni bir yetenek geli\u015ftirirse bu durum “felaketin yakla\u015fmakta oldu\u011funun g\u00f6stergesi” olabilir.<\/p>\n
Peki, me\u015fhur Turing testi bir felaket habercisi\/kanarya olabilir mi? Turing testi, 1950 y\u0131l\u0131nda Alan Turing taraf\u0131ndan yap\u0131lm\u0131\u015f olup insan-insan ileti\u015fimi ile insan-bilgisayar ileti\u015fimi aras\u0131ndaki fark hissedilemedi\u011finde ba\u015far\u0131l\u0131 olan bir yapay zek\u00e2 testidir. \u00d6nemli bir test ancak bir felaket habercisi\/kanarya de\u011fil. Sadece h\u00e2lihaz\u0131rdaki yapay zek\u00e2 \u00e7al\u0131\u015fmalar\u0131n\u0131n \u00e7oktan insanl\u0131k seviyesine ula\u015ft\u0131\u011f\u0131n\u0131n g\u00f6stergesi olacakt\u0131r. \u00c7o\u011fu bilgisayar uzman\u0131 b\u00f6yle bir ula\u015fma an\u0131na s\u00fcper zek\u00e2n\u0131n h\u0131zla ayak uyduraca\u011f\u0131na inan\u0131yor. Bu sebeple daha orta seviyeli bir d\u00f6n\u00fcm noktas\u0131na ihtiyac\u0131m\u0131z var.<\/p>\n
Yapay zek\u00e2n\u0131n oyun performans\u0131 bir g\u00f6sterge mi? Daha genel bir \u015fekilde makine \u00f6\u011frenimi, yapay zek\u00e2n\u0131n son 10 y\u0131ldaki ba\u015far\u0131s\u0131n\u0131n merkezinde. Lakin \u201cmakine \u00f6\u011frenimi\u201d kavram olarak yanl\u0131\u015f kullan\u0131l\u0131yor. Makineler, insanlar\u0131n zengin ve \u00e7ok y\u00f6nl\u00fc \u00f6\u011frenme kabiliyetlerinin sadece k\u00fc\u00e7\u00fck bir k\u0131sm\u0131na sahiptir. \u201cMakineler \u00f6\u011frenebilir\u201d demek bebek penguenlerin bal\u0131k tutmay\u0131 bildi\u011fini s\u00f6ylemek gibidir. Ger\u00e7ekte olan \u015fudur ki; yeti\u015fkin penguen y\u00fczer, bal\u0131\u011f\u0131 yakalar, sindirir ve yavrular\u0131n gagas\u0131na kusar. Yapay zek\u00e2 da ayn\u0131 \u015fekilde bilim insanlar\u0131 ve m\u00fchendisler taraf\u0131ndan beslenir.<\/p>\n Makine \u00f6\u011freniminin aksine, insan \u00f6\u011frenimi ki\u015fisel motivasyondan (\u201cAilemden ba\u011f\u0131ms\u0131z olabilmek i\u00e7in araba s\u00fcrmeyi \u00f6\u011frenmek istiyorum.\u201d) daha stratejik bir \u00f6\u011frenme plan\u0131na (“S\u00fcr\u00fcc\u00fc kursu derslerini hafta sonlar\u0131 al.”) do\u011fru yol \u00e7izer. Birey, belirli \u00f6\u011frenme hedeflerini form\u00fcle eder (“Paralel parka daha \u00e7ok \u00e7al\u0131\u015f.”) onlar\u0131 toplar, verileri s\u0131n\u0131fland\u0131r\u0131r (“Bu sefer park a\u00e7\u0131s\u0131 yanl\u0131\u015ft\u0131.”) geri d\u00f6n\u00fct ve arka plan bilgilerini b\u00fcnyesinde bir araya getirir. (“E\u011fitmen dikiz aynalar\u0131n\u0131 nas\u0131l kullanaca\u011f\u0131m\u0131 a\u00e7\u0131klad\u0131.”) \u0130nsanlar, problemleri tan\u0131mlar, d\u00fczenler ve \u015fekillendirir. Bu insana \u00f6zg\u00fc kabiliyetler makineler taraf\u0131ndan taklit edilemez. Makineler insan\u00fcst\u00fc hesaplamalar yapabilir fakat bu hesaplamalar, \u00f6\u011frenmenin sadece son ad\u0131m\u0131n\u0131 olu\u015fturur.<\/p>\n O halde problem \u00f6\u011frenmede otomatik form\u00fclle\u015ftirme bizim ilk kanaryam\u0131z. Bu kanaryan\u0131n, bir felaket habercisi olma noktas\u0131ndan ise olduk\u00e7a uzaktay\u0131z.<\/p>\n \u0130kinci kanarya ise otonom ara\u00e7lard\u0131r. Otonom ara\u00e7lar, Elon Musk gibi \u00fcreticilerle beklentilerin \u00e7ok \u00f6tesindeler ancak yapay zek\u00e2, tekerlekli sandalyesi ile kar\u015f\u0131dan kar\u015f\u0131ya ge\u00e7en bir insan\u0131n varl\u0131\u011f\u0131 gibi al\u0131\u015f\u0131lmad\u0131k durumlarda feci bir kazaya sebebiyet verebilir. Araba s\u00fcrme, bir \u00f6nceki yapay zek\u00e2 g\u00f6revlerinden daha \u00e7ok \u00e7aba gerektiriyor \u00e7\u00fcnk\u00fc \u00f6nceden tahmin edilemeyecek ger\u00e7ek d\u00fcnya, s\u00fcr\u00fcc\u00fcler, yayalar vs. ile etkile\u015fim i\u00e7erisinde olan hayati \u00f6nem ta\u015f\u0131yan, anl\u0131k karar alma becerisine ihtiya\u00e7 duyuyor. Elbette, kaza oranlar\u0131 azald\u0131\u011f\u0131 anda s\u0131n\u0131rl\u0131 say\u0131da otonom arac\u0131n kullan\u0131m\u0131 yayg\u0131nla\u015ft\u0131r\u0131labilir; keza insan seviyesinde bir s\u00fcr\u00fc\u015f elde edildi\u011fi takdirde felaket habercisi olmaktan \u00e7\u0131kacakt\u0131r.<\/p>\n Tek ba\u015f\u0131na yapay zek\u00e2 doktorlu\u011fu ne kadar m\u00fcmk\u00fcn?<\/strong> Turing testinin kendisi olmasa dahi, bu testin de\u011fi\u015fik s\u00fcr\u00fcmleri felaket habercisi olabilir. Var olan yapay zek\u00e2 insanlar\u0131, onlar\u0131n niyetlerini ve hatta \u201c\u015ei\u015fme havuz camdan s\u0131\u011far m\u0131?\u201d gibi basit sorular\u0131 dahi anlayamamaktad\u0131r. Alexa ve Google Home gibi yapay zek\u00e2 \u00fcr\u00fcnleri arac\u0131l\u0131\u011f\u0131yla k\u00fc\u00e7\u00fck \u00e7apl\u0131 bir Turing testi uygulay\u0131p ne kadar k\u0131s\u0131tl\u0131 dil ve d\u00fcnya alg\u0131lar\u0131 oldu\u011funu g\u00f6rebiliriz. Bilgisayar bilimcisi Hector Levesque\u2019nin Winograd \u015eemas\u0131\u2019na dayal\u0131 basit \u00f6rnekler d\u00fc\u015f\u00fcnelim. Alexa\u2019ya \u201cKupam bavuluma s\u0131\u011fm\u0131yor \u00e7\u00fcnk\u00fc \u00e7ok b\u00fcy\u00fck. Ne yapmal\u0131y\u0131m?\u201d gibi bir soru soral\u0131m. Alexa\u2019n\u0131n cevab\u0131 \u201cBilmiyorum\u201d olacakt\u0131r. Alexa, nesnelerin boyutlar\u0131n\u0131 bilmedi\u011fi i\u00e7in b\u00fcy\u00fck olarak kast edilenin kupa m\u0131 bavul mu oldu\u011funa karar veremeyecektir. Kast edilen anlam\u0131 alg\u0131lamayan yapay zek\u00e2n\u0131n, d\u00fcnyay\u0131 ele ge\u00e7irmeye haz\u0131r oldu\u011funa inanmak \u00e7ok zor. E\u011fer Alexa, kapsam\u0131 geni\u015f bir konuda anlaml\u0131 bir diyalog kurabiliyor olsayd\u0131 bu bizim i\u00e7in d\u00f6rd\u00fcnc\u00fc felaket habercisi olabilecekti.<\/p>\n G\u00fcn\u00fcm\u00fczdeki yapay zek\u00e2 \u00fcr\u00fcnleri “aptal d\u00e2hilerdir”: Go oynamak, MR g\u00f6r\u00fcnt\u00fclerini s\u0131n\u0131fland\u0131rmak gibi kapsam\u0131 dar g\u00f6revlerde ba\u015far\u0131l\u0131; fakat insanlar\u0131n \u00e7ok y\u00f6nl\u00fcl\u00fc\u011f\u00fcnden ve genelli\u011finden yoksundurlar. Her aptal dahi insan eliyle \u00fcretilmektedir ve bizler, be\u015f ya\u015f\u0131ndaki bir \u00e7ocu\u011fun \u00e7ok y\u00f6nl\u00fc kabiliyetlerini yakalamaktan onlarca y\u0131l uzaktay\u0131z.<\/p>\n Olas\u0131l\u0131k dahilindeki her olay\u0131 ba\u015ftan ara\u015ft\u0131rmal\u0131 m\u0131y\u0131z? Felaket habercileri veya kanarya listemiz kapsaml\u0131 olmaktan \u00e7ok a\u00e7\u0131klay\u0131c\u0131 ve \u00f6rnekleyici fakat insan seviyesindeki yapay zek\u00e2dan ne kadar uzak oldu\u011fumuzu da g\u00f6stermektedir. Bir kanarya \u00f6ld\u00fc\u011f\u00fcnde, insan seviyesindeki yapay zek\u00e2 ortaya \u00e7\u0131kmadan bir kapama d\u00fc\u011fmesi \u00fcretmek ve kendi k\u0131rm\u0131z\u0131 \u00e7izgilerimizi belirlemek i\u00e7in bolca vaktimiz olacakt\u0131r. Deney kanaryalar\u0131 olmadan yapay zek\u00e2 eskatolojisi (k\u0131yamet bilim) istihdam alan\u0131nda etkisi, ceza h\u00fck\u00fcmlerinde kullan\u0131m\u0131 veya kredi notlar\u0131nda ayr\u0131mc\u0131l\u0131k olu\u015fmamas\u0131n\u0131 sa\u011flama gibi var olan g\u00fcncel sorunlardan uzakla\u015fmaya \u00e7al\u0131\u015f\u0131yor.<\/p>\n D\u00fcnyadaki en se\u00e7kin yapay zek\u00e2 uzmanlar\u0131ndan Andrew Ng\u2019nin dedi\u011fi gibi, \u201cYapay zek\u00e2n\u0131n \u015feytani bir varl\u0131\u011fa d\u00f6n\u00fc\u015fmesinden endi\u015fe duymak, Mars\u2019\u0131n n\u00fcfus art\u0131\u015f\u0131ndan endi\u015fe duymak gibidir.\u201d Kanaryalar \u00f6lmeye ba\u015flayana kadar, dediklerinde tamamen hakl\u0131.<\/p>\n Kaynak:<\/strong> https:\/\/medium.com\/mit-technology-review\/how-to-know-if-artificial-intelligence-is-about-to-destroy-civilization-1bf6ca366158<\/p>\n","protected":false},"excerpt":{"rendered":" S\u00fcper g\u00fc\u00e7l\u00fc yapay zek\u00e2n\u0131n ortaya \u00e7\u0131k\u0131p y\u0131k\u0131c\u0131 sonu\u00e7lar do\u011furdu\u011fu bir sabaha uyand\u0131\u011f\u0131m\u0131z\u0131 d\u00fc\u015f\u00fcnelim. Nick Bostrom\u2019\u0131n S\u00fcper Zek\u00e2, Max Tegmark\u2019\u0131n Ya\u015fam 3.0 gibi kitaplar\u0131 ve ayn\u0131 zamanda son zamanlardaki makaleler k\u00f6t\u00fc niyetli yapay zek\u00e2n\u0131n insanl\u0131k i\u00e7in bir risk oldu\u011funu savunuyor. Konu hakk\u0131nda sonsuz fikir ortaya at\u0131labilir ancak daha somut ve deneysel bir soru sormam\u0131z gerekirse: Bir […]<\/p>\n","protected":false},"author":3096,"featured_media":49270,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[19],"tags":[7455,7454,5137,400],"class_list":["post-49269","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-bilim-gundemi","tag-felaket","tag-kanarya","tag-makine-ogrenimi","tag-yapay-zeka"],"acf":[],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t
\n<\/strong>Yapay zek\u00e2n\u0131n Go, Poker ya da Quake 3 oyunlar\u0131ndaki performans\u0131 bir felaket habercisi\/kanarya olabilir mi? Hay\u0131r. Bu t\u00fcr oyunlarda s\u00f6zde yapay zek\u00e2 olarak adland\u0131r\u0131lan \u015fey asl\u0131nda bir problem \u00fcretip ona \u00e7\u00f6z\u00fcm bulan insan i\u015fidir. Go \u015fampiyonlar\u0131na kar\u015f\u0131 zafer elde eden AlphaGo, insan \u00fcr\u00fcn\u00fc bir algoritmay\u0131 \u00e7al\u0131\u015ft\u0131ran makine olarak ba\u015far\u0131s\u0131n\u0131 DeepMind\u2019daki yetenekli ekibe bor\u00e7lu. Bu, yapay zek\u00e2n\u0131n ba\u015far\u0131s\u0131na basit bir ara\u015ft\u0131rma ile a\u00e7\u0131klama getirmenin neden y\u0131llarca s\u00fcren s\u0131k\u0131 \u00e7al\u0131\u015fmaya ihtiya\u00e7 duydu\u011funu g\u00f6steriyor asl\u0131nda. D\u00fcnya standartlar\u0131nda yar\u0131\u015fan Go\u2019yu k\u0131sa s\u00fcrede \u00f6\u011frenen AlphaZero bile 2017\u2019den beri kendi kapsam\u0131n\u0131 \u00f6nemli \u00f6l\u00e7\u00fcde geni\u015fletemedi. Derin \u00f6\u011frenme gibi teknikler \u00e7ok genel ancak bu t\u00fcr teknikler belli bir g\u00f6revi yerine getirmek i\u00e7in kapsaml\u0131 insan m\u00fcdahalesine ihtiya\u00e7 duyuyorlar.<\/p>\n
\nYapay zek\u00e2 doktorlar\u0131, \u00fc\u00e7\u00fcnc\u00fc kanaryam\u0131z. Daha \u015fimdiden yapay zek\u00e2 t\u0131bbi g\u00f6r\u00fcnt\u00fclemeleri insan\u00fcst\u00fc bir do\u011fruluk ile analiz edebiliyor. Ne var ki, bu i\u015flem ger\u00e7ek doktorlar\u0131n yapt\u0131\u011f\u0131 i\u015fin k\u00fc\u00e7\u00fck bir k\u0131sm\u0131. Yapay zek\u00e2 doktorlar\u0131n\u0131n hastalarla g\u00f6r\u00fc\u015fmesi, komplikasyonlar\u0131 hesaba katmas\u0131, di\u011fer doktorlara dan\u0131\u015fmas\u0131 ve daha pek \u00e7ok g\u00f6revi yapmas\u0131 gerekecektir. Bu t\u00fcr zorlu g\u00f6revler insan\u0131, onun konu\u015ftu\u011fu dili ve t\u0131p bilimini anlamay\u0131 gerektirmektedir. B\u00f6yle bir doktorun s\u0131rf kar\u015f\u0131s\u0131ndaki insan diye onu kand\u0131rmas\u0131na gerek kalmayacakt\u0131r. \u0130\u015fte, Turing testinden farkl\u0131 olmas\u0131 bu sebepten \u00f6t\u00fcr\u00fcd\u00fcr. Yine de insan doktorlar\u0131n geni\u015f yelpazede yapabildikleri g\u00f6revlerdeki ve beklenmedik durumlardaki kabiliyetlerine sahip olmalar\u0131 gerekecektir.<\/p>\n
\n<\/strong>Baz\u0131 kuramc\u0131lar, Bostrom gibi, her ne olursa olsun olabilirli\u011fi d\u00fc\u015f\u00fck fakat sonu\u00e7lar\u0131 a\u011f\u0131r olaylar\u0131 planlamam\u0131z gerekti\u011fini \u00e7\u00fcnk\u00fc bu t\u00fcr olaylar\u0131n ka\u00e7\u0131n\u0131lmaz oldu\u011funu d\u00fc\u015f\u00fcn\u00fcyor. S\u00f6ylediklerine g\u00f6re sonu\u00e7lar o kadar etkili ki olas\u0131l\u0131klar hakk\u0131ndaki tahminlerimiz o kadar da \u00f6nemli de\u011fil. Sa\u00e7ma bir iddia \u00e7\u00fcnk\u00fc herhangi bir konuda gerek\u00e7e olarak sunulabilir. 17.y\u00fczy\u0131l filozofu Blaise Pascal\u2019\u0131n \u201cEbedi azap sebebiyle Hristiyan Tanr\u0131 varm\u0131\u015f gibi davranmak mant\u0131kl\u0131 m\u0131d\u0131r?\u201d sav\u0131n\u0131n modern versiyonu asl\u0131nda. Pascal savunmas\u0131n\u0131 \u201cbir hatan\u0131n sonsuz bedeli\u201d olarak; yani bir davran\u0131\u015f bi\u00e7imi imk\u00e2ns\u0131z g\u00f6r\u00fcnen bir \u00f6nerme olsa dahi rasyonel kabul edilebilir \u015feklinde a\u00e7\u0131kl\u0131yor. Lakin sonsuz bedel ile ilgili iddialar z\u0131tt\u0131 oldu\u011fu g\u00f6r\u00fc\u015fleri de destekleyebilir. \u00d6rne\u011fin, Hristiyan olmayan ve her Hristiyan davran\u0131\u015f\u0131 i\u00e7in cehennem azab\u0131n\u0131 vaat eden bir Tanr\u0131 d\u00fc\u015f\u00fcn\u00fcn. Mant\u0131k \u00e7er\u00e7evesinde d\u00fc\u015f\u00fcn\u00fcld\u00fc\u011f\u00fcnde olduk\u00e7a ihtimal d\u0131\u015f\u0131 olsa da \u0130ncil\u2019deki Tanr\u0131\u2019ya inanmak kadar makuld\u00fcr. Bu \u00e7eli\u015fki bizlere sonsuz bedel tart\u0131\u015fmalar\u0131n\u0131n kusurunu g\u00f6steriyor.<\/p>\n