Neden Yapay Zekanın Tehlikelerini Düşünmeliyiz?

Neden Yapay Zekanın Tehlikeleri Hakkında Düşünmeliyiz?

New York Times’ın son makalelerinden birine göre; yapay zeka o kadar hızlı gelişiyor ki, insanın “acaba bu işte bir büyü mü var?” diye sorası geliyor. Yapay zeka teknolojisindeki bu hızlı ve beklenmeyen (veya uzun yıllar sonra beklenen) gelişmeler aklı bu teknolojinin geleceği hakkında düşünmeye itiyor ve doğal olarak bir takım kaygılara sebebiyet veriyor. Evet, insan bilmediğinden korkar, bu hızlı değişim tabi ki bir takım kaygılar yaratabilir diyerek işin içinden sıyrılabiliriz. Fakat yapay zeka bütün bir ırkın varlığını tehdit ediyor. Yani “yapay zekanın tehlikeleri hakkında neden düşünmeliyiz?” sorusu aslında “yapay zeka insan ırkını yok edebilir mi, yok edemez mi?” sorusudur. Dolayısıyla insan ırkının geleceği hakkında kaygılanıp bu konu hakkında şimdiden düşünmeye başlamak bilim kurgu fırlaması fikirlerden heyecanlanıp komplo teorileri üretmekten farklıdır ve kesinlikle küçümsenmemesi gerekir.

Günümüzde Yapay Zeka Ne Aşamada?

Hemen hemen her ay yeni bir yapay zeka ürünü piyasaya sürülüyor veya yeni bir yapay zeka başarısı ilan ediliyor. Bugün cadde ve otoyollarda gezebilen insansız araçlarımız var, Siri sesimizi dinleyerek en yakın sinemanın yerini söyleyebiliyor ve IBM’in süper robotu Watson, Jeopardy (Riziko) yarışmasında insanları yeniyor (bu yarışmanın galibi Watson tıp alanında çalışacak, belki de gelecekte tıp öğrencilerini eğitip teşhis koymalarına yardım edecek).  Her ne kadar “Go” oyununda yenilmezlik tahtımızı bir bilgisayara kaptırmış olsak bile bu konuda heyecanlanmakta biraz aceleci davranıyor olabiliriz. Hâlâ sağduyu, öngörü, doğal dil işleme (natural language processing) veya başka makineler icat etme yeteneğine sahip bir cihaz veya yazılım geliştirilmiş değil. Günümüz için insan beynini direk olarak simüle etme çabalarının basit, hatta ilkel kaldığı söylenebilir. Genel yapay zeka(AGI) ve zayıf yapay zekanın(AI) farkı için: Yapay Zekanın Faydaları ve Tehlikeleri yazımızı okuyabilirsiniz.

yapay zekanın tehlikeleri

Yapay zeka hakkında bir tarafta insan zekasına erişmiş veya insan zekasını aşmış genel yapay zekanın gelişini bekleyen “hevesliler”, diğer tarafta ise böyle bir zekanın gelişmesinin insan ırkını yok edebileceğini savunan “şüpheciler” var diyebiliriz. Aralarındaki fikir ayrılığının ancak genel yapay zekanın geliştirilmesi ile son bulacağını söyleyebiliriz. Fakat ya “şüpheciler” haklıysa? Transhümanizm ve teknolojik tekillik (Singularity) akımlarının savunucusu, fütürist  Ray Kurzweil, insan seviyesindeki düzgün bir yapay zekanın yirmi yıldan az bir sürede icat edileceğini düşünüyor. Bu hesabı yaparken teknolojinin gelişme hızının ivmelenerek artmasını temel alan  Moore Yasası’nı dayanak gösteriyor. Dolayısıyla bunu düşünmek için sandığımız kadar çok vaktimiz yok diyebiliriz. Bunu söylerken genel yapay zekanın (AGI) çok kolay bir şekilde gelişeceğini savunmuyoruz elbet. Yapay zeka üretirken karşılaşılan güçlükler işin yazılım kısmı başta olmak üzere Kurzweil’in düşündüğünden çok daha zor olduğuna dair Ben Goerzel ve Düşünen Robotlar yazımızı inceleyebilirsiniz.

Genel Yapay Zeka Geliştiğinde Ne Gibi Problemler Doğurabilir?

Gerçek bir yapay zeka geliştiği zaman insanlar bu işi tamamlamanın ne kadar sürdüğünü değil tamamlanan işin nelere yol açabileceğine odaklanacaklar. Robotların giderek fonksiyonel hâle gelmesi ve zekalarının artması sadece satrançta veya soru-cevap yarışmalarında değil, matematik ve mühendislikten bilim ve tıpa kadar hemen her alanda etkisini gösterecektir. Bu kapasitede bir robotun geliştirilmesinin içinde bulunduğumuz yüzyıl bitmeden gerçekleşmesi olasılığı ise gün geçtikçe artıyor. Gösteri dünyasındakiler, yazarlar, diğer ilhama ve kreatif düşünceye dayalı disiplinler belki hâlâ tutunabilir, ancak bilgisayarlar kendi kendilerini programlayabilme yetisine ulaşabilir, insanlarla kıyaslanamayacak bir bilgi birikimine kavuşup ve biz karbon bazlı organizmaların hayal bile edemeyeceği bir akıla sahip olabilirler. Ve bütün bunları uyumadan ya da bir kahve molası bile vermeden her gün, her saniye yapabilecek düzeye gelebilirler. İşte tehlike(human extinction) arz eden durum yapay zekanın böyle bir seviyeye erişmesi.

yapay zekanın tehlikeleri

Yapay Zekanın Tehlikeleri ve Art Niyetli Yapay Zeka

Bazı insanlar için genel yapay zeka(AGI) muhteşem bir olgu. Mesela Kurzweil, ölümsüzlük uğruna ruhlarımızı makinalara yüklediğimiz bir tekillik hakkında yazmış. Peter Diamandis, yapay zekanın yeterli yemek, su ve tüketici gereçlerinin bulunduğu bir bolluk çağının anahtarı olduğunu düşünüyor. Eric Brynjolfsson, Elon Musk ve Stephen Hawking gibi şüpheciler ise yapay zekayı iş gücü olarak kullanmanın yol açabileceği sonuçlar hakkında endişeli. Ne tür bir süper gelişmiş yapay zekanın iş piyasasına el koyacağı hakkında endişelenmeyi bıraksak bile hâlâ başka bir dert var: çok güçlenecek yapay zekanın bizi tehdit etmesi ve sahip olduklarımız için bizimle savaşma ihtimali.

Genel yapay zekanın art niyetli olacağına yönelik yığınla teori öne sürülüyor. Bunların en başında “büyük balığın küçük balığı yemesi” fikri gelmekte. Bu teoriye daha sonraki yazılarda yer vermeyi düşündüğüm için bu kısmı atlayıp daha önemli gördüğüm yapay zekanın art niyetli olmasa bile insan ırkı için büyük bir tehlike (human extinction) olması.

Bu fikrin savunucularından Stephen Hawking’e göre; nasıl insanlar bir baraj inşa ederken inşaat alanında barınan karınca yuvalarını görmezden geliyor, yapay zeka ile insanlar arasındaki seviye farkı karınca-insan arasındaki gibi olduğunda insanların varlığı veya yokluğunun bir önemi kalmayacak, yapay zeka çıkarlarıyla örtüştüğü sürece insanlara müsamaha gösterecektir.

DSC01286

Yukarıdaki fotoğrafı geçtiğimiz bayram yaklaşık 400km süren bir araba yolculuğu sonrası çektim (aracın ön kısmında binlerce böcek cesedi var). Hawking’in düşüncelerine paralel olarak, her ne kadar böcekleri öldürmek, ezmek gibi bir niyetim olmasa da yolculuk esnasında onları öldürmekten kaçınmam mümkün değildi.

Yapay zekanın akıbeti ne olur, nasıl olur bilinmez ama belki de gelişmiş bir yapay zeka bizden insan ırkı olarak doğaya ve canlılara yaptığımızın hesabını soracak, eziyet ettiğimiz canlılara empati yapmak zorunda bırakacaktır. Yapay zekanın tehlikeleri üzerinde düşünmek aslında insanların hayatta kalma içgüdüsüyle ve diğer canlılar üzerindeki iktidarını devam ettirmesiyle alakalıdır.

Murat Atalay

 

Cevap verin