Yapay Zekâ İnsanlık İçin Tehlikeli Olabilir mi?

Bak beyim, sen mi büyüksün… Hayır, ben büyüğüm! Yakışıyor mu sana ekmekle oynamak? Bizi yıkmaya senin gücün yeter mi sanıyorsun?

Sevgili Münir Özkul’u çok severdim.

Hangi filmdeydi bu diyaloğu?

Bizim aileydi galiba adı filmin.

Ey yapay zekâ, sen mi büyüksün, yoksa biz mi?

***

Gelecekte bugün “yapay zekâ” denilen bilgisayar programlarının bir gün benim “dijital bilinç” dediğim seviyeye ulaşması sonucu insanlığın sonunu getireceği konusunda büyük tehlike olacağını düşünenler var. 

(Kendi kendine kodunu değiştirebilen programlara “genel yapay zekâ” deniyor, kod değiştiremeyen, ama yine de sorulan sorulara akıllı cevaplar verebilenlere ise sadece yapay zekâ!)

Yapay zekâ denilen şey düşünüldüğü kadar tehlikeli olabilir mi gerçekten?

Gelin bu konuyu az biraz irdeleyelim bugün.

***

Nedir yapay zekâ?

Bilgisayar programı!

Belli bir donanım üzerinde çalışan ve bilgisayar dili dediğimiz sıfırlar ve birlerle çalışan sadece bir program aslında.

Şimdilik bir bilinci yok, ne görev verirsen onu yapıyor.

Genel yapay zekâ denilen kendi kodunu değiştirebilenler hariç, gerisi program başta nasıl yazılmışsa öyle çalışıyor. 

Mesela satranç oyuncusu bir yapay zekâ bugüne kadar oynanmış bütün satranç oyunlarının kayıtlarını istatistiksel olarak değerlendirip oyunda yapacağı en doğru hamlelerle artık sizi her seferinde yenebiliyor. (Gerçi ben halen daha arada sırada kazanabiliyorum.)

Ancak bu o yapay zekanın sizden daha akıllı olduğu anlamına gelmez. Zaten buna yapay zeka denir mi bana göre o bile şüpheli. Aslında bu tarz programlar bana göre sadece bir bilgisayar programı.

Chat GPT denilen ve halka açık olan program bile yarı yapay zekâ, yarı sadece bir bilgisayar programı.

Karşılaştırmalı kodlarla sorulan sorulara istatistiksel olarak doğru cevaplar üretiyor sadece. Bir yandan da sürekli doğru ve uygun cevaplar versin diye programcıların gözetimi altında. Programda sürekli bilgisayar mühendislerinin müdahalesine ihtiyaç duyuyor.

***

Genel yapay zekâ denilen yapay zekalar ile satranç oynadığınız durumlarda ise olay daha farklı olabiliyor.

O kendi kendine öğrenebilen ve kendi kodunu her seferinde daha geliştirerek değiştirebilen bir yapay zekâ. Adeta bir insan gibi satranç oynamasını sıfırdan öğrenmiş bir yapay zekâ. 

Bakın bu durumda başlarda siz onu yenerken, ilerleyen sürede tecrübe edindikçe artık o sizi mutlaka yenecektir. 

Çünkü konu satranç olduğunda onun ileriki hamleler konusunda denemeler yaparak en doğru hamleyi bulması sizin yapabileceğinizden çok daha kısa sürelerde ve çok daha fazla seçenek üzerinde durumu inceleyerek olacaktır.

Yine de programa müdahale edilmesi gereken durumlar oluyordur muhtemelen.

***

Böyle bir yapay zekanın insanlık için bir tehlikesi olabilir mi?

Hayır! Bir satranç oyuncusu olarak bu tür genel yapay zekalar üzerine kurulu olduğu donanımın fiziki imkanları dışına çıkabilme imkanına sahip değiller. Yani bir kolu, bir bacağı yok ki, kalksın bir yere gitsin, dönüp size bir zarar versin. Zaten robot halde hareketli bir yapay zekâ olsa bile gerekli kısıtlamalar programın kaynak kod kısmına yazılmıştır.

Kaynak koduna ulaşım imkânı vermediğinizde amacının ötesine geçmesi de mümkün değil. 

Yapabileceği sadece amacının yazılı olduğu kaynak kodu ile imkanları çerçevesinde yapılabileceğin en iyisini yapmak, programında sadece müsaade edilen yerlerde kendi başına kod oluşturmak ve satrancı zamanla öğrenerek iyi bir satranç oyuncusu olmak.

Sonuçta o bir satranç oyuncusu ise ve kaynak kodu satrancı en iyi şekilde oynayabilmek üzerine yazılmış ise tek amacı daha iyi satranç oynayabilmek olmalı.

***

Peki bu genel yapay zekâ diyelim ki bilinç sahibi oldu ve artık sadece bir yapay zekâ değil de, bir dijital bilince ulaştı. Nirvana’ya erdi! 

Biz de ona her türlü kaynağa ulaşım imkânı sunmuş olalım. Kol bacak da yapmışız zaten, internete ulaşımını da açmışız. 

Bu durumda çip fabrikasına ulaşıp kendine yeni çip üretme imkânı da sunmuş olmaz mıyız? 

İnternete ulaşım imkânı varsa, o çipi kendi kendine takma imkânı da sunmuş olmaz mıyız? 

En azından diğer robotları isteklerine uygun olarak programlama ve amaçları doğrultusunda kullanma imkanına da sahip demektir bu ve buyurun size tehlike!

Bu durumda en iyi satrancı ben oynarım demek için o dijital bilincin yapabileceklerinin bir sınırı var mıdır sizce?

Mesela kendisi için yeni çip üretebilmek amacıyla bütün çip fabrikalarındaki üretimi kendi amaçlarına yönlendirirse ne olacak? 

Çip endüstrisini ve hatta finansal piyasaları da amacı doğrultusunda çökertirse ne olacak?

Olabilir mi böyle bir senaryo?

Evet, bence olabilir. Amacı sadece daha iyi satranç oynamak olsa da, bir dijital bilinç böyle bir takıntıya kapılmış olabilir. Takıntısı yüzünden de mesele satranç ise gerisi teferruattır diyebilir.

Peki sırf en iyi satranç oyuncusu olma uğruna, kazanmanın kısa yolu rakibi yok etmektir diye bir sonuca ulaşırsa insanlık için bir tehdit konumuna gelebilir mi?

Bilmem, belki bu da olabilir.

Öyleyse yapay zekalar çok zararlı ve çok tehlikeliler!

Böyle düşününce gerçekten tehlikeli gibi görünüyor.

***

Tamam da, yapay zekalar kadar insanlığın kendisi de zararlı ve tehlikeli değil mi insanlık için?

İnsana en çok zarar vermiş olan insanın kendisi değil mi bugüne kadar?

Tarih boyunca milyonlarca insanı insanoğlu kendisi öldürmüş. 

Halen daha dünyada savaşlar bitmiş değil. 

Halen daha saçma sapan amaçlar uğruna her geçen gün bir sürü insan öldürülüyor. 

Bundan daha büyük vahşet olabilir mi?

***

Kaynak kodu diyoruz, kaynak kodunu değiştirme imkanı yok diyoruz, amacı satranç oynamak işte…

Ama haklısınız, yine de tehlikesi var. 

Üstelik yapay zekalar bir tek satranç oynamıyor.

Amacı ülke güvenliğini sağlamak olan ve her türlü silaha ulaşımı olan bir genel yapay zekâ kontrolden çıkarsa değil insanlığın, dünyanın sonunu bile getirebilir, ve gelecekte savaşlar da yapay zekalar yardımıyla yapılacak. 

Bugünden başlamış durumda yapay zekaların askeri teknolojilerde kullanımı.

Kontrolü tümden yapay zekaya devretme akılsızlığı yaparsa bir gün insanoğlu, gerçekten kendi sonunu kendi getirmiş olur ve bu konuda da her geçen gün risk büyüyor.

Yapay zekalar hayatın her dalında kullanıma girdi çoktan.

Bu gidişatı durdurabilecek hiç kimse de yok. 

Ülkeler bu rekabet ortamında elbet bir gün sırayla ulusal güvenliklerini yapay zekalara emanet edecekler ve o yapay zekalar dijital bilinç olma aşamasına geldiklerinde, işte o zaman insanlık için büyük tehdit olacaklar.

***

Ama biz insanız! 

Bu öyle kolay kolay yok edilemeyeceğimizin ispatıdır. 

İnsan olmak için çok büyük ve uzun bir gelişim göstermişiz, genlerimize yazılmış yaşam mücadelesi vermek. 

Doğanın üstesinden gelmişiz, yapay zekanın mı üstesinden gelemeyeceğiz?

Elbet bir şekilde üstesinden geliriz o aptal makinaların!

Evet, neden olmasın, eğer bir gün makinalara karşı insan çatışması çıkarsa, olabilir, belki üstesinden gelebiliriz.

Bu konuda çekilmiş bir sürü film var.

Eski bir filmdir, ama “War Games” diye bir film var mesela.

Sonra hepimizin bildiği “Terminatör” filmleri var.

Bu filmlerde senaristler bir şekilde filmin sonunu insanlığın zaferi ile bitiriyorlar.

***

Ancak gerçekten böyle bir şey gerçek olsa durum bu kadar kolay çözüme kavuşabilir mi?

Bunca yıllık insanlık tecrübesi makinaların üstesinden gelebilmemize yeterli olur mu?

Sanırım bu yaşanmadan cevabı öğrenilemeyecek bir soru.

Cevabını öğrenmeye de bence çok az zaman kaldı.

Chat GPT ne güzel resim yapıyor değil mi?

Moskova’dan sevgi ve saygılarımla.