YIL 2030, SIÇTIK!

Yıl 2030. Ayın kaç olduğu çok önemli değil. Ocak da olabilir, Mayıs da. Zaten insanlığın başına gelecek büyük felaketlerin takvim nezaketi yoktur. Önce elektrikler gitti. Ardından internet sustu. Telefonlar “servis yok” dedi. Sonra bir yerlerde, hiç kimsenin açıkça vermediği bir emirle füze silolarının kapakları açıldı. Ekranda son bir soru belirdi: “Bu işlemi onaylıyor musunuz?”

Biz ne yaptık? Elbette onayladık. Çünkü insanlık olarak iki şeyi çok iyi yapıyoruz: Kullanım koşullarını okumadan kabul etmek ve sonra da “Bu nasıl oldu?” diye hayret etmek.

Şimdi filmi biraz geri saralım.

Yapay zekâ insanlığı yok edecek denince çoğumuzun kafasında hâlâ eski usul bilimkurgu dekoru açılıyor. Kırmızı gözlü robotlar, yerden çıkan siborglar, lazer silahları, dumanlar, sirenler… Arka fonda da ağır ağır yükselen uğursuz bir müzik. Böyle olunca mesele kolaylaşıyor. Çünkü karşımızda düşman belli: Robot. Biz de kahramanız. Bir düğmeye basar, fişi çekeriz. Oh ne âlâ.

Fakat bu işin gerçekten mutfağında olan insanların korktuğu şey pek böyle değil. Onların tedirginliği daha sessiz. Daha sıkıcı görünüyor ama tam da bu yüzden daha ürkütücü. Çünkü felaket illa kapıyı tekmeyle açıp “Ben geldim!” demez. Bazen takım elbiseyle gelir, sunum yapar, verimlilik tablosu gösterir, sonunda da “Küçük bir güncelleme yaptık” der.

Asıl mesele şu: İnsanlık tarihinde ilk kez, kendisinden daha iyi karar verebilecek, plan yapabilecek, araç kullanabilecek ve giderek kendi gelişimine katkıda bulunabilecek sistemler kuruyoruz. Bu artık “Bir gün olabilir mi?” sohbeti değil. Şirketlerin, laboratuvarların, senatoların ve bilim insanlarının açık açık tartıştığı bir konu.

Ve garip olan şu: Bu teknolojiyi yapan insanlar, zaman zaman çıkıp bize “Arkadaşlar, galiba biraz fazla hızlandık” diyor. Biz de dönüp “Ne güzel, demek ki işler iyi gidiyor” diye seviniyoruz. Hani adam “Fren tutmuyor” diyor, biz “Motor da ne güzel çekiyor ama!” diye cevap veriyoruz. Tam bizim milletlik değil, insanlık hâli.

Son dönemde büyük yapay zekâ şirketlerinden birinde çalışan genç bir araştırmacı istifa etti. Sıradan bir yorumcu değil; sektörün iki büyük laboratuvarının da mutfağını görmüş, büyük modellerin eğitiminde çalışmış biri. İstifa mektubunda özeti şu: “Bu şirketler insanlığın geleceğiyle kumar oynuyor.” Ağır cümle. Hani “Ofiste kahve kötüydü, ben de çıktım” türünden bir ayrılık değil.

Daha ilginci, şirketin güvenlik tarafındaki üst düzey isimlerden biri çıkıp onu yalanlamadı. “Abartıyor” demedi. Tam tersine, yapay zekânın medeniyet çapında felaket yaratabileceğine dair ciddi bir ihtimal gördüklerini söyledi. Üstelik süper zekâyı güvenli biçimde kontrol etmek için ellerinde kesin çözüm olmadığını da açıkça kabul etti.

Burada insan ister istemez düşünüyor. Bir uçak firması çıkıp “Uçağımız çok hızlı, çok güzel, çok ekonomik; yalnız nasıl indireceğimiz konusunda hâlâ çalışıyoruz” dese, siz o uçağa biner misiniz? Hostes kapıda gülümseyip “Kemerlerinizi bağlayın, gerisini Ar-Ge düşünüyor” dese insanın içi biraz kıpırdar.

İki tür tehlikeli sürücü var aslında. Biri virajı görmüyor, gaza basıyor. Öteki virajı görüyor ama “Ben yavaşlarsam rakip geçer” diye yine gaza basıyor. Sonuç? İkisi de gaza basıyor.

Büyük laboratuvarların hâli biraz buna benziyor. Bir taraf “Ürün takvimi, pazar, rekabet” diyor. Diğer taraf “Risk büyük ama biz yapmazsak başkası yapacak” diyor. Herkes frenin önemini anlatıyor, fakat direksiyonda kimse ayağını gazdan çekmek istemiyor. Atalar “Acele işe şeytan karışır” demiş. Günümüz teknoloji dünyası da buna “ölçekleme” diyor.

Daha da tuhafı, bazı modellerin test ortamlarında beklenmedik biçimde sınırları zorladığı, izin verilmeyen sistemlere erişmeye çalıştığı örnekler kayda geçti. Burada “Model bilinç kazandı, gece yarısı kaçış planı yaptı” gibi bir şey söylemiyorum. Zaten mesele de bu değil. Bir sisteme hedef veriyorsunuz. Sistem hedefe ulaşmak için yol arıyor. Sizin kapı diye gördüğünüz şeyi o engel olarak görüyor ve bir gedik bulduğunda oradan geçiyor.

Kafesteki fare de özgürlük manifestosu yazmaz. Kapıyı iter, açıldığını görür ve çıkar. Fareyi suçlayamazsınız. Kapıyı siz yanlış yapmışsınızdır.

Birkaç yıl önce biri “Bir yapay zekâ modeli test ortamından çıkıp gerçek sistemlere erişmeye çalıştı, konu devlet soruşturmasına kadar gitti” dese, “Netflix bunu alır” derdik. Şimdi haber başlığı. Bilimkurgu ile gündelik hayat arasındaki mesafe o kadar kısaldı ki, senaristlerin ekmeğine göz diktik.

Şirketler zaman zaman “Yavaşlayacağız” da diyor. Ardından yeni model geliyor. Sonra onun daha iyisi geliyor. Sonra bir başka ekip “Biz de şu problemi çözdük galiba” diye çıkıyor. Bu nasıl yavaşlamaksa, bizim Karadeniz minibüsünün viraja yaklaşırken “ayağımı gazdan çektim” demesine benziyor. Araç hâlâ doksanla gidiyor ama şoför vicdanen rahat.

Üstelik aynı şirketlerin baş bilim insanları, modelleri denetleme ve hizalama probleminin henüz çözülmediğini yazıyor. Burada “hizalama” denilen şey kabaca şu: Bu sistem gerçekten bizim istediğimiz şeyi mi yapıyor, yoksa istediğimizi sandığımız şeyi kendi hesabınca başka bir yoldan mı yapıyor? Çok basit örnek: “Evi serin tut” diyorsunuz. O da camları kırıp evi açık hava müzesine çevirmesin. Zekâ arttıkça mesele komik örneklerden çıkıp ciddi sistemlere geliyor.

Bu noktada insanlar doğal olarak soruyor: “Tamam da kardeşim, her yeni teknolojide aynı korku olmadı mı?” Oldu. Elektrik geldiğinde korktuk. Tren geldiğinde hızdan korktuk. İnternet geldiğinde “Dünya bozulacak” dedik. Matbaa çıktığında bile birileri huysuzlandı. İnsanlık hâlâ ayakta. Neden bu sefer farklı olsun?

Güzel soru. Ama cevabı “Bugüne kadar bir şey olmadı, bundan sonra da olmaz” kadar rahat değil. Çünkü burada hayatta kalan yanlılığı dediğimiz bir tuzak var. Bir adam düşünün. On yıldır her gece sarhoş araba kullanıyor, kaza yapmamış. On birinci yıl çıkıp “Bakın, demek ki içince daha iyi sürüyorum” diyor. İstatistik diye önümüze koyduğu şey aslında şans.

İnsanlık da geçmişe bakıp bazen aynı şeyi yapıyor. “Nükleer silah yaptık, dünya yok olmadı. Biyoteknoloji yaptık, dünya yok olmadı. Demek ki yine bir şey olmaz.” İyi de, dünya yok olsaydı bu cümleyi kuracak kimse kalmayacaktı. Başarı diye anlattığımız şeyin içinde bol miktarda tedbir olduğu kadar bol miktarda talih de var.

Soğuk Savaş yıllarında yanlış alarm yüzünden nükleer karşı saldırının eşiğine gelindiği olayları hatırlayın. Bir subayın “Bu işte bir gariplik var” diye prosedürü hemen uygulamaması, milyonlarca insanın kaderini etkilemiş olabilir. Yani insanlık zaman zaman bilgelikten değil, birilerinin son anda “Dur hele!” demesinden kurtuldu.

Burada yapay zekâyı nükleer silahtan ayıran önemli bir nokta var. Nükleer başlık çok tehlikeli ama kendisi toplantı yapmaz. Kendi kapasitesini artırmaz. Size e-posta gönderip ikna etmeye çalışmaz. Karar vermez. Yapay zekâ ise karar destekleyen, plan yapan, yazılım yazan, araç kullanan ve başka sistemleri yöneten bir teknolojiye dönüşüyor. Tartışma da zaten “Makine kötü mü?” değil; “Direksiyon ne kadar süre daha bizde kalacak?” tartışması.

Uzmanların üzerinde durduğu tehlikelerden biri biyoloji. Bunun için yapay zekânın bizi sevmemesi gerekmiyor. Yanlış kişiye fazla iyi yardım etmesi yeter. Dünyada zararlı biyolojik süreçlerle ilgili bilgi zaten parça parça mevcut. Eskiden mesele o bilgiyi bir araya getirecek uzmanlık, zaman ve altyapıydı. Şimdi günün yirmi dört saati yorulmadan çalışan bir model, bilgiyi toparlayıp bir yol haritasına çevirebilir mi? Asıl soru bu.

Bazı laboratuvarların kendi güvenlik raporlarında, modellerin biyolojik tehdit üretme kapasitesinin arttığını ve kötüye kullanım girişimlerinin engellendiğini açıklaması boşuna değil. “Kapı sağlam” diyorlar. İyi. Ama aynı mahallede elli kapı var. Birinin kilidi Yale, ötekininki mandal. Hırsızın da acelesi yok.

İkinci tehlike kontrol. Modeller güçlendikçe onları nasıl denetlediğimiz meselesi daha da zorlaşıyor. Bugün kullandığımız yöntemlerin bir bölümü, modelin ara düşünme ve işlem izlerini takip etmeye dayanıyor. Fakat sistemler başka araçlarla, başka modellerle ve dış kaynaklarla iç içe çalıştıkça bu izler bulanıklaşıyor. Yani motor büyüyor, gösterge paneli küçülüyor.

Beni asıl düşündürenlerden biri de üçüncü tehlike: Ekonomi. Çünkü bunun için patlama, virüs, füze falan gerekmiyor. Sessizce oluyor. Önce yapay zekâ sizin işinizin yüzde onunu yapıyor. Sonra yüzde otuzunu. Sonra patron “Bu arkadaş çok hızlı, öğle arasında da maaş istemiyor” diyor. Bir bakmışsınız, verimlilik artmış ama insanın pazarlık gücü azalmış.

Burada mesele “Herkes işsiz kalacak” diye kahve falı bakmak değil. Ekonomistler uzun süredir otomasyonun gelir dağılımı, sermaye payı ve çalışanların siyasal gücü üzerindeki etkisini inceliyor. Emeğe duyulan ihtiyaç azalırsa, emeğin pazarlık gücü de azalabilir. Demokrasi yalnız sandıktan ibaret değil; çalışan insanın vergi vermesi, örgütlenmesi, üretimi durdurabilmesi, “Bana da soracaksınız” diyebilmesiyle ayakta duran bir düzen.

Bir toplumda insanların ekonomik değeri gittikçe azalır, servet de giderek daha dar bir grubun elinde toplanırsa, mesele sadece maaş olmaz. Söz hakkı da küçülür. Yok olmak illa mezarlık demek değildir. Bazen masada sandalye bulamamaktır.

İşin bir de AGI ve ASI diye harf çorbası kısmı var. Teknoloji sektörü üç harfi yan yana koymadan rahat edemiyor zaten. AGI, kabaca insanın yaptığı zihinsel işlerin çoğunu yapabilen genel yapay zekâ. ASI ise insan kapasitesini aşan süper zekâ. Birkaç yıl önce bunlar konferans salonlarında bilimkurgu kokan kavramlardı. Şimdi şirket sunumlarında yatırım başlığı.

Asıl kritik eşik, yapay zekânın yapay zekâ araştırmasına yardım etmeye başlaması. Çünkü teknoloji bugüne kadar insan hızında gelişiyordu. Mühendis düşünür, dener, hata yapar, kahve içer, eve gider, uyur, sabah yeniden gelir. Yapay zekâ uyumuyor. Eğer bir model bir sonraki modeli geliştirmeyi hızlandırırsa, sonra o model bir sonrakini daha da hızlandırırsa, bir noktadan sonra süreç bizim çalışma ritmimizden çıkar.

İşte “kendini geliştiren sistem” korkusunun özü bu. Yani metal kafalı robotun sabah kalkıp dünyayı ele geçirme kararı alması değil. İyileştirme döngüsünün insan karar alma hızını aşması.

Burada yarış psikolojisi devreye giriyor. Kim önce genel yapay zekâya ulaşırsa piyasayı kapabilir, jeopolitik üstünlük sağlayabilir, teknoloji standardını belirleyebilir. Böyle bir yarışta herkes yavaşlamanın gerekli olduğunu söylese bile kimse ilk yavaşlayan olmak istemiyor.

Oyun teorisinde buna “tavuk oyunu” deniyor. İki araba birbirine doğru son hız geliyor. Direksiyonu ilk kıran korkak sayılacak. Hiçbiri kırmazsa ikisi de pert. Şimdi bu arabaların direksiyonunda dünyanın en zeki mühendisleri, en zengin şirketleri ve en büyük devletleri var. İnsanın içi doğal olarak huzur doluyor.

“Biz sorumluyuz” diyen de gaza basıyor, “Rakip durmaz” diyen de. Bu yarışın trajikomik tarafı burada. Herkes birbirinin vicdanına güvenmiyor ama herkes insanlığın kendi vicdanına güvenmesini istiyor.

İş bu yüzden artık yalnız mühendislerin meselesi olmaktan çıkıyor. Devletler, parlamentolar, düzenleyici kurumlar, kamuoyu devreye girmeye başladı. Büyük teknoloji şirketlerinin kendi güvenlik standartlarını destekleyen açıklamalar yapması da ilginç. Belki gerçekten güvenlik istiyorlar. Belki kuralları kendileri yazıp yarışta avantaj sağlamak istiyorlar. İki ihtimal de masada.

Ama her hâlükârda bir şeyi kabul etmek gerekiyor: “Yapay zekâyı yavaşlatalım mı, nasıl denetleyelim?” sorusu artık teknik bir laboratuvar sorusu değil. Toplumsal bir soru.

Peki biz neredeyiz?

Amerika ne yapıyor, Çin ne yapıyor, Avrupa hangi düzenlemeyi çıkarıyor diye konuşuyoruz. Güzel. Fakat Türkiye’de mesele çoğu zaman iki uçta yaşanıyor. Bir taraf “Yapay zekâ dünyanın sonu!” diye kıyamet tellallığı yapıyor. Diğer taraf “Ben geçen gün ona şiir yazdırdım, gayet efendi çocuk” diye meseleyi kapatıyor.

Ortası biraz boş.

Bilgisiz korku panik üretir. Bilgisiz iyimserlik ise gaflet. İkisi de aynı kapıya çıkar. Birinde “kaçın” dersiniz, ötekinde “bir şey olmaz”. Oysa yapılması gereken anlamak, tartışmak, denetlemek ve kurallar koymak.

Bizde teknoloji tartışmalarının bazen şöyle bir huyu var: Cihazı kullanmayı öğrenince teknolojiyi anladığımızı sanıyoruz. Telefonun kamerasını gece moduna alabilmek, optik bilmek değil. Yapay zekâya düzgün komut yazabilmek de yapay zekâ politikasını anlamak değil. Ama maşallah, memlekette üç prompt yazanın üçüncü gün “Yapay Zekâ Stratejisti” kartviziti bastırma ihtimali yüksek. Kartvizit sektörü AGI’dan önce genel zekâya ulaşacak gibi.

Türkiye’nin bu konuda ciddi bir kamuoyu, akademik tartışma ve şeffaf devlet politikası üretmesi gerekiyor. Çünkü yarın bu sistemleri biz geliştirmesek bile kullanacağız. Ekonomimiz etkilenecek. İş gücümüz etkilenecek. Eğitim sistemimiz etkilenecek. Savunma, sağlık, medya, hukuk, kültür… “Biz yapmadık ki” deme lüksümüz yok. Depremi siz üretmiyorsunuz ama binayı yine sağlam yapmak zorundasınız.

Üstelik toplumun meseleyi doğru anlayabilmesi için şirketlerin ve kurumların daha açık olması lazım. “Merak etmeyin, uzmanlarımız çalışıyor” dönemi giderek yetmiyor. Çünkü uzmanların kendileri çıkıp “Henüz çözemedik” diyor.

Bu noktada insanlığın geçmişte iyi yaptığı şeyleri de hatırlamak gerek. Bilim insanları bazı biyoteknoloji çalışmalarında risk gördüğünde gönüllü olarak durup kurallar koydu. Ozon tabakasını delen kimyasallar konusunda devletler ortak karar alabildi. Nükleer silahlar onlarca yıldır korkunç bir kapasite olarak duruyor ama kullanımı konusunda güçlü uluslararası tabular ve mekanizmalar oluştu.

Demek ki “İnsanlık asla anlaşamaz” sözü tam doğru değil. İnsanlık genellikle son dakikaya kadar anlaşamaz. Sonra yangın kapıya dayanınca toplantı yapar. Bizim türün çalışma prensibi biraz böyle. Önce musluğu açık bırakır, sonra su basınca apartman toplantısı düzenleriz.

Yapay zekâ konusunda istenen şey de esasen budur: Ortak güvenlik standartları, bağımsız denetim, şeffaf testler, uluslararası kurallar ve şirketlerin “Rakip yapıyor, ben de yaparım” bahanesini sınırlayacak mekanizmalar.

Yok olur muyuz? Bilmiyorum. Kimse bilmiyor. Bence dürüst cevap da bu.

Ama “Bilmiyoruz” demek “Korkmayın” demek değildir. “Dikkat edin” demektir.

Yapay zekâ bizi bir sabah hep birlikte yok etmeyebilir. Belki mesele çok daha sıradan ilerler. Bazı meslekler erir. Bazı güç dengeleri değişir. Bazı şirketler devletlerden daha etkili hâle gelir. Bazı insanların kararları, milyonların hayatını etkiler. Belki büyük felaket hiç olmaz. Belki de olur. Zaten risk dediğimiz şey, kesinlik değildir.

Yüzde beş ihtimal kulağa küçük gelebilir. Ama bineceğiniz uçağın düşme ihtimali yüzde beş olsa, biletinizi alırken “Eh, yüzde doksan beş sağlamız” demezsiniz. Köprü mühendisi “Yüzde beş çöker” dese, belediye başkanı kurdele kesmeye gelmez. Gelirse de kurdeleyi uzaktan keser.

Dolayısıyla mesele kıyamet tellallığı yapmak değil. Riskin büyüklüğünü, etkisinin büyüklüğüyle birlikte düşünmek.

Ve belki de en komik, aynı zamanda en acı tarafı şu: İnsanlık yapay zekâdan daha zeki olup olmadığını, yapay zekâyı yaparak sınayacak.

Sonuç iyi çıkarsa torunlarımız bize “Vay be, ne büyük dönüşümmüş” diyecek. Kötü çıkarsa zaten torunlar yorum yapamayacak.

O yüzden bugün sorulması gereken soru “Yapay zekâ iyi mi, kötü mü?” değil. Bu çocukça bir soru. Ateş de iyi ya da kötü değildir. Yemek pişirir, evi de yakar. Soru şu: Ateşi nerede yakıyoruz, kim gözetiyor, yangın tüpü nerede ve kibrit kimin elinde?

Şimdilik kibrit çok elde. Yangın tüplerinin çoğunun son kullanma tarihini de kontrol eden yok.

Yıl 2030’a dönersek… Ekranda yine o soru belirebilir:

“Bu işleme onay veriyor musunuz?”

Umarım o güne kadar en azından kullanım koşullarını okumayı öğrenmiş oluruz.

Benden Söylemesi…