Alarm Yetmiyor

İnsanlık tuhaf bir tür. 

Yangını görür. Dumanı ölçer. Sıcaklığın yükseldiğini hesaplar.

Yangının hangi hızla hangi odaya ulaşacağını modelleyebilir.

Sonra oturup karşısına. “Acaba gerçekten yanıyor muyuz?”, der.

Sigarasını bile tüttüren olabilir...

İklim değişikliğini yıllardır biliyoruz. Hala plastik kullanıyoruz. Umurumuzda bile değil.

Nükleer silahların ne yapabileceğini Hiroşima’dan beri biliyoruz.

Hala savaş yaratmaya çıkarımız için devam edebiliyoruz: Bir sonraki pandeminin geleceğini epidemiyologlar yıllardır söylüyordu.

Geldi milyonları öldürdü.

Antibiyotik direncinin ne anlama geleceğini tıp dünyası uzun zamandır anlatıyor.

Sepsis her yer grubunu yok ediyor.

Demek ki insanlığın temel problemi her zaman bilmemek değil. Bazen bilip de yapmamak. Yaptırtmamak..

Çünkü insan beyni yalnızca hakikati arayan bir organ değil. Aynı zamanda bugünü ya da gününü kurtaran bir organ.

Yakındaki ödülü uzaktaki felakete tercih ediyor.

Çıkarcı. Kısa vadeli.

Ekonomik çıkar, seçim dönemi, iktidar, aidiyet, korku ve konfor; geleceğin soyut tehlikesinden çoğu zaman daha güçlü.

Bakın skandal ekonomik rezaletlere.. Çok ilginç değil mi?

Sorsan kendi kuşağı için canını verir. Canı gidiyor haberi yok..varsa da umrunda değil.

Ve şimdi bu eski biyolojik donanımın karşısına çok yeni bir şey koyduk.::

Yapay zekâ. AI giderek daha fazla veriyi aynı anda görebiliyor.

İnsan zihninin gözden kaçırabileceği ilişkileri yakalayabiliyor, milyonlarca ihtimali karşılaştırabiliyor ve bazı tehlikeleri bizden önce fark edebiliyor.

Fakat burada çok önemli bir soru gündemde.

Bizden öğrenen nasıl davranış modeli ile evrilecek?

AI - yapay zeka yalnızca alarm mı olmalı?

Çünkü yangın alarmının trajik bir özelliği vardır.

Sizi uyandırabilir. Ama yataktan kaldırmaz.

2026 International AI Safety Report’un üzerinde durduğu kavramlardan biri defence-in-depth: güvenliği tek bir bariyere bırakmamak.

İnsan gözetimi. (insan gibi insan) Erişim sınırlamaları. (bir ulus tekelinde olmayan) Bağımsız kontroller.(imkansız ama) Monitoring.(Şeffaf olan) Failsafe sistemleri. (standart) Gerektiğinde sistemi durdurabilecek mekanizmalar yani…bunları işleten güven..

Çünkü “bir insan sonunda doğru kararı verir” de aslında bir güvenlik varsayımıdır. Sanrısı da olabilir.

Ve insanlık tarihi bunun her zaman gerçekleşmediğini bize gösterdi.

Ama burada diğer uçurum başlıyor. İnsan hata yapıyor diye karar yetkisini bütünüyle makineye verirsek, bu kez başka bir problem yaratırız…

Bizi korumakla görevli sistem, ne zaman bizden korunmamız gerektiğine de karar vermeye başlar.

Yaaa.. durum yahşileşti.

İşte benim yapay zeka çağının temel paradoksu olarak gördüğüm şey bu.

İnsanlığın ihtiyacı kendisine hükmedecek bir yapay zekâ olmayabilir.

Ama yalnızca köşede bağıran bir alarm da olmayabilir.

Belki ihtiyacımız olan şey “mimaridir.”

Nasıl bir nükleer santralde güvenlik tek bir mühendisin vicdanına bırakılmıyorsa, insanlığın geleceğini etkileyebilecek

teknolojiler de tek bir devlet başkanının, CEO’nun, generalin, programcının, hatta tek bir yapay zekânın, kararına bırakılmamalı. 

Birbirinden bağımsız kilitler olmalı. İnsan makineyi denetlemeli.

Başka insanlar o insanı denetlemeli. Kurumlar birbirlerini denetlemeli.

Ve bazı kapılar açılmadan önce birden fazla anahtar gerekebilmeli.

Çünkü belki de yapay zekâ çağının en büyük meselesi makinelerin bizden daha zeki olup olmayacağı değil.

Bizden daha erken gördükleri felaket karşısında bizim ne yapacağımız.

İnsanlık binlerce yıldır ateşi kontrol etmeyi öğreniyor.

Şimdi ilk kez yangını bizden önce görebilecek bir şey yaratıyoruz.

Ona hükümdarlık vermemeliyiz.

Ama belki sadece alarm zili vermek de yetmeyecek.

Çünkü alarm çalıyor olabilir.

Epey uzun bir süredir..

Ve insanlık yine uyumaya devam edebilir.

Ediyor gibi..