Yazan Dr. Nurfer TERCAN
Son bir haftadır teknoloji dünyasının içinden yükselen en sarsıcı cümle bu. İlk bakışta bilimkurgu sinemasından ödünç alınmış bir kıyamet sahnesi gibi duruyor: makineler uyanıyor, insan tarihin sahnesinden çekiliyor. Oysa bu cümleyi tartışmaya değer kılan, dillendirenlerin kimliği. Söz, teknolojiyi uzaktan seyreden felâket tellâllarından değil; bu sistemleri bizzat eğiten, güvenliği üzerine çalışan ve laboratuvarların kapalı kapıları ardında ne olup bittiğini bilen insanlardan geliyor.
Önce, başlığın uyandırdığı korkuyla olgunun kendisini birbirinden ayırmak gerekiyor. "Yapay zekâ insanlığın yok oluşuna yol açabilir" demek ile "yapay zekâ insanlığı yok edecek" demek aynı cümle değildir. İlki bir ihtimalin kapısını aralar; ikincisi bir hükmü ilân eder. Bugün elimizde, yapay zekânın insanlığı ortadan kaldıracağını gösteren doğrulanmış tek bir bilimsel bulgu yoktur. Dolayısıyla "hepimizi öldürecek" cümlesi bir bilimsel sonuç olarak sunulamaz. Fakat bu, tartışmanın hafife alınabileceği anlamına da gelmiyor. Zira bir ihtimal, sırf kanıtlanmamış olduğu için önemsiz değildir; önemi, kaybedilecek şeyin büyüklüğünden gelir.
Haber: Bir istifa, bir oran, bir çağrı
Olayların akışı şöyle. Üç yılını önce OpenAI'da, ardından Anthropic'te yapay zekâ modellerini eğitmekle geçiren araştırmacı Jacob Coxon, 8–9 Eylül'de sosyal medya üzerinden yaptığı bir dizi paylaşımla görevinden ayrıldığını duyurdu. Coxon'a göre her iki şirket de "sorumlu davranmıyor"; yakında "her şeyi hackleyebilen, herhangi bir alanı bir gecede dönüştürebilen, gerçek güç ve kaynak edinebilen" insanüstü sistemler ortaya çıkacak ve bu şirketler, kendi ifadesiyle, "hayatlarımızla kumar oynuyor." En çok yankı uyandıran cümlesi ise şuydu: "Yapay zekâyı inşa eden insanlar, bunun on yılın sonuna kadar hepimizi öldürebileceğine samimiyetle inanıyor."
Bu iddianın tek bir kişinin öfkesiyle sınırlı kalmadığını gösteren ikinci gelişme, aynı günlerde geldi. Anthropic'te yapay zekânın insan değerleriyle uyumu üzerine çalışan ekibin başındaki Evan Hubinger, önümüzdeki on yıl içinde gelişmiş yapay zekânın insanlığın yok oluşuna yol açma ihtimalini yüzde onun üzerinde gördüğünü açıkladı. Burada dikkatle okunması gereken bir ayrıntı var: Bu oranlar laboratuvar deneyleriyle ölçülmüş, istatistiksel olarak sınanmış ölüm olasılıkları değildir. Alanın içindeki bir uzmanın, son derece belirsiz bir gelecek karşısında yaptığı kişisel bir risk tahminidir. Yani bir termometre okuması değil, bir vicdan muhasebesidir. Fakat bu muhasebenin sahibi, tam da bu riski azaltmakla görevli kişidir; onu görmezden gelmek, gemide su alındığını bildiren tayfayı "ne de olsa kaptan değil" diye susturmaya benzer.
Ve nihayet üçüncü gelişme, tartışmayı bireysel kaygıların ötesine, sektörün merkezine taşıdı. Anthropic'in kurucu ortağı ve CEO'su Dario Amodei, 12 Eylül'de yayımladığı bir yazıda sektöre açık bir çağrı yaptı: "Yapay zekâ modellerinin kapasitesini artırma hızımızı yavaşlatmalıyız. İlerleme yine hızlı görünecek; kazandığımız zamanı hikmetle kullanmalıyız." Amodei, önümüzdeki altı ilâ on iki ay içinde kendi başına hareket eden yapay zekâ sürülerinin internetin bütününe yerleşik bir bot ağıyla el koyabileceği ve yüz milyarlarca dolarlık zarara yol açabileceği uyarısında bulundu; dış denetçilere şirket çalışanlarıyla eşdeğer erişim tanınmasını önerdi. Çağrı boşlukta kalmadı. OpenAI'ın başındaki Sam Altman, sektörün "sınırı belirli bir tempoda ilerletmesi" gerektiğini söyleyerek benzer bir denetçi erişimi taahhüt etti; Elon Musk ise tek cümleyle yetindi: "Dario haklı."
Böylece, birbirleriyle amansız bir rekabet içindeki üç isim, en azından bir cümlede buluşmuş oldu. Tarihte bu tür uzlaşmalar nadirdir ve genellikle tehlikenin artık inkâr edilemez hâle geldiği anlarda görülür.
Yorum: Yanlış yerden başlayan bir soru
Belki de tartışmayı yanlış yerinden başlatıyoruz. Yapay zekânın en büyük meselesi, makinenin bir gün insan olup olmayacağı değildir. Asıl soru şudur: İnsan, eline tarihinde hiç görülmemiş ölçekte bir güç geçtiğinde neye dönüşecektir?
Nükleer fizik, atom bombasını zorunlu kılmadı. Atomun yapısını anlamak ile Hiroşima'nın üzerine bomba bırakmak arasında fizik kadar insan iradesi, siyaset, iktidar hırsı ve savaş vardı. Bilgi, bir kapı açar; o kapıdan kimin, hangi niyetle geçeceğini bilgi belirlemez. Aynı şekilde yapay zekânın varlığı da insanlığın yok oluşunu zorunlu kılmaz. Fakat teknoloji; iktidar, rekabet, sermaye, askerî üstünlük ve denetimsizlikle aynı denklemin içinde birleşmeye başladığında, mesele yalnızca mühendislerin çözmesi gereken teknik bir problem olmaktan çıkar.
Artık karşımızda bir ahlâk problemi vardır. Bir siyaset problemi vardır. Ve nihayetinde bir medeniyet problemi vardır.
Kadim düşünce geleneğimiz bu ayrımı çok önce yapmıştı. Kudret ile hikmet aynı şey değildir; güç, kendisini yönetecek bir bilgelik olmadan yalnızca büyür, olgunlaşmaz. Fârâbî'nin erdemli şehri, en güçlü şehir değil, gücünü doğru amaca bağlamayı bilen şehirdir. Bugün Silikon Vadisi'nden yükselen "yavaşlayalım" çağrısı, farkında olsun ya da olmasın, aynı eski hakikatin etrafında dolanıyor: Hız bir erdem değildir; erdem, hızı ne için harcadığımızdır.
Çünkü insanlık tarihinde ilk kez karşılaştığımız temel soru yalnızca "Ne kadar güçlü bir zekâ üretebiliriz?" değildir. Belki bundan çok daha önemli olan soru şudur: Ürettiğimiz bu gücü hangi insanın, hangi kurumun, hangi devletin ve hangi değerler sisteminin eline teslim edeceğiz? Ve o eller, gücün büyüsüne kapıldığında onları durduracak bir yasa, bir kurum, bir vicdan olacak mı?
Amodei'nin çağrısındaki en dikkat çekici sözcük, "yavaşlamak" değil, "hikmet"tir. Kazanılan zamanı hikmetle kullanmak. Çünkü zaman tek başına hiçbir şeyi çözmez; zamanı ne yaptığımız çözer. Denetim mekanizmaları, uluslararası hukuk, şeffaflık, bağımsız değerlendirme ve en önemlisi, gücü elinde tutanların kendi sınırlarını tanıması. Bunların hiçbiri bir yazılım güncellemesiyle gelmez. Hepsi, insanın kendisiyle yüzleşmesini gerektirir.
Sonuç: Makine değil, ayna
Bu nedenle "yapay zekâ hepimizi öldürecek" cümlesine ihtiyatla yaklaşmak gerekir. Bilim bize bugün böylesine kesin bir gelecek söylemiyor. Fakat alanın tam merkezinden yükselen uyarıları birer kıyamet kehaneti diye küçümsemek de doğru olmaz. Kendi kurdukları sistemden ürken insanların sesi, dışarıdan bakan pek çok eleştirmenin sesinden daha ağır basar.
Belki de asıl tehlike, makinelerin bir gün insana dönüşmesi değildir.
İnsanın, makineler sayesinde sahip olduğu muazzam gücün karşısında kendi sınırlarını unutmasıdır. Yapay zekâ, sonunda, bize bir makine göstermeyecek; bir ayna tutacak. O aynada göreceğimiz şey, teknolojinin değil, kendimizin ne olduğu ya da neye dönüştüğüdür.
Düşünmenin, yüzleşmenin tam zamanı!
Kaynaklar:
NPR — Anthropic researcher resigns amid AI safety concerns
Forbes — Anthropic alignment lead warns AI could kill all humans as researcher quits
Axios — Anthropic, OpenAI CEOs call for slowdown in AI development
Washington Post — Amodei calls for AI oversight, joined by Altman and Musk
