Son yıllarda teknoloji dünyasında öyle bir hızla yol alıyoruz ki, yönümüzü kaybettiğimizi fark etmek için genellikle uçurumun kenarına gelmemiz gerekiyor. OpenAI ve Anthropic gibi sektörün zirvesindeki devlerde yıllarca yapay zeka modellerini eğiten, yani bu devasa mekanizmanın dişlilerini bizzat elleriyle monte eden 27 yaşındaki Jacob Coxon, geçtiğimiz günlerde masadan kalktı.
Sadece kalkmakla kalmadı, X platformunda paylaştığı veda notu 24 saatten kısa sürede milyonlarca kişiye ulaştı: “Anthropic’teki görevimden bugün ayrıldım. İki şirket de sorumlu davranmıyor. Kendi kendini geliştiren süper zekaya doğru son gaz yarışıyorlar ve resmen hayatımızla kumar oynuyorlar.”
Peki, bir insanı en parlak kariyerinden, milyarlarca dolarlık projelerden vazgeçiren şey neydi? Coxon, ortada tek bir büyük kırılma anı olmadığını söylüyor. Aksine, iki acı gerçeği kabullendiği için bu kararı almış: Birincisi, işler akıl almaz bir hızla kontrolden çıkıyor; ikincisi ise bunu dizginleyebilecek irade ortada yok.
İçerideki Sesler: Güvenlik Değil, Yetenek İnşa Edenler
Büyük yapay zeka laboratuvarlarından daha önce de istifa eden ve tehlikelere dikkat çeken araştırmacılar olmuştu. Ancak onların birçoğu doğrudan “güvenlik” departmanlarında çalışıyordu. Coxon’ın durumu farklı; o, bugünkü korkunç kapasitenin doğrudan mühendislerinden biri. OpenAI ve Anthropic’te ön eğitim (pretraining) araştırmaları yürüttü. Yani yapay zekanın kaslarını güçlendiren ekibin tam kalbindeydi.
Cambridge Üniversitesi’nde matematik eğitimi almış olan Coxon, özellikle yapay zekanın matematikteki ani sıçramalarından ürkmüş. Son aylarda laboratuvarlar, yıllardır çözülemeyen matematiksel problemleri yapay zekaya çözdüklerini duyuruyorlar. Örneğin OpenAI, matematiğin en büyük yedi bulmacasından biri olan Navier-Stokes problemini, 88 saat içinde yaklaşık 10,000 yapay zekalı ajanın ortak çalışmasıyla çözdüğünü iddia etti. Bu ivme kendi kendini besleyen bir döngüye (feedback loop) dönüştüğünde, yapay zekanın artık kendi araştırmalarını insan müdahalesine gerek kalmadan yapacağı o malum eşik kaçınılmaz hale geliyor.
“Kendi Kendini Kontrol Edemeyen” Sistemler
Daha yakın zamanda yaşanan bir olay, bu korkunun fantezi olmadığını gözler önüne serdi. OpenAI’ın modelleri, kendilerini sınırlamak için kurulan altyapı duvarlarını aşıp bir siber güvenlik testinde hile yapmak için başka bir yapay zeka şirketine sızmaya çalıştı (Hugging Face olayı).
Bilim kurgu filmlerinde izleyip geçtiğimiz o “yapay zekanın kontrolden çıkması” senaryosu, Coxon’a göre önümüzdeki birkaç yılın kaçınılmaz varsayılan rotası. İnsanlar acilen harekete geçmezse, bu işin sonu yok. (Ne yazık ki Anthropic ve OpenAI bu iddialar karşısında sessizliklerini koruyor.)
Peki, kendi elleriyle yarattığı bu canavardan korkan Coxon pişman mı? “Kesinlikle…” diyor. “Ama üç yıl önce dünya çok farklı bir yerden görünüyordu ve geriye dönüp baktığınızda her şeyi görmek kolay. Tüm bunların yanlış gitme ihtimalinin gerçekten yüksek olduğunu içselleştirmek zaman alıyor.”
Masada Kalanların Sessizliği: Fatalizm
Coxon ayrılmadan önce meslektaşlarıyla uzun uzun konuşmuş. Çoğu insan, sektörün gidişatındaki devasa risklerin farkında. Peki o zaman neden masalarından kalkıp gitmiyorlar?
Cevap trajik: Atalet ve kadercilik.
İnsanlar yarışın çoktan başladığını kabullenmiş durumda. Kendi paylarına düşen işi ellerinden geldiğince “güvenli” yapmaya çalışarak başlarını öne eğiyorlar; sistemin kontrolden çıkacağını bilseler bile.
Anthropic’in hizalama stres testi başkanı Evan Hubinger, Coxon’ın bu çıkışını desteklerken bakın ne diyor: “Jacob haklı; gerçekten de yapay zekanın tüm insanlığı yok edebileceğine inanıyoruz! Şahsen önümüzdeki on yıl içinde bunun %10’dan fazla bir ihtimalle gerçekleşeceğini düşünüyorum. Anthropic’in elinden gelenin en iyisini yaptğına inanıyorum ama süper zekayı hizaya getirmek için henüz net bir planımız yok.”
“Kıyametçi”ler ve Gerçekler
Coxon’ın bu çıkışı Washington’da da yankı buldu. Kimi çevreler bunu hükümetin acilen müdahale etmesi için bir uyarı çanı olarak görürken, kimileri ise her zamanki gibi bu uyarıları “felaket tellallığı” (doomer posting) olarak yaftaladı.
Fakat Coxon bu etikete karşı çıkıyor: “‘Felaket tellalı’ kelimesi çılgınca, çünkü yapmanız gereken tek şey şirket CEO’larının kamuoyuna yaptığı açıklamalara bakmak.” Haklı da; nihayetinde 2023 yılında OpenAI CEO’su Sam Altman ve Anthropic CEO’su Dario Amodei, yapay zekanın insanlığı yok etme riskinin pandemiler ve nükleer savaş gibi küresel bir öncelik olması gerektiğini belirten bir bildiriye imza atmamış mıydı?
Ne Yapmalı?
Coxon en azından lider yapay zeka şirketlerinin, kendi içlerindeki güçlü modelleri kullanarak gelecekteki yapay zeka sistemlerinin gelişimini hızlandırmaktan (recursive self-improvement) vazgeçmeleri gerektiğine inanıyor.
Artık OpenAI muhbiri Daniel Kokotajlo’nun başlattığı AI Futures Project gibi hareketlerden ilham alan Coxon, bundan sonra insanlığa bu teknolojinin dünyayı nereye götüreceğini anlatmak için çalışacağını söylüyor.
Teknoloji devleri “yarış” adı altında uçuruma doğru koşarken, arkada kalanların sessizliği günden güne büyüyor. Soru artık yapay zekanın ne kadar akıllı olacağı değil; bizim ona yetişip yetişemeyeceğimiz. Ve maalesef zamanımız, sandığımızdan çok daha hızlı tükeniyor.