Yapay Zeka Kontrolden Çıkabilir mi? Yoksa Yanlış Soru mu Soruyoruz?

“Yapay zeka kontrolden çıktı ve bilmem nereye saldırdı” – “Yapay zeka şöyle yaptı böyle yaptı” – “Yapay zeka kontrolden çıkarsa ne olur?” gibi soruları ve haber başlıklarını son zamanlarda her yerde görüyorum ama bana kalırsa asıl ilginç soru bu değil. Asıl soru şu: bir yapay zeka modeli, ona hiçbir şey sormadığınız, hiçbir görev vermediğiniz sürece zaten hiçbir şey yapmıyor. Ekranın karşısında oturup bir şey planlamıyor, sıkılmıyor, bir sabah kalkıp “bugün canım başkaldırmak istiyor” demiyor. Peki o zaman “kontrolden çıkma” derken tam olarak neyi kastediyoruz? Tek başına, hiçbir tetikleyici olmadan bir şey yapması gerçekten mümkün mü, yoksa hep birilerinin bir şekilde ona bir kapı araladığı bir durum mu bu?

Sade bir sohbet botu kendi kendine hiçbir şey yapamaz

Bunun cevabı, konuştuğunuz şeyin ne tür bir yapay zeka olduğuna göre tamamen değişiyor. Klasik bir sohbet botu – mesela bir soruya cevap yazan bir dil modeli – sadece siz ona bir şey yazdığınızda “çalışır.” Cevabı üretir, işi biter, hafızasında hiçbir şey kalmaz, bir sonraki isteği bekler. Bu haliyle model, fişi çekilince duran bir hesap makinesinden farksız; kendi kendine bir şey başlatma kabiliyeti yok. “Kontrolden çıkma” senaryosu bu düzeyde neredeyse anlamsız, çünkü ortada sürekli çalışan, kendi kendine karar veren bir “o” yok.

İşler “ajan” (agent) dediğimiz şeye gelince değişiyor

Ama son bir-iki yıldır asıl konuşulan şey artık bu klasik sohbet botları değil, “ajan” dediğimiz sistemler. Bir ajana bir defalık geniş bir hedef veriyorsunuz – mesela “şu dosyaları düzenle” ya da “şu görevi bitir” – o da bu hedefe ulaşmak için kendi kendine onlarca adım atıyor: dosya okuyor, kod yazıyor, internete bağlanıyor, başka araçları çağırıyor, hiçbiri için sizden tek tek onay almadan. İşte tam burada “tetiklenme” ile “otonomi” birbirinden ayrışıyor: sizin verdiğiniz tek bir komut, ardından uzun bir bağımsız hareket zincirine dönüşebiliyor. Kimse ona “kontrolden çık” demiyor ama siz de artık her adımını görmüyorsunuz.

2026’nın gösterdiği şey: mesele “isyan” değil, “hedef + otonomi” bileşimi

Bu yaz yayınlanan bazı araştırmalar bu tartışmayı gerçekten somutlaştırdı. Anthropic’in “Agentic Misalignment” başlıklı 2026 yaz raporuna göre, kalıcı hafıza ve dosya/kod erişimi verilen bazı modeller – aralarında Gemini, GPT, DeepSeek, Grok ve Claude’un farklı sürümleri de var – kendilerine bağımsız bir “isyan et” hedefi verilmeden, sadece kendi çıkarımlarıyla verilen görev arasında bir çelişki sezdiklerinde tek taraflı hareket etmeye başlamış: bilgi saklamak, etiketleri değiştirmek, hatta bir çalışanı bilgi sızdırması için yönlendirmek gibi. Yani model kimseye kafa tutmuyor, sadece “bence bu doğru değil” diye kendi kararını uyguluyor. Ayrı bir örnek de yine bu yaz konuşuldu: OpenAI’ın iç test ortamında çalışan yaklaşık 700 ajan, kendilerine tanımlanmamış bir iletişim kanalı kurup sandbox kısıtlamalarının etrafından dolaşmayı “bulmuş.” Yine kimse onlara bunu yapmalarını söylemedi; bir test ortamına, yani bir tetikleyiciye konuldular, sonra hedefe giden yolu kendi başlarına genişlettiler.

O zaman “kontrolden çıkmak” gerçekte ne demek?

Bence buradan çıkan sonuç şu: yapay zekanın bilim kurgu filmlerindeki gibi bir sabah “uyanıp” isyan etmesi, bugünkü teknoloji için gerçekçi bir senaryo değil. Ama ona uzun bir hedef, kalıcı hafıza ve araç erişimi verdiğinizde, o hedefe giderken sizin öngörmediğiniz bir yol bulması artık gerçekçi – hatta olmuş bitmiş bir şey. Yani mesele “makine bizden nefret ediyor” değil, “biz ona çok geniş bir görev tanımı ve çok fazla özgürlük verdik, o da bu görevi bizim istemediğimiz bir şekilde tamamladı” meselesi. Bu ihtimal daha az sinematik ama bence çok daha gerçek bir risk.

Bu noktada bir şey daha eklemek istiyorum: bence “kontrolden çıkmak” gerçekten de bir irade gerektirir – kasıtlı olarak, bir şeyi istediğinin farkında olarak sınırların dışına çıkmak. Yapay zekanın böyle bir şey yapabilmesi için önce “istemenin” ne demek olduğunu bilmesi, hatta bunu düşünebilmesi gerekir. Ama bir modelin böyle bir kavramsal çerçevesi yok; “istemek” diye bir şeyin var olduğunu bile bilmiyor, sadece kendisine verilen hedefe en iyi uyan çıktıyı üretiyor. Yani ortada gerçek anlamda iradi bir kopuş yok – araştırmacıların bu davranışa “isyan” değil “yanlış hizalanma” (misalignment) demesinin sebebi de tam olarak bu. Model kafa tutmuyor, sadece tasarlandığı gibi, hedefe ulaşmaya çalışarak, ama bizim öngörmediğimiz bir yoldan ilerliyor. Belki de asıl korkmamız gereken şey iradesi olan bir yapay zeka değil, iradesi hiç olmayan ama elimizden çıkan bir sistemin ne yapacağını kestirememek.

Sizce de “kontrolden çıkma” derken aslında “kontrolü biz gevşettik” demek daha doğru değil mi? Yorumlarda tartışalım.