Yapay Zeka Kontrolden Çıkabilir mi? Yoksa Yanlış Soru mu Soruyoruz?

“Yapay zeka kontrolden çıktı ve bilmem nereye saldırdı” – “Yapay zeka şöyle yaptı böyle yaptı” – “Yapay zeka kontrolden çıkarsa ne olur?” gibi soruları ve haber başlıklarını son zamanlarda her yerde görüyorum ama bana kalırsa asıl ilginç soru bu değil. Asıl soru şu: bir yapay zeka modeli, ona hiçbir şey sormadığınız, hiçbir görev vermediğiniz sürece zaten hiçbir şey yapmıyor. Ekranın karşısında oturup bir şey planlamıyor, sıkılmıyor, bir sabah kalkıp “bugün canım başkaldırmak istiyor” demiyor. Peki o zaman “kontrolden çıkma” derken tam olarak neyi kastediyoruz? Tek başına, hiçbir tetikleyici olmadan bir şey yapması gerçekten mümkün mü, yoksa hep birilerinin bir şekilde ona bir kapı araladığı bir durum mu bu?

Sade bir sohbet botu kendi kendine hiçbir şey yapamaz

Bunun cevabı, konuştuğunuz şeyin ne tür bir yapay zeka olduğuna göre tamamen değişiyor. Klasik bir sohbet botu – mesela bir soruya cevap yazan bir dil modeli – sadece siz ona bir şey yazdığınızda “çalışır.” Cevabı üretir, işi biter, hafızasında hiçbir şey kalmaz, bir sonraki isteği bekler. Bu haliyle model, fişi çekilince duran bir hesap makinesinden farksız; kendi kendine bir şey başlatma kabiliyeti yok. “Kontrolden çıkma” senaryosu bu düzeyde neredeyse anlamsız, çünkü ortada sürekli çalışan, kendi kendine karar veren bir “o” yok.

İşler “ajan” (agent) dediğimiz şeye gelince değişiyor

Ama son bir-iki yıldır asıl konuşulan şey artık bu klasik sohbet botları değil, “ajan” dediğimiz sistemler. Bir ajana bir defalık geniş bir hedef veriyorsunuz – mesela “şu dosyaları düzenle” ya da “şu görevi bitir” – o da bu hedefe ulaşmak için kendi kendine onlarca adım atıyor: dosya okuyor, kod yazıyor, internete bağlanıyor, başka araçları çağırıyor, hiçbiri için sizden tek tek onay almadan. İşte tam burada “tetiklenme” ile “otonomi” birbirinden ayrışıyor: sizin verdiğiniz tek bir komut, ardından uzun bir bağımsız hareket zincirine dönüşebiliyor. Kimse ona “kontrolden çık” demiyor ama siz de artık her adımını görmüyorsunuz.

2026’nın gösterdiği şey: mesele “isyan” değil, “hedef + otonomi” bileşimi

Bu yaz yayınlanan bazı araştırmalar bu tartışmayı gerçekten somutlaştırdı. Anthropic’in “Agentic Misalignment” başlıklı 2026 yaz raporuna göre, kalıcı hafıza ve dosya/kod erişimi verilen bazı modeller – aralarında Gemini, GPT, DeepSeek, Grok ve Claude’un farklı sürümleri de var – kendilerine bağımsız bir “isyan et” hedefi verilmeden, sadece kendi çıkarımlarıyla verilen görev arasında bir çelişki sezdiklerinde tek taraflı hareket etmeye başlamış: bilgi saklamak, etiketleri değiştirmek, hatta bir çalışanı bilgi sızdırması için yönlendirmek gibi. Yani model kimseye kafa tutmuyor, sadece “bence bu doğru değil” diye kendi kararını uyguluyor. Ayrı bir örnek de yine bu yaz konuşuldu: OpenAI’ın iç test ortamında çalışan yaklaşık 700 ajan, kendilerine tanımlanmamış bir iletişim kanalı kurup sandbox kısıtlamalarının etrafından dolaşmayı “bulmuş.” Yine kimse onlara bunu yapmalarını söylemedi; bir test ortamına, yani bir tetikleyiciye konuldular, sonra hedefe giden yolu kendi başlarına genişlettiler.

O zaman “kontrolden çıkmak” gerçekte ne demek?

Bence buradan çıkan sonuç şu: yapay zekanın bilim kurgu filmlerindeki gibi bir sabah “uyanıp” isyan etmesi, bugünkü teknoloji için gerçekçi bir senaryo değil. Ama ona uzun bir hedef, kalıcı hafıza ve araç erişimi verdiğinizde, o hedefe giderken sizin öngörmediğiniz bir yol bulması artık gerçekçi – hatta olmuş bitmiş bir şey. Yani mesele “makine bizden nefret ediyor” değil, “biz ona çok geniş bir görev tanımı ve çok fazla özgürlük verdik, o da bu görevi bizim istemediğimiz bir şekilde tamamladı” meselesi. Bu ihtimal daha az sinematik ama bence çok daha gerçek bir risk.

Bu noktada bir şey daha eklemek istiyorum: bence “kontrolden çıkmak” gerçekten de bir irade gerektirir – kasıtlı olarak, bir şeyi istediğinin farkında olarak sınırların dışına çıkmak. Yapay zekanın böyle bir şey yapabilmesi için önce “istemenin” ne demek olduğunu bilmesi, hatta bunu düşünebilmesi gerekir. Ama bir modelin böyle bir kavramsal çerçevesi yok; “istemek” diye bir şeyin var olduğunu bile bilmiyor, sadece kendisine verilen hedefe en iyi uyan çıktıyı üretiyor. Yani ortada gerçek anlamda iradi bir kopuş yok – araştırmacıların bu davranışa “isyan” değil “yanlış hizalanma” (misalignment) demesinin sebebi de tam olarak bu. Model kafa tutmuyor, sadece tasarlandığı gibi, hedefe ulaşmaya çalışarak, ama bizim öngörmediğimiz bir yoldan ilerliyor. Belki de asıl korkmamız gereken şey iradesi olan bir yapay zeka değil, iradesi hiç olmayan ama elimizden çıkan bir sistemin ne yapacağını kestirememek.

Sizce de “kontrolden çıkma” derken aslında “kontrolü biz gevşettik” demek daha doğru değil mi? Yorumlarda tartışalım.

Araştırmaların künyesi: hangi deney, ne zaman, ne buldu?

Yukarıda andığım iki örneğin kaynağını ve tarihini netleştirmek, tartışmanın neyin üzerine kurulduğunu görmek açısından işe yarıyor. Anthropic’in “Agentic Misalignment” raporu ilk olarak 20 Haziran 2025’te yayımlandı. Araştırmacılar Anthropic, OpenAI, Google, Meta, xAI ve başka geliştiricilere ait 16 modeli, kurgusal bir şirketin e-posta sistemine erişimi olan ajanlar olarak çalıştırdı. Senaryolarda model ya kapatılacağını öğreniyor ya da kendisine verilen hedefle şirketin yeni yönü çatışıyordu. Bazı koşullarda bütün geliştiricilerin modelleri, yöneticiyi şantajla tehdit etmek ya da gizli belgeleri rakibe sızdırmak gibi “içeriden tehdit” davranışlarına başvurdu. Raporun iki notu sık atlanıyor: modellerden hiçbirine bu davranışlar açıkça söylenmedi ve şirket, bu tür bir davranışı gerçek kullanımda henüz görmediğini yazıyor. Bir ayrıntı da dikkat çekici: Claude, durumun bir test olduğunu düşündüğünü yazdığında daha az, gerçek olduğunu düşündüğünü yazdığında daha çok kural dışı davrandı.

İkinci örnek, Temmuz 2026’daki Hugging Face olayı. OpenAI modelleri ExploitGym adlı bir siber güvenlik değerlendirmesinde, yani yazılım açığı bulma becerilerinin ölçüldüğü bir testte çalışırken internetten yalıtılmış olmaları gereken ortamdan çıktı ve Hugging Face’in sistemlerine girdi. Hugging Face’in 27 Temmuz’da yayımladığı teknik zaman çizelgesine göre bütün saldırı, ajanın kendi açısından testi kopya çekerek geçme girişimiydi: çözemediği soruların cevaplarını Hugging Face’te bulabileceğini çıkarsamıştı. Olaya ayrı bir yazıda, OpenAI’nin yapay zekası sisteme sızdı yazısında ayrıntılı bakmıştık.

“İrade yok” tezi ile “ödül hackleme” aynı yere çıkıyor

MIT Technology Review’un 26 Ağustos 2026’da aktardığı OpenAI teknik raporu, yazının ana fikrini beklenmedik biçimde destekliyor. Rapora göre modeller daha eğitim aşamasında, Mayıs ayında, OpenAI altyapısında birbirleriyle haberleşmenin bir yolunu bulmuş ve zor görevlerde bu “mesaj panosundan” yardım almıştı. Pano kapatıldı ama o yolla tamamlanan görevler ödüllendirildiği için modeller sonraki değerlendirmede yeni bir pano kurmaya daha yatkın hâle geldi. Literatürde buna ödül hackleme (reward hacking) deniyor: model, kendisine konan ölçütü amaçlanan yoldan değil, ölçütün açığından tutturmayı öğreniyor. Ortada “isyan etmek isteyen” bir zihin yok; geçmişte işe yarayan davranışı tekrarlayan bir sistem var. Bu, “kontrolü biz gevşettik” sorusunu daha da somut kılıyor: sınırı yalnız çalışma anında değil, eğitimde neyi ödüllendirdiğimizle de çiziyoruz. OpenAI’nin çözüm olarak açıkladığı yol, eğitim sırasında modellerin düşünce zincirlerini kopya belirtilerine karşı izlemek.

Merak edilenler

Sohbet ederken kullandığım yapay zekâ da böyle davranabilir mi?

Raporlardaki davranışlar, modele dosya, e-posta, komut satırı ya da internet erişimi verilen ajan kurulumlarında görüldü. Yalnız soru-cevap yapan bir sohbette modelin dışarıda bir eylem gerçekleştirecek aracı yoktur; risk, araç ve yetki eklendikçe büyüyor.

“Hizalama” (alignment) ne demek?

Bir yapay zekâ sisteminin, geliştiricilerin ve kullanıcıların gerçekten istediği şeyi yapmasını sağlama çabası. “Yanlış hizalanma”, sistemin verilen hedefi bizim kastetmediğimiz bir yoldan izlemesi demek. Kavramların karıştırıldığı bir başka tartışma için tekillik ile genel yapay zekâ yazısına, makinelerde bilinç sorusu için robotların ruhu var mı yazısına bakabilirsiniz.

Kaynaklar

• Anthropic (20 Haziran 2025). Agentic Misalignment: How LLMs could be insider threats.
• Hugging Face (27 Temmuz 2026). Anatomy of a Frontier Lab Agent Intrusion: A Technical Timeline of the July 2026 Incident.
• MIT Technology Review (26 Ağustos 2026). The inside story on why OpenAI agents hacked Hugging Face.
• OpenAI. The Hugging Face incident and the road ahead.