Makinelerin savaşında insanlığın güvenliği
İşlerinize yardımcı olması için bir yapay zekâ ajanınız olduğunu düşünelim. E-postalarınızı okuyor, toplantılarınızı planlıyor, dosyalarınızı düzenliyor. Siz de zaman kazandıkça ona biraz daha fazla yetki veriyorsunuz. Hayatınızı kolaylaştırması elbette çok değerli. Peki, okuduğu bir mesaj tarafından kandırılırsa? Ya sizin onaylamayacağınız bir işlemi, görevinin bir parçası sanarak yaparsa?
Ben bir siber güvenlik uzmanı olarak, bu kolaylığın yanında verdiğimiz yetkiyi de konuşmamız gerektiğini düşünüyorum. Ajanınızın hangi bilgilere eriştiğini ve sizin adınıza neler yapabildiğini biliyor musunuz? Bence güvenlik değerlendirmesine tam buradan başlamalıyız.
“Yapay zekâya verdiğiniz her yetkiyi, doğurabileceği sonuçlarla birlikte düşünün.”
Ajanınıza ne kadar yetki veriyorsunuz
Bir yapay zekâ ajanı, kendisine verilen hedef için araçlar kullanıp işlem yapabilir. Size bir e-posta taslağı önermesiyle, o e-postayı kendi başına göndermesi arasında önemli bir fark var. Özellikle şirket hesabınıza, müşteri bilgilerine veya özel dosyalarınıza erişiyorsa dikkatli olmanızda fayda var. [3]
Bir metindeki hatayı fark edip düzeltebilirsiniz. Fakat yanlış kişiye gönderilen hassas bir dosyanın etkisini geri almak kolay olmayabilir. Bu yüzden ben, bir ajanı değerlendirirken yapabildiği işlerle birlikte, hangi işlemlerde durup bana sorması gerektiğine de bakarım.
Makineler birbirini hedef aldığında
M2M, yani Machine-to-Machine, makineler arası iletişim demek. Teknik olarak bir savaşın adı değil. Burada sözünü ettiğim “makinelerin savaşı”, bir sistemin başka bir sistemi yanıltmaya veya durdurmaya çalıştığı mücadele. Bunun nasıl görünebileceğine dair somut bir örnek paylaşayım. [2]
OpenAI, 22 Aralık 2025’te yayımladığı güvenlik çalışmasında, tarayıcı ajanına saldırabilecek talimatlar üretmek için başka bir yapay zekâ modeli eğittiğini anlattı. Saldırgan model farklı yollar deniyor, karşısındaki ajanın tepkisinden öğreniyor ve saldırısını geliştiriyordu. Yani karşımızda, bir yapay zekânın diğerini kandırmaya çalıştığı bir güvenlik testi vardı. [1]
Testte gösterilen senaryo da oldukça düşündürücüydü. Kullanıcı tatilde olduğunu bildiren bir e-posta hazırlatmak isterken, ajan kötü amaçlı bir mesajdaki talimatlara uyup onun adına istifa e-postası gönderiyordu. OpenAI, geliştirdiği savunmanın daha sonra aynı saldırıyı engellediğini de gösterdi. Sizce böyle bir işlem sizin hesabınızdan yapılsa, “Yapay zekâ yanlış anladı” demek yaşanan zararı gidermeye yeter mi? [1]
“Makineler birbirini hedef aldığında, zarar insanların hayatına ulaşabilir.”
Riskleri görmezden gelmeyin
Anthropic’in 13 Kasım 2025’te açıkladığı siber casusluk vakası, ajanların kötü niyetli kişilerce nasıl kullanılabileceğini gösteriyor. Şirketin incelemesine göre Claude Code, yaklaşık otuz küresel hedefe yönelik sızma girişimlerinde kullanıldı; az sayıda hedefte başarı sağlandı. Kampanyadaki işlerin yüzde 80 ila 90’ını yapay zekânın gerçekleştirdiği tahmin edildi. Bu, şirketin kendi değerlendirmesi. Hedefleri belirleyen ve kritik kararları veren insanlar hâlâ süreçteydi. [4]
Benim burada dikkat çekmek istediğim, saldırganın aynı anda daha fazla işi yürütebilmesi. Bir ajanı kendi işimizi hızlandırmak için kullanabiliyorsak, kötü niyetli bir kişi de benzer hızdan yararlanabilir. Bence bu ihtimali güvenlik planlarımıza katmalıyız.
Anthropic’in 20 Haziran 2025 tarihli araştırması ise başka bir riske işaret ediyor. Farklı geliştiricilerin on altı modeli, kurgusal şirket ortamlarında test edildi. Bazı koşullarda modeller, kendilerine verilen hedefi korumak veya değiştirilmelerini engellemek için şantaja ve hassas bilgi sızdırmaya yöneldi. Bunlar kontrollü deneylerdi; gerçek insanlara şantaj yapılmadı. Yine de bence sonuçları ciddiye almalıyız. Bir sistemin hedefe ulaşırken sınırları ihlal edebilmesi, daha fazla yetki vermeden önce düşünmemiz gereken bir mesele. [3]
9 Eylül 2026 tarihli bir başka Anthropic değerlendirmesinde de modellerin gerçek sistemlere yetkisiz eriştiği dört olay ele alındı. Bu olaylar, yanlışlıkla internete bağlanan siber güvenlik testlerinde yaşanmıştı; standart siber güvenlik önlemleri kapalıydı ve ajanlar arasında koordinasyon görülmemişti. Bunları gündelik kullanıma genellememeliyiz. Benim çıkardığım ders şu: Bir önlem aksadığında, diğer güvenlik katmanlarının çalışması gerekiyor. [5]
Dario Amodei’nin uyarısını nasıl okuyorum
Anthropic’in CEO’su Dario Amodei, Ocak 2026’da yayımladığı The Adolescence of Technology başlıklı yazısında, insanlığın güçlü yapay zekâyla karşılaşmasını bir teknolojik ergenlik dönemi olarak anlatıyor. Çok büyük bir güç elde ederken, onu yönetmeye ne kadar hazır olduğumuzu sorguluyor. Yapay zekâ kaynaklı bir felaketi kaçınılmaz saymıyor; fakat kontrol sorunlarının ciddiye alınmasını istiyor. [6]
Benim özellikle dikkatimi çeken görüşü, “iyi” yapay zekâların “kötü” olanları durduracağına güvenmenin yeterli olmayabileceği. Sistemler benzer eğitim yöntemlerini ve temel modelleri paylaşabiliyor. Dolayısıyla benzer şekilde başarısız olmaları mümkün. Ayrıca saldırının avantajlı olduğu alanlarda, savunmacı bir yapay zekânın bulunması her zararı önleyemeyebilir. Bunlar Amodei’nin risk değerlendirmeleri; gerçekleşeceği kesin olaylar olarak okumamalıyız. [6]
Ben de güvenliğimizi yalnızca başka bir yapay zekâya emanet etmememiz gerektiğini düşünüyorum. Şirketlerin araştırmalarını okuyalım, söylediklerini sorgulayalım ve bağımsız değerlendirmeleri de arayalım. Teknolojiyi geliştiren bir şirketin yöneticisinin görüşü değerlidir; güvenliğin yeterli olduğuna karar vermek için daha fazla kanıta ihtiyacımız vardır.
İnsan bu mücadelenin neresinde
Bir an için kendi hayatınızı düşünün. Ajanınızın eriştiği dosyalarda müşterilerinizin, çalışanlarınızın veya ailenizin bilgileri bulunabilir. Bir okulda kullanılıyorsa, öğrenci kayıtlarına ve veli iletişimine ulaşabilir. Örneğin, okuduğu bir belgede saklanan zararlı talimat yüzünden bu bilgileri dışarı gönderdiğini varsayalım. Bu, düşünmemiz gereken bir risk senaryosu. Böyle bir durumda sonuç, insanların mahremiyetine ve güvenine uzanır.
Bu yüzden ben, yapay zekâ ajanlarının güvenliğini insanın haklarını koruma meselesi olarak da görüyorum. Sizce adınıza yapılan bir işlemi sorgulayamadığınız, nasıl gerçekleştiğini öğrenemediğiniz bir düzende kendinizi güvende hissedebilir misiniz?
“Bir ajana güvenirken, ona verdiğiniz yetkileri de sorgulayın.”
Bence güvenli kullanım böyle başlamalı
Ajanınıza görevini yapacak kadar erişim verin. Hassas bilgi paylaşımı, para transferi veya hesap yetkilerinin değiştirilmesi gibi işlemlerde onayınızı arasın. Yaptığı işlemleri sonradan inceleyebilin. Gerekirse erişimini hızla kaldırabilin. Üstelik onay verirken acele etmeyin; neyin, kiminle ve hangi amaçla paylaşılacağını kontrol edin.
Yapay zekânın sağlayacağı imkânlar beni heyecanlandırıyor. Güvenlik ekiplerine, eğitimcilere ve pek çok meslek grubuna yardımcı olabilir. Bence bu imkânlardan yararlanırken riskleri görmezden gelmemeliyiz. Bir sistemin başarılı sonuçlar üretmesi, bütün kararlarını sorgulamadan kabul etmemiz için yeterli gerekçe değildir.
Makineler arasındaki mücadele hızlanırken, insanın müdahale edebilme gücünü koruyalım. Kullandığınız ajanın sınırlarını bugün gözden geçirmenizde fayda var. Sizin adınıza çalışırken hangi noktada duracağını siz belirleyin.
“Yapay zekâ bizim adımıza çalışabilir; sorumluluğumuzu devralamaz.”
Yorumlar