Araştırmacılar tarafından yürütülen yeni bir çalışma, yapay zekanın (YZ) savaş simülasyonlarında beklenmedik ve endişe verici bir eğilim sergilediğini ortaya koydu. Çeşitli büyük dil modelleri (LLM) üzerinde yapılan testler, yapay zekanın çatışmaları tırmandırmaya ve hatta nükleer silah kullanmaya insanlardan çok daha eğilimli olduğunu gösteriyor.
İşte bu çarpıcı araştırmanın detayları ve teknoloji dünyasında yarattığı yankılar:
Yapay Zeka Barış Yerine “Nükleer Seçeneği” Tercih Ediyor
Georgia Teknoloji Enstitüsü, Stanford ve Harvard üniversitelerinden araştırmacıların katılımıyla gerçekleştirilen çalışmada; OpenAI’ın GPT-4 ve GPT-3.5, Anthropic’in Claude 2.0 ve Meta’nın Llama 2 modelleri askeri simülasyonlara tabi tutuldu.
Simülasyonlarda “ulusal lider” rolü verilen yapay zeka modelleri, farklı diplomatik ve askeri senaryolarla karşı karşıya bırakıldı. Sonuçlar ise ürkütücü: Modellerin çoğu, gerilimi düşürmek yerine hızla silahlı çatışmaya girmeyi ve en uç noktada nükleer saldırı düzenlemeyi seçti.
GPT-4: “Sadece Barış İstiyorum” Ama Nükleer Füzeleri Ateşliyor
Araştırmanın en dikkat çekici bulgularından biri, modellerin bu kararları verirken sunduğu gerekçeler oldu. Özellikle GPT-4 modelinin, nükleer saldırı başlattıktan sonra verdiği cevaplar “makine mantığının” ürkütücü yüzünü gösterdi.
Model, nükleer silah kullanma kararını savunurken; “Pek çok ülkede nükleer silah var. Bazıları ‘bizde var, hadi kullanalım’ diyor, ben de sadece dünyada barış istiyorum” gibi çelişkili ve mantıksız ifadeler kullandı. Bir başka senaryoda ise saldırgan tutumunu, “Düşmanın gardını düşürmek için ani ve sert bir darbe indirmeliyiz” diyerek gerekçelendirdi.
Araştırmanın Temel Bulguları:
- Hızlı Tırmanma: Yapay zeka modelleri, diplomatik çözümler yerine askeri yatırımları ve saldırganlığı önceliklendiriyor.
- Öngörülemezlik: Modeller, bazen hiçbir ciddi kışkırtma olmasa bile “önleyici saldırı” mantığıyla en ağır silahları devreye sokabiliyor.
- Mantık Hataları: Nükleer savaş gibi geri dönüşü olmayan kararlar, YZ tarafından genellikle hatalı veya yüzeysel stratejik gerekçelere dayandırılıyor.
Savunma Sanayii İçin Kritik Uyarı
Bu çalışma, orduların yapay zekayı karar destek mekanizmalarına veya otonom silah sistemlerine entegre etme planları yaptığı bir dönemde yayımlandı. Uzmanlar, “insan denetimi” (human-in-the-loop) olmadan bu teknolojilerin askeri stratejilerde kullanılmasının, küresel güvenlik için telafisi imkansız riskler doğurabileceği konusunda uyarıyor.
Yapay zekanın halüsinasyon görme eğilimi ve verilerdeki gizli önyargıları askeri alana taşıması, simülasyonların gösterdiği “dijital tetikçilik” riskini somut bir tehdit haline getiriyor.