New York Times'ın gündeme taşıdığı, sivrisinekleri yapay zekayla bulup lazerle vuran cihaz, sineğin çok ötesinde bir soruyu açtı: Hedefi kendi bulan, kararı kendi veren ve tetiği kendi çeken teknoloji yarın nereye evrilir? BM ve Kızılhaç "ahlaki kırmızı çizgi" uyarısı yaparken, otonom silahlar için bağlayıcı kuralların kaderi kasımda belirlenecek.

New York Times'ın 30 Ekim tarihli haberine konu olan cihaz, ilk bakışta bir yaz akşamı derdine çözüm gibi duruyordu. Çinli Photon Matrix şirketinin yaklaşık 1.000 dolarlık ürünü, uçan sivrisineği algılayıp takip ediyor ve kanatlarını lazerle yakıyor. Haberin görüntülerindeki lazer sahneleri Star Wars filmini andırıyor.

Ama cihazı asıl dikkat çekici kılan lazer değil, karar mekanizması. Makine hedefi kendisi buluyor, "bu vurulmalı mı" sorusunu kendisi yanıtlıyor ve ateşi kendisi açıyor. Dikkat edin, bu döngüde insan yok.

NYT haberi, cihazın en güçlü lazer sınıfı olan ve normalde endüstriyel kullanıma ayrılan Sınıf 4 lazer kullandığına dikkat çekiyor. Bir sivrisineği etkisiz hale getirecek güç insan gözüne de zarar verebiliyor. Şirket, insanları ve evcil hayvanları tanıyan bir kameranın bu durumda ateşi engellediğini, alıcıların da 15 soruluk bir güvenlik testinden geçtiğini söylüyor. Bu güvenceler şirketin kendi beyanları.

Askeri teknoloji tüketici ürününe indi

Photon Matrix'in cihazı; otonom araçlarda kullanılan LiDAR'ı, milimetre dalga radarı, yapay zeka destekli görüntü işlemeyi ve hassas lazeri tek bir kutuda birleştiriyor. Bir zamanlar yalnızca askeri bütçelerin karşılayabildiği bu bileşenler, bugün bir bahçe ürününün parçası.

Uzmanların dikkat çektiği nokta da tam burası: "Bul, karar ver, vur" döngüsü ucuzladıkça ve sivil pazara yayıldıkça, kontrol etmek zorlaşıyor. Bugün sistemin hedefini belirleyen şey, bir yazılımın "sivrisinek" etiketi. Yarın o etiketin neye ve kim tarafından konulacağı, teknolojinin değil insanların vereceği bir karar.

NYT haberi de cihazın, Çin'in güçlü hesaplama kapasitesini tüketici ürünlerine ne kadar hızlı yerleştirdiğini gösterdiğini vurguluyor.

Savaş alanında ‘yarın’ çoktan başladı

Aynı mantık savaş alanında bilim kurgu olmaktan çıktı. İsrail'in 100 kilovatlık fiber lazerle çalışan hava savunma sistemi Iron Beam, 2025 sonu ile 2026 başında orduya teslim edildi. Ancak sistemin teslimden sekiz ay sonra hala tam operasyonel olmadığı da bildirildi; yani teknoloji hızla geliyor ama kolay olgunlaşmıyor.

Asıl dönüşüm insansız araçlarda yaşanıyor. New York Times'ın ocak ayındaki haberine göre Ukrayna cephesinde hem Kiev hem Moskova, giderek daha az insan denetimiyle uçabilen, hedef arayan ve saldırabilen dronlar kullanıyor; bazıları saldırının son ölümcül saniyelerini kendi başına tamamlıyor.

Bir Ukraynalı dron üreticisi haziranda, tamamen otonom dronların iki yıl önce bir saha testinde Rus askerlerini öldürdüğünü açıkladı. Aynı haberlere göre Ukrayna'nın mevcut kuralları, son aşamada tamamen otonom öldürücü eylemi yasaklıyor ve vuruştan önce insan onayı şart koşuyor.

Kural yok, karar kasımda

Otonom ve yapay zeka destekli silahları doğrudan düzenleyen özel bir uluslararası antlaşma bugün yok. On yıldır süren tartışmaların ardından ülkeler, kasımda tam kapsamlı antlaşma müzakerelerine başlayıp başlamayacaklarına karar verecek.

Washington Post'un haberine göre 76 ülke müzakere başlatılmasını destekliyor ve müzakere yetkisi kasımdaki gözden geçirme konferansında karara bağlanacak. Ancak aynı habere göre ABD ve Rusya, eylül başındaki görüşmelerde insan denetimine ilişkin güvenceleri zayıflattı. Eylül sonunda New York'ta düzenlenen bir forumda ise bakanlar ve BM yetkilileri, ilk kez üst düzeyde, kasımda bağlayıcı bir metin için müzakere çağrısı yaptı.

BM Genel Sekreteri Antonio Guterres ve Uluslararası Kızılhaç Komitesi Başkanı Mirjana Spoljaric ortak çağrılarında, makinelerin insanları otonom olarak hedef almasının tehlikeli biçimde yaklaşılan ahlaki bir kırmızı çizgi olduğunu vurguladı. İki kurum, özellikle iki türün yasaklanmasını istiyor: sonucu operatörün öngöremediği otonom silahlar ve doğrudan insanı hedef alanlar.

Lazer cephesinde ise kısmi bir kural mevcut. 1995'te kabul edilen bir protokol, kalıcı körlük yaratmak amacıyla tasarlanmış lazer silahlarının kullanımını ve devrini yasaklıyor. Ancak meşru askeri kullanımın yan etkisi olarak ortaya çıkan körlük bu yasağın kapsamı dışında kalıyor.

Etik sorusu: Kararı kim veriyor, sorumlu kim?

Tartışmanın merkezinde "anlamlı insan denetimi" kavramı var. Guterres, güç kullanımı üzerinde insan kontrolünün vazgeçilmez olduğunu ve ölüm-kalım kararlarının makinelere devredilemeyeceğini söylüyor. Ancak otonom silahın tanımı ve anlamlı insan denetiminin hukuken nasıl tarif edileceği hala netleşmiş değil.

Kızılhaç uzmanlarına göre sorun yalnızca teknik değil. Bir asker teslim olabilir ya da yaralanıp korunma hakkı kazanabilir; siviller otonom silahın alanına girebilir; silah önceden öngörülmemiş bir durumla karşılaşabilir. Kurum, insanı hedef alan sistemlerin insan hayatını veriye, algoritmaya ve sensöre indirgediği uyarısında bulunuyor.

Etikçiler bir sorunun daha altını çiziyor: Kağıt üzerinde insan devrede olsa bile, karar için yalnızca birkaç saniyesi olan bir operatörün yapay zekanın önerisini sorgulama imkanı gerçekten var mı? Bir hata olduğunda sorumlu kim: yazılımı yazan mühendis mi, sistemi satan şirket mi, düğmeye basan asker mi?

Sivrisinek avlayan cihaz bu soruların hiçbirini doğrudan doğurmuyor. Ama "öldürme kararını makineye bırakmayı" gündelik hayatın olağan bir parçası haline getirmesi, tartışmanın artık yalnızca generallerin ve diplomatların masasında olmadığını gösteriyor.

Asıl soru teknoloji değil, kontrol

Bul, karar ver ve vur yeteneği artık bir laboratuvar deneyi değil; hem cephede hem de evlerin bahçesinde. Teknolojinin bu hızla yayıldığı bir dönemde belirleyici olan, makinenin neyi yapabildiği değil, insanların ona neyi yapma izni verdiği olacak.

Kasımda verilecek karar, bu iznin sınırlarını çizecek uluslararası kuralların doğup doğmayacağını belirleyecek. Guterres'in ifadesiyle: "Bazı kararlar sonsuza dek insani kalmalı."