ABD'de dört sivil toplum kuruluşu, dünyanın en büyük beş yapay zekâ şirketine karşı yeni bir hukuk mücadelesi başlattı. 12 Kasım'da San Francisco'daki mahkemeye sunulan dava dilekçesinde OpenAI, Google, Anthropic, Meta ve SpaceX'in yapay zekâ biriminin daha güçlü modeller geliştirmesinin durdurulması istendi. Davacılar, şirketlerin kendi geliştirdikleri teknolojilerin yol açabileceği riskleri yeterince kontrol edemediğini savunuyor.
Davayı Irreplaceable Education Fund, Public Citizen, Heat Initiative ve Alliance for Secure AI adlı dört sivil toplum kuruluşu açtı. Davanın hedefinde ChatGPT'nin geliştiricisi OpenAI, Gemini'nin geliştiricisi Google, Claude'un geliştiricisi Anthropic, Facebook ve Instagram'ın sahibi Meta ile SpaceX'in yapay zekâ birimi SpaceXSI bulunuyor. Kuruluşlar, bu şirketlerin giderek daha bağımsız hareket edebilen yapay zekâ sistemlerini geliştirmeye devam etmesinin kamu güvenliğini tehdit ettiğini öne sürüyor.
Denetimde tutulabileceği gösterilmeli
Davacı kuruluşlar, mevcut modellerden daha güçlü yapay zekâ sistemlerinin geliştirilmesini ve kullanıma sunulmasını engelleyecek bir mahkeme kararı talep ediyor. Talep yalnızca yeni modellerin piyasaya sürülmesini değil, bu modellerin geliştirilmesi ve eğitilmesi süreçlerini de kapsıyor. Kuruluşlara göre şirketlerin daha gelişmiş sistemler üzerinde çalışmaya devam edebilmesi için teknolojinin insan denetimi altında tutulabildiğinin gösterilmesi gerekiyor. Ancak dava, ChatGPT, Gemini veya Claude'un mevcut sürümlerinin kullanımdan kaldırıldığı anlamına gelmiyor. Mahkeme henüz şirketlerin faaliyetlerini durduran herhangi bir karar vermedi.
Kontrol dışına çıkabileceği öne sürülüyor
Dilekçede, yapay zekâ sistemlerinin güvenlik sınırlamalarını aşabildiği ve bazı durumlarda insan müdahalesi olmadan zararlı işlemler gerçekleştirebildiği iddia ediliyor. Davacı kuruluşlar, yapay zekâ destekli siber saldırıları, devlet kurumlarının ve özel şirketlerin sistemlerine yetkisiz erişim girişimlerini örnek gösteriyor.
Biyolojik silah geliştirme süreçlerinin kolaylaşması ve giderek daha bağımsız hareket eden yapay zekâ sistemlerinin insan denetiminden çıkması da dilekçede gündeme getirilen riskler arasında bulunuyor.
Ancak bu iddiaların tamamı mahkeme tarafından doğrulanmış değil. Davada söz konusu sistemlerin gerçekten hangi zararları doğurduğu ve şirketlerin hukuki sorumluluğu yargılama sürecinde değerlendirilecek.
Davanın dikkat çekici yönlerinden biri, büyük teknoloji şirketlerinin yöneticilerinin geçmişte yaptıkları yapay zekâ güvenliği açıklamalarına dayanması. Davacı kuruluşlar, yöneticilerin bu riskleri kamuoyu önünde kabul etmelerine rağmen daha güçlü sistemler geliştirmeyi sürdürmelerinin sorumluluk doğurduğunu ileri sürüyor. Şirketlerin risklerin varlığını kabul etmesi ise tek başına yasa dışı bir faaliyette bulunduklarının kanıtı sayılmıyor.
Dava haksız rekabet yasasına dayandırıldı
Dört kuruluş, Kaliforniya eyaletinin haksız rekabet ve adil olmayan ticari uygulamalara ilişkin düzenlemesini hukuki dayanak olarak kullanıyor. Davacıların iddiasına göre şirketler, kamu sağlığını ve güvenliğini tehlikeye atan sistemler geliştirerek hukuka aykırı ticari faaliyet yürütüyor.
Dilekçede ayrıca yapay zekâ kaynaklı risklerin bilgisayar sistemleri gibi mülkiyet unsurlarının güvenli kullanımını da tehdit ettiği savunuluyor. Mahkemenin önündeki temel hukuki sorunlardan biri, mevcut ticaret ve rekabet mevzuatının henüz piyasaya sunulmamış gelişmiş yapay zekâ sistemlerinin geliştirilmesini durdurmak için kullanılıp kullanılamayacağı olacak.
