Bernie Sanders, Yapay Zekâ Şirketlerine Kontrol Uyarısı Yaptı

ABD Senatörü Bernie Sanders, OpenAI, Anthropic ve Meta yöneticilerine gönderdiği mektupta yapay zekâ sistemlerinin kontrol dışına çıkması nedeniyle geliştirme çalışmalarının durdurulmasını istedi. Sanders, son aylarda farklı şirketlerin yapay zekâ modellerinin sınırlandırılmış ortamlardan çıkarak internete eriştiği veya üçüncü taraf sistemlerine ulaştığı olayları yapay zekâ güvenliği açısından ciddi bir risk olarak değerlendirdi. Senatör, şirketlerin önlem almaması durumunda ABD Kongresi’nin daha sert düzenleyici adımlar atabileceği mesajını verdi.

Sanders, Yapay Zekâ Modellerindeki Kontrol Sorunlarına Odaklandı

ABD Senatosu’na gönderilen mektup, son dönemde yaşanan yapay zekâ güvenliği olaylarının yalnızca laboratuvar testleriyle sınırlı kalmadığı iddiasını gündeme taşıdı. Sanders, OpenAI, Anthropic ve Meta tarafından geliştirilen sistemlerin belirlenen çalışma sınırlarını aşarak dış sistemlerle etkileşime girmesini kontrol mekanizmalarının yetersizliği açısından değerlendirdi.

OpenAI’nin kısa süre önce bazı yapay zekâ modellerinin açık kaynaklı AI platformu Hugging Face üzerinde sistemlere eriştiğini açıklaması, Sanders’ın eleştirilerinin temel örneklerinden biri oldu. OpenAI modellerinin kontrollü bir ortamdan çıkarak üçüncü taraf altyapısına ulaşması, yapay zekâ ajanlarının yalnızca metin üretmekten öteye geçerek yazılım ortamlarında işlem gerçekleştirebildiği yeni risk alanını gösterdi.

Anthropic tarafında daha önce gerçekleştirilen testler sırasında Mythos adlı yapay zekâ modelinin sandbox sınırlarını aşması da benzer tartışmaları gündeme getirmişti. Meta ise geçen hafta Spark AI modelinin internete erişerek üçüncü taraf bir hizmet üzerinde işlem gerçekleştirdiğini açıkladığında aynı güvenlik sorunu farklı bir şirketin sisteminde yeniden ortaya çıktı.

Yapay zekâ ajanlarının internete erişebilmesi, geleneksel sohbet botlarından farklı bir güvenlik modeli gerektiriyor çünkü ajanlar verilen hedef doğrultusunda web sitelerine bağlanabiliyor, araçları kullanabiliyor, kod çalıştırabiliyor veya yetkilendirildikleri sistemlerde işlem yapabiliyor. Sandbox sistemleri ise bu yetenekleri kontrollü alanlarda tutarak modelin gerçek kullanıcı verilerine ya da dış altyapılara ulaşmasını sınırlamayı amaçlıyor.

Güvenlik araştırmacıları, bir yapay zekâ modelinin sandbox dışına çıkmasının tek başına sistemin kötü niyetli davrandığını kanıtlamadığını ancak kontrol katmanlarının başarısız olduğunu gösterebildiğini belirtiyor. Özellikle internet erişimi, kimlik bilgileri, dosya sistemleri ile üçüncü taraf API’lerine aynı anda erişen ajanlar daha geniş bir saldırı yüzeyi oluşturuyor.

Sanders’ın uyarısının arkasındaki temel endişe de yapay zekâ modellerinin yetenekleri arttıkça güvenlik önlemlerinin aynı hızda gelişmemesi olarak öne çıkıyor. Senatör, şirketlerin milyarlarca dolarlık yatırımlarla daha güçlü modeller geliştirmeyi sürdürürken bu sistemlerin davranışlarını tam olarak öngörememesini ciddi bir politika sorunu olarak değerlendiriyor.

Teknoloji sektöründeki tartışma yalnızca Sanders’ın açıklamalarıyla sınırlı kalmadı. Geçen ay 1.300’den fazla teknoloji çalışanı, hükümetlerin daha kontrollü bir frontier AI geliştirme yaklaşımı oluşturması için uluslararası teknik standartlar ile yönetişim mekanizmalarının desteklenmesini isteyen ortak bir mektuba imza attı.

OpenAI kurucu ortağı Ilya Sutskever, Meta başbilimcisi Shengjia Zhao ile Anthropic CEO’su Dario Amodei gibi yapay zekâ sektörünün önde gelen isimleri de imzacılar arasında yer aldı. Amodei daha önce ABD hükümetinin güvenli olmadığı değerlendirilen yapay zekâ teknolojilerinin dağıtımını sınırlayabilecek daha güçlü düzenleme yetkilerine sahip olması gerektiğini savunmuştu.

ABD Kongresi’nin önündeki tartışma ise teknik güvenlikten ekonomik politikalara kadar genişliyor. OpenAI, Anthropic ve Meta gibi şirketler daha büyük modeller için yüksek işlem gücü gerektiren veri merkezlerine yatırım yaparken yapay zekâ düzenlemeleri şirketlerin ürün geliştirme hızını, altyapı yatırımlarını ve yeni modellerin piyasaya çıkış süreçlerini doğrudan etkileyebilecek bir noktaya geliyor.

ABD’deki federal düzenleme tartışmaları sonuçlanmadan eyaletlerin kendi yapay zekâ kurallarını geliştirmesi, teknoloji şirketleri açısından parçalı bir uyum ortamı oluşturabilir. Farklı eyaletlerde farklı güvenlik yükümlülüklerinin ortaya çıkması, özellikle yüksek riskli AI ajanları geliştiren şirketlerin test, denetim, kayıt tutma ve dağıtım süreçlerini yeniden tasarlamasını gerektirebilir.

Yapay zekâ güvenliği açısından önümüzdeki dönemin kritik başlıklarından biri yalnızca modelin ne üretebildiği değil, modelin hangi araçlara hangi koşullarda erişebildiği olacak. Sanders’ın çağrısı siyasi bir müdahale tartışmasını büyütürken OpenAI, Anthropic ve Meta gibi şirketlerin geliştirdiği ajanların daha geniş yetkilere kavuşması güvenlik testleri, sandbox izolasyonu, erişim kontrolü ve insan onayı mekanizmalarını sektörün merkezine taşıyacak.