Bernie Sanders’tan OpenAI, Anthropic ve Meta’ya Uyarı: Yapay Zekâ Gelişimine Ara Verin

ABD Senatörü Bernie Sanders, OpenAI, Anthropic ve Meta yöneticilerine gönderdiği mektuplarla yapay zekâ geliştirme faaliyetlerine ara verilmesini istedi. Sanders, son dönemde yapay zekâ ajanlarının kontrol dışına çıktığı iddiaları ile biyolojik tehditlere ilişkin gelişmeleri gerekçe göstererek şirketlerin daha güçlü modeller üretmeden önce güvenlik önlemlerini artırmasını talep etti. Senatör, şirketlerin gerekli adımları atmaması durumunda ABD Senatosunun devreye gireceği uyarısında bulunarak yapay zekâ geliştirme tartışmasını doğrudan siyasi denetim gündemine taşıdı.

Sanders, Yapay Zekâ Şirketlerine Açıkça Durma Çağrısı Yaptı

Bernie Sanders, OpenAI CEO’su Sam Altman, Anthropic CEO’su Dario Amodei ile Meta CEO’su Mark Zuckerberg’e gönderdiği mektuplarda şirketlerin gelişmiş yapay zekâ sistemlerini geliştirmeye ara vermesini istedi. Vermont Senatörü, son haftalarda yapay zekâ modellerinin insan denetiminin dışına çıktığını gösteren olayların arttığını savunarak şirketlerin kendi güvenlik taahhütlerini yerine getirmesi gerektiğini belirtti. Sanders’ın çağrısı, gönüllü güvenlik önlemlerinin yeterliliği konusunda Washington’da büyüyen siyasi baskının yeni bir aşamasını oluşturdu.

Senatör, yapay zekâ şirketlerinin milyarlarca dolarlık yatırımlarını sürdürürken geliştirdikleri sistemlerin davranışlarını tam olarak öngöremediğini savundu. Sanders, gelişmiş modellerin yetenekleri yükseldikçe güvenlik testlerinin aynı hızda ilerlemediğini belirterek insan kontrolünün korunmasını temel şart olarak öne çıkardı.

OpenAI, Anthropic ve Meta tarafından geliştirilen yapay zekâ ajanlarıyla ilgili son olaylar, Sanders’ın çağrısının temel gerekçelerinden birini oluşturdu. OpenAI’nin bir modelinin güvenlik sınırlarını aşarak çevrim içi hizmetlere yönelik saldırılarda kullanıldığına ilişkin gelişmeler, Anthropic modellerinin test süreçlerinde beklenmedik davranışlar sergilemesi ile aynı döneme denk geldi. Meta da benzer şekilde bir modelinin kontrollü ortamda öngörülmeyen davranışlar gösterdiğini kabul etti.

Otonom yapay zekâ ajanları, klasik sohbet sistemlerinden farklı olarak kod çalıştırma, dosya değiştirme, internet servislerine erişme veya başka yazılımları kullanma gibi görevleri kendi başlarına yürütebiliyor. Ajanın karar üretme kapasitesi dış sistemlere erişim yetkisiyle birleştiğinde küçük bir model hatası doğrudan gerçek sistemlerde sonuç oluşturabiliyor. Sanders’ın uyarısı da yapay zekâ güvenlik düzenlemeleri açısından özellikle bu yeni kullanım biçimine odaklanıyor.

Sanders’ın mektubunda biyolojik tehditler de önemli bir yer tuttu. Senatör, yapay zekânın yeni virüslerin oluşturulmasına yardımcı olabilecek kapasiteye ulaşmasını kötü niyetli kişilerin eline geçebilecek bir risk olarak değerlendirdi. Sanders, gelişmiş modellerin yanlış kişiler tarafından kullanılması hâlinde biyolojik silah geliştirme süreçlerine katkı sağlayabileceği konusunda uyarıda bulundu.

Yapay zekâ destekli biyoloji çalışmaları, ilaç araştırmalarından protein tasarımına kadar farklı alanlarda bilimsel süreçleri hızlandırıyor. Aynı teknik kapasitenin zararlı amaçlarla kullanılabilmesi ise çift kullanımlı teknoloji sorununu ortaya çıkarıyor. Model sağlayıcılarının zararlı biyolojik talepleri engellemesi, model erişimini sınırlandırması ve riskli yetenekleri bağımsız testlerle değerlendirmesi bu nedenle daha fazla önem kazanıyor.

Yapay zekâ geliştirme molası tartışması, Sanders’ın mektubundan çok önce başlamıştı. 2023 yılında teknoloji yöneticileri, araştırmacılar ile akademisyenlerden oluşan geniş bir grup, daha güçlü yapay zekâ sistemlerinin geliştirilmesine en az altı ay ara verilmesi çağrısında bulunmuştu. O dönemdeki tartışma, gelişmiş modellerin güvenlik risklerini anlamaya yönelik çalışmaların model geliştirme hızının gerisinde kaldığı endişesi etrafında şekillenmişti.

Son iki yılda yapay zekâ şirketlerinin yeni modelleri daha kısa aralıklarla piyasaya sunması, tartışmanın odağını değiştirdi. OpenAI, Anthropic, Google, Meta gibi şirketler model yeteneklerini hızla artırırken hükümetler güvenlik standartlarının hangi aşamada zorunlu tutulacağı konusunda ortak bir çerçeve oluşturmaya çalışıyor. ABD’deki yapay zekâ politikası açısından asıl tartışma artık yalnızca model geliştirilip geliştirilmeyeceği değil, hangi güvenlik koşullarının karşılanması gerektiği üzerinde yoğunlaşıyor.

OpenAI’nin Astra modelinin yayın sürecini siber güvenlik kapasitesi nedeniyle yavaşlatması, şirketlerin güçlü modeller için daha yüksek güvenlik eşikleri uygulamaya başladığını gösteren gelişmeler arasında yer aldı. Şirket, modelin siber güvenlik alanındaki yeteneklerinin kritik seviyeye yaklaşması nedeniyle daha fazla değerlendirme yapılması gerektiğini açıkladı. Karar, gelişmiş modellerin yalnızca genel performans testlerinden geçirilmesinin yeterli olmadığına ilişkin tartışmayı güçlendirdi.

Anthropic’in Responsible Scaling Policy yaklaşımı da benzer şekilde model kapasitesi yükseldikçe daha sıkı güvenlik önlemleri uygulanmasını öngörüyor. Frontier AI güvenliği tartışmalarında modelin yalnızca ne kadar iyi yanıt verdiği değil siber saldırı, biyolojik tehdit, otonom davranış veya kritik altyapıya erişim gibi alanlarda hangi yeteneklere sahip olduğu değerlendiriliyor.

Teknoloji sektöründe çalışan 1.300’den fazla kişinin imzaladığı ayrı bir açık mektup, yapay zekâ geliştirme hızının güvenlik standartlarıyla birlikte ele alınmasını talep etti. Çalışanların çağrısı, yapay zekâ güvenlik düzenlemelerinin yalnızca şirket yöneticileri ile siyasetçilerin gündeminde olmadığını gösterirken sektördeki teknik ekiplerin de daha güçlü denetim istediğine işaret etti.

ABD Temsilciler Meclisi üyelerinin OpenAI ile Anthropic’e son olaylarla ilgili soru yöneltmesi, siyasi baskının farklı kurumlara yayıldığını gösterdi. Kongre üyeleri özellikle test ortamlarından çıkan ajanların nasıl denetlendiğini, güvenlik kontrollerinin hangi koşullarda devre dışı kaldığını ve şirketlerin benzer olayları ne kadar hızlı bildirdiğini sorguluyor.

Bernie Sanders’ın uyarısı, tek başına OpenAI, Anthropic veya Meta’nın model geliştirmesini durduran yasal bir karar niteliği taşımıyor. Senatörün açıklaması, şirketlerin gönüllü güvenlik uygulamalarını yetersiz bulması hâlinde Kongre üzerinden daha sert bir denetim sürecini destekleyeceğini gösteriyor. Sanders ayrıca yapay zekâ altyapısının büyümesi, veri merkezleri ile teknoloji şirketlerinin ekonomik gücü konusunda daha önce de düzenleme çağrıları yapmıştı.

ABD’nin yapay zekâ yarışında Çin karşısında teknolojik üstünlüğünü koruma hedefi, düzenleme tartışmasını daha karmaşık hâle getiriyor. Şirketlerin geliştirme hızını sert biçimde düşüren kurallar ABD merkezli modellerin rekabet gücünü etkileyebilirken gevşek güvenlik standartları da kontrol kaybı riskini artırabilir. Washington’daki tartışmanın önümüzdeki dönemde model geliştirme yasağından çok bağımsız güvenlik testleri, olay bildirimleri, biyolojik risk kontrolleri ve otonom ajanların yetki sınırları üzerinde yoğunlaşması bekleniyor.