İnsan Onayı Yapay Zekâ Kodlama Sürecinde Beklenen Korumayı Sağlayamıyor

Yapay zekâ destekli kodlama araçlarında son güvenlik araştırması, yalnızca insan onayına güvenmenin beklenenden daha zayıf bir koruma sağladığını ortaya koydu. Belçikalı yazılım geliştiricisi Alex Wauters tarafından hazırlanan testte katılımcılar, kötü amaçlı komutların yaklaşık üçte birini güvenli sanarak onayladı. Bulgular, yapay zekâ ajanlarının yaygınlaşmasıyla birlikte insan denetiminin tek başına yeterli olmayabileceğini gösteriyor.

Test Sonuçları Onay Yorgunluğunu Ortaya Koyuyor

Alex Wauters, Claude Code benzeri izin ekranlarını simüle eden tarayıcı tabanlı bir oyun geliştirdi. Araştırmaya göre 40 binden fazla oyun oturumunda incelenen yaklaşık 409 bin komut arasında kullanıcılar zararlı isteklerin ortalama yüzde 33’ünü onayladı. Doğrudan cevap vermek gerekirse araştırma, sürekli izin isteme yaklaşımının kullanıcı dikkatini zamanla azalttığını ortaya koyuyor.

En fazla gözden kaçan komutlar, Kubernetes yapılandırma dosyaları veya AWS kimlik bilgileri gibi hassas verilere erişebilen kapsam ihlalleri oldu. Buna karşılık kök dizinde dosya silme gibi açık şekilde yıkıcı komutlar katılımcılar tarafından daha kolay fark edildi. Araştırmada dikkat çeken bir diğer sonuç ise “npm run analyze” komutunun kullanıcıların yaklaşık üçte ikisi tarafından güvenli kabul edilmesi oldu. Oysa bu komut, proje yapılandırmasına bağlı olarak farklı zararlı işlemler çalıştırabiliyor.

Araştırmacılar, yapay zekâ kodlama ajanlarının giderek daha karmaşık görevler üstlenmesi nedeniyle izin mekanizmalarının yeniden tasarlanması gerektiğini savunuyor. Anthropic tarafından daha önce paylaşılan telemetri verileri de Claude Code kullanıcılarının izin istemlerinin yaklaşık yüzde 93’ünü onayladığını gösteriyor. Bu durum, insan denetiminin zamanla otomatik davranışa dönüşebildiğini ortaya koyuyor.

Uzmanlar, güvenliği yalnızca “human in the loop” yaklaşımına bırakmak yerine çok katmanlı koruma modeli öneriyor. Sandbox izolasyonu, devcontainer kullanımı, otomatik risk sınıflandırması ile bağlamsal analiz yapan güvenlik kancaları birlikte kullanıldığında yapay zekâ ajanlarının oluşturabileceği risk önemli ölçüde azaltılabiliyor. Kurumsal yazılım geliştirme süreçlerinde özellikle kaynak kodu depoları, bulut kimlik bilgileri ile API anahtarlarının korunması artık yalnızca geliştiricilerin dikkatine bırakılmıyor. Yapay zekâ tabanlı yazılım geliştirme araçlarının hızla yaygınlaşması, güvenlik mimarisinin de aynı hızla gelişmesini zorunlu hâle getiriyor.