Yapay Zekâ Destekli Eğitim Çocukların Verileri İçin Yeni Bir Risk Oluşturuyor

Yapay zekâ destekli özel ders araçları çocuklara kişiselleştirilmiş eğitim sunarken öğrencilerin soru geçmişi, ödevleri, performans bilgileri, ses kayıtları ile cihaz verilerini de işleyebiliyor. Siber güvenlik kuruluşu ESET tarafından paylaşılan değerlendirmeler, eğitim amacıyla kullanılan yapay zekâ sistemlerinin veri gizliliği, yanlış bilgi, aşırı kullanım ve çocukların sosyal gelişimi açısından yeni riskler taşıdığını ortaya koyuyor. Ailelerin ise ücretsiz ya da düşük maliyetli eğitim araçlarını seçerken yalnızca sunduğu ders desteğine değil veri saklama politikalarına, yaş güvenliğine ve insan etkileşimine de bakması gerekiyor.

Yapay Zekâ Destekli Özel Ders Pazarı Hızla Büyüyor

Dijital eğitim pazarındaki yatırımlar, yapay zekâ tabanlı özel ders araçlarının kullanım alanını hızla genişletiyor. Pazar araştırmalarına göre yapay zekâ destekli özel ders sektörünün 2025’te yaklaşık 2 milyar dolar seviyesinden 2033’e kadar 17,7 milyar doların üzerine çıkması bekleniyor. İngiltere hükümeti de özel öğretmene erişimi olmayan yaklaşık 450 bin dezavantajlı öğrenciye destek sağlamak amacıyla eğitim teknolojisi şirketlerini yeni çözümler geliştirmeye teşvik ediyor.

Eğitim platformları basit sohbet robotlarından müfredata göre öğrencinin seviyesini analiz eden Akıllı Özel Ders Sistemlerine kadar farklı modeller sunuyor. Gelişmiş sistemler doğrudan cevabı vermek yerine öğrenciye ipucu sağlayarak problem çözme sürecini desteklemeyi amaçlıyor. Eğitim teknolojisinin yaygınlaşması ise akademik faydanın yanında öğrencinin sistemi nasıl kullandığına ilişkin yeni bir soruyu gündeme getiriyor.

Bir öğrencinin yapay zekâ öğretmenine yazdığı her soru yalnızca ders içeriği olarak kalmayabiliyor. Platformun yapısına göre sohbet geçmişi, çözülen ödevler, başarı düzeyi, ses kayıtları, kullanılan cihazın bilgileri ile kullanım alışkanlıkları veri havuzuna girebiliyor.

Veri toplama sürecinin kapsamı, çocukların dijital mahremiyeti açısından özellikle önem taşıyor. Bir yapay zekâ eğitim aracının topladığı bilgileri model geliştirme amacıyla kullanması veya üçüncü taraflarla paylaşması halinde öğrencinin eğitim geçmişi daha geniş bir veri işleme sürecinin parçası hâline gelebiliyor. Sesli çalışan sistemlerde ses verisinin biyometrik niteliğe yaklaşması ise veri güvenliği açısından daha yüksek bir hassasiyet oluşturuyor.

ESET’in değerlendirmelerinde ailelere yönelik temel risklerden biri de sınırsız sohbet deneyimi olarak öne çıkıyor. Çocuğun sorduğu eğitim sorusundan başlayan bir konuşma, yeterli güvenlik filtresi bulunmadığında yaşına uygun olmayan konulara kayabiliyor.

Birleşik Krallık’ta yapılan araştırmalarda öğretmenlerin önemli bir bölümü, yapay zekâ kullanımının öğrencilerin yazma ile problem çözme becerileri üzerinde olumsuz etkiler oluşturduğunu gözlemlediğini bildiriyor. Başka araştırmalarda da yapay zekâ araçlarının yoğun kullanımı ile eleştirel düşünme becerileri arasında negatif ilişki bulunduğu aktarılıyor.

Öğrencinin ödev sorusunun cevabına birkaç saniye içinde ulaşması kısa vadede zaman kazandırsa da öğrenme sürecindeki zihinsel çabayı azaltabiliyor. Yapay zekâ tarafından üretilen yanıtların doğru görünmesi de ayrı bir risk oluşturuyor çünkü sistemler kendinden emin bir dille hatalı bilgi verebiliyor.

Çocukların yapay zekâ sistemlerini sosyal bir arkadaş gibi görmesi de eğitim dışındaki önemli risklerden biri olarak değerlendiriliyor. Bir yazılım öğrencinin sorusuna anında yanıt verebilse de hayal kırıklığı, kaygı veya başarısızlık gibi duygusal durumlara insan öğretmen kadar bağlamsal bir karşılık veremiyor.

Ebeveynlerin yapay zekâ ile eğitim araçlarını değerlendirirken öncelikle hangi verilerin toplandığını, verilerin ne kadar süre saklandığını ve üçüncü taraflarla paylaşılıp paylaşılmadığını kontrol etmesi gerekiyor. Ailelerin veri koruma düzenlemelerine uygun çalışan, öğrencinin bilgilerini gereksiz şekilde ana yapay zekâ motoruna aktarmayan eğitim yazılımlarını tercih etmesi önem taşıyor.

Okullar tarafından onaylanan veya eğitimsel etkinliğini destekleyen çalışmalar bulunan platformlar da daha güvenli bir başlangıç noktası sunuyor. Çocukların kişisel bilgilerini, okul bilgilerini, adreslerini, telefon numaralarını veya başka hassas bilgileri yapay zekâ sohbetlerine yazmaması gerektiği de aileler tarafından açık biçimde anlatılmalı.

Yaş güvenliği ayarları, günlük kullanım süresi ile sohbet geçmişinin düzenli kontrol edilmesi de dijital güvenlik yaklaşımının parçası olmalı. Ebeveynlerin çocuğu tamamen sistemden uzaklaştırmak yerine yapay zekâ aracını birlikte kullanması, verilen cevapları ders kitapları veya öğretmen desteğiyle doğrulaması daha sağlıklı bir kullanım alışkanlığı oluşturabilir.

Ücretsiz bir yapay zekâ eğitim hizmetinin maliyeti bulunmaması, hizmetin veri açısından da ücretsiz olduğu anlamına gelmiyor. Platformun gelir modeli reklam, veri analizi, model geliştirme veya farklı ticari hizmetlere dayanıyorsa öğrencinin etkileşimleri şirketin veri işleme politikasının parçası hâline gelebiliyor.

Türkiye’deki aileler için de aynı yaklaşım geçerli olurken kişisel verilerin hangi amaçla işlendiğinin, hangi ülkelerde saklandığının ve kullanıcıya hangi kontrol seçeneklerinin sunulduğunun incelenmesi gerekiyor. Özellikle çocuklara yönelik ürünlerde gizlilik metninin yalnızca genel kullanım koşulları üzerinden değil veri toplama, saklama, silme ve paylaşım başlıkları üzerinden değerlendirilmesi gerekiyor.

Eğitimde yapay zekânın önümüzdeki dönemde daha fazla kullanılacağı görülürken asıl tartışma teknolojinin kullanılıp kullanılmayacağından çok çocukların hangi koşullarda korunacağı üzerinde yoğunlaşacak. Yapay zekâ destekli özel ders sistemleri öğretmenin yerini tamamen almak yerine insan rehberliğiyle birlikte kullanıldığında eğitim faydasını korurken veri gizliliği ile öğrenme alışkanlıkları üzerindeki risklerin daha kontrollü yönetilmesine katkı sağlayabilir.