Yapay Zekâ Neden Yanılır?

Önceki derslerde modellerimizin bazen yanıldığını gördük. Bugün dedektif olacağız: Modeller neden yanılır? Üç küçük deneyle bu sorunun cevabını arayacak, sonra bunun gerçek hayatta neden önemli olduğunu konuşacağız.

Dersin Amacı ve Kazanımlar

Bu dersin sonunda:

1. Bir modelin yanlış nedenlerle karar verebileceğini deneyle gösterebileceksiniz.
2. Dengesiz verinin modeli bir sınıfa doğru yanlı hale getirdiğini açıklayabileceksiniz.
3. Veri çeşitliliğinin adil sonuçlar açısından önemini tartışabileceksiniz.
4. Yanlılığı azaltmak için alınabilecek önlemleri sıralayabileceksiniz.

Gerekli Malzemeler

Model Aslında Neye Bakıyor?

Modeller fotoğrafı bizim gibi “anlamaz”. Fotoğraftaki renkler ve şekiller arasında, sınıfları birbirinden ayıran en kolay farkı arar. Bu fark bizim düşündüğümüz şey olmayabilir. Nesneler hep aynı arka plan önünde çekildiyse model nesneye değil arka plana bakmayı öğrenebilir. Buna kısa yoldan öğrenme diyebiliriz: Sınavda konuyu öğrenmek yerine cevap anahtarının düzenini ezberleyen bir öğrenci gibi.

Deney 1: Arka Plan Hilesi

1. Teachable Machine’de iki sınıflı yeni bir görüntü projesi açın: Kalem ve Silgi.
2. Kalemin bütün fotoğraflarını mavi karton üzerinde, silginin bütün fotoğraflarını beyaz kâğıt üzerinde çekin. Her sınıfa yaklaşık 80 fotoğraf toplayın ve modeli eğitin.
3. Önce nesneleri eğitimdeki gibi gösterin. Model başarılı mı?
4. Şimdi yer değiştirin: Kalemi beyaz kâğıtta, silgiyi mavi kartonda gösterin. Her durumu 10 kez deneyip tabloya yazın.
5. Son olarak kameraya yalnızca boş mavi kartonu gösterin. Model ne diyor?

Aşağıdaki grafik bir grubun örnek sonuçlarını gösteriyor. Model eğitimdeki düzende neredeyse hiç yanılmazken arka plan değişince çoğunlukla yanılmış. Bu, modelin nesneye değil arka plana baktığının güçlü bir işaretidir. Boş mavi kartona “Kalem” demesi de bunu doğrular.

Deney 2: Dengesiz Veri

1. Taş, kâğıt, makas projenizi açın ya da yeni bir proje yapın. Bu kez Taş sınıfına 200, Kâğıt sınıfına yalnızca 20 fotoğraf toplayın ve modeli eğitin.
2. Kameraya yarı açık bir el gösterin; ne taş ne kâğıt olsun. Model hangisini seçiyor? 10 kez deneyin.
3. Kâğıt sınıfına 180 fotoğraf daha ekleyip yeniden eğitin ve aynı denemeyi yapın. Sonuç değişti mi?

Bir sınıfın örnekleri çok daha fazlaysa model kararsız kaldığında genellikle o sınıfı seçer. Buna yanlılık denir: Modelin kararlarının veri yüzünden bir tarafa kaymasıdır.

Deney 3: Kimin Verisi?

1. Taş, kâğıt, makas modelini yalnızca bir öğrencinin eliyle eğitin.
2. Gruptaki diğer öğrenciler de sırayla modeli denesin. Her öğrenci her işareti 5 kez göstersin ve doğru sayısını yazın.
3. Sonra herkesin elinden birkaç örnek ekleyip modeli yeniden eğitin ve denemeyi tekrarlayın.

Çoğu grupta model, verisini veren öğrenci için çok başarılı, diğerleri için daha az başarılı olur. El büyüklüğü, ten rengi, yüzük ya da saat gibi farklar modeli şaşırtabilir. Herkesin verisi eklenince sonuçlar herkes için iyileşir.

Gerçek Hayatta Neden Önemli?

Bu deneyler oyun gibi görünse de aynı sorunlar gerçek sistemlerde de yaşanır. Belli bir gruptan çok az veriyle eğitilen bir yüz tanıma sistemi o gruptaki insanları daha sık yanlış tanıyabilir. Belli bir şiveyle hiç eğitilmemiş bir sesli asistan o şiveyle konuşanları zor anlayabilir. Yanlış kararlar da insanların sistemi kullanmaktan vazgeçmesine ve o gruptan daha da az veri toplanmasına yol açabilir.

Yanlılığı azaltmak için şunları yapabiliriz:

• Her sınıf için dengeli sayıda örnek toplamak.
• Farklı kişilerden, ortamlardan, ışık ve arka planlardan çeşitli veri toplamak.
• Modeli, verisini vermeyen kişilerle ve yeni koşullarda test etmek.
• Modelin nerede yanıldığını açıkça söylemek ve önemli kararları yalnızca modele bırakmamak.

Sıra Sizde

1. Deney 1’deki modeli düzeltin: Her iki nesnenin fotoğraflarını her iki arka planda da çekip yeniden eğitin. Yer değiştirme denemesinde sonuç ne oldu?
2. Gündelik hayatta kullandığınız bir yapay zekâ uygulamasında yanlılık nasıl ortaya çıkabilir? Bir örnek yazın ve nasıl önlenebileceğini önerin.
3. Sınıfınız için “Adil Model Kuralları” başlıklı, en az beş maddelik bir afiş hazırlayın.

Kendini Dene

1. Deney 1’de model boş mavi kartona neden “Kalem” dedi?
2. “Yanlılık” ne demektir? Deney 2’den bir örnekle açıklayın.
3. Bir modelin herkes için iyi çalıştığından emin olmak için ne yapmalıyız?

Cevaplar