ÖSYM Tarzı Makaleler – Yazılar 58
ALGORİTMALARDA ÖN YARGI SORUNU
Yanlılık/Ön Yargı Sorunu
Algoritmalar işledikleri veri setlerinden sadece nesnel/matematiksel sonuçlar çıkarmaz. Bu verilerin içinde bulunan, insanlara içkin duygusal tutumları da taklit edebilirler. Dolayısıyla insanların toplumsal hayatta geliştirdiği hatalı, kötücül tutumlar algoritma tarafından benimsenebilir. Bunlardan en önemlisi yanlılıklar/ön yargılardır.9
Yapay öğrenmeye dayalı sistemlerde veri setleri içerisinde hangi örneklerden tümevarım yapılacağı genellikle yazılımın inisiyatifindedir. Bu tür tahmine dayalı genelleme yapma süreçlerinde sistemin sistematik ve sürekli bir şekilde sınıflandırma hatası yapması konuya dair literatürde “yanlılık” ifadesiyle sorunsallaştırılmaktadır (Crawford, 2021: 134). Algoritmalar tarafsız bir şekilde kodlanmadığı ve şeffaflık sorunlarına sahip olduğu için kullanıcılar, belirli amaçlarını gerçekleştirmek adına algoritmaları “evcilleştirmek” ve onlara eklemlenmek durumunda kalır. Bu durum, algoritmaların sunduğu anlamları yorumlayanlar olarak kullanıcıların, etkileşime geçtikleri ve deneyimledikleri bazı otorite türleri ile birlikte aktif rol oynadığı önyargı sorunlarına neden olur.
Teknolojik gelişmelerdeki yanlılık meselesi oldukça eski bir geçmişe sahiptir. Örneğin tanınmış iletişim bilimci Harold A. Innis (2008), kitle iletişim araçları bağlamındaki yanlılığın matbaanın icadı sonucunda yaygınlaşan gazetelerden beri süregeldiğini ve modern batı medeniyetinin kurulmasında bu yanlılığın önemli bir rol oynadığını savunmuştur. Algoritma bağlamında düşünüldüğünde ise yanlılık ile ilgili sorunların güvenlik, bürokrasi, hukuk, eğitim, bankacılık, medya gibi birçok alanda, varlıkları bile hissedilmeden insanların karşısına çıkabileceği söylenebilir. Yapay öğrenmeye dayalı sistemlerde çıktılar alınırken veri havuzunun hangi kısımlarından nasıl yararlanıldığı belirsizleşebilir. Tüm sürecin şeffaf olduğunu varsaysak bile veri setleri insanlar ait ön yargılarla dolu olduğu için yanlılık bir sorun olmaya devam edecektir. Ön yargılar genellikle ırkçılık, cinsiyetçilik, sınıf gibi bağlamlarda gerçekleşmektedir.
Bilişim teknolojilerinin getirdiği ön yargı sorununa dair tartışmalar kişisel bilgisayarlar ve internetin yeni yeni yaygınlaştığı dönemlere kadar uzanır. 1996 yılında yazılmış olan bir makalede bu duruma dair; (1) önceden var olan, (2) teknik nedenli ve (3) yeni ortaya çıkan olmak üzere üç ön yargı kategorisinden bahsedilmektedir (Friedman ve Nissenbaum, 1996). Günümüzün yapay öğrenme temelli internet mimarisinde de bu kategorilerin halen geçerli olduğu görülmektedir. Algoritmalar, kodlamada yapılan hatalar, “kara kutu” olma özelliklerinden dolayı nasıl çalıştıklarının bilinmemesi ya da ticari amaçların ön plana alınması gibi sebeplerden, toplumda zaten var olan ön yargıları pekiştirmekte ya da yeni ön yargıları üretebilmektedir.
Pasquale’ye (2015) göre herhangi bir insanın herhangi bir veri tabanında “güvenilmez”, “yüksek tıbbi masraf”, “düşen gelir” gibi terimlerle işaretlenebilir olduğu itibar ölçme yazılımları, kodlamadaki hatalar veya adaletsizlikler nedeniyle gözden düşen görünmez azınlıklar yaratmaktadır. Olumsuz ve/veya temelsiz varsayımlar, beşeri yargıların yazılımlara gömülmüş olduğu bir sistemde önyargılara, hatta onun da ötesinde, ayrımcılığa sebep olmaktadır (a. g. e.: 38). Toplumsal alanda ortaya çıkarmanın ve baş etmenin zaten yeteri kadar zor olduğu ayrımcılıklar, algoritmalar marifetiyle daha da görünmez hale gelmektedir. Ayrıca algoritmaların ayrımcılıkla karşı karşıya getirdiği bazı yeni gruplar normalde farkında bile olmadığımız özellikleriyle karmaşık bir şekilde oluşturulmuş olabilir. Bu durumda ne kamuoyu ne de o grubun içindekiler sistematik bir ayrımcılığa uğradıklarının farkında olmayacaktır. Böylelikle grubun kendisinde dahi ayrımcılığa karşı bir hamle potansiyeli oluşmayacaktır. Bu nedenle algoritmik modellerin sebep olacağı ayrımcılıkları önleme görevi sadece teknoloji şirketlerinin inisiyatifine bırakılmamalıdır.