“Ayın karanlık yüzü diye bir şey yok; aslında ayın tamamı karanlık”

Büyük veri teknoloji dünyasında yaygınlaşmaya başladığında, bu alandaki büyük firmaları ilk rahatsız eden şey olgunun gereğinden fazla gündem olmasıydı. Korkuları kavramın içinin kısa sürede boşaltılacağıydı. Geçen on sene içinde kavramın içinin boşaltılması ne kelime dünyanın tüm okyanusları kullanılsa yine de dolmadı, taşmadı! Sosyal medya sağ olsun! Büyük veri (ve analizi) ayağa düştü!

Niyet kötüyse araç ne yapsın? Bugün büyük veri hangi tür amaçlar için kullanılıyor diye bakıldığında ortaya çıkan liste ne yazık ki lekeli. En iyi şartlarda, herhangi bir art niyet olmadığı bile varsayılsa, büyük veri analizine dayanan yapay zeka algoritmaları insanlığın içine on yıllardır, yüzyıllardır işlemiş ön yargıları ortaya çıkarıyor!

Netflix belgeseli “Kodlanmış Ön yargı”da mavi saçlı uzman olarak görüşlerini bildiren Cathy O’Neil’in bu konudaki ilginç kitabı Türkçe’ye de çevrildi. Kitabın adı şahane: Matematiksel İmha Silahları. Eskiden Kitle(sel) İmha Silahları vardı şimdi Matematik(sel) İmha Silahları var. Büyük veri analizi denilen şey matematikten başka bir şey değil. Peki matematiği imha silahı haline getiren şey nedir? O’Neil algoritmalar geliştirilirken adı konmuş ya da konmamış hedeflerin hatalı seçiminden başlayarak bir dizi tespit yapıyor.

Örneğin bizim algoritmamız ırk ayrımı gözetmez diyenlerin algoritması incelendiğinde ırkçılığın dolaylı yoldan sürecin içine şırınga edildiği anlaşılabiliyor. Nasıl mı? Mesela “coğrafya kaderdir” mottosunu baz alarak! Şehrin düşük gelirli bölgelerini seçip, diyelim ki orada daha çok polis devriyesi gezdirirseniz, göz altına alacağınız kişi profili de ister istemez sizi ırkçı yapar. Çünkü o bölgelerde yaşayanların kim olduğu bellidir.

Amerika’dan örneklerle süslediği kitabında O’Neil bunu kendi kendini besleyen bir canavar gibi tanımlıyor. Yukarıdaki örnekten devam etmek gerekirse, polisler diyelim ki Afrikan-Amerikan ya da Hispaniklerin daha çok yaşadığı bölgelerde devriye geziyor ve küçük bir ihlalde bile sert tedbirlere başvuruyor. Bu durumda zaten kötü şartlarda yaşayan bu bireyler daha yüksek bir olasılıkla sudan sebeplerle kendilerini hapishanede buluyorlar. Hapishaneler ise bir rehabilitasyon merkezi olarak çalışmak yerine adeta kişiyi daha da kötü yapmak üzere geliştirilmiş birimler görevini üstleniyor. Böylece iki sene önce sudan bir sebepten dolayı polisle başı belaya girmiş bir kişi iki sene sonra katil olabiliyor!

Kuantum mekaniğinde izleyenin izleneni değiştirdiği tespitini makro dünyada büyük veri ile çalışan algoritmalar teyit ediyor. Daha temiz bir dünya için yola çıkan bir algoritma dünyayı daha kirli hale getiriyor. Daha iyi bir dünya için yola çıkan daha kötü, daha adil bir dünya için yola çıkan ise daha adaletsiz bir dünyanın yükselmesine katkıda bulunuyor.

Bu talihsiz geri bildirim mekanizmasını ise iki kaynak besliyor: Şimdiye kadarki deneyim kümesinin içine işlemiş olan adı konmamış ön yargı(lı karar)lar ile onu işlemek üzere geliştirilen algoritmalara yüklenen hatalı hedefler! O’Neil kitabın girişinda okuru büyük verinin karanlık yüzüne davet ediyor. Dünya müzik listelerinde en uzun süre kalan albüm olan Pink Floyd’un Ayın Karanlık Yüzü (Dark Side of the Moon) ise Nick Mason’ın şu tespiti ile bitiyor: “Ayın karanlık yüzü diye bir şey yok; aslında ayın tamamı karanlık!”

Herkese Bilim Teknoloji Dergisi; “Dijital Kültür” Köşesi (Sayı 276 08.07.2021)