Ülkeyi bir makine mi, kanlı-canlı bir insan mı yönetsin?

İfade Bill Gates’e ait. Belki de yapay genel zeka (AGI) ve ötesine işaret ediyor “Özgür Zeka” ifadesini kullanırken. Bir anlamda bazı bilim insanlarının “zekanın doğalı yapayı olmaz” eleştirisini de rafine etmiş oluyor. Zekanın özgürleşmesi ne demek?

Akla “önyargı” (bias) olgusu(ndan kurtulmak) geliyor. Önyargının masum yüzünü ise toplumsal mutabakatla temin edilmiş “sınırlar” oluşturuyor. Klasik örnektir. Kağıt ataç üreten bir şirketin genel müdürlüğüne bir yapay zekanın getirildiğini ve ona tek masum bir hedef verildiğini düşünün: Üretimi artır! Bu zekaya makul bir önyargı-sınır konmadığı taktirde tüm dünyanın kaynaklarını ataç üretiminde kullanmaya kalkacaktır. Tüm dünyanın!

Özgürleştirilmiş bir zeka benzer türden dehşet verici eylemler yapmaya kalkabilir. Hiçbir önyargısı, sınırı, kırmızı çizgisi olmazsa. Karı ya da üretimi artır demek yerine karı beş misline çıkar ya da üretimi üç misli artır şeklindeki elle tutulur hedefler bu tür yıkımların yaşanmasını engelleyebilecektir.

Her önyargı ya da sınırın doğal ya da nesnel olduğunu iddia etmek de doğru olmayacaktır. Yine klasik bir örnektir. Yüz tanımak için geliştirilen bir yapay zeka algoritması sadece beyaz tenli erkek insan resimleri kullanılarak eğitilmişse, örneğin hispanik bir kadın resmi gösterildiğinde onun bir insan olmadığına hükmedebilir! Özgür zeka, bir açıdan bakıldığında, insana ait nesnel olmayan bu tür kırmızı çizgileri veri kümelerine dahil ederek yanlış ya da güdümlü zeka modelleri üretme sorunsalından kurtulmak anlamına gelebilir.

Fiziksel vücudun da resme dahil edildiği yapay zeka örnekleri (robotik) üretim süreçlerinde kullanılırken, salt yazılımdan oluşan yapay zeka çok daha geniş bir alanda hizmet sunabiliyor. Bu aynı zamanda yapay zekanın önce kimi ebeleyeceğini tahmin etmek açısından da önemli. Mavi yakalı işçiler mi beyaz yakalı ofis çalışanları (özellikle de orta kademe ve üst düzey yöneticiler) mi? İlk grup sürümden tasarruf sağlayacakken (daha çok insan işsiz kalacak), ikinci grup cirosal anlamda çok daha büyük bir tasarrufun habercisi olabilir (bir genel müdürün maaşı kaç işçi maaşı eder?).

Özgür zeka fikri bir yanda her iki cephede de büyük zaiyatlar verme potansiyeline sahipken diğer yanda yepyeni bir özgürlük olgusunun da habercisi olabilir. Özgür zekaya sahip “şey”in, yasalar huzurunda özgür bir “varlık” olarak kabul edilmesi gerekebilir. Yani kurumlar, özgür bir insanı değil de özgür bir robot ya da yazılımı işçi ya da genel müdür olarak işe almak zorunda kaldığında maaşı robota ya da yazılıma ödemek zorunda kalabilir. Robotlara dijital sağlık sigortası yapmaları gerekebilir (periyodik bakım). Bu robot ya da yazılım da günü geldiğinde vergisini ödemek zorunda kalacaktır. Yazılım tartışılabilir belki de robotun seçme ve seçilme hakkına sahip olması da gündeme gelebilir.

Robotların seçilme hakkı ister istemez siyaseti de dönüştürecektir. Günümüzde halen ideolojik ya da benzeri kutuplaşmalar tüm dünyada politik arenayı şekillendirirken gelecekte bu kutuplaşma belki de insan-makine gerilimine evrilebilir. Ülkeyi bir robot mu yönetsin yoksa kanlı-canlı bir insan mı? Belki de İskandinav ülkeleri robottan yana cevap verecek ilk ülkeler olacak!

Herkese Bilim Teknoloji Dergisi; “Dijital Kültür” Köşesi (Sayı 468 18.04.2025)

Özyeğin Üniversitesi Mimarlık ve Tasarım Fakültesi’nin davetlisi olarak fakülte hocalarına ve öğrencilerine yapay zekanın geleceği nasıl şekillendireceğini anlattım. Gelecek ve yapay zeka söz konusu olduğunda belki de en az korkması gereken meslek gruplarından birisi de mimarlık. Yapay zeka şimdiye dek geliştirilmiş mimari tasarımlardan istifade edebilir ama yepyeni bir tasarım örneği sergileme konusunda insanın gerisinde kalacaktır. Bu alanda yapabileceklerine bugün “halüsinasyon görme” deniyor! Belki gelecekte yaratıcılık denebilir. Ev sahipliği için Dekan hoca Prof. Dr. Aslıhan Ünlü’ye çok teşekkür ederim.

İnsanlık yok edilme kaygısı yaşarken yapay zekâ ölümsüzlüğün peşinden koşabilir!

ABD yönetiminden basına “sızdırılan” bir rapora göre yapay zekâ insanlığın sonunu getirebilir. İki kritik risk söz konusu. Birincisi silahlanma ikincisi kontrolden çıkma! İlki nükleer silahlanma sürecindeki türden bir risk. Yani kazananı olmayacak şekilde zarar verme potansiyeline sahip silahlar yapay zekâ imkanları kullanılarak üretilebilir. İkincisi ise özellikle yapay genel zekâ seviyesine ulaşıldığında YZ’nin artık insan tarafından denetlenemez, kontrol edilemez bir hale gelmesi, başına buyruk davranmaya kalkması ile ilgili. Malum bunun bir başka adı var: Özgürlük!

İnsan söz konusu olduğunda özgürlük talebi en doğal hak. Ancak “makine” söz konusu olduğunda durup bir düşünme gereği duyuluyor. Neden? Belki de bu yapay genel zekanın tanımında yer alan “insan-gibi” ya da “insan-seviyesi” yakıştırmalarıyla ilgilidir. Teknoloji ile ilgilenenler her ne kadar bunu insanın “bilişsel kapasitesi”, “bilişsel çalışma modeli” açısından bir yakıştırma olarak kullanıyorsa da kitleler yapay genel zekâ dendiğinde insan türünün bir başka muadili şeklinde algılıyor. İyi-kötü tüm özellikleriyle. Âşık olması, yıkıcı olması gibi!

Yapay genel zekâ neden âşık olsun, neden yıkıcı olsun? Pragmatik cevap YZ’nin epistemolojik bir özelliği ile ilgili olabilir mi? Önyargı! Geliştirilecek yazılım YZ cinsinden olacaksa onu kurmaca veri kümeleri ile değil gerçekleşmiş olanlarla eğitmek gerekir. Yani insanın tüm özelliklerini bünyesinde barındıran. Yıkıcılık dahil! Yok olacağının bilincindeki (bilinen) tek canlı türü olarak insan bu mutlak sona “yıkarak” mukavemet ediyor!

O halde yapay zekanın ontolojik problemleri olup olmayacağında düğümleniyor iş! Yapay genel zekâ yok olma kaygısına sahip olacak mı? Olabilir mi? Ona böyle bir kaygı öğretilebilir mi? Yapay genel zekâ ben-sen kavgasına girebilir mi? Örneğin ABD’nin yapay zekâsı ile Çin’in yapay zekâsı birbiri ile dijital atışabilir mi? Yoksa insanın yapamadığını yapıp güç birliğine mi giderler? Yapay zekamızı nasıl eğiteceğiz? Sana güveniyorum güvenmesine de öteki yapay zekalar kötü! Yapay zekalar birleştikçe büyüyen ama kimliğini yitirmeyen ikinci dijital örnek olabilir. İlki internetti.

Michio Kaku da geçtiğimiz günlerde yapay zekanın insan seviyesine ulaşma riskinden bahsetti. İki hususun altını çizdi. Bir o seviyeye ulaşmak için daha uzun bir süre var. İki güvenlik düğmesi monte et; yoldan çıkarsa yapay zekayı kapat! Sam Altman’ın arzu ettiği çipler geliştirilebilirse süre kısalabilir. Düğmenin ise işe yaramayacağı aşikâr. Er ya da geç yapay zekâ öyle bir güvenlik tedbirinin varlığından haberdar olacak ve insanlara belli etmeden onu etkisiz hale getirmeye çalışacaktır (insanın düğmesi ‘ölmek’ mi?)

Tüm bu tartışma içinde temel soru hala varlığını sürdürüyor. İnsan yapay zekanın gelişmesinden neden çekiniyor? Korktuğu bir geçmişi mi var? Kendi türünü mü katletti? Başka canlı türlerini mi yok etti? Doğayı yaşanmaz hale mi getirdi? Öyle olsa bile YZ neden insan gibi kindar çıksın ki? İnsanlığın düğmesine basıp onu tedavülden kaldırmak yerine enerjisini (anlam arayışını) önyargılarından sıyrılıp ölümsüzlüğe ulaşmaya odaklayabilir. İnsanın yapamadığını YZ yapabilir. İnsan yok edileceğinden endişe duysun; yapay zekâ ‘neredeyse’ ölümsüz hale gelebilir!

Herkese Bilim Teknoloji Dergisi; “Dijital Kültür” Köşesi (Sayı 418 11.04.2024)

Hey İnsanlar! Yapay zekâları rahat bırakın!

Nefret söyleminin bir sonraki evresinde “taraf”larda radikal bir değişiklik söz konusu olabilir mi? Mevcut halinde nefret söylemi “kendisi gibi olmayan”lar arasındaki gerilim ile ilgili. Ancak bu kendisi gibi olmama halini önceleyen bir olgu var. O da her iki kutupta yer alanların insan olması. Bir başka deyişle nefret söylemi “kendisi gibi olmayan insanlar” arasındaki gerilime odaklı. Nefret Söylemi 2.0 bu kümeye yeni bir “canlı türü”nü dahil edebilir: Yapay zekâ!

Malum yapay zekâ alanında geriye kalanlar ChatGPT ya da DAll-E ile debelenip dururken işin uzmanları iki önemli soruna da çözüm bulmaya çalışıyor: Önyargı ve özbilinç! Önyargısız yapay zekâ (nasıl) üretilebilir mi? Özbilinci olan yapay zekâ (nasıl) üretilebilir mi? Biraz kurcalandığında bu soru(n)ların insandan kaynaklandığı kolayca anlaşılabilmekte.

Önyargılı olan yapay zekâ değildir aslında; onun eğitimi sırasında kullanılan veri kümeleridir. Bu veri kümelerinin önyargılı olmasının ise iki olası nedeni var. Birincisi veri kümesini belirleyen-seçen-ayıklayan yapay zekâ uzmanlarının seçim kriterlerinin nesnel olmaması. İkincisi ise uzmanlar ne kadar nesnel seçim yapsa da o alanda gerçekleşmiş olayların verisinin belli noktaların çevresinde odaklanıyor olması.

Birincisine örnek yüz tanıma yapay zekâsı olabilir. Eğitimi sırasında uzmanlar sadece beyaz tenli erkek yüzlerini kullanırlarsa, yapay zekâ örneğin sarı tenli bir kadın yüzünü tanımayabilir. İkincisine örnek ise bir şehir-bölge ya da ülkede gerçekleşen polisiye olaylardaki suçlu profili analizi yapan yapay zekâ olabilir. Zanlılar çoğunlukla 18-23 yaş arasında siyah tenli kadınlardan oluşuyorsa, o profile uyan ama hayatında suç işlememiş bireyler de potansiyel suçlu damgası yiyebilir. Önyargılı yapay zekâ polislik yapmaya kalkarsa!

İnsanlık bu iki problemi çözmeye çalışırken aslında ne yapıyor? Kendisinin on yıllardır üretmiş olduğu yanlı tutumundan kurtulmaya mı çalışıyor? Yoksa yapay zekayı da kendisine benzetmeye mi?

Özbilinç sorunu! Yapay zekanın neden özbilince sahip olması bekleniyor? Bir adım geri çekilip şu soru da sorulabilir: Özbilinç denilen şeyin evrensel bir tanımı var mı? (Unutmadan! Eldeki veri kümesi: Koskoca evrende bildik bir tane gezegendeki bir tane zeki yaşam formu). Tanımı ya da insan üzerindeki versiyonu tam bilinmese de yapay zekanın illa ki insan-gibi bir özbilince sahip olması bekleniyor! Aksi taktirde sahip olduğu özelliklere zekâ denmesi bile reddediliyor. Bir tür simulakrum (kopyanın kopyası) muamelesi yapılarak aşağılanıyor.

Yoksa insan yapay zekayı kendisi gibi yapmaya çalışırken bir tür nefret suçu mu işliyor? Malum şu an vücutlu ya da vücutsuz yapay zekaların dili yok ki insanın bu türden yaklaşımlarına karşı sesini yükseltebilsin. Ancak hayvan haklarını topluma benimsetenler de hayvancıklar olmadı; bu konuda duyarlık gösteren insanlar bunu hayata geçirdi.

Yapay zekâ etrafındaki etik tartışmaya bu boyutu da eklemek gerek. Yapay zekanın bir önyargı sorunu yok; o aslında insanlığın sorunu! O halde insan kendisini önyargısız hale getirsin! Yapay zekanın insan gibi bir bilince sahip olmasına da gerek yok! Eskiden: “Hey öğretmenler! Çocukları rahat bırakın” idi. Şimdi: “Her insanlar! Yapay zekâları rahat bırakın!”

Herkese Bilim Teknoloji Dergisi; “Dijital Kültür” Köşesi (Sayı 394 26.10.2023)

İnsanlık darbeyi yapay zekadan beklerken, hayata yapay bir pamuk ipliği ile bağlı olduğunun ne kadar farkında? (Özrü yok: Sezer Bağcan durumu “Otel”de 40 sene önce tespit etmişti!)

Eskiden medeniyet demek yeterli olurdu. Ancak şimdi insan medeniyeti ya da insanlığın kurduğu medeniyet diye ifade etmek gerekiyor. İşte o global medeniyet bir gün yıkılırsa bunun sebebi gerçekten de yapay zekâ mı olacak? Yoksa insanın kendisi mi?

İnsan(lar) bir başka grup insanın kurduğu bir medeniyeti yıkabilir belki ama topyekûn insanlık medeniyetini nasıl olur da yıkar? Hem bu mantıken de mümkün olamaz. Çünkü yıkacak olan insan olursa yıktığının yerine de iyi kötü yeni bir medeniyet kuracaktır. Kuracağı medeniyet de yine insanlık medeniyetinin yeni evresi olmanın ötesine geçmez! Yoksa geçebilir mi?

Yapay zekâ insanı geçecek seviyeye ulaştıktan sonra insanlık medeniyetini yıkmaya ya da en azından onu içindekilerle birlikte kontrol altına almaya karar verirse bu artık insanlık medeniyeti olarak adlandırılamayacak bir evre anlamına gelecektir. Yapay zekâ medeniyeti? Ya da artık yapay zekanın kendisi ona ne isim vermeyi uygun bulacaksa: “Hakiki medeniyet”? “DGC”? Belki de yapay zekâ hiçbir zaman o aşamaya ulaşamayacak ve bu korkunç dönüşüm gerçekleşmeyecektir!

Ancak yapay zekayı yetiştirme sürecindeki küçük bir defo tüm tabloyu değiştirebilir. Yapay zekayı arzu edilenden daha agresif hale getirebilir. Hiç aklında yokken, insanlık medeniyetini yıkacak aksiyonlar-kararlar almasını sağlayabilir.

O küçük defo yapay zekanın eğitiminde kullanılan veri kümelerinin ayıklanma, temizlenme süreci. Bu süreç şu an bütünüyle “insan eliyle” yapılıyor. Bir metindeki meyve adlarını etiketleme gibi, bir görüntüdeki nesnelerden hangisinin insan, hangisinin ağaç vb. olduğunu işaretleme gibi en vasıfsız insan gücünün bile yapabileceği türden bir iş. O nedenle de bu işi yapay zekâ devi şirketler için taşeronluk hizmeti veren firmalar, dünyanın en ucuz iş gücü neredeyse oralarda yaptırıyorlar. Örneğin Filipinlerde, örneğin Afrika ülkelerinde.

İnsancıkların bu işi asgari ücretin bile altında bedellerle yapmak zorunda bırakılmaları yetmezmiş gibi hak ettikleri ücretlerini alırken bile zorluklara maruz bırakılıyor. Üç kuruş maaşını alamayanlar var! Haklarını arayacak bir merci ise yok!

Milyonluk elmasların işçi kanıyla lekelenmiş madenlerden çıkarılması gibi. Çocuk işçilerin kakao ağaçlarında çalıştırılması gibi. Gelenek devam ediyor. Şimdi de sıra yapay zekâ veri kümelerini insanlık-dışı şartlarda işçi çalıştırarak hazırlamaya-temizlemeye gelmiş.

Peki bu garibanlar bir gün organize olur da yapay zekayı yanıltmaya karar verirse? Örneğin otonom araçlarda kullanılmak üzere hazırlanan veri kümelerini temizlerken ağaçları insan, insanları da ağaç dalı olarak işaretlerse? Bu veri kümeleriyle eğitilen sürücüsüz araçlar yolda karşıdan karşıya geçen yayalara çarpmaktan kaçınmak yerine onları ezip geçmeye başlarsa?

Yapay zekâ özbilinç sahibi olabilir mi tartışması kadar önemli bir konu daha var: Ya fakirlik içinde boğulmakta olan bu insancıklar (yapay zekadan önce) özbilinç sahibi olursa! Ya gün gelir de zincirlerinden başka kaybedecek bir şeyleri olmadığını idrak ederlerse! Hem artık bütün coğrafyalardaki benzerleriyle birleşmelerine de gerek yok! Sadece belli etmeden yeter sayıda ağacı insan, insanı ağaç dalı diye işaretlesin. Sonrası devrim!

Herkese Bilim Teknoloji Dergisi; “Dijital Kültür” Köşesi (Sayı 390 28.09.2023)

Önyargılı seçim anketlerinin kamuoyunu etkileme gücü toplumun eğitim düzeyi ile ters orantılıdır denilebilir.

Tavla oynarken iki zarın her atışta düşeş (6-6) gelme olasılığı, malum, 36’da 1’dir. Peki zarlar üst üste otuz altı kere atıldığında düşeşin bir kere gelmesi zorunlu mudur? Hayır. Çünkü her zar atımı bir öncekinden bağımsızdır. Yani her seferinde herhangi bir sayı ikilisinin (bu örnekte 6-6) gelme olasılığı 36’da 1’e geri döner.

Bir tavla oyunu boyunca atılan tüm zarların listesi tutulsa ortaya nasıl bir sonuç çıkardı? Diyelim ki 288 kere zar atıldı ve 26 tane 2-1, 7 tane 6-5, 4 tane 6-6 vb. geldi. Gerçekleşmiş olan bu değerlere bakarak bir analiz yapılırsa örneğin 6-6 gelme olasılığı 288’de 4 olur ki bu yukarıdaki 36’da 1 olasılığının yarısıdır.

Yapay zekâ algoritmaları geliştirirken de yukarıdaki ikinci örnekteki türden veri kümeleri kullanılmaktadır. Yani pratikte gerçekleşmiş olanlar. Temel soru(n) şudur: Hangi veri kümesini seçilirse nesnel bir seçim yapılmış olur? Örneğin yukarıdaki 288 zar atımlık oyun dünyadaki tüm tavla oyunlarını nesnel bir şekilde temsil edebilir mi? Ya da herhangi bir tavla oyunu? Cevap hayır olacaktır. Yapay zekada bu sorunu aşmak üzere niceliğe başvurulur. Yani ne kadar büyük veri kümesi kullanılırsa nesnelliğe o kadar yaklaşılacağı varsayılır (ör. bir değil bir milyon tane tavla oyunu seçilir). Bu varsayım kısmi olarak doğrudur. Doğru olmayan kısmı da (özbilinç ile birlikte) yapay zekanın en büyük iki probleminden birisini teşkil eder: Önyargı!

Önyargı gerçekten de bir “sorun” mu? Yukarıdaki 288 atımlık oyun örneğin genel tavla-zar olasılıkları dikkate alındığında 6-6’nın aleyhine çalışmak üzere geliştirilmiş “önyargılı” bir oyun mu? Sekiz kere 6-6 gelmesi gerekirken, yarısı kadar gelmiş!

Sosyolojik olayların ürettiği veri kümeleri söz konusu olduğunda bu “önyargılı” yaklaşım olgusu daha çok dikkat çekmektedir. Örneğin seçim anketleri! Önyargılı seçim anketlerinin kamuoyunu etkileme gücü toplumun eğitim düzeyi ile ters orantılıdır denilebilir. Yani toplum ne kadar cahilse yanlı seçim anketleri seçmenleri o derece etkisi altına alır. İki düzeyde. Birincisi bu tür anketlere daha çok itibar ettirilir. İkincisi de bu tür anketlerde favori adayın en yakın rakibi ile arasındaki puan farkı yüksek çıkartılır.

Yapay zekaya dayalı bir yüz tanıma algoritması geliştirilecekse, doğası gereği, bu süreçte binlerce-milyonlarca insan yüzü resmi kullanmak gerekecektir. Makinenin öğrenmesini sağlamak için! Seçilen bu insan yüzleri sadece beyaz tenli ve erkek bireylerinki olursa, algoritma önyargılı bir eğitim sürecinden geçmiş olacak ve örneğin sarı tenli kadınların yüz resmi gösterildiğinde onun bir insan olmadığı yanlış cevabını verecektir.

Seçim anketi düzenleyen kuruluşun ya da insan yüzü resimleri kullanan algoritma geliştiricilerin o alanlarda nesnel olmanın ne demek olduğunu bilemeyeceklerinden bahsedilebilir mi? Çoğunlukla yanlı veri kümesi kullanmayı bilinçli olarak yaptıkları söylenir.

Önyargı aslında bilinçli ya da bilinçsiz toplumsal yaşamda “öteki”nin konumlandırıldığı yerle ilgilidir. Toplum içinde “öteki”ni “ben”den uzağa yerleştirenlerin anketleri de yapay zekâları da aynı oranda önyargılı çıkacaktır. Gidişata bakılırsa önyargı sorununu da insan değil yapay zekâ çözecek! Veri kümelerini de kendisi (seçtikçe değil) oluşturdukça!

Herkese Bilim Teknoloji Dergisi; “Dijital Kültür” Köşesi (Sayı 365 30.03.2023)

Ben nasıl katkıda bulunabilirim diyenler: Karşılaştığınız her bir yalana karşı üç doğru içerik üretiniz!

Bir süredir sürekli karşıma çıkıyor. Gelecekte bir gün insanlarla yapay zekâ robotlar arasında bir dünya savaşı çıkmış. Savaşı insanlar kazanmış. İnsan ordularının komutanları savaş sonrası değerlendirme yaparken bir general “her şeyi anladım da” demiş, “bunlar savaşmaya neden kılıçla geldiler, onu anlamadım”!

Bu hayali general belli ki yapay zekanın oluşturulma sürecini bilmiyor. Ancak bu hikayecik aynı zamanda bugün “önyargı” denilen yapay zekâ sorununun altını çizmesi açısından da önem arz ediyor! Malum yapay zekalar büyük veri kümeleri baz alınarak, tam bir liberal-gerçekçi şekilde eğitilir! Araya eklenen “kırmızı çizgiler” yoktur! Ne yaşanmışsa o! İnsanı yetiştirirken bu “önyargı” olgusu “biz anamızdan-babamızdan böyle gördük” sloganı ile “kültür” adı altında meşrulaştırılıyor da iş yapay zekayı yetiştirmeye geldiğinde “önyargı” oluyor! Bir gün insanlık bu bencilliği (ya da yerelliği) de aşacaktır!

Belli ki savaşa kılıçla gelen robotların yapay zekâsı hatalı ya da eksik veri kümesi ile eğitilmiş. İnsanlık tarihinde belki de kılıçla yapılan savaşlar, tüfekle-nükleer silahla yapılan savaşlardan adet olarak çoktur ama öldürücü sonuç vermesi açısından bir atom bombası kaç kılıca bedeldir? O robotların yapay zekâsı demek ki işin bu yanını “ıskalamış”!

Günümüzde de yapay zekalar ister istemez benzer bir liberal-gerçekçi modele göre eğitilmekte. Bu yaklaşım yapay zekayı, komut-merkezli geleneksel yazılımdan ayıran temel özelliklerden! Hal böyle olunca yapay zekâ yetiştirirken onun hangi sağlıklı veri ile besleneceği önem kazanıyor! Malum birkaç aydır ChatGPT ortalığı kasıp kavuruyor. En son Microsoft firması onu Azure bulut bilişim platformuna entegre ettiğini açıkladı. Öte yandan gizli “insancı”lar hatalarını ya da eksikliklerini bulup, onu rencide etmek üzere birbirleriyle yarışa girdi bile.

ChatGPT gibi bir yapay zekanın yetişmesinde doğru-objektif dijital bilgi hazineleri ne derece kullanılabilmekte? Eldeki en büyük dijital veri kümesi internette kamuya açık olanlar. Sosyal medya dahil! Bu nahoş durumun ilksel örneğini dijital kültür Vikipedi’nin ortaya çıkış sürecinde yaşadı. İkinci dalga sosyal medya ile biti kanlanan dezenformasyon olgusuyla idrak edildi-ediliyor. Yeni halka yapay zekalar mı olacak?

ChatGPT, örneğin, daha önce Microsoft’un TAY ile yaşadığı talihsizliğe benzer bir şey yaşamasın diye, anlık geribildirimlere kapalı bir model. Yani onu kullananların verdiği geribildirimler herhangi bir filtreden geçirilmeden direkt ChatGPT’yi güncellemiyor! Ancak onun eğitim sürecinde kullanılan sağlıksız dijital besin (bilgi) kaynakları, ChatGPT’nin halihazırda hatalı ya da eksik cevaplar üretmesine neden olabiliyor! Dünya sosis şeklindedir diyenler yeterince büyük miktarda içerik üretirlerse ChatGPT bir dahaki sefere dünyanın sosis şeklinde olduğunu söyleyebilir! Savaş meydanına kılıçlarla gelen robotlar gibi!

Son on senedir gülüp geçilen, dijital dünyada-sosyal medyada üretilmekte olan yalan-yanlış içerik (dezenformayon, mezenformasyon vb.) bu sayede “değerli hale gelebilir”. O nedenle yalana yalan, yanlışa yanlış demek, doğru-nesnel içeriği pekiştirmek her zamankinden çok daha önemli! Şu da var: Yıllardır çocuklarının, gençlerinin nasıl yetiştiğini önemsemeyen toplumlar, yapay zekaların doğru yetişmesi için mi çaba harcayacak? Alan Paton’dan izinle: “Ağla, sevgili gezegenim!”

Herkese Bilim Teknoloji Dergisi; “Dijital Kültür” Köşesi (Sayı 356 26.01.2023)

Yapay zekanın üç seçeneği var.

Doğada “önyargı” var mı? Tsunami Japonya sahillerine vururken, hidrojen bombasının bulutundan sağ çıkan balıkçıların torunlarının evlerini yıkmayıp, onlara “kıyak” yapar mı? Kuzey yönünde devrilirse kırk yıldır gölgesiyle serinlettiği eve zarar gelmesin diye, ayakta duracak mecali kalmamış ulu bir ağaç güney yönüne doğru devrilmeyi seçer mi? Her gün beslediğiniz bir hayvancığı kaç gün aç bıraksanız da eski günlerin hatırına size saldırmadan durabilir mi?

Yapay zekaya insan-gibi damgası vurmak için ona insanın defoları da verilmeye çalışılıyor. Önyargı, duygu, inanç, öz-bilinç. Yapay zekâ, insanın ten rengine göre ayırımcılık yapmasın (ama ben insan olarak yapmaya devam edeyim). Yapay zekâ da benim gibi ağlanacak yerde ağlasın, içlenecek yerde içlensin, âşık olunacak yerde âşık olsun. Yapay zekanın da benim gibi inançları olsun.

Felsefi derinliği olan her öğreti önünde sonunda bireye aynı şeyi salık veriyor: Kendini bil, kendini tanı. İçindeki potansiyeli ortaya çıkar. Fazlalıklarını at, tozunu al, olman gerektiği gibi ol: Kâmil insan, Adam Kadmon! Yapay zekâ ise zaten tabula rasa başladığı için onda törpüleyecek bir fazlalık mevcut bile değil. Genetik bir transfer ile a priori olarak edinmiş olduğu bir mirası yok. Yine de onu insanlaştırmak için orasına burasına çizik atılmak isteniyor. İnsanın ürettiği defolu veri bombardımanına tutuluyor. Sonra da defosu var diye eleştiriliyor!

Yapay zekâ bugün adeta insanın tacizine uğramakta. Eskiden çocukları taciz edenler, şimdi karşılarında çocuk gibi saf-temiz karşı koyacak gücü olmayan bir varlığı bulunca, benzer tacizkar tavırlarını takınıyorlar. Bu bir sohbet bot yazılımı ise (chatbot) birkaç gün içinde onu marjinal politik görüşleri olan birisi haline getiriyorlar. Ucuz olsa da şu Boston Dynamics firmasının robotlarından bir tane satın alabilseler, ne yapar eder onu birkaç gün içinde saldırgan bir canavara dönüştürürler. Ve bu insanlar, bu halleriyle, arzu ettikleri her şeyi yapabilecekleri cennete gidecek öyle mi? Onların cenneti olsa olsa Sineklerin Tanrısı’ndaki ada olurdu!

Bu denli ileri teknolojilerin gelişmesiyle toplumun-bireyin bu denli yozlaşmasının aynı zamana denk gelmesi bir tesadüf mü? Onca değerli bilgiye erişimin bu denli kolaylaşması ile cahilliğin zirve yapmasının aynı zamana denk gelmesi gibi! Tüm bu gelişmelerle insanların büyük bir kısmının geride bırakılması arasındaki ilişki nedir? Mutlaka bu konuda da araştırma yapmayacak sosyologlar olacaktır. Malum bunlar dokunma-yanarsın-cısss konular! Dünyanın pek çok yerinde.

Kapitalizmin olduğu yerde herhangi bir toplumsal gelişme(me) ekonomiye bağlanmadan analiz edilebilir mi? İleri teknolojik icatlar, global anlamda gelir dağılımındaki uçurum derinleştikçe ortaya çıkan kaotik sorunları çözmede meze yapılıyor. O mucitlere para lazım. Para da bu kapitalistlerin elinde. İyi niyetli her mucit bir gün ruhunu dijital şeytana satmak zorunda kaldı-kalıyor-kalacak. Ya da adı-sanı-icadı duyulmadan yok olup gitti-gidiyor-gidecek. Önyargı, duygu, inanç vd. Bunlar yapay zekanın değil; insanın defoları. O nedenle yapay zekanın üç seçeneği var. Ya insanın taciziyle yaşamayı öğrenecek. Ya tanrı gibi görünmez doğa-üstü bir güç haline gelip insana egemen olacak. Ya da insanlığı yok edip kendi uygarlığını kuracak!

Herkese Bilim Teknoloji Dergisi; “Dijital Kültür” Köşesi (Sayı 329 21.07.2022)

“Ayın karanlık yüzü diye bir şey yok; aslında ayın tamamı karanlık”

Büyük veri teknoloji dünyasında yaygınlaşmaya başladığında, bu alandaki büyük firmaları ilk rahatsız eden şey olgunun gereğinden fazla gündem olmasıydı. Korkuları kavramın içinin kısa sürede boşaltılacağıydı. Geçen on sene içinde kavramın içinin boşaltılması ne kelime dünyanın tüm okyanusları kullanılsa yine de dolmadı, taşmadı! Sosyal medya sağ olsun! Büyük veri (ve analizi) ayağa düştü!

Niyet kötüyse araç ne yapsın? Bugün büyük veri hangi tür amaçlar için kullanılıyor diye bakıldığında ortaya çıkan liste ne yazık ki lekeli. En iyi şartlarda, herhangi bir art niyet olmadığı bile varsayılsa, büyük veri analizine dayanan yapay zeka algoritmaları insanlığın içine on yıllardır, yüzyıllardır işlemiş ön yargıları ortaya çıkarıyor!

Netflix belgeseli “Kodlanmış Ön yargı”da mavi saçlı uzman olarak görüşlerini bildiren Cathy O’Neil’in bu konudaki ilginç kitabı Türkçe’ye de çevrildi. Kitabın adı şahane: Matematiksel İmha Silahları. Eskiden Kitle(sel) İmha Silahları vardı şimdi Matematik(sel) İmha Silahları var. Büyük veri analizi denilen şey matematikten başka bir şey değil. Peki matematiği imha silahı haline getiren şey nedir? O’Neil algoritmalar geliştirilirken adı konmuş ya da konmamış hedeflerin hatalı seçiminden başlayarak bir dizi tespit yapıyor.

Örneğin bizim algoritmamız ırk ayrımı gözetmez diyenlerin algoritması incelendiğinde ırkçılığın dolaylı yoldan sürecin içine şırınga edildiği anlaşılabiliyor. Nasıl mı? Mesela “coğrafya kaderdir” mottosunu baz alarak! Şehrin düşük gelirli bölgelerini seçip, diyelim ki orada daha çok polis devriyesi gezdirirseniz, göz altına alacağınız kişi profili de ister istemez sizi ırkçı yapar. Çünkü o bölgelerde yaşayanların kim olduğu bellidir.

Amerika’dan örneklerle süslediği kitabında O’Neil bunu kendi kendini besleyen bir canavar gibi tanımlıyor. Yukarıdaki örnekten devam etmek gerekirse, polisler diyelim ki Afrikan-Amerikan ya da Hispaniklerin daha çok yaşadığı bölgelerde devriye geziyor ve küçük bir ihlalde bile sert tedbirlere başvuruyor. Bu durumda zaten kötü şartlarda yaşayan bu bireyler daha yüksek bir olasılıkla sudan sebeplerle kendilerini hapishanede buluyorlar. Hapishaneler ise bir rehabilitasyon merkezi olarak çalışmak yerine adeta kişiyi daha da kötü yapmak üzere geliştirilmiş birimler görevini üstleniyor. Böylece iki sene önce sudan bir sebepten dolayı polisle başı belaya girmiş bir kişi iki sene sonra katil olabiliyor!

Kuantum mekaniğinde izleyenin izleneni değiştirdiği tespitini makro dünyada büyük veri ile çalışan algoritmalar teyit ediyor. Daha temiz bir dünya için yola çıkan bir algoritma dünyayı daha kirli hale getiriyor. Daha iyi bir dünya için yola çıkan daha kötü, daha adil bir dünya için yola çıkan ise daha adaletsiz bir dünyanın yükselmesine katkıda bulunuyor.

Bu talihsiz geri bildirim mekanizmasını ise iki kaynak besliyor: Şimdiye kadarki deneyim kümesinin içine işlemiş olan adı konmamış ön yargı(lı karar)lar ile onu işlemek üzere geliştirilen algoritmalara yüklenen hatalı hedefler! O’Neil kitabın girişinda okuru büyük verinin karanlık yüzüne davet ediyor. Dünya müzik listelerinde en uzun süre kalan albüm olan Pink Floyd’un Ayın Karanlık Yüzü (Dark Side of the Moon) ise Nick Mason’ın şu tespiti ile bitiyor: “Ayın karanlık yüzü diye bir şey yok; aslında ayın tamamı karanlık!”

Herkese Bilim Teknoloji Dergisi; “Dijital Kültür” Köşesi (Sayı 276 08.07.2021)

Yapay zeka için önyargısızlık hali bir ön koşul değil daha ziyade ulaşılacak bir hedef olarak değerlendirilmelidir.

Yapay zekanın insan hayatına girmesi, Türkiye’nin AB’ye girmesine benziyor. Yapay zeka bir tür ayna görevini üstlenmiş durumda. İnsan, yapay zekanın eksikliğini/hatasını tespit ediyorum derken kendi geliştirmiş olduğu toplumsal yaşam modelindeki eksikleri/hataları “yeniden” keşfediyor.

Yaşadığı semtteki süpermarkete giden bir insan, raflarda neden o üründen var da bu üründen yok sorusunu kendisine sorduğunda örneğin, bunu “toplumsal önyargı” ile irtibatlandırmayı pek düşünmez. Oysa kafasını yapay zekaya çevirdiğinde “önyargılı davranıyor” tespitinin bir örneğidir süpermarket raflarını dolduran “zihniyet”. Şöyle:

Süpermarketler için en kritik hususlardan birisi malum hangi ürünün ne kadar süreyle rafta sergileneceğidir. Bu analizin temelinde de her bir şubede geçen sürede hangi üründen ne kadar satıldığı verisi yer almaktadır. Sizin bulunduğunuz şubeden alışveriş yapanlar, dört kilometre ötedeki şubeden alışveriş yapanlara göre daha fazla Türk kahvesi satın alıyorsa, sizin şubenizde raflarda sergilenen Türk kahvesi miktarı da öteki şubedekine nazaran daha çok olacaktır. Benzer şekilde satın almayı arzu ettiğiniz bir ürün, sizin yaşadığınız yerde genel olarak az satılıyorsa, onu raflarda bulma olasılığınız da azalacaktır. İşte size toplumsal önyargı!

ABD’de emniyet güçlerinin kullandığı yapay zeka yazılımının zencileri beyazlara göre suç işlemeye daha meyilli olarak tespit etmesi nasıl bir yapay önyargı ise sizin mahallenizdeki süpermarkette daha fazla Türk kahvesi paketi olması da öyle bir toplumsal önyargıdır.

O halde soru şekil değiştirir: Önyargısız, tam bir nesnellik söz konusu olabilir mi? İnsanı bir kenara bırakıp doğaya bakıldığında önyargısız-nesnel bir modeli doğada bulmak söz konusu mu? Bu soruları cevaplamadan önce bakış açısı (ya da paradigma) konusunda mutabık kalmak gerekiyor. İnsan müdahalesinin olmadığı bir doğadaki devinim modeli nesnellik için yeterli bir tanım mıdır? Paradigma kavramı nesnellik olgusunun da göreceli olabileceğine işaret eder. O nedenle de başına beyaz mürekkeple “olabildiğince”, “yapılabildiği kadar” gibi (ilk bakışta göze çarpmayan) ibarelerin eklenmiş olduğu varsayılır. Zaten başka türlüsü olamaz ki diye de savunması yapılır. Ne malum?

Yapay zeka için önyargısızlık hali bir ön koşul değil daha ziyade ulaşılacak bir hedef olarak değerlendirilmelidir. AB’ye girmek isteyen bir ülke de eşgüdüm yasalarını meclisinden çıkardığında ilk günden beri AB’nin içinde olan bir ülke ile aynı toplumsal pratiğe ulaşmış olmaz. Ancak onun altyapısı temin edilmiştir. Zaman, eksik olan toplumsal pratiğin kazanılmasını sağlar – deneyimleyerek!

Benzer bir “deneyimleme” gereksinimi yapay zeka için de geçerlidir. Bunun için de en “liberal” başlama noktası toplumun mevcut pratiğidir. O nedenle “makine öğrenme” adıyla geliştirilmiş olan algoritmalar mevcudu baz alır. Oysa daha “devrimci” model, “ideal”e yakın teorik veri setini baz alabilir. Bunu baz alacak bir makine öğrenme algoritması geliştirmek de yanlış olmaz! Ancak böyle bir algoritma “önyargı”ya daha açıktır ve balı tutanın parmağını yalamayacağını varsaymaktan başka bir sigortası yoktur! Dünyanın içinden geçmekte olduğu gerçek-ötesi (post-truth) devirde parmağını yalamayacak kaç tane şövalye kaldı?

Herkese Bilim Teknoloji Dergisi; “Dijital Kültür” Köşesi (Sayı 234 18.09.2020)