Dijital postacı da kapıyı iki kere çalar mı? Yoksa bir kere “kötü” damgası yiyen bireyin yapay zeka (gözetleme) sistemleri nezdinde kendini aklaması imkansız mı (olmalı)?

Ranker.com sitesine göre en popüler on bilim kurgu dizisinden birisi de Person of Interest. Dizinin başrol oyuncularının başında tanıdık bir sima var. Lost dizisinde adadaki deneyleri yapan ekibin lideri Ben Linus rolündeki Michael Emerson! Person of Interest dizisi ise güvenlik ve yapay zeka konuları çevresinde gelişen polisiye bir dizi. Buna göre 11 Eylül saldırılarından sonra bir yazılım firması ABD hükümeti için özel bir yapay zeka yazılımı (“Makine”) geliştiriyor. Bu yazılım dijital iletişimi, veritabanlarını ve güvenlik kameralarını kullanarak tüm ülkeyi “izliyor” ve devlete karşı terör eylemleri yapmaya kalkan teröristleri tespit etmeye çalışıyor.

O arada aynı yazılım her ne kadar gündelik adi suçlu ya da mağdurları da önceden belirlese de devlet bunlara önem vermiyor. Ancak bunlara önem veren birileri var. Yazılım ile iletişim içinde olan yaratıcısı Harold Finch (M.Emerson). Bir kaç kişilik özel bir ekiple, zaman zaman polisten de destek alarak bu adi suçluları yakalamaya çalışıyor.

Olaylar dizi ilerledikçe başka bir boyuta evriliyor. Bir yandan devletin yasadışı olarak vatandaşlarını gözetlediği ortaya çıkıyor ve yazılımın kapatılmasına hükmediliyor, diğer yandan ise benzer başka bir yapay zeka yazılımı (“Samaritan”) özel bir şirketin eline geçiyor. Bu şirket yazılımı ABD hükümetine satmak yerine kiralıyor. Bu sayede ortaya çıksa bile hükümet böyle bir yazılıma sahip olmadığını açıklayabilecek. Ancak bu ikinci yapay zeka yazılımı ilkinden farklı bir eğilime yöneliyor. Daha çok insanın kurtulması için bazı insanların feda edilmesini mübah sayan bir anlayışa sahip.

Dizide etik bir tartışma da dolaylı yoldan alevlenmeye başlıyor. Böyle bir yapay zeka olmalı mı? Örneğin kamuoyu desteğini artırmak için ABD başkanına bir suikast düzenlemek kabul edilebilir mi? Senatöründen sokaktaki vatandaşına kadar kitlelerin tepkisi benzer. Şahsen bana bulaşmadığı sürece güvenlik için ne gerekiyorsa yapılabilir!

Dizide laf dönüyor dolaşıyor bu tür bir yapay zekanın otonomisi olmalı mı sorusuna geliyor. Kendisi uygun gördüğü taktirde insanları, tek tek veya kitlesel olarak imha edebilmeli mi? Yoksa bugün de pek çok bilim insanının savunduğu gibi yapay zeka her ne kadar ileri düzeyde veri analizi yapsa da günün sonunda insanlığın emrindeki tipik bir yazılım seviyesinde mi kalmalı?

Kötü insanların varlığına rağmen geliştirilecek ileri düzeyde bir yapay zeka yine de iyiliği elinden düşürmemeli mi? Pragmatik bir yaklaşım sergileyerek, gerekirse kötü sonuçlarla bitecek kararlar da vermeli mi? Bir kere kötü yola sapmış bir insanın ikinci bir şansı olmalı mı, yoksa kesinlikle topluma bir tehdit olarak mı damgalanmalı?

Yeryüzü kültüründe bugün hala iyi veya kötü olmanın ötesinde bir insanın, sadece insan olduğu için yaşama hakkı var. Peki gelecekte bu türden yapay zeka yazılımları kısmi dahi olsa yetkiyi eline aldıklarında o yetki alanı içinde karar verirken insana insan olduğu için müsamaha gösterecek mi? Göstermeli mi? Tuzu kuru olduğu müddetçe her birey müsamaha gösterilmemesini isteyecektir. Ta ki kader onun kapısını çalana dek!

Herkese Bilim Teknoloji Dergisi; “Dijital Kültür” Köşesi (Sayı 172 – 12.07.2019)