Yapay zekalar çöktü, bütün işleri insan zekasıyla yapıyoruz!

Bu kez OpenAI vesile oldu. Artık klasikleşmiş o karikatürü anmaya. Internet öncesi dönem. Ofislerde kişisel bilgisayar var ama internet olmadığı için “kaytarma” imkanları sınırlı. Windows işletim sistemiyle gelen birkaç basit oyun. Bilen bilir bir tanesi fal açıyordu. Adı Solitaire. Bilgisayar başında oturan kadın ofis çalışanı bir yandan iskambil kağıtlarını masaya yaymış, fal bakıyor diğer yandan da telefondaki arkadaşına durumu izah ediyor: “Sistemler çöktü; bütün işleri elle yapıyoruz!”

Geçtiğimiz günlerde ChatGPT sistemleri çöktü. İşlerin insan zekasıyla yapılması gerekti. OpenAI firması sistemlerin neden çöktüğü konusunda bir açıklama yapmadı. Ancak paylaştıkları mesajlarda anlık olarak ne yapmakta olduklarını açıkladılar. Bir saat içinde sorunun kaynağını buldular sonraki üç saat içinde de çözüm ürettiler.

ChatGPT’nin ücretsiz, anlık internet erişimi olan versiyonuna durumu sorduğunuzda ortaya karışık salata kıvamında cevap çıkmakta. Geçen haftaki olayla geçen sene Kasım ayında yaşanan olayın detaylarını birleştirip, sorunun kaynağı olarak klasik DDoS saldırısını göstermekte. Oysa DDoS saldırısı geçen haftaki sorunun değil, Kasım ayındaki sorunun bilinen sebebi. Geçen haftaki sorun olasılıkla aşırı yüklenmeyle ilgiliydi.

Anlık internet erişimi olmayan GPT-4’e aynı soru sorulduğunda o daha asil bir cevap vermekle yetiniyor. Benim diyor anlık internet erişimim yok, o nedenle bu tür sorulara cevap verecek durumda değilim.

Makro açıdan bakıldığında “haddini aştığında” bir yapay zekâ sisteminin düğmesine basılıp ya da fişinin çekilip kapatılması olası bir çözüm olarak düşünülebilir belki. Peki bu tür durumlarda ne olacak? Dünyada pek çok kurum ya da kişi günlük ticari işlerini bile ChatGPT gibi yapay zekâ imkanlarına güvenerek yaparken. Sistemin beklenmedik bir şekilde çökmesi. Tolerans gösterilecek bir durum değil.

Felaketin üçüncü boyutu. Önce ofislerdeki bilgisayarların çökmesi irili ufaklı felakete neden oluyordu. Sonra internet çıktı. Cihazlar internete bağlandı. Bu kez internet erişimlerindeki çökmeler felaket kaynağı oldu. Şimdi sıra yapay zekaya geldi.

Öte yandan bu kabuk değiştirme, felaket ile karşılaşma riskini azaltmadı; tersine artırdı. Şimdi hem cihaz bozulmayacak hem internet erişimi kesilmeyecek hem de yapay zekâ ayakta olacak! Üç boyutlu dijital felaket!

Internette kesinti ve kaynağı ile ilgili sınırlı haberlerin çıkması işin bir başka boyutu. OpenAI X-olmuş-Twitter’dan konuyla ilgili yaptığı paylaşımları ilerleyen günlerde sildi bile. Sanki böyle bir olay olmamış gibi. Çok isteyen firmanın web sitesine gidip ilgili sayfayı bulursa birkaç tümcelik açıklamaları görebiliyor. Pasta büyük. Elbise bembeyaz. Lekelenmemesi gerek.

Komplo teorisyenlerinin aşı ve çip olayını bırakıp YZ’ye odaklanmaları da söz konusu. Acaba OpenAI ne kadar yüksek bir taleple karşı karşıya oldukları konusunda yatırımcıları ikna etmek için bu tür senaryolara bel bağlıyor olabilir mi? İlginç teorilerden birisi de Google Gemini yapay zekâsı ile ilgiliydi. GPT ve ondan beslenen büyük yapay zekalar olasılıkla aşırı yüklenme nedeniyle erişilemez hale gelince Google, Gemini’ı sorunsuz çalıştığı halde güya bile bile kapatmış; onu da erişilemez kılmış. Neden? Gemini’ın da aşırı kullanılıyor olduğu izlenimi yaratmak için!

Herkese Bilim Teknoloji Dergisi; “Dijital Kültür” Köşesi (Sayı 426 13.06.2024)

Facebook, eski çalışanının dediği gibi, ahlaken iflas etmiş bir şirket mi?

Eski Facebook çalışanı Frances Haugen, geçen hafta ABD Meclisi’nde verdiği ifadede Facebook için bu ifadeyi kullandı: Ahlaken iflas etmiş bir şirket! Bunun temelinde yatan şey ise şirketin kar etmek söz konusu olduğunda öteki hiçbir toplumsal olguya duyarlı davranmaması. Örneğin nefret söylemi, örneğin dezenformasyon! Eğer nefret söylemi ya da dezenformasyon şirketin daha çok para kazanmasını sağlıyorsa, Haugen’e göre Facebook’un anlayışı, bırakın isteyen istediğini söylesin şeklinde. Hele söz konusu içerik İngilizce’den başka bir dildeyse (örneğin Türkçe) neredeyse hiçbir denetim ya da uyarı mekanizması yok!

Bir başka etken ise bu tür içerik kontrolü yapacak personel sayısının yetersiz olması! Anlaşılan Facebook’un öz değerlerinden birisi de ünlü insanların hata-yanlış yapmayacağı, yalan-dolan şeyler paylaşmayacağı inancı. Çünkü ünlülerin içeriklerine karşı hiçbir filtreleme yapmadıkları da Haugen’in tespitlerinden birisi. Haugen’e göre 2018 yılında şirketin kullandığı algoritmalarda yapılan değişiklikler içerikteki bu kırılganlığın temel sebebini oluşturuyor.

Haugen, Instagram ile ilgili de ilginç şeyler söylüyor. Facebook’un satın almış olduğu uygulamalardan birisi olan Instagram’ın özellikle ergenlik çağındaki kızları olumsuz yönde etkilediği tespit edilmiş ancak hasır altına itilmiş bir gerçek!

Tabii bunlar ispat edilmeye muhtaç iddialar. Beklenen ise konunun uzmanı nesnel bir ekip tarafından ortaya atılan bu iddiaların araştırılması ve sonuçlarının paylaşılması. Oysa Haugen’in de altını çizdiği gibi Facebook’un “kötü” özelliklerinden birisi de “şeffaf” olmaktan sürekli kaçınması. En son birkaç ay önce şeffaflık konusundaki duruşlarını araştırsınlar diye davet ettikleri akademisyenlere sundukları verilerde bile şeffaflık göstermedikleri ortaya çıkmadı mı?

Eski çalışanın mecliste ifade vereceği gün ne ilginçtir, Facebook troykası (Facebook-Instagram-WhatsApp) altı saatlik bir kesintiyle sarsıldı. 2019’dan beri Facebook’un karşı karşıya kaldığı en büyük kesinti (2019’daki kesinti 24 saat sürmüştü). İlk başlarda bir siber saldırı şüphesinden bahsedildi ancak daha sonra konunun Facebook’un veri merkezleri arasındaki iletişimi sağlayan konfigürasyonların bozulmasından kaynaklandığı bildirildi. Yazınca basit görünen bu teknik hata çözülmesi oldukça dertli bir süreç. Öyle ki firma ülkenin bir ucundan diğerine veri merkezlerindeki bilgisayarları ayağa kaldırmak için uzman taşımak zorunda kaldı.

Bu kesinti sürerken bir ara Facebook.com alan-adının birkaç dakikalığına da olsa sahipsiz, satın alınabilir statüye düştüğü haberi (ve ekran görüntüsü) interneti dalgalandırdı. Hatta Twitter’ın sahibi Jack Dorsay, şaka yollu, fotoğrafı retweet edip “Kaça?” diye sordu. (Meraklısına not: Böyle bir durumda birisi o alan adını satın alsa bile, birkaç saat sürecek yasal bir süreçten sonra alan adı asıl sahibine iade ediliyor – o nedenle kaçan büyük bir balık yok!)

Görünen o ki eskiden madde bağımlılığının birey üzerindeki yıkıcı etkileri şimdilerde Facebook gibi sorumsuz sosyal medya siteleri aracılığıyla ortaya çıkıyor. Önceliği farklı, kötü niyetli şirket sahipleri-yöneticileri-yatırımcıları, güzel bir kavramın daha (anlık dijital etkileşim) içine etmek üzereler! Doğudan batıya, kuzeyden güneye! Değişen bir şey yok! Eline gücü geçiren, diğerlerine zulmediyor!

Herkese Bilim Teknoloji Dergisi; “Dijital Kültür” Köşesi (Sayı 290 14.10.2021)

Türkiye, bankacılık altyapısında ABD ve AB dahil dünyada pek çok ülkenin önündedir!

Geçtiğimiz günlerde Türkiye’nin önde gelen bir özel bankasında yaklaşık 48 saat süren kesinti yaşandı. Bu süre boyunca bankanın hiçbir kanalından (şube, ATM, internet, mobil) bankacılık işlemi yapılamadı. Kesinti süresi uzadıkça her şeyi bilen (!) sosyal medya kullanıcıları siber saldırı olasılığından dem vurmaya başladılar. Hatta bazıları “dijital karaborsa”da birkaç bin dolara satışa çıkarıldığı söylenen müşteri bilgilerini buna delil gösterdi. Teknolojik altyapı kaynaklı problem çözüldüğünde geriye “gerçeğin çölü” ile fantezinin renkli olasılıkları kaldı.

Meslek hayatımın otuz yılı bankaların bilgi teknoloji bölümlerinde geçti. Yazılım, sistem, destek tüm süreçlerde görev aldım; üst düzey yöneticilik yaptım. Bir bankanın bilgi işlem altyapısının ne kadar karmaşık olduğu konusunda yeterince deneyimim var. Öncelikle şunu tespit etmeli; bu denli karmaşık ve tedbirli altyapılarda bile bu tür teknik sorunların çıkması her daim olasıdır. Her gün irili ufaklı pek çok sıkıntılı durum söz konusu olur ve giderilir. Kimi zaman ise sıkıntı bu örnekteki gibi ciddi bir probleme dönüşebilir.

Türkiye bankacılık teknolojilerine seksenli yıllardan itibaren yatırım yapmaya başladı. Günümüzde ABD ve AB dahil dünyadaki pek çok ülkenin önündedir. Teknoloji yatırım yolculuğuna erken başlayan bankalar bugün dördüncü hatta beşinci kuşak bankacılık altyapılarını kullanıyor. Ancak bankacılık altyapısını oluşturan tüm bileşenlerini dördüncü, beşinci kuşağa dönüştürebilmiş değiller. En kritik görevleri yapmak üzere atanmış olan ana bilgisayar sistemleri bazı öncü bankalarda hala birinci ya da ikinci kuşak mimaride çalışmakta. Bunlar siyah-beyaz fotoğraflardan anımsanacak, koca odalara ancak sığabilen büyük boy (mainframe) bilgisayar sistemleridir. Bu bilgisayarlar devasa birer transatlantik gibidir. Anormal durumlarda manevra yapmaları zaman ister. Alternatif olarak kurulmuş olan ikincil sistemlere geçmek ise kâğıt üzerinde olası görünür ancak pratikte kaynaktaki problemi çözmeye göre kıyaslandığında daha pahalıya patlayabilir – hem zaman hem de veri tutarlılığı açısından!

Önce PC devrimi sonra da internetle gelen bulut bilişim devrimi ortalama bir kullanıcının zihninde hatalı bir imaj oluşturmuş durumda. Kilitlenen bir laptopu aç-kapa yapıp birkaç dakika içinde çalışır hale getiren kişi bankacılık gibi kritik misyonu olan altyapılardaki sorunların da bir parmak şaklatmakla çözülebileceğini düşünüyor. Oysa bu çok meşakkatli bir süreçtir.

Bu tür altyapılarda çalışan bilgi işlem personeli olmak emek ve özveri ister. Özellikle de gecesi-gündüzü belli olmayan ve tüm dijital altyapıyı (bilgisayarları, iletişim ağlarını vd.) 7×24 ayakta tutmaktan sorumlu “sistem destek” ekipleri için. On sene, yirmi sene yılın her günü sistemi ayakta tutarlar ama bir teşekkür bile almazlar. Ancak sistem bir gün çalışmasa her türlü eleştiriye maruz kalırlar. Doğru olup olmadığı tartışılır, ama pratikteki durum bu!

Sorunu çözen teknoloji ekibi şu anda sadece Türkiye’de değil tüm dünyada bu alandaki en tecrübeli ekip oldu. Ortalık sakinleştikten sonra oturup bir vaka analizi çalışması yapıp süreci ayrıntılarıyla inceleyeceklerdir. Umulur ki bu deneyime sahip ekipten gerek kurum gerekse de ülkemiz azami ölçüde istifade etsin; yapısında hala eskimiş mimari bileşen bulunanlar da bu vesileyle onları yenileriyle değiştirmeyi değerlendirmeye başlasın.

Herkese Bilim Teknoloji Dergisi; “Dijital Kültür” Köşesi (Sayı 278 22.07.2021)