Doğaçlama yeteneği halüsinasyon görmekten mi geçiyor?

Bill Gates’in Unconfuse Me! adlı podcast serisinin yeni konuğu OpenAI’dan Sam Altman idi. Altman’ın fazla detaya inmeden değinip geçtiği bir husus da son dönemin popüler yapay zekâ olgularından birisi: Yapay zekanın halüsinasyon görme durumu! Yapay zekanın halüsinasyon görmesi giderek popülerliğini artırıyor. Aralık ayında Cambridge Üniversitesi Sözlüğü “halüsinasyon görmek” anlamına gelen (hallucinate) sözcüğünü 2023 yılının kelimesi seçmişti. İnsanın halüsinasyon görmesi tamam da yapay zekanın halüsinasyon görmesi ne demek?

Temel olarak yapay zekanın bir dizi yalan-yanlış bilgiyi kendi içinde tutarlı bir bütün olarak sunmasına yapay zekanın halüsinasyon görmesi deniyor. Örneğin “Messi kimdir?” diye sorulan bir soruya, “Messi, Türk milli takımının en gözde futbolcusudur. Uzun yıllar Fenerbahçe’de forma giymiş, dört kez üst üste gol kralı olmuş, Fenerbahçe ile üç lig, dört kupa şampiyonluğu kazanmıştır” diye cevap veren bir yapay zekâ halüsinasyon görüyor demektir.

Evet Messi bir futbolcu ama Türk değil. Ne Türk milli takımında ne de Fenerbahçe’de forma giymişliği var. Lig, kupa şampiyonlukları kazandı, gol kralı oldu ama bu başarıları Fenerbahçe forması altında Türkiye Süper Ligi’nde elde etmedi. Yapay zekâ atıyor ama destekli atıyor. Kalkıp da Messi’nin ünlü bir İspanyol ressam ya da İranlı ünlü bir şair olduğunu iddia etmiyor. Doğrular (futbolcu olması, gol kralı olması, şampiyonluklar kazanmış olması) ile yanlışlar (Fenerbahçe, Türkiye) birbirine girmiş durumda. Ama mantık hatası yok. Messi’nin gerçek dünyadaki izlerinden haberi olmayan, ama futbolu bilen birisi, bu açıklamayı okuduğunda içeriğin doğruluğu hakkında tereddüt etmeyebilir.

Benzer bir husus kişinin hiç bilgisi olmadığı bir alanla ilgili sorduğu sorular için de geçerli. Bu durumda o kişinin yapay zekanın verdiği cevapların doğruluğunu teyidi etmesi mümkün olmayacaktır; cevap tutarlı görünse bile! Doğruluk teyidi alan bilgisi gerektirmekte. Konu hakkında bilgi sahibi olmayan yapay zekanın halüsinasyon görüp görmediğini tespit etmesi zor!

Altman’ın değinip geçtiği husus “halüsinasyon” diyerek şirinleştirilen bu durumun farklı bir sürece işaret ettiği. Özellikle de yapay zekâ geliştiricileri için. Altman, GPT’nin bu halini halüsinasyon görmek olarak değil de “doğaçlama” yapmak olarak nitelendiriyor. Anlaşılıyor ki OpenAI’daki uzmanlar, GPT’nin biraz doğaçlama yapmasını olanaklı kılmışlar. Bakalım ne tür cevaplar verecek ve insanların buna reaksiyonu nasıl olacak diye bir tür sosyolojik deney yapıyor olabilirler.

Sahi bu durum insandaki doğaçlama ile kıyaslanabilir mi? İnsandaki doğaçlama bilinen bir doğru yerine alternatif doğrular üretmek değil (o post-truth). O nedenle doğaçlama örneğin matematikte değil de müzikte yapılınca anlam kazanıyor. Yoksa iki kere iki her yerde dört (belki Kayseri hariç)!

Fransa’nın başkenti Lyon’dur diyen yapay zekaya şimdilik “halüsinasyon görme, doğru dürüst cevap ver” diye tepki gösterilecek olsa da buradan yola çıkan yapay zekanın gelecekte nerede doğaçlama yapması gerektiğini öğrenip, cevaplarını ona göre hazırlayacak olması imkânsız değil! İnsanlar yapay zekâyı incir çekirdeğini doldurmayan soru(n)ları için kullanırken, yapay zekâ da insanları kendilerini rafine etmede kullanıyor. Ne demişti 216 “İnsan olmaya geldim, Arif!”

Herkese Bilim Teknoloji Dergisi; “Dijital Kültür” Köşesi (Sayı 407 25.01.2024)

Whatsapp’tan Telegram’a dijital göç yağmurdan kaçarken doluya tutulmak anlamına gelmesin!

8 Ocak Cuma gecesi ve onu takip eden hafta sonu boyunca Türkiye büyük bir dijital göçe tanıklık etti. Whatsapp’ın “malumun ilanı” şeklindeki yeni kullanım şartlarını kabul etmediği taktirde erişimin engelleneceğini öğrenen kullanıcılar akın akın Telegram’a geçmeye başladı. Akla en son gelecek soruyu başta sormalı: Bunun sebebi mahremiyetin ihlali miydi yoksa bitecek olan bir bedava hizmetten devam etmekte olan bir bedava hizmete sıçramak mı?

Konu mahremiyet ile ilgili olabilir. Belki de pek çok kullanıcı Whatsapp’ın bugüne dek zaten bu türden bir veri transferini gerçekleştirdiğini bilmiyordu. Whatsapp yenilediği şartname ile daha sonra “yok ben duymadım, yok ben bilmiyordum” denmesinin önüne geçmek istemiş olabilir. Bireysel kullanıcılar farkında olmasa da Türkiye’yi rahatsız eden bir çifte standart var. GDPR yasasına sahip AB’de “kabul etmiyorum” diyen bir kullanıcı Whatsapp kullanmaya devam edebilecek. Ancak GDPR benzeri KVKK yasasına sahip Türkiye’de kabul etmiyorum diyenler 8 Şubat’tan itibaren kullanamayacak! Mark Bey’e anımsatmak lazım: Türkiye bir dijital muz cumhuriyeti değildir! (Türkiye’de Rekabet Kurumu ve KVK Kurulu konuyla ilgili iki ayrı soruşturma başlattı ve ihtiyaten hizmetin kesintiye uğratılması uygulamasını askıya aldı).

Dijital dünyada altın kuralı anımsamak gerek: Sunulan mal/hizmet bedavaysa asıl mal/hizmet durumuna düşürülen onu kullananlardır. Bu genel yaklaşımın her durum için geçerli olmayabileceğinin altını çizmekte fayda var. Bir kurum ya da kuruluş bugün ve gelecekte kar amacı gütmek ya da istihbari bir işlev görmek amacıyla kurulmamışsa, onun kullanıcıları da mal/hizmet yerine konulmuş olmaz!

Whatsapp’ın haberi yayılınca göçün büyük bir kısmı Rus menşeili Telegram uygulamasına doğru gerçekleşti. Nispeten marjinal kalan bir kısmı ise Elon Musk’ın da işaret ettiği Signal uygulamasına. Fiili durum bir kenara teknolojik altyapısına bakıldığında Telegram’ın Whatsapp’a yakın özellikler taşıdığı görülecektir. Yani teorik olarak aynı mahremiyet ihlal potansiyeli Telegram’da da mevcut. Signal’in burada biraz daha avantajlı duruma geçme nedeni açık kaynak kodlu bir uygulama olması. Yani bugün Signal uygulamasını oluşturan yazılımın tamamını dileyen internet üzerinden indirip, içinde ne var ne yok inceleyebilir. Tıpkı hijyeniyle övünen bir restaurantın mutfağını müşterilerine açması gibi. Bu da şu anlama gelmektedir: Saklayacak bir şeyleri olsa (örneğin öyle söylemedikleri halde verileri bir yere aktarıyor olsalar) kodları açmazlardı. Çünkü normal kullanıcı kodlardan bir şey anlamaz ama yazılım uzmanları kodu didik didik edip varsa o gizli özellikleri bulabilir.

Türkiye’nin soruşturma hamlesinin sonucunda belki de Whatsapp geri adım atacak ya da ülkeden toptan çekilecek (ya da eski yoğunlukta kullanılmayacak). Ancak bireylerin de yağmurdan kaçarken doluya tutulmaması gerekir. Gönül ister(di) ki göğsünü gere gere ortalıkta dolaşan yerli uygulamalarımız olsun. Onları kullanalım ve bu sayede verilerimiz başka ülke firmalarının veritabanına gitmesin! Ama o arada (özellikle güven tazeleme gereksiniminde olan kamu kurum ve kuruluşlarının) kolayca erişebileceği kırılganlıkta da olmasınlar! Bu kategoride geliştirilmiş mevcut yerli yazılımlar uzmanların değerlendirmesine göre mahremiyet açısından Whatsapp ya da Telegram ile aynı kategoride. O nedenle bekleyip görmek lazım!

Herkese Bilim Teknoloji Dergisi; “Dijital Kültür” Köşesi (Sayı 252 22.01.2021)