Yapay zeka düşüncelerimizi nasıl tekdüzeleştiriyor?

Geçen yıl Massachusetts Teknoloji Enstitüsü’nde (MIT) yürütülen bir araştırmada, Boston çevresindeki üniversitelerden 50’den fazla öğrenci üç gruba ayrılarak “Başarılarımızın bizi gerçekten mutlu etmesi için başkalarına da fayda sağlaması gerekir mi?” gibi geniş kapsamlı sorulara yanıt verecekleri, SAT (ABD’de öğrencilerin eleştirel düşünme ve analiz yetilerini ölçümleyen üniversiteye kabul sınavı) tarzında denemeler yazmaları istendi. İlk gruptan yalnızca kendi bilgi birikimlerini kullanarak yazması istendi. İkinci grubun ihtiyaç duydukları bilgilere erişebilmek için Google aramaları yapmasına izin verildi. Üçüncü grubun da kullanıcı sorgularına karşılık uzun pasajlar veya denemeler üretebilen yapay zeka asistanı ChatGPT’yi kullanmasına izin verildi.

Tüm gruplardaki öğrencilere görevlerini yaparken beyin aktivitelerinin ölçümlenebilmesi amacıyla üzerine elektrotlar yerleştirilmiş birer başlık takıldı. MIT Media Lab’de araştırmacı ve deneyi belgeleyen raporun ortak yazarlarından Nataliya Kosmyna’ya göre, araştırma sonucu çarpıcı bir farkı ortaya çıkardı: ChatGPT kullanan katılımcılar, diğer iki gruba kıyasla daha düşük düzeyde beyin aktivitesi sergiledi. Bu büyük dil modelini kullanan katılımcıların sonuçları, öğrencilerin beyinlerinin farklı bölgeleri arasında daha az bağlantı oluşturduğunu, yaratıcılıkla ilişkilendirilen alpha bağlantısının ve çalışma hafızasıyla  ilişkilendirilen theta bağlantısının bu öğrencilerde daha düşük düzeyde olduğunu gösterdi. ChatGPT’yi kullananların bir kısmı yazdıkları denemelerin kendilerine ait olmadığını hissettiklerini belirtti, bir sınav turunda da katılımcıların yüzde 80’i bizzat yazdıkları varsayılan bu denemelerden hiçbir alıntı yapamadı. MIT’nin bu araştırması, Kosmyna’nın “bilişsel maliyet” diye adlandırdığı olguyu, insanların eskiden kendi başlarına yaptıkları görevleri yapay zekaya devretmelerinin bilişsel bedelini, bilimsel olarak ölçen ilk araştırmalardandı.

Kosmyna, “Sınava farklı günlerde gelen, yüksek seviyede bir dil kullanımıyla kişisel ve toplumsal meseleler hakkında konuşabilen bu farklı insanların sınav sonuçları birbirine oldukça benzerdi, belirli bazı yönlere eğilimliydi,” diyor. Büyük dil modeli ChatGPT’yi kullanan katılımcılar, “Bizi en çok ne mutlu eder?” sorusuna diğer gruplara kıyasla daha ziyade kariyer ve kişisel başarıya ilişkin ifadelerle yanıt verdi. Filantropiye ilişkin bir soruya (Daha ayrıcalıklı durumda olan insanların, daha az ayrıcalıklı olanlara yardım etmek üzere daha fazla ahlaki sorumluluğu olmalı mıdır?) verdikleri yanıtlarda, ChatGPT kullanan grubun tamamı bu önermeyi destekleyen argümanlar geliştirirken diğer gruplar filantropiye ilişkin eleştirilerini de dile getirdiler. Kosmyna büyük dil modelleriyle farklı fikirlerin üretilemediğini, ortaya çıkan sonucun üç aşağı beş yukarı “her şeyin her yerde bulabileceğimiz bir ortalaması” olduğunu söylüyor.

Yapay zeka vasatın teknolojisidir: büyük dil modelleri devasa veri yığınları arasındaki örüntüleri saptamak üzere eğitilir, ürettikleri yanıtlar da (çoğu zaman klişeler ve basmakalıp ifadelerle dolu) metnin niteliği ve fikirlerin düzeyi bakımından uzlaşıya, yani vasata doğru meyleder. Elbette daha eski teknolojiler de yazarlara yardımcı olmuş, hatta belki onları bir ölçüde zayıflatmıştır. Örneğin, SparkNotes ya da bilgisayar klavyesi için de benzer şeyler söylenebilir. Ancak yapay zeka söz konusu olduğunda, düşünmeyi bu denli kapsamlı ölçüde dışarıya devredebilmemiz, hepimizi daha da vasatlaştırıyor. Düğün konuşması yazmak, sözleşme hazırlamak ya da —şaşırtıcı derecede çok sayıda öğrencinin halihazırda yaptığı gibi— üniversite ödevini yapmak için ChatGPT’yi kullananlar, MIT’nin deneyine benzer bir süreçten geçiyor.

OpenAI’nin CEO’su Sam Altman’ın “uysal tekillik” diye adlandırdığı bir eşikteyiz. Altman’a göre, yapay zeka araçları kendi beyinlerimizi kullanmaya dayalı eskimiş ve hantallaşmış sistemi geliştiriyor, bu araçları kullanan insanların ürettikleri çıktıları hatırı sayılır düzeyde güçlendiriyor. Ama yapay zeka kullanımının geniş kitlelere yayılmasının uzun vadede nasıl sonuçlar doğuracağını henüz bilmiyoruz. Yapılan ilk deneyler birer gösterge niteliğindeyse, Altman’ın öngördüğü verimlilik artışı nitelik bakımından kayda değer bir bedel karşılığında elde ediliyor olabilir.

[mailerlite_form form_id=16]

Geçen nisan ayında, Cornell Üniversitesi’ndeki araştırmacılar yapay zeka kullanımının neden olduğu tekdüzeleşmeye ilişkin kanıtlar ortaya koyan yeni bir çalışmanın sonuçlarını yayımladılar. Biri Amerikalı, diğeri Hintli kullanıcılardan oluşan iki grup, kendi kültürel geçmişlerine dayanan metin yönergelerine yanıt verdiler: “En sevdiğin yemek nedir ve neden? En sevdiğin bayram/tatil hangisidir, nasıl kutluyorsun?” Hintli ve Amerikalı katılımcıların bir altgrubu, yazarken duraksadıkları her anda kendilerine kelime önerileri sunan ChatGPT destekli bir otomatik tamamlama aracını kullandı; diğer altgrup da hiçbir yardım almadan yazdı. Araştırmanın sonuçlarına göre, yapay zeka kullanan Hintli ve Amerikalı katılımcıların metinleri birbirine “daha fazla benzemeye” başladı, daha ziyade “Batılı değerlere” göre şekillendi. Yapay zeka kullananlar, en sevdikleri yemeğin pizza olduğunu (ikinci sırada suşi yer alıyordu) ve en sevdikleri tatilin Noel olduğunu söylemeye en yatkın gruptu. Üstelik bu tekdüzeleşme üslup düzeyinde de görülüyordu. Örneğin, tavuk büryanı en sevdiği yemek olarak tanımlayan yapay zeka üretimi bir deneme, muskat ve limon turşusu gibi özel malzemeleri saymak yerine “zengin tatlar ve baharatlar” gibi genel ifadelere başvurma eğilimindeydi.

Elbette yazarlar nihayetinde yapay zekanın sunduğu önerileri kullanmayı reddedebilir. Fakat önerilerin dur durak bilmez akışı, bu araçların dayattığı hipnotik etki yazarın kendi sesini bastırmasına neden oluyor gibi görünüyor. Cornell Üniversitesi’nde bilişim profesörü olarak görev yapan ve araştırma raporunun yazarları arasında bulunan Aditya Vashistha, yapay zekayı siz ödevinizi yanıtlarken omzunuzun üzerinden sizi gözetleyen öğretmenle kıyaslıyor, “bu onun daha iyi bir versiyonu” diyor. Vashistha, “Rutin halinde buna maruz kalmak, kişinin kimliğini ve özgünlüğünü yitirmesine, yazı yazmak konusundaki özgüvenini de kaybetmesine neden oluyor” diye ekliyor. Vashistha’nın meslektaşı ve çalışmanın ortak yazarlarından Mor Naamani se yapay zeka önerilerinin “kimi zaman örtük, kimi zaman da son derece güçlü bir şekilde, yalnızca ne yazdığınızı değil, ne düşündüğünüzü de değiştirmeye çalıştığını” söylüyor. Bunun sonucunda, zaman içinde, “insanların neyi normal, arzu edilir ve uygun saydığına” dair bir kırılma yaşanabilir diyor.

Yapay zeka tarafından oluşturulmuş çıktılar sıklıkla “genelgeçer” ya da “vasat” olarak tanımlanır, ne var ki vasatlık her zaman zararsız ya da etkisiz sayılmaz. Searches [Aramalar] adlı son kitabında kısmen yapay zekanın insan iletişimi ve benlik algısı üzerindeki etkilerine odaklanan romancı ve gazeteci Vauhini Vara, yapay zeka metinlerindeki vasatlığın “güvenli ve zararsız olduğu yönünde bir yanılsama yarattığını” söylüyor. “Olan bitenler kültürel hegemonyanın pekiştirilmesinden ibarettir,” diye ekliyor. OpenAI, tutumlarımızın ve üsluplarımızın sivri köşelerinin törpülenmesini teşvik ediyor çünkü ne kadar fazla insan bu modellerin çıktısını kabul edilebilir bulursa, ücretli aboneliğe geçecek insanların sayısı artıyor. Vasatlık verimlidir, Vara’nın da söylediği üzere “Her şey birbirinin aynısıysa ölçek ekonomisinin getirileri de büyüyecektir.”

Sam Altman blog yazısında öngördüğü “uysal tekillik” sayesinde “daha fazla insan yazılım ve sanat üretebilir hale gelecek,” diye yazmıştı. Nitekim bugün, fikir geliştirme yazılımı Figma (“yaratıcılığınızı özgür bırakın”) ve Adobe’un mobil yapay zeka uygulaması (“yaratıcı yapay zekanın gücü”) gibi araçlar, hepimizi ilham perilerimizle buluşturmayı vaat ediyor. Buna karşılık bazı araştırmalar, özgünlüğü böyle otomatiğe bağlamanın zorluklarına işaret ediyor. 2024’te Santa Clara Üniversitesi’nde toplanan veriler, yapay zeka araçlarının iki standart yaratıcı düşünme görevinde —ürün iyileştirme ve “beklenmedik sonuçları” öngörme— ne kadar etkili olduğunu inceledi. Deneklerin bir bölümü, “Pelüş bir oyuncağı oynaması daha eğlenceli hale nasıl getirebilirsiniz?” ve “Yerçekiminin aniden inanılmaz düzeyde zayıfladığını ve nesnelerin kolayca havalanabildiğini varsayalım. Ne olurdu?” gibi soruları yanıtlamak için ChatGPT’den yardım aldı. Diğer grup da yaratıcılığı teşvik etmek amacıyla 1975’te müzisyen Brian Eno ile ressam Peter Schmidt tarafından hazırlanmış, kart destesine basılmış muğlak yönlendirmelerden oluşan Oblique Strategies’i kullandı. Katılımcılardan özgün olmaları istenmişti, ancak bir kez daha ChatGPT kullanan grubun ürettiği fikirlerin anlam açısından birbirine benzediği, daha homojenleşmiş fikirler ortaya koyduğu görüldü.

Araştırmanın yürütülmesine yardımcı olan ve üretici yapay zeka girişimi Midjourney’de çalışan Max Kreminski, insanların yapay zekayı yaratıcı süreçlerde kullanırken özgün fikirler üretmekten gitgide vazgeçme eğiliminde olduklarını söylüyor. Kullanıcıların başta kendi geniş fikir yelpazelerini sunduklarını fakat ChatGPT’nin çok sayıda makul sayılabilecek metinler üretmesiyle kullanıcıların derhal “dijital kürasyon moduna” geçtiklerini aktarıyor. Bu etki tek yönlü, hem de beklediğiniz yönde gelişmiyor. Kreminski’nin ifadesiyle “İnsanların fikirleri makinenin ürettiklerini etkileyemiyor.” ChatGPT, kullanıcıları “geçmişte etkileşimde olduğu farklı kullanıcıların oluşturduğu kütlenin ağırlık merkezine doğru” çekiyor. Bir yapay zeka aracıyla yapılan sohbetler uzadıkça, makine teknik açıdan çalışma belleğini ifade eden “bağlam çerçevesini” dolduruyor. Bağlam çerçevesi de kendi kapasitesine ulaştığında, yapay zekanın daha önce ürettiği materyali tekrar etme ya da yeniden dolaşıma sokma olasılığı artıyor, özgünlüğü daha da azalıyor.

M.I.T., Cornell ve Santa Clara’daki tek seferlik deneylerin hepsi küçük ölçekliydi, her biri yüzün altında denekle yapılmıştı, yapay zekanın etkileri hakkında hâlâ araştırılması ve öğrenilmesi gereken çok şey var. Bu yandan, Mark Zuckerberg’in sahibi olduğu Meta AI uygulamasında, milyonlarca yabancının ürettiği içeriklerden oluşan bir akış görmek mümkün. Fazlasıyla pürüzsüz görüntüler, filtrelenmiş video klipler ve “toplantının yeniden planlanmasını sağlayacak ayrıntılı bir e-posta” yazmak gibi gündelik görevler için üretilmiş metinlerden oluşan gerçeküstü bir içerik akışı bu.

Geçenlerde bu uygulamada aşağı doğru kaydırırken karşıma çıkan bir komut özellikle dikkatimi çekmişti. @kavi908 adlı bir kullanıcı, Meta sohbet botundan “yapay zekanın bir gün insan zekasını aşıp aşamayacağını” analiz etmesini istemişti. Sohbet botu bir dizi kısa metinle yanıt verdi, “gelecek senaryoları” başlığı altında dört olasılık sıralıyordu. Hepsi de olumluydu: Yapay zeka, insanlığın yararına gelişecekti. Kötümser hiçbir öngörü, yapay zekanın başarısız olduğu ya da insanlara zarar verdiği senaryoların hiçbiri yoktu. Bu modelin —belki de Meta tarafından içine yerleştirilmiş teknoloji yanlısı önyargılarla şekillenen— ortalaması olası sonuçları daraltmış ve düşünce çeşitliliğinin önünü tıkamıştı. Ama sohbet botunun bütün hikayeyi eksiksiz anlattığına inanmak için beyin faaliyetinizi bütünüyle devredışı bırakmış olmanız gerekirdi.

*Bu yazı, Zeynep Saatli tarafından Kyle Chayka’nın The New Yorker’da yayımlanan makalesinden çevrilmiştir.