Yapay zekâ ekonomik, kültürel ve politik şartların tümünü yıkacak bir tsunamidir

SÖYLEŞI: SERDAR BİLİR

ÇEVIREN: HÜDANUR AKKUZU

Yapay zekânın geçmişi, bugünü ve geleceği hakkında neler söylemek istersiniz? Yakın tarihe bakarsanız, yapay zekâyı ilk olarak nerede görüyoruz?

Söz konu eğer yapay zekâ ise zaman anlamında geçmiş zaman, şimdiki zaman ya da gelecek zaman şeklinde geleneksel bir ayrım yoktur; zaman ve tarihî bölünmeler, şaşırtıcı şekillerde birbirine bağlanırlar, birbirleriyle kesişirler, iç içe geçerler ve bazen çatışırlar. Yapay Zekâ Kültürü kitabımda, Talos of Crete gibi Yunan mitlerinde yer alan düşünce makinelerinden, Mary Shelley'in Frankenstein'ında robotların, siborgların ve androidlerin edebi ve sinematik görüntüleri aracılığıyla İsmail El Cezeri'nin Olağanüstü Mekanik Araçların Bilgisi Hakkında kitabından yola çıkarak izini sürdüğüm "teknolojik bir kesinliğin hayalleri" üzerinde durmaya çalıştım. Yakın tarihe gelince - özellikle benim ‘algoritmik modernite' olarak adlandırdığım "şu anda ve burada olmak"- yapay zekânın, Amazon sitesinden bir ürün tavsiyesi almaktan, Uber üzerinden taksi çağırmaya; sanal kişisel asistanlardan bilgi almaktan, sohbet robotlarıyla konuşmaya kadar günlük hayatta yaptığımız her şeyi etkilediğini görmek çok önemlidir. Otomatikleştirilmiş akıllı makineler, gelişmiş robotik, hızlandırılmış otomasyon, büyük veriler ve "her şeyin interneti", hem günlük yaşamı hem de modern kurumları kökten dönüştürüyor. Yapay Zekâ Kültürü kitabımda ben, yapay zekânın bu küreselleşme sürecinden "teknolojik tsunaminin habercisi" olarak bahsettim.

İnsanlar dijital yaşama adapte olmak zorunda mı? Yoksa bizler için başka bir dünya mümkün mü?

Kısa cevap: Evet. Ancak bu gerçekten bir "seçim" olarak kabul edilemez; kadın olsun erkek olsun tüm insanların günümüzün dijital hayatını yaşamayı seçmekten başka seçeneği yok. 4,5 milyardan fazla insan- dünya nüfusunun neredeyse % 60'ı - şu anda çevrim içi ve dijital etkileşimler, kaynakları oldukça sınırlı olanları bile giderek daha fazla etkiliyor. Buna rağmen, dijital yaşam daha da derinleşmekte. İnsanlar bilsin ya da bilmesin, yapay zekâ devrimi yeni bir "protokolojik altyapıyı" ortaya çıkarıyor: Bu, havalimanı kapılarının otomatik olarak açıldığı (ya da açılmadığı), kredi kartı işlemlerinin etkinleştirildiği ya da reddedildiği ve çevrimiçi hizmet sağlayıcılardan kişiselleştirilmiş önerilerin gönderildiği bir tür teknolojik arka örtüdür. Dijitalleşme, dünya çapında sosyal ilişkileri, üretimi, tüketimi, iletişimi, seyahati, ulaşımı ve gözetimi düzenler ve yeniden düzenler.

Yapay Zekâ Kültürü'nde, "teknolojik protokolojik altyapıyı" yapay zekânın görünmezliği dediğiniz şeye bağlıyorsunuz. Peki, bununla ne demek istiyorsunuz ve bu neden önemli?

Bugün, sohbet robotları ve sürücüsüz arabalar gibi yapay zekâ atılımlarına büyük bir hayranlık duyuluyor. Yine de çok az insan yapay zekânın gerçekte nasıl işlediğini ve dünyayı kendi gözlerinin önünde değiştirdiğini anlıyor. Bu bizi temel bir sosyolojik soruna götürür: Yapay zekâ, elektrik gibi görünmezdir. Sihrini perde arkasında çalıştıran genel amaçlı bir teknolojidir. Yapay zekânın hatları ve sonuçları bizim için anlaşılmaz olmaya devam ediyor - eylem hâlinde göremiyoruz, ancak etkisini bir şekilde deneyimliyoruz. Diğer genel amaçlı teknolojiler gibi -içten yanmalı motor, telefon ve silikon çip gibi- yapay zekâ da her yerde yaygınlaşmaktadır. Aynı anda hem her yerde hem de hiçbir yerde olan, hep mevcut olan ama fark edilemeyen bir şekilde...

Günümüzde "dijital dönüşüm" hakkında çok şey duyuyoruz. Sizce dijital dönüşüm, neden bu kadar önemli?

Başlangıçta, genel olarak dijital dönüşüm ve özellikle de yapay zekâ devrimi, ekonomik korkular, önseziler ve endişeler nedeniyle halkın diline sakız oldu. "Industry 4.0" söyleminin zeminine karşı -özellikle Dünya Ekonomik Forumu tarafından teşvik edildiği şekliyle- kadınlar ve erkekler, robotların kendi yerlerini almasından korkuyorlardı (muhtemelen haklı olarak). Dijital dönüşüm gerçekten de işler, istihdam ve işsizlik düzeyinde küresel bir karışıklığa neden oldu. Oxford Üniversitesi'ndeki araştırmacılar, 2013 yılında mevcut işlerin yaklaşık%50'sinin önümüzdeki on yıllarda robotlara yaptırılacağını belirleyen bir çalışma yayınladığından beri, bir panik ortaya çıktı. Beklenildiği gibi, bu panik buzdağının yalnızca görünen kısmıydı. Yapay zekâ, gelişmiş robotik, küresel offshoring ve uzaktan istihbaratın kesişen güçleri ile hem sıradan hem de uzmanların başlangıçta yakaladıklarından çok daha büyük bir risk seviyesi anlamına geliyordu.

Ekonomist Richard Baldwin, "globotics"in ortaya çıkışından bahsetti: provokatif bir dille örneğin, uzaktan telerobotik teknolojilerle Peru'daki işçilerin New York'ta otel odalarını temizleyebileceği gibi. İnsanlar bu tür teknolojik gelişmeleri duyduklarında genellikle hayrete düşerler. Bu hayret duygusu, bence, dijital dönüşümün genişliği, derinliği, hızı ve etkileri ile ilgilidir. Ancak şu konuda yanılmayın: Bu sadece ekonomik bir dönüşüm değildir; aynı zamanda sosyal, kültürel, politik ve çevresel olan küresel bir dönüşümdür. Yapay zekâ, sosyal ağlardan (Facebook, Snapchat, Instagram) mobil ödemeye (PayPal, Apple Pay, Google Cüzdan) ve internet arama motorlarına (Google, Yahoo, Bing) kadar yaptığımız her şeyi dönüştüren, sosyal ilişkileri yeniden yazan teknolojik bir tsunamidir.

Yapay zekânın siyasi çıkarlarını düşündüğümüzde ortaya ne çıkıyor? Siz neler görüyorsunuz?

Yapay zekânın küresel siyasi sonuçlarının iki yönlü olduğunu kabul etmemiz gerekiyor. Otonom sistemlere ve çevreye adaptasyona dayalı yeni teknolojilerin nasıl sonuçlanacağını önceden belirlemenin kolay bir yolu yoktur. Yoksulluğu, hastalıkları ve savaşı büyük ölçüde azaltma potansiyeline sahip bazı çarpıcı fırsatları olduğu kesin. Ancak riskler de çok büyük ve bu, dijitalleşmeye dayalı silahlanma yarışından, ölümcül otonom silah sistemlerinin geliştirilmesinden ve diğer temel tehditlerden açıkça anlaşılabilir. Dahası, buradaki risk değerlendirmesi sadece doğrudan değil, aynı zamanda dolaylı tehditleri de içermektedir. İkinci tür yüksek riske örnek olarak şu verilebilir: İsyancı grupların askeri dronları hacklemek için iletişim uydularına ve hava dronu kamera sistemlerine girmesidir.

Yapay zekâ konusundaki tartışma, risk değerlendirmesine büyük ölçüde bağlıdır. Hesaplamaları genellikle belirsiz ve bazen hesaplanamayan bir dizi riskle karşı karşıyayız. Otonom silah sistemlerinin geliştirilmesi bunlardan biridir ve aynı zamanda finans kurumları gibi yapay zeka kullanan hackerlar veya botlar ve trend algoritmaları nedeniyle sahte haberlerin yayılması gibi riskler de var. Politika tartışmalarının çoğunda eksik olan şey, risk değerlendirmesi olarak kabul edilebilir. Avrupa ve Birleşik Krallık'ta yapay zekâ ile ilgili son hükümet soruşturmalarının önerdiği gibi, bilgi analizleri ile desteklenen yapay zekâ teknolojilerinin riskleri hakkında parlamentoya ve halka rapor verilmelidir. Elbette savunma ve ulusal güvenlik ile ilgili bazı materyallerin gizli tutulması gerekecektir; ancak yeni risk parametrelerine çok şey bağlı olduğundan, ilgili hesaplama sürekli bir biçimde ince elenip sık dokunmalıdır.

"Yoğun bir yapay zekâ dünyasında, sanal ve gerçek -ya da dijital ve gerçek- sürekli olarak birbiriyle iç içe geçmektedir. Bu sınırlar sürekli olarak kesişir. Ancak kilit nokta, hepimizin bu bağlamda bilinmeyen topraklarda gezginler olduğudur. Hızlandırılmış dijitalleşmenin zincirleme etkilerinin ne olacağını kimse tam olarak bilemez.

Görünüşe göre dijital devrimle birlikte görünür olmama şansımız yok. Michel Foucault'nun panoptikon teorisi hakkında ne söylemek istersiniz? Sizce hâlâ bir Panoptikondan bahsedebilir miyiz? Yoksa panoptikon başka bir şeye mi evrildi?

Bugün dünyanın bir açıdan "dev bir gözetleme makinesi" hâline geldiği konusunda sosyolog Zeynep Tüfekçi ile hemfikirim. Özellikle veri simsarlığı endüstrisinden kişiselleştirilmiş reklamcılığa kadar, vatandaşların kişisel bilgilerinin rutin olarak alınıp satıldığı ve çoğu zaman ilgili bireylerin bilgisi olmadan satılan geniş dijital verilerin saklanmasını içeren kişiselleştirilmiş reklamcılığa kadar tamamı gözetlemenin algoritmik otomasyonunun bir sonucu olarak ortaya çıkan bir durumdur. Sonuç; vatandaşların özel ve kamusal yaşamları üzerinde kurumsal ve politik gözetim kontrol edilmedikçe, insan mahremiyetine ve bireysel özgürlüğe yönelik büyük saldırıları içermeye devam edecektir. Foucault'nun panoptikonu, dijital gözetleme biçimlerini anlamak için sık bir şekilde kullanılmıştır. Ancak politik ironi, tıpkı sosyal analistlerin süper-panoptikon çağının gelişini duyurması gibi, yapay zekâ ve diğer yeni teknolojilerin, bilgi dağıtımlarında niteliksel bir değişimi ortaya çıkardığı, çoklu, kesişen bakışlar ve herkesin herkesi izleyeceği bir dünya ile sonuçlanmasıydı.

Bu günlerde, Foucault'cu tek yönlü, öznelerin güçlü bir gözlemci tarafından tam olarak gözetlenmesi, merkezi ve hiyerarşik olmayan bilgi çıkarma, ayırma ve dağıtma gibi dijital modlarla derinden sarsılıyor. Mevcut post-panoptik yönetim çağında, gözetleme daha az merkezileştirilmiş, daha az sosyal olarak tasarlanmış, daha az kısıtlayıcı izleme biçimleriyle işlenmektedir; daha ziyade, kadınların ve erkeklerin yeni otomatikleştirilmiş ve dijital olarak dağıtılmış izleme, takip etme, kopyalama, haritalama ve genel olarak birbirlerini gözetleme teknolojilerinin katılımcıları olarak "yetkilendirildiği'" öz-mobilizasyon ağları aracılığıyla işlenmekte. Tüm bunlar, "aşağıda", yani insanların "beğen", "favorilere ekle" ve "retweet"i tıklamasıyla gerçekleşir. Ve bunların hepsi birbirini gözetlemeler (örn. Facebook, Twitter, Instagram, Tik-Tok), otomatikleştirilmiş akıllı makinelerin, akıllı algoritmaların, makine öğreniminin, tahmine dayalı analitiklerin ve büyük verilerin karmaşık etkileşimine dâhil oluyor. Foucault'cu panoptik iktidar modelinden çeşitli post-panoptik, yarı otomatik ve otomatik izleme (gönüllü izlenme) tekniklerine geçtik.

Baudrillard'ın "simulakr" kavramı hakkında da sormak istiyorum. Dijitallik gerçekliği öldürür mü? Her şeyin bir simülasyon olduğunu düşünüyor musunuz?

Simülasyonların sosyal gerçekliği "öldürdüğü" ve biyolojik olmayan zekânın biyolojik zekâyı geride bıraktığı yaklaşımı hakkındaki bildiriler çılgınca abartılıyor. Bununla birlikte, dijital evren ile gerçek dünya arasındaki sınırlar çözülüyor. Bunu 3D baskı, nano-teknoloji ve biyo-teknoloji ile ilgili çarpıcı teknolojik gelişmelerde görüyoruz. Baudrillard'a göre dünyanın kendisi, hem muhafazakârlar hem de radikaller tarafından post-modernizm sonrası "öldürüldü". Bununla beraber Baudrillard'ın gelecek vizyonu da dikkate değer ölçüde kâhinceydi. Trumpizmin çarpıtılmış ölçülerini simüle eden dünya, bence Baudrillard'ın tahminlerine oldukça yakın görünüyor. "Baudrillard'a dönüş" zamanı!

Dijital devrim aracılığıyla gerçeğin sanalla iç içe geçtiğini düşünüyor musunuz? Yoksa-tersine- sanal olan daha belirgin hâle geldi ve gerçek ve sanal birbirinden ayrıştı mı?

Yoğun bir yapay zekâ dünyasında, sanal ve gerçek -ya da dijital ve gerçek- sürekli olarak birbiriyle iç içe geçmektedir. Bu sınırlar sürekli olarak kesişir. Ancak kilit nokta, hepimizin bu bağlamda bilinmeyen topraklarda gezginler olduğudur. Hızlandırılmış dijitalleşmenin zincirleme etkilerinin ne olacağını kimse tam olarak bilemez. ABD'ye bakacak olursak, Şu anda orada bu ikiliğin bir intikamla dışa vurulduğunu görüyoruz. Bir yandan, sahte haberlerin, derin sahtekârlıkların ve uzmanlar hakkındaki genel şüpheciliğin yükselişinin merkezinde dijitalleşme yer alıyor. Aynı zamanda Covid-19 hakkındaki yanlış bilgilerin ve yaklaşan seçimlerde devam eden dış müdahalenin de merkezinde yer alıyor. Öte yandan, özellikle Bay Trump ve Brezilya, Hindistan ve diğer yerlerdeki popülist liderlerin başı büyük belada. Amerika Birleşik Devletleri'nde ne olacağı belirleyici olacaktır. Bu hangi yöne gidecek? Yanlış bilgi, sahte haberler ve dijital çağın diğer patolojileri hüküm sürecek mi? Ya da, ABD'deki demokratik kurumların altında yatan direnç, nihayetinde başarılı olacak mı? Bu bizi dijital devrimin siyasetinin özüne götürüyor ve bugünün teknolojik tsunamisinin ışığında bir bütün olarak demokratik projenin geniş kapsamlı olarak yeniden düşünülmesinin zamanı geldi.