Deepfakes: Silahlı dezenformasyon çağı

Çok sevdiğiniz bir filmde başrol oyuncusu yerine sizin oynadığınızı hayal edin veya internette dolaşırken kişiselleştirilmiş reklamlarda reklam yüzü olduğunuzu...

Aslında futbolda çok da yetenekli olmadığınız hâlde birden Ronaldo’nun tekniğiyle şovlar yaptığınızı…

Peki ya tüm bunların varsayımlardan ibaret olmadığını, hâlihazırda sosyal medya hesabınızda paylaştığınız fotoğraflarınızın ortalama bir bilgisayarda işlenmesiyle kolaylıkla elde edilebilecek olduğunu söylesem…

2017 yılının aralık ayında kullanılmaya başlanan ve her geçen gün gelişen deepfakes adı verilen bu yapay zekâ teknolojisi ile tüm bunlar mümkün hâle geldi.

Ne var ki, bir insanın söylemediği veya yapmadığı şeyleri söylüyor ve yapıyor gibi gösteren videolardan müteşekkil bu teknolojinin beraberinde getirdiği tablo yukarıda bahsettiğim kadar pozitif değil.

Dahası sahteciliğe yeni bir boyut getiren deepfakes teknolojisi gün geçtikçe daha sofistike ve ulaşılabilir hâle geldi ve bu da pek çok siyasi, teknolojik, toplumsal, hukuki sorunu beraberinde getirdi. Dilerseniz birlikte gerçeklik algımızı paramparça edecek bu yeni fenomenin bizi sürüklemesi muhtemel karanlık şimdiye ve geleceğe doğru bir yolculuk yapalım.

Yüz değiştirme teknolojisi her ne kadar sinemada daha önce kullanılmış bir yöntem olsa da 2017 yılının aralık ayında “Deepfakes” isimli bir Reddit kullanıcısı bu teknolojiyi başka bir boyuta taşıdı.

Deepfakes isimli bu kullanıcı, iki yıl boyunca deneyler yaptı ve yüz değiştirme (faceswap) uygulamasını geliştirmeye çalıştı.

Deepfakes, mükemmeli yakalamak için yaptığı çalışmalarda önceleri bir filmin tüm oyuncularını Nicholas Cage’e dönüştürmek ya da Donald Trump ile Merkel’in yüzünü değiştirmek gibi mizahi içerikler üretiyordu.

Ancak o mükemmele gittikçe yaklaşmasıyla birlikte diğer kullanıcılar ondan ünlü kadın oyuncuların başrol olduğu pornografik filmler üretmesini talep ettiler. Deepfakes birkaç ünlü aktrisin yüzünü bu filmlerdeki oyuncularla değiştirdiğinde işler çığırından çıktı. Zira insan aklı sahte ile gerçeği ayırt edemiyordu.

Dünyanın farklı yerlerinden pek çok kişi bu işi yapmaya başladı. Ünlü Hollywood aktrisleri bu teknolojik gelişmenin “nesnesi” oldular. Deepfakes isimli kullanıcı bu işin piri olarak nitelendirildi ve bir kanal açtı. Ancak bu kanal daha sonra kapatıldı ya da internetin karanlık köşelerine çekildi (darknet).

Deepfakes videolarının oluşturulması için gereken şart öznenin çok sayıda fotoğrafının olması. Bu da ünlüleri ve politikacıları bu teknolojinin veri kaynağı hâline getiriyor. Her gün onlarca fotoğrafını, selfiesini sosyal medya hesabından paylaşan kullanıcılar da bu teknoloji için önemli bir kaynak teşkil ediyor.

Bunun dışında yüz tanıma teknolojisinin veri tabanından da yararlanıldığı biliniyor. Durum bu kadar kaotik ve karanlık olduğu hâlde, rızası olmadan bu tarz içeriklerin kurbanı olanları koruyan bir kanun ne yazık ki bulunmuyor.

Siyasetin sahteleşmesi

Siyasilere yönelik deepfakes videoları başlangıçta mizahi ögeler içeriyordu.

Mesela, Arjantin Devlet BaşkanıMauricio Macri’nin yüzü Adolf Hitler’in yüzü ile, Angela Merkel’in yüzü Donald Trump’ın yüzü ile değiştirilmişti. Buna benzer pek çok deepfakes videosu yayınlandı. Ne var ki hiçbiri 2018’de nisan ayında yayınlanan Barack Obama’nın insanları, deepfakes tehlikesine karşı uyardığı video kadar etkili olmadı.

Obama bu videoda şöyle diyordu: “Düşmanlarımızın istedikleri her an, istedikleri bir kişiye istedikleri şeyi söyletebileceği bir döneme giriyoruz. Başkan Trump tam bir baş belası. Biliyorsunuz ki ben böyle ifadeleri kullanmam. En azından toplum önünde. Ancak başka biri kullanabilir.”

Mesela Jordan Peele…” İnsan gözünün, sahteliğini net bir şekilde ayırt edemeyeceği bu video, Jonah Peretti ve aktör Jordan Peele iş birliği ile hazırlanmıştı. Video, deepfakes teknolojisinin siyasi boyutta ne kadar etkili olabileceğini, siyasilerin sarf etmedikleri cümleleri kullanmış gibi göstererek nasıl bir krize yol açılabileceğini göstermesi bakımından oldukça çarpıcıydı.,

Çok geçmeden benzer bir video böyle bir krize sebep oldu. 2018 Mayıs’ında Belçika Sosyalist Partisi sosyal medya hesaplarında Donald Trump’ın Paris İklim Anlaşması kapsamındaki yükümlülüklerini yerine getirmediği için Belçika ile uğraştığı ve argo kelimeler kullandığı bir video yayınladı.

Her ne kadar videonun sonunda videonun sahte olduğu belirtilse de pek çok Belçikalı bunu anlamadı ve Trump’ın hangi cesaretle Belçika’nın iklim politikalarına müdahil olduğuna dair sert yorumlar yaptı. Geçtiğimiz ocak ayında Donald Trump’ın Oval Ovisten yaptığı konuşma Q13 Fox kanalının bir çalışanı tarafından değiştirilmişti.

Orijinal versiyonu üzerinde oynanarak elde edilen bu görüntülerde Trump’ı aşağılayan mimiklerin yer almasının dışında Trump turuncu ve olduğundan daha iri görünüyordu. Gelen tepkiler üzerine çalışanını işten çıkaran kanal özür diledi.

Ancak bu video, televizyonda yayınlanan ilk deepfakes videosu olması hasebiyle önem arz ediyor ve gelecekte sık sık karşılaşabileceğimiz haberlere zemin teşkil ediyordu.

Deepfakes teknolojisindeki bu gelişmeler, 2020 seçimleri öncesinde ABD’de büyük bir endişeye ve karamsarlığa sebebiyet veriyor.

Seçim kampanyalarında bu teknolojinin kullanılarak diğer adayların itibarını zedeleyecek, demokrasiye gölge düşürecek videoların, sahte delillerin, kasetlerin, ses kayıtlarının ortaya çıkacağı düşünülüyor.

Her ne kadar deepfakes üreten yapay zekâ beraberinde onu tespit edecek teknolojiyi de getirse ve her iki teknoloji birbirini besleyerek bir “kedi fare oyununa” sebebiyet verse de uzmanlar ve siyasetçiler, bu teknolojinin seçim kampanyalarında kullanılması hâlinde videonun, ses kaydının vs. sahte olup olmadığı anlaşılana kadar seçimlerin sona ereceğini ve bu kayıtların sonuçta etkili olacağını düşünüyor.

Ancak Pentagon’da bu videoları siyasi bir krize sebebiyet vermeden tespit edebilmek için çalışmalar devam ediyor. Deepfakes teknolojisi dezenformasyon çağında etkili bir silah olarak görülüyor. Bu teknolojinin yeni nesil dijital savaşlara sebebiyet vereceğini öngörebilmek de mümkün.

Donald Trump’ın Kuzey Kore’ye savaş açtığını söylediği bir videonun sosyal medyada yayınlandığını ve yayıldığını hayal edin. Videonun sahte olduğu anlaşılamadan Kuzey Kore’nin harekete geçme ihtimali oldukça yüksek. O hâlde deepfakes videolarının sebep olabileceği bir dünya savaşının da muhtemel olduğunu söylemek mümkün.

Deepfakes ölümü öldürdü

Yapay zekâ uzmanları deepfakes teknolojisinin karanlık yüzü haricinde olumlu yönleri de olduğunu savunuyorlar. Bu teknoloji sayesinde geçmişte yaşamış birini günümüz dijital ortamına, sanki bugün yaşıyormuş gibi taşımak mümkün.

Uzmanlar bunun eğitimde ve bilimde faydalı olabileceğine inanıyorlar. Her ne kadar örneklerine Forrest Gump ve Star Wars filmlerinde rastlasak da (Forrest Gump’ta J. Kennedy, Forrest ile el sıkışıyor; Star Wars’ın 2016 yapımı filminde daha önce ölmüş bir aktör görülüyordu) sinemada da kullanmak mümkün.

James Dean’in, Charlie Chaplin’in, Kemal Sunal’ın Adile Naşit’in rol aldığı bir filmi izlemek hayli ilginç olacaktır.

Adam Johnson’ın George Orwell Arkadaşımdı isimli muhteşem öykü kitabında yer alan Nirvana adlı öyküsündeki anlatıcı benzer bir teknolojiyi üreten bir mucittir. İProjector adını verdiği bir şey icat eder ve suikasta uğramış devlet başkanının hologramını yaratır.

Başkanın internette yer alan tüm görüntülerini ve bilgilerini, ses kayıtlarını bu cihaza aktarır ve böylece başkanın ani ölümü karşısında büyük şok yaşayan insanlara ve başta kendisine yardımcı olmak ister. Bu cihazı satın alanlar hologram başkan ile dertleşme ve onu özlediklerini ifade etme imkânı bulurlar. Başkan sanki hiç ölmemiştir ve varlığını dijital bir boyutta devam ettirmektedir.

Anlatıcı, Guillain-Barré Sendromu’na yakalanan ve vücudunu hareket ettiremeyen, yaşamaktan bezmiş, yalnızca Nirvana ve Kurt Cobain dinleyerek teselli bulan karısı için de bir şeyler yapmak ister, neticede 1994 yılında genç yaşta intihar eden Cobain’in hologramını da yapar. Öykünün Black Mirrorvari atmosferi oldukça sarsıcı. Ancak bugün, deepfakes teknolojisi ile birlikte geçmişte yaşamış ünlüleri, oyuncuları, politikacıları, şarkıcıları bugünün dijital ortamına taşıma fikri bu öyküyü distopya olmaktan çıkarıyor.

Sahte aktör, sahte politikacı

Andrew Niccol’ün yönetmenliğini yaptığı ve Al Pacino’nun başrolde oynadığı 2002 yapımı Simone filmi deepfakes teknolojisine dair getirilmiş (bilinçli ya da bilinçsiz) ilk öngörülerden biridir.

Filmde Al Pacino’nun canlandırdığı Victor Taransky adlı yönetmen hayatının filmini çekmek üzeredir. Ancak filmin kadın başrol oyuncusu son sahneyi çekmeden, naz ve kaprislerle filmden ayrılır ve oynadığı tüm sahnelerin filmden çıkarılmasını ister. Akabinde Victor pek çok kadın oyuncu tarafından da reddedilir.

Filmin yapımcısı olan eski eşi de filmi iptal ettiğini söyler. Victor büyük bir umutsuzluğa kapılır. Tam o anda imdadına bir yapay zekâ uzmanı olan Hank yetişir. Hank yıllardır üzerinde çalıştığı ve uğruna beyin tümörü olup bir gözünü kaybettiği çalışmasını nihayet bitirmiştir.

Çok az bir ömrü kaldığı için bu çalışmayı yetenekli ve sıra dışı bir bakış açısına sahip bir yönetmene emanet etmek istemektedir.

Victor bunun için biçilmiş kaftandır. “Simulation One” adındaki bu yapay zekâ, veri tabanından pek çok oyuncunun fiziksel özelliklerini ve yeteneklerini harmanlayarak yeni bir dijital aktör/aktris ortaya çıkarmakta ve bu aktör/aktris dijital komutlarla veya onu yönlendiren kişinin jest ve mimiklerini, konuşmasını taklit ederek hareket etmektedir.

Victor “Simone” adını verdiği bu sanal aktris sayesinde filmi bitirir. Kimse Simone’un sahte olduğunu anlamamış, bilakis herkes ona hayran olmuştur.

Film hasılat rekorları kırar. Victor, Simone hususundaki gerçeği ikinci filmden sonra açıklama kararı alır, zira kendisini ve yapabileceklerini göstermek istemektedir.

Ancak Simone’un ortaya çıkmıyor oluşu insanlarda ve medyada büyük bir merak uyandırır. Bunun üzerine Victor Simone’un işine odaklandığını ve gözden uzak olmayı tercih ettiğini açıklar.

Ancak ikinci filmin sonunda yapımcılar filmin satılması için Simone’un ortaya çıkmasının ve reklam yapmasının şart olduğunu söylerler. Bunun üzerine Victor Simone’a uzaktan TV röportajları verdirir, onu reklamlarda oynatır, fotoğrafını çekerek magazin dergilerine gönderir. Her ünlü oyuncu gibi Simone’un da albüm yapması şarttır.

Victor bu şartı da yerine getirir. Ancak Simone’u canlı görmemek hususunda herkes rahat değildir. Bir magazin dergisi editörü peşlerini bırakmaz, zira Victor’un Simone’u esir tuttuğunu düşünmektedir. Ve muhakkak onu görmek istediğini aksi takdirde polise gideceğini söyler.

Bunun üzerine Victor, milyonlarca kişiyi inandırmanın bir kişiyi inandırmaktan daha kolay olacağı düşüncesiyle, sahnesini kendisinin tasarladığı bir stadyumda Simone’a hologram aracılığıyla konser verdirir ve kimse onun sahte olduğunu anlamaz. Dergi ekibi de ikna olmuştur.

Simone’un ikon hâline gelmesi, Victor’un ikinci planda kalması bir müddet sonra Victor’u çileden çıkarır. Simone’un itibarını zedeleyecek her yola başvurur fakat insanlar bir illüzyona kapılmışlardır ve hiçbir şey bunu bozamaz. Bunun üzerine Hank’in verdiği virüs programıyla Simone’u siler ve basına onun öldüğünü haber verir. Ancak kimse onun kendiliğinden öldüğüne inanmaz. Muhakkak Victor öldürmüştür onu.

Victor Simone’un bir yapay zekâ programı olduğunu, gerçekte var olmadığını anlatsa da kimse ona inanmaz. Ta ki Victor’un kızı durumdan şüphelenip virüsü temizleyip Simone’u getirene kadar… Victor hapisten çıkar ve Simone’un sırrını öğrenen yapımcısı olan eski eşi, tüm oyuncuların yapay zekâ olduğu bir film hayalinden bahseder.

Simone basına, bir molaya ihtiyaç duyduğunu bu yüzden ölüm hikâyesini anlattıklarını fakat şimdi her şeye yeniden başladığını açıklar. Üstelik Victor’la bir bebekleri (sanal) olmuştur. Bir anne olarak çocukların geleceğinden endişe ettiği ve bunun için somut adım atmak istediği için politikaya atılacağını ilan eder.

Simone filmi, gerçekliğe, sinemaya, kitle psikolojisine getirilmiş bir hiciv niteliğindedir. Filmin en çarpıcı sahnelerinden biri ise kanaatimce, ilk filmin akabinde Simone ile Victor’un diyaloğudur.

Victor: “Simone sayısallaştırılmış bir yıldız. Bu ne demek biliyor musun? Yeni bir boyuta ayak bastık. Sahtekârlığı yaratma yeteneğimiz artık onu fark etme yeteneğimizi aştı.” Simone: “Ben gerçeğin ölümüyüm.” Victor: “Eğer bir performans mükemmel ise aktörün gerçek ya da sahte olmasının bir önemi yok. Bu arada gerçek nedir? “

Bugünlerde çoğu aktöre sayısal olarak müdahale ediliyor. Bu, gri bir bölge. Gerçek olan tek şey iş. Deepfakes teknolojisi ile büyük benzerlikler taşıması hasebiyle Simone filmini izledikten sonra düşünmeden edemedim; gerçek olduğu illüzyonuna kapıldığımız ve aslında kodlardan ibaret bir oyuncunun ya da bir politikacının var olması fikri bizden ne kadar uzak? Belki de çoktan hayatımıza girmişlerdir... Kim bilir...

Gerçeğin ölümü

Deepfakes teknolojisi ve bu teknolojinin edebiyat ve sinemadaki yansımaları esasında deepfakesin yol açacağı sorunların yalnızca siyasi ve toplumsal olmadığını, deepfakesin gerçeklik algısını muğlaklaştırdığını ve nihayetinde gerçeği öldürdüğünü/öldüreceğini gösterir niteliktedir. Sahte videolara karşı gardını alan insanlar gerçek ile sahte ayrımını kaybedecek ve çok geçmeden gerçek olana da şüphe ile yaklaşacaklardır.

Üstelik gerçeklik algısının muğlaklaşması, bilhassa politikacılara gerçek olan görüntüleri ve kayıtları dahi reddetme ve sahte olduklarını söyleme imkânı sunacaktır. Deepfakes tarihi değiştirme potansiyeline de sahiptir.

Bir devlet başkanı daha önce aksini söylediği veya onaylamadığını belirttiği hâlde o gün popüler olan konular hakkında kayıtları değiştirerek olumlu söylemlerde bulunduğunu iddia edebilir. Veya tarihî bir olayın aktörleri bu teknoloji yardımıyla değiştirilebilir.

Yine bir cinayetin failini değiştirmek de söz konusu tehlikelerdendir. Bütün bunlar göz önüne alındığında videoların, ses kayıtlarının, fotoğrafların gelecekte bir kanıt teşkil edemeyeceğini söyleyebiliriz. Ve kuvvetle muhtemel “Gerçek ölecek”, “sahte” ve “sahte olması muhtemel şeyler” hayatımızı çevreleyecektir.