Elon Musk, gelişmiş yapay zekânın sosyal medyayı zehirleyebileceği konusunda uyardı

Elon Musk, yapay zekâ konusundaki karamsar görüşüyle tanınıyor. Zaman zaman yaptığı açıklamalarla bunu doğruluyor. Hatta son olarak süper bir yapay zekânın insanları dağ gorilleri gibi nesli tükenmekte olan bir türe dönüştürebileceğini öngörmüştü.

Dün, yapay zekânın sosyal medya için ne kadar tehlikeli olduğunu bildiren Musk, aslında ileri düzey bir yapay zekânın sosyal medyayı manipüle etmek için fazlasıyla kullanılabileceğini bildirdi. Ayrıca sosyal medyadaki botların da mutlaka incelenmesi gerektiğini sözlerine ekledi.

Tesla CEO'sunun, 'gelişmiş yapay zekâ' ile ne kastettiği tam olarak ne tür bir manipülasyondan bahsettiği konusu belirsizliğini koruyor. Bununla birlikte, bot ordularına 'hızla evrimleşen' atıfı, yapay zekânın bot hesaplarını daha ikna edici veya etkili hale getirmek için kullanılabileceğinden korktuğunu gösteriyor.

Twitter'da Elon Musk'ın fotoğrafını ve ismini kullanarak paylaşım yapan birçok farklı hesap var. Aslında milyarderin çekindiği noktalardan biri de bu.

Deepfake hangi aşamada?

Henüz bu hafta MIT konferansı için Putin'in deepfake videosunu oluşturan Halo Li isimli profesör, gerçekten manipüle edilmiş videoların yalnızca 6 ay ile 12 ay içinde ortaya çıkacağını bildirdi.

Li daha önce de neredeyse saptanamayan yani orijinaliyle ayırt edilemeyen sahte içeriklerin geliştirildiğini duyurmuştu. Bu son adım artık videoların hangi boyuta geldiğini daha net ortaya çıkarıyor.

Bu yıl ortaya çıkan Mona Lisa tablosu aslında en somut örneklerinden biriydi. Samsung, geliştirdiği özel bir yapay zekâyla tek bir fotoğraf üzerinden video oluşturabildiğini duyurmuştu. Epey gerçekçi bir hâl alan deepfake videolar yanlış bilgilendirme, sahtekarlık ve seçimleri değiştirme gibi önemli riskler içeriyor.

Hatta şu anda Adobe başta olmak üzere birçok şirket bu videoları ortaya çıkartmak için yeni özel yapay zekâ yazılımları geliştiriyor. Bu yazılımlar da temel olarak manipüle edilen videoları bulmaya yarıyor.

Güney Kaliforniya Üniversitesi'nde bilgisayar bilimi profesörü olan Hao Li'nin yeni deepfake videolarıyla ilgili yaptığı açıklama şöyle:

• Derin sularda deepfake videoları çıplak gözle anlamanız çok kolay. Ama aynı zamanda gerçekten çok inandırıcı örnekler de var. Yakında deepfake içerikleri tespit etmek gerçekten mümkün olmayacak seviyeye gelecek. Bu yüzden diğer çözüm türlerine odaklanmamız gerekiyor.

Sahte videoların ortaya çıkarılması konusunda Adobe yalnız değil. Facebook da orijinal videoların ne zaman sahte hale geldiğini gösteren bir yapay zekâ geliştiriyor. Asıl amaç, orijinal videonun ne zaman sahte hale gelip yayıldığını bulmak. Böylece müdahale sürecinin kolaylaşması bekleniyor.

Facebook, aslında yapay zekâ söz konusu olduğunda Microsoft, Cornell Tech, MIT, Oxford Üniversitesi, UC Berkeley, Maryland Üniversitesi, College Park ve Albany-Suny Üniversi'nden akademisyenlerle bir araya geliyor. Hatta deepfake videoların orijinallerinden ayırılması için Deepfake Detection Challenge (DFDC) isimli özel bir yapı da kuruyorlar.

Deepfake Detection Challenge, yapay zekâ aracılığıyla insanları manipüle eden medyayı devre dışı bırakmaya odaklanıyor. Üstelik az önce saydığımız şirket ya da üniversitelerin yanı sıra WITNESS ve sivil toplum örgütleri de bu yapıyı destekliyor. Üstelik oluşturulan yapay zekâ için toplamda 10 milyon dolardan fazla bütçe ayrılmış durumda. İlk testlerin Ekim'de düzenlenecek olan Conference on Computer Vision (ICCV) kapsamında gerçekleşeceğini de belirtmek gerekiyor.