Amazon, deepfake ile savaşmak için Facebook ve Microsoft'a katıldı

Yapay zekâ teknolojileri birçok farklı alanda karşılık buluyor. Son yıllarda yelpaze sağlık sektöründen sesli asistanlara ve hatta otomasyonteknolojilerine kadar genişlemiş durumda. Sürekli tekrarlanan işler aslında makineöğrenimiyle cihazlara yerleşiyor ve doğruluk oranı da buna bağlı olarak artıyor.

• Deepfake nedir? Bu teknoloji aslında fotoğraf ya da videoları analiz ederek herhangi bir kişinin sahte sahte görüntülerinin oluşturulmasını sağlıyor. Hem fotoğraf hem de video için aynı durum geçerli.

Tabii bu teknoloji her zaman olumlu sonuçlar doğurmuyor. Son aylarda sıkça karşımıza çıkan 'deepfake' fotoğraf ve videolar da aslında bu yöntemlerle oluşturuluyor. Yapay zekâ desteğiyle ortaya çıkarılan sahtefotoğraf veya videolar, aslında çok büyük bir riski de beraberinde getiriyor.

Yapay zekâ teknolojileri yanlış bilgilendirme; sahtekarlık ve seçimleri değiştirme riski içeriyor

Yalnızca tek birfotoğrafüzerinden sahte video oluşturmayı sağlayan yapay zekâ teknolojileri, Çinli bir geliştiricinin tasarladığı Zaoisimliuygulamayla video içinde bir kesite de yerleştirilebiliyor. Epey gerçekçi görüntüler oluşmasını sağlayan bu yenideepfakeuygulaması, kullanıcılar tarafından gizlilik endişeleri sebebiyle tepki görüyor. Ama yine de geliştirme süreci devam ediyor.

Siyasi ve ünlülerin fazlasıyla karşılaştığı bu sahte fotoğraf ya da videolar aslında yepyeni tehlikeleri beraberinde getiriyor. Devletler ve büyük ölçekli şirketler, yapay zekânın yanlış bilgilendirme, sahtekarlık, seçim değiştirme riskini göz önünde bulundurarak panzehir oluşturmak adına ortak bir paydada buluşuyor.

Adobe'nin geliştirdiği ve geçtiğimiz aylarda duyurduğu yeni yapay zekâ, manipüleedilen fotoğraflar ayrıştırılarak eski ve orijinal hallerine getiriliyor. Darmouth araştırmacısı Hany Farid, bu tip yapay zekâ teknolojilerinin artık herhangi bir sahte fotoğraf ya da video üretmek için çok az veri gerektirdiğinden bahsediyor.

Deepfake videoların tespiti için çalışmaları hızlandıran yapay zekâ araştırmacıları, fotoğraf ve videolar üzerinde 'neredeyse kusursuz' oynama yapan teknolojileri ortaya çıkaran yeni sistemler geliştiriyor.

Birçok önemli isim gibi ElonMusk'ın da bu konuda endişeleri var. Musk, yapay zekâ konusunda epey karamsar. Zaman zaman yaptığı açıklamalarla bunu doğrulayan isim, süper bir yapay zekânın insanları dağ gorilleri gibi nesli tükenmekte olan bir türe dönüştürebileceğini söylüyor.

Manipüle edilen fotoğrafların bulunmasında %99 oranında bir doğruluk sağlıyor

Az önce de bahsettiğimiz dev şirketler ise bir araya gelip sahte fotoğraf ve videoların ortaya çıkarılması için çaba sarf ediyor. Facebook, aslında bu teknolojiler söz konusu olduğunda Microsoft, Cornell Tech, MIT, Oxford Üniversitesi, UC Berkeley, Maryland Üniversitesi, College Park ve Albany-Suny Üniversi'nden akademisyenlerle bir araya geliyor. Hatta deepfake videoların orijinallerinden ayırılması için Deepfake Detection Challenge (DFDC) isimli özel bir yapı da kuruyorlar.

Deepfake Detection Challenge, yapay zekâ aracılığıyla insanları manipüleeden medyayı devre dışı bırakmaya odaklanıyor. Üstelik az önce saydığımız şirket ya da üniversitelerin yanı sıra WITNESS ve sivil toplum örgütleri de bu yapıyı destekliyor. Üstelik oluşturulan yapay zekâ için toplamda 10 milyon dolardan fazla bütçe ayrılmış durumda. İlk testlerin Ekim'de düzenlenecek olan Conference on Computer Vision (ICCV) kapsamında gerçekleşeceğini de belirtmek gerekiyor.

Şimdi bu şirketler arasına Amazon da dahil oluyor. Amazon, manipüleedilmişiçeriği tanımlama çabalarına destek sağlamak için Facebook ve Microsoft gibi şirketler arasına giriyor. Şirket, araştırmacılara önümüzdeki 2 yıl boyunca 1 milyon dolar katkıda bulunacak. AWS, Amazon S3 ölçeklenebilir altyapısını kullanarak bulut hizmetinde derin algılama için faydalı olacak gibi görünüyor.