Facebook, deepfake videoları ve manipüle edilmiş içerikleri tamamen yasaklıyor
Facebook, Pazartesi günü yaptığı duyuruda deepfake videoların ve manipüle edilen içeriklerin sosyal medyada yasaklanacağını açıkça belirtti.
Şirket, yapay zekâ tarafından oluşturulan içerikleri anlamak için güvenlik şirketleri, hükümet ve üniversitelerin ilgili birimleriyle çok yönlü bir çalışma yapıldığını da duyurdu.
İşaretlenen videolar, içeriğin yalan ya da yanlış olup olmadığını belirlemek için üçüncü taraf bilgi denetçileri tarafından incelenecek.
Facebook CTO'su Mike Schroepfer, geçen yıl Eylül'de manipüle edilen içeriği tespit etmek için sisteme kendi ürettiği deepfake videoyu yüklediğini açıkladı. Yani aslında şirket birçok farklı deneme yapıp yapay zekâyı geliştirmeye devam ediyor.
Facebook, 6 Ocak'ta yaptığı duyuruda, deepfake videoların ve manipüle edilen içeriklerin sosyal ağdan tamamen yasaklanacağını bildirdi.
Şirket, aldatıcı içeriklerin önüne geçmek için kapsamlı bir süreç yönetiyor. Hatta içerikleri daha net tanımlamak için hem güvenlik şirketlerinden ve hükümetten hem de üniversitelerin ilgili birimlerinden destek alıyor.
Sorunu çok yönlü bir şekilde ele alan Facebook, bu sayede sonucun daha verimli hale geleceğini öngörüyor. Açıklama metni şu şekilde:
- Manipülasyonlar, Photoshop gibi bir uygulamayla ya da derin öğrenme teknikleriyle videolar sayesinde gerçekleşiyor. Genellikle deepfake olarak adlandırılan videolar oluşturmak için gelişmiş araçlar bulunuyor. Bu tür içerikler internette nadir olmakla birlikte kullanım arttıkça sektörümüz için önemli bir zorluk oluşturacaktır.
Facebook, siteden kaldırılacak 'deepfake' içerik türünü şu şekilde tanımlıyor:
- - Videonun insanları yanlış yönlendirecek şekilde düzenlenmiş veya sentezlenmiş olması.
- İçeriği bir videoyla birleştiren, değiştiren veya üst üste bindirerek yapay görünmesini sağlayan makine öğrenimi ürünleri.
Eğlence amaçlı üretilen videoları kapsamayacak.
Şirket açıklamasında bu yeni politikanın eğlence amaçlı manipüleedilenvideoları kapsamadığını belirtiyor. İşaretlenen videolar, içeriğin yanlış olup olmadığını belirlemek için üçüncü taraf bilgi denetçileri tarafından inceleniyor ve gereken yapılıyor.
Paylaşmadan önce uyarı veriyor
Ayrıca siteden tamamen kaldırılmadan önce içeriği paylaşmaya çalışan kişilere, 'içeriğin deepfake' olduğu konusunda uyarı da veriliyor.
Basın mensuplarına da katkı sağlayacak.
Facebook, Reuters ile gerçekleştirilen ortaklıkla dünya çapında birçok farklı çevrimiçi eğitimkursu sayesinde deepfakevideolar ve manipüleedilen içeriklerin tanımlanma sürecine de katkıda bulunacak.
- Haber kuruluşları, artık büyük miktarda görüntü ve video için üçüncü taraf şirketlere fazlasıyla güveniyor. Ama manipüle edilmiş görsellerin tanımlanması basın mensupları için de önemli bir zorluk. Bu program, gazetecileri de desteklemeyi amaçlıyor.
Facebook CTO'su Mike Schroepfer, manipüle edilen içeriği tespit etmek için aylar önce kendi deepfake içeriğini platforma yüklediğinden bahsediyor.
Şu anda geliştirilme aşamasındaki sistemin önümüzdeki süreçte deepfakevideoları çok daha başarılı şekilde ayrıştırabileceği belirtiliyor. Yani denetleyicilerin sayısının artmasıyla çok daha geniş kapsamlı bir süreç yönetilmesi öngörülüyor.