derin sahte ekmek şüphe 4 14
 Deepfake üretebilen teknoloji yaygın olarak mevcuttur. (Shutterstock)

Mart ayı başlarında bir Ukrayna Devlet Başkanı Volodymyr Zelenskyy'nin manipüle edilmiş videosu yayınlandı. İçinde, dijital olarak oluşturulmuş bir Zelenskyy, Ukrayna ulusal ordusuna teslim olmasını söyledi. Video internette dolaştı, ancak derin bir sahtekarlık olduğu hızla çürütüldü - yapay zeka kullanılarak üretilen aşırı gerçekçi ancak sahte ve manipüle edilmiş bir video.

Rus dezenformasyonunun sınırlı bir etkisi var gibi görünse de, bu endişe verici örnek, derin sahtekarlıkların potansiyel sonuçlarını gösterdi.

Bununla birlikte, derin sahtekarlıklar yardımcı teknolojide başarıyla kullanılmaktadır. Örneğin, Parkinson hastalığından muzdarip insanlar iletişim kurmak için ses klonlamayı kullanabilir.

Deepfake'ler eğitimde kullanılıyor: İrlanda merkezli konuşma sentez şirketi CereProc, John F. Kennedy için sentetik bir ses yarattı, tarihsel konuşmasını yapmak için onu hayata döndürmek.

kendi kendine abone olma grafiği

Oysa her madalyonun iki yüzü vardır. Deepfake'ler aşırı gerçekçi olabilir ve temelde insan gözüyle tespit edilemez.

Bu nedenle, aynı ses klonlama teknolojisi kimlik avı, karalama ve şantaj için kullanılabilir. Deepfake'ler, kamuoyunu yeniden şekillendirmek, sosyal çatışmaları kışkırtmak ve seçimleri manipüle etmek için kasıtlı olarak kullanıldığında, demokrasiyi baltalama potansiyeline sahiptirler.

Washington Üniversitesi'ndeki araştırmacılar, Barack Obama'nın derin sahtesini üretti.

kaosa neden olmak

Deepfakes olarak bilinen teknolojiye dayanmaktadır. üretici ters ağlar iki algoritmanın birbirini görüntü üretmek için eğittiği.

Derin sahtelerin arkasındaki teknoloji karmaşık görünse de, bir tane üretmek basit bir meseledir. gibi çok sayıda çevrimiçi uygulama vardır. Yüz nakli ve ZAO Derin Değişimi dakikalar içinde derin sahte üretebilir.

Google Colaboratory — çeşitli programlama dillerinde kod için çevrimiçi bir havuz — aşağıdaki kod örneklerini içerir: sahte görüntüler ve videolar oluşturmak için kullanılabilir. Bu kadar erişilebilir bir yazılımla, ortalama kullanıcıların potansiyel güvenlik risklerini fark etmeden derin sahtekarlıklarla nasıl hasara yol açabileceğini görmek kolaydır.

Yüz değiştirme uygulamalarının ve çevrimiçi hizmetlerin popülaritesi Derin Nostalji Deepfake'lerin genel halk tarafından ne kadar hızlı ve geniş çapta benimsenebileceğini gösterin. 2019 yılında Deepfake kullanan yaklaşık 15,000 video tespit edildi. Ve bu sayının artması bekleniyor.

Deepfake'ler dezenformasyon kampanyaları için mükemmel bir araçtır çünkü çürütülmesi zaman alan inandırıcı sahte haberler üretirler. Bu arada, derin sahtekarlıkların neden olduğu zararlar - özellikle insanların itibarını etkileyenler - genellikle uzun süreli ve geri döndürülemez.

Görmek inanmak mıdır?

Deepfake'lerin belki de en tehlikeli sonuçları, kendilerini siyasi kampanyalarda dezenformasyona nasıl ödünç verdikleridir.

Bunu, Donald Trump herhangi bir övücü olmayan medya kapsamını “sahte haberler” Trump, kendisini eleştirenleri yalan haber yaymakla suçlayarak yanlış bilgileri yanlışlarını savunmak ve bir propaganda aracı olarak kullanabildi.

Trump'ın stratejisi, “Güvensizlik ve dezenformasyonla dolu bir ortamda desteği sürdürmesini sağlıyor”gerçek olayların ve hikayelerin sahte haberler veya derin sahtekarlıklar olduğunu".

Yetkililer ve medyadaki güvenilirlik sarsılıyor, bir güvensizlik ortamı yaratıyor. Deepfake'lerin artan çoğalmasıyla birlikte, politikacılar ortaya çıkan herhangi bir skandalda suçluluğu kolayca inkar edebilirler. Videoyu inkar eden birinin kimliği nasıl doğrulanabilir?

Bununla birlikte, dezenformasyonla mücadele, ifade özgürlüğünü korumaya çalışan demokrasiler için her zaman bir meydan okuma olmuştur. İnsan-AI ortaklıkları, insanların bilgileri doğrulamasını sağlayarak artan derin sahtekarlık riskinin üstesinden gelmeye yardımcı olabilir. Deepfake üreticilerini bilgileri tahrif ettikleri ve insanları taklit ettikleri için cezalandırmak için yeni yasalar çıkarmak veya mevcut yasaları uygulamak da düşünülebilir.

Uluslararası ve ulusal hükümetler, özel şirketler ve diğer kuruluşların multidisipliner yaklaşımlarının tümü, demokratik toplumları yanlış bilgilerden korumak için hayati önem taşımaktadır.Konuşma

Yazar hakkında

Sze-Fung Lee, Araştırma Görevlisi, Bilgi Çalışmaları Bölümü, McGill University ve Benjamin CM FungSiber Güvenlik için Veri Madenciliğinde Profesör ve Kanada Araştırma Başkanı, McGill University

Bu makale şu adresten yeniden yayınlandı: Konuşma Creative Commons lisansı altında. Okumak Orijinal makale.