Deepfake'lerin ve siyasi kampanyaların değişken karışımı, tetikte olmak için iyi bir neden. Getty Images aracılığıyla Sean Anthony Eddy Creative/E+
Bir düşünün Ekim sürprizi benzeri yok: 5 Kasım 2024'ten sadece bir hafta önce, bir video kaydı Joe Biden ile Volodymyr Zelenskyy arasındaki gizli bir görüşmeyi ortaya koyuyor. Amerikan ve Ukrayna cumhurbaşkanları, "özel acil durum üyelik protokolü" kapsamında Ukrayna'yı derhal NATO'ya dahil etmeye ve Rusya'ya karşı bir nükleer silah saldırısına hazırlanmaya karar verdiler. Aniden, dünya Armagedon'un eşiğinde.
Gazeteciler bunu belirtebilse de böyle bir protokol yok ve sosyal medya kullanıcıları videonun tuhaf video oyunu benzeri niteliklerini fark edebilir, diğerleri böyle hissedebilir en büyük korkuları teyit edildi. Seçim Günü geldiğinde, bu endişeli vatandaşlar, gerçekte hiç yaşanmamış bir durum olan deepfake bir durum tarafından manipüle edildiklerinin farkında olmadan videonun oylarını etkilemesine izin verebilir.
Durum derin sahtekarlıkları, teknolojilerin bir sonraki aşamasını temsil eder. halihazırda mevcut izleyicinin gerçeklik algısını sarstı. daki araştırmamızda DeFake Projesi, meslektaşlarım Rochester Teknoloji Enstitüsü, Mississippi Üniversitesi, Michigan State University ve ben Deepfake'lerin nasıl yapıldığını ve seçmenlerin kendilerini bunlardan korumak için hangi önlemleri alabileceklerini inceleyin.
Hiç yaşanmamış olayları hayal etmek
Deepfake, birisi özellikle yapay zeka aracı kullandığında oluşturulur. derin öğrenme, manipüle etmek veya oluşturmak için yüz, ses veya - yükselişiyle büyük dil modelleri sevmek ChatGPT - konuşma dili. Bunlar, "durum derin sahtekarlıkları" oluşturmak için birleştirilebilir.
Bir durum deepfake'inin temel fikri ve teknolojisi, diğer tüm deepfake'lerle aynıdır, ancak daha cesur bir hırsla: gerçek bir olayı manipüle etmek veya yoktan var etmek. Örnekler şunların tasvirlerini içerir: Donald Trump'ın suçlu yürüyüşü ve Trump, Anthony Fauci'ye sarılıyor, hiçbiri olmadı. Sarılma atışının tanıtımı bir Twitter hesabı başkanlık kampanyası ile ilgili Trump rakibi Ron DeSantis'in. Bir saldırı reklamı Cumhuriyetçi Ulusal Komite tarafından yayınlanan Joe Biden'ın 2024 kampanyasını hedef alan tamamen yapay zeka ile yapılmıştır.
at DeFake ProjesiBizim Araştırma bulmuştur durumlar da dahil olmak üzere derin sahtekarlıkların tipik olarak bazı karışımları tarafından yaratıldığı bir ortam parçasını diğeriyle ekleme; video kullanmak bir görüntüyü canlandırmak veya başka bir videoyu değiştirmek içinkuklacılık olarak adlandırılan; tipik olarak kullanarak bir ortam parçasını var etmek için çağrıştırmak üretken yapay zeka; veya bu tekniklerin bazı kombinasyonları.
Açık olmak gerekirse, birçok durum derin sahtekarlığı masum amaçlar için yapılır. Örneğin, Sonsuz Odyssey Dergisi olan filmlerden sahte fotoğraflar üretir. asla üretilmedi or asla var olamaz. Ancak masum derin sahte fotoğraflar bile, neredeyse inanılır gibi görünen sahte fotoğraflarda olduğu gibi duraklama için sebep verir. Bir film prodüksiyonu olarak Apollo Ay'a iniş.
Bir seçimi derinleştirmek
Şimdi kendinizi yaklaşan seçimi etkilemeye çalışan birinin yerine koyun. Yaratmak isteyebileceğiniz olası durumlar nelerdir?
Yeni başlayanlar için, oylamayı belirli bir sonuca doğru ya da ondan uzaklaştırmak isteyip istemediğiniz önemli olacaktır. Belki bir yayayı hızla giden bir arabanın önünden çekerek kahramanca davranan ya da tam tersine saldırgan veya suç teşkil eden bir şey yapan bir adayı canlandırırsınız. Deepfake durumunun formatı da önemli olacaktır. Bir video yerine, bir akıllı telefon kamerasını veya bir haber ajansının sahte logosunu simüle eden bulanıklık ve açılarla bir fotoğraf olabilir.
Hedef kitleniz anahtar olacaktır. Genel seçmeni veya bir partinin tabanını hedeflemek yerine, önemli oylama bölgelerindeki komplo teorisyenlerini hedef alabilirsiniz. Adayı veya aile üyelerini, şeytani ritüel, bir festivale katılarak özel ve tartışmalı Bohemian Groveveya sahip olmak uzaylıyla gizli görüşme.
Bunun için hırsınız ve yetenekleriniz varsa, seçimin kendisini derinleştirmeye bile çalışabilirsiniz. Haziran 2023'te Rusya'nın televizyon ve radyo istasyonları hacklendi ve tam bir seferberlik emri yayınla bir tarafından Rusya Devlet Başkanı Vladimir Putin'in Deepfake'i. Bunu bir ABD seçimlerinde yapmak daha zor olsa da, prensip olarak herhangi bir haber kaynağı, yanlış sonuçları veya bir adayın kabul ettiğini duyuran sunucularının derin sahtelerini yayınlamak için hacklenebilir.
Gerçeği savunmak
Durum derin sahtekarlıklarını tespit etmek ve bunlara karşı savunmak için çeşitli teknolojik ve psikolojik yollar vardır.
Teknoloji cephesinde, tüm derin sahtekarlıklar gerçek doğalarına dair bazı kanıtlar içerir. Bu anlatımlardan bazıları - aşırı pürüzsüz cilt veya garip aydınlatma veya mimari gibi - insan gözü tarafından görülebiliyorken, diğerleri yalnızca derin sahte avlayan yapay zeka tarafından algılanabilir.
inşa ediyoruz SahteDeepfake'lerin belirgin işaretlerini yakalamak için AI'yı kullanacak dedektörünü kullandık ve onu 2024 seçimleri için zamanında hazır hale getirmek için çalışıyoruz. Ancak bizimki gibi yeterince güçlü bir deepfake detektörü Seçim Günü'ne kadar konuşlandırılamasa bile, siz seçmenlerin deepfake'leri tespit etmek için kullanabileceği psikolojik araçlar var: arka plan bilgisi, merak ve sağlıklı şüphecilik.
Karakteristik olmayan görünen bir kişi, yer veya olay hakkında medya içeriğiyle karşılaşırsanız, arka plan bilginize güvenin. Örneğin, bir Pentagon'da yakın zamanda çıkan bir yangın aldatmacası, gösterilen bina beşgenden çok kare görünüyor, bu da bir hediye olabilir.
Ancak, hatalı veya düzensiz olabilecek arka plan bilginize tamamen güvenmemeye çalışın. Doğrulanmış haberler, hakemli akademik makaleler veya yetkili uzmanlarla yapılan röportajlar gibi güvenilir kaynaklardan daha fazlasını öğrenmekten asla korkmayın.
Ek olarak, olduğunuz şeyden yararlanmak için derin sahtekarlıkların kullanılabileceğini unutmayın. inanmaya meyilli bir kişi, yer veya olay hakkında. Bununla başa çıkmanın en iyi yollarından biri basitçe önyargılarınızın farkında olun ve onları onaylıyor gibi görünen herhangi bir medya içeriği konusunda biraz dikkatli olun.
Mükemmel durum deepfake'leri yaratmak mümkün olsa bile, konularının ne kadar inandırıcı olduğu muhtemelen Aşil topuğu olmaya devam edecek. Dolayısıyla, teknolojik bir çözüm olsa da olmasa da, seçimi sahte olayların etkisinden koruma gücünüz hâlâ var.
Yazar hakkında
Christopher Schwartz, Bilgi İşlem Güvenliği Doktora Sonrası Araştırma Görevlisi, Rochester Teknoloji Enstitüsü
Bu makale şu adresten yeniden yayınlandı: Konuşma Creative Commons lisansı altında. Okumak Orijinal makale.
İlgili Kitaplar:
Tiranlık Üzerine: Yirminci Yüzyıldan Yirmi Ders
kaydeden Timothy Snyder
Bu kitap, kurumların önemi, bireysel vatandaşların rolü ve otoriterliğin tehlikeleri de dahil olmak üzere, demokrasiyi korumak ve savunmak için tarihten dersler sunuyor.
Daha fazla bilgi veya sipariş için tıklayın
Şimdi Zamanımız: Güç, Amaç ve Adil Bir Amerika İçin Mücadele
kaydeden Stacey Abrams
Bir politikacı ve aktivist olan yazar, daha kapsayıcı ve adil bir demokrasi vizyonunu paylaşıyor ve siyasi katılım ve seçmen seferberliği için pratik stratejiler sunuyor.
Daha fazla bilgi veya sipariş için tıklayın
Demokrasiler Nasıl Ölür?
Steven Levitsky ve Daniel Ziblatt tarafından
Bu kitap, demokrasinin nasıl korunacağına dair içgörüler sunmak için dünyanın dört bir yanından vaka incelemelerinden yararlanarak, demokrasinin çöküşünün uyarı işaretlerini ve nedenlerini inceliyor.
Daha fazla bilgi veya sipariş için tıklayın
Halk, Hayır: Popülizmin Kısa Tarihi
Thomas Frank tarafından
Yazar, Amerika Birleşik Devletleri'ndeki popülist hareketlerin bir tarihini sunuyor ve demokratik reform ve ilerlemeyi engellediğini öne sürdüğü "anti-popülist" ideolojiyi eleştiriyor.
Daha fazla bilgi veya sipariş için tıklayın
Bir Kitapta veya Daha Azında Demokrasi: Nasıl Çalışır, Neden Çalışmaz ve Düzeltmek Neden Düşündüğünüzden Daha Kolay
David Litt tarafından
Bu kitap, güçlü ve zayıf yönleri de dahil olmak üzere demokrasiye genel bir bakış sunuyor ve sistemi daha duyarlı ve hesap verebilir hale getirmek için reformlar öneriyor.
