Image Susan Cipriano
Editörden:
Bu makalede vurgulandığı gibi, Clogger adlı varsayımsal makine gibi yapay zeka güdümlü siyasi kampanyaların geliştirilmesi, seçimlerin bütünlüğünü büyük ölçüde baltalayabilir. Otomasyondan, özel mesajlaşmadan ve takviyeli öğrenmeden yararlanan bu makineler, seçmenlerin davranışlarını büyük ölçekte manipüle etme ve değiştirme potansiyeline sahiptir.
Yapay zekanın (AI) hızla ilerlediği bir çağda, demokratik süreçlerimize yönelik potansiyel tehditlere karşı uyanık kalmalıyız. AI güdümlü kampanyaların ortaya çıkışı, demokrasinin özüne meydan okuyor. Fikirlerin, politika önerilerinin ve gerçek seçmen seçimlerinin gücüyle belirlenen seçimler yerine, yalnızca zafere odaklanan makineler tarafından yönlendirilebilirler. Hakim olan içerik, gerçeğe veya politik ilkelere bakılmaksızın yapay zeka dil modellerinden gelir. Özünde, seçim sonucu, demokratik süreci aşındıran bir yapay zeka tarafından belirlenecektir.
"Klogokrasinin" yükselişini ve vatandaşların güçsüzleştirilmesini önlemek için harekete geçmemiz çok önemlidir. Gelişmiş gizlilik koruması ve güçlü veri gizliliği yasaları, yapay zeka makinelerinin kişisel verilere erişimini sınırlamaya yardımcı olabilir ve bu makinelerin bireyleri hedefleme ve manipüle etmedeki etkinliğini azaltabilir. Seçim komisyonları, seçmenleri etkilemek için tasarlanmış yapay zeka sistemlerini yasaklamayı veya katı bir şekilde düzenlemeyi de düşünmelidir. Yapay zeka tarafından oluşturulan mesajlar siyasi kampanyalarda kullanıldığında açık sorumluluk reddi beyanları gerektiren düzenlemelerin uygulanması. Bu, şeffaflık sağlayabilir ve seçmenlerin bilinçli kararlar almasına yardımcı olabilir.
Bu zorlukları proaktif bir şekilde ele almamız ve yapay zekanın gücünün demokrasi ilkelerini desteklemek için sorumlu bir şekilde kullanılmasını sağlamamız zorunludur. Seçimlerin bütünlüğünü koruyarak ve seçme özgürlüğünü koruyarak, yapay zekanın karmaşıklıklarında yol alabilir ve demokratik yönetişimin temellerini koruyabiliriz.
Yapay Zeka nasıl seçimleri devralabilir ve demokrasiyi baltalayabilir?
Tarafından yazılmıştır Arkon Fung, Vatandaşlık ve Özyönetim Profesörü, Harvard Kennedy Okulu ve Lawrence Lessig, Hukuk ve Liderlik Profesörü, Harvard Üniversitesi
Kuruluşlar, seçmenleri belirli şekillerde davranmaya teşvik etmek için ChatGPT gibi yapay zeka dil modellerini kullanabilir mi?
Senatör Josh Hawley, OpenAI CEO'su Sam Altman'a bu soruyu bir toplantıda sordu. 16 Mayıs 2023, ABD Senatosu duruşması yapay zeka üzerine. Altman, bazı kişilerin seçmenlerle bire bir etkileşimde bulunmak, ikna etmek ve manipüle etmek için dil modellerini kullanabileceğinden gerçekten endişe duyduğunu söyledi.
Altman ayrıntı vermedi, ancak aklında bu senaryoya benzer bir şey olabilirdi. Kısa bir süre sonra, politik teknoloji uzmanlarının Clogger adlı bir makine geliştirdiğini hayal edin - bir kara kutuda politik bir kampanya. Clogger durmaksızın tek bir hedefin peşinden koşar: Clogger Inc.'in hizmetlerini satın alan kampanyanın adayının bir seçimde galip gelme şansını en üst düzeye çıkarmak.
Facebook, Twitter ve YouTube gibi platformlar, kullanıcıların daha fazla zaman harca Clogger'ın yapay zekasının kendi sitelerinde farklı bir amacı olacaktı: insanların oy verme davranışını değiştirmek.
Clogger nasıl çalışır?
Olarak siyaset bilimcisi ve hukuk bilgini Teknoloji ve demokrasinin kesişimini inceleyen kişiler olarak, Clogger gibi bir şeyin, ölçeği ve potansiyel olarak etkinliğini önemli ölçüde artırmak için otomasyonu kullanabileceğine inanıyoruz. davranış manipülasyonu ve mikro hedefleme teknikleri siyasi kampanyaların 2000'lerin başından beri kullandığı. Tıpkı reklamverenler tarama ve sosyal medya geçmişinizi kullanır Clogger, artık ticari ve siyasi reklamları ayrı ayrı hedeflemek için size ve diğer yüz milyonlarca seçmene ayrı ayrı dikkat eder.
Mevcut son teknoloji algoritmik davranış manipülasyonuna göre üç ilerleme sunacaktır. İlk olarak, dil modeli size kişisel olarak uyarlanmış mesajlar (metinler, sosyal medya ve e-posta, belki de resimler ve videolar dahil) üretecektir. Reklamverenler stratejik olarak nispeten az sayıda reklam yerleştirirken, ChatGPT gibi dil modelleri, bir kampanya boyunca kişisel olarak sizin için sayısız ve başkaları için milyonlarca benzersiz mesaj oluşturabilir.
İkincisi, Clogger adlı bir teknik kullanırdı. takviye öğrenme oyunuzu değiştirme olasılığı giderek artan bir dizi mesaj oluşturmak için. Takviyeli öğrenme, bir hedefe nasıl ulaşılacağını öğrenmek için bilgisayarın harekete geçtiği ve hangisinin daha iyi çalıştığı hakkında geri bildirim aldığı bir makine öğrenimi, deneme yanılma yaklaşımıdır. Go, Satranç ve birçok video oyunu oynayabilen makineler herhangi bir insandan daha iyi pekiştirmeli öğrenmeyi kullanmışlardır.
Takviyeli öğrenme nasıl çalışır?
Üçüncüsü, bir kampanya boyunca Clogger'ın mesajları, makinenin önceki gönderilerine verdiğiniz yanıtları ve başkalarının fikirlerini değiştirmek konusunda öğrendiklerini hesaba katacak şekilde gelişebilir. Clogger, zamanla sizinle - ve diğer milyonlarca insanla - dinamik "sohbetler" yürütebilir. Clogger'ın mesajları şuna benzer olacaktır: sizi takip eden reklamlar farklı web sitelerinde ve sosyal medyada.
AI'nın doğası
Üç özellik daha - veya hatalar - kayda değer.
İlk olarak, Clogger'ın gönderdiği mesajlar içerik olarak politik olabilir veya olmayabilir. Makinenin tek amacı oy payını en üst düzeye çıkarmaktır ve muhtemelen bu amaca ulaşmak için hiçbir insan kampanyacının düşünemeyeceği stratejiler geliştirecektir.
Bir olasılık, olası muhalif seçmenlere, aldıkları siyasi mesajları gömmek için spor veya eğlenceyle ilgili siyasi olmayan tutkuları hakkında bilgi göndermektir. Başka bir olasılık da, rakiplerin mesajlarıyla aynı zamana denk gelecek şekilde zamanlanmış itici mesajlar - örneğin idrarını tutamama reklamları - göndermektir. Bir diğeri de, seçmenlerin sosyal medyadaki arkadaş gruplarını, sosyal çevrelerinin adayını desteklediği hissini vermek için manipüle etmektir.
İkincisi, Clogger'ın gerçeğe saygısı yoktur. Aslında neyin doğru neyin yanlış olduğunu bilmenin hiçbir yolu yoktur. Dil modeli “halüsinasyonlar” bu makine için sorun değil çünkü amacı doğru bilgi sağlamak değil, oyunuzu değiştirmek.
Üçüncüsü, çünkü bu bir kara kutu türü yapay zeka, insanların kullandığı stratejileri bilmesinin hiçbir yolu yoktur.
Açıklanabilir yapay zeka alanı, insanların nasıl çalıştıklarını anlayabilmesi için birçok makine öğrenimi modelinin kara kutusunu açmayı hedefliyor.
tıkanıklık
Cumhuriyetçi başkanlık kampanyası 2024'te Clogger'ı konuşlandıracaksa, Demokrat kampanya muhtemelen aynı şekilde, belki de benzer bir makineyle yanıt vermek zorunda kalacak. Dogger deyin. Kampanya yöneticileri bu makinelerin etkili olduğunu düşünürlerse, başkanlık yarışı Clogger'a karşı Dogger'a kadar inebilir ve kazanan, daha etkili makinenin müşterisi olur.
Siyaset bilimciler ve uzmanların, yapay zekalardan birinin veya diğerinin neden üstün geldiği hakkında söyleyecek çok şeyi olacaktır, ancak muhtemelen kimse gerçekten bilmeyecektir. Başkan, politika önerileri veya siyasi fikirleri daha fazla Amerikalıyı ikna ettiği için değil, daha etkili yapay zekaya sahip olduğu için seçilmiş olacak. Günü kazanan içerik, adaylardan veya partilerden ziyade, yalnızca zafere odaklanan, kendine ait hiçbir siyasi fikri olmayan bir yapay zekadan gelirdi.
Bu çok önemli anlamda seçimi bir kişiden çok bir makine kazanabilirdi. Demokrasinin tüm olağan faaliyetleri -konuşmalar, reklamlar, mesajlar, oy kullanma ve oy sayımı- gerçekleşmiş olsa bile, seçim artık demokratik olmayacaktır.
Yapay zeka tarafından seçilen başkan daha sonra iki yoldan birine gidebilir. Cumhuriyetçi veya Demokrat parti politikalarını izlemek için seçim kisvesini kullanabilirdi. Ancak parti fikirlerinin, insanların neden bu şekilde oy kullandıklarıyla çok az ilgisi olabileceğinden - Clogger ve Dogger politika görüşlerini umursamıyor - başkanın eylemleri mutlaka seçmenlerin iradesini yansıtmayabilir. Seçmenler, siyasi liderlerini ve politikalarını özgürce seçmek yerine yapay zeka tarafından manipüle edilmiş olurdu.
Başkan için başka bir yol, makinenin yeniden seçilme şansını en üst düzeye çıkaracağını öngördüğü mesajları, davranışları ve politikaları takip etmesidir. Bu yolda, başkanın iktidarı elinde tutmanın ötesinde belirli bir platformu veya gündemi olmayacaktır. Başkanın Clogger tarafından yönlendirilen eylemleri, seçmenlerin gerçek çıkarlarına ve hatta başkanın kendi ideolojisine hizmet etmekten ziyade seçmenleri manipüle etme olasılığı en yüksek olanlar olacaktır.
Clogocracy'den Kaçınmak
Adaylar, kampanyalar ve danışmanların tümü bu tür siyasi YZ'nin kullanımından vazgeçerse, YZ'nin seçim manipülasyonundan kaçınmak mümkün olacaktır. Bunun olası olmadığına inanıyoruz. Politik olarak etkili kara kutular geliştirilseydi, onları kullanmanın cazibesi neredeyse karşı konulamaz olurdu. Gerçekten de siyasi danışmanlar, adaylarının kazanmasına yardımcı olmak için bu araçları mesleki sorumluluklarının gerektirdiği şekilde kullanmayı pekâlâ görebilirler. Ve bir aday böylesine etkili bir aracı bir kez kullandığında, rakiplerin tek taraflı olarak silahsızlanarak direnmesi pek beklenemezdi.
Gelişmiş gizlilik koruması yardımcı olurdu. Clogger, bireyleri hedeflemek, onları ikna etmek veya manipüle etmek için özel mesajlar oluşturmak ve onları bir kampanya boyunca izleyip yeniden hedeflemek için büyük miktarda kişisel veriye erişime bağlı olacaktır. Şirketlerin veya politika yapıcıların makineyi reddettiği bu bilgilerin her bir parçası, makineyi daha az etkili hale getirecektir.
Güçlü veri gizliliği yasaları, yapay zekayı manipülatif olmaktan uzaklaştırmaya yardımcı olabilir.
Bir başka çözüm de seçim komisyonlarında yatıyor. Bu makineleri yasaklamaya veya ciddi şekilde düzenlemeye çalışabilirler. Orada bir şiddetli tartışma böyle olup olmadığı hakkında "kopya" konuşması, doğası gereği politik olsa bile düzenlenebilir. ABD'nin aşırı ifade özgürlüğü geleneği pek çok önde gelen akademisyenin bunu yapamayacağını söylemesine yol açar..
Ancak Birinci Değişikliğin korumasını otomatik olarak bu makinelerin ürününü kapsayacak şekilde genişletmek için hiçbir neden yoktur. Ulus, makinelere hak vermeyi seçebilir, ancak bu, günümüzün zorluklarına dayanan bir karar olmalıdır. yanlış varsayım değil James Madison'ın 1789'daki görüşlerinin yapay zekaya uygulanması amaçlanmıştı.
Avrupa Birliği düzenleyicileri bu yönde ilerliyor. Politika yapıcılar, Avrupa Parlamentosu'nun Yapay Zeka Yasası taslağını "kampanyalarda seçmenleri etkilemek için yapay zeka sistemlerini" belirleyecek şekilde revize etti. “yüksek riskli” olarak ve düzenleyici incelemeye tabidir.
Daha küçük olsa da, anayasal olarak daha güvenli bir adım, halihazırda kısmen tarafından kabul edilmiştir. Avrupa internet düzenleyicileri ve Kaliforniya, botların kendilerini insan olarak göstermelerini yasaklamak içindir. Örneğin, düzenleme, kampanya mesajlarının, içerdikleri içerik insanlar yerine makineler tarafından üretildiğinde sorumluluk reddi beyanlarıyla birlikte gönderilmesini gerektirebilir.
Bu, reklam sorumluluk reddi gerekliliklerine benzer - "Kongre Komitesi için Sam Jones tarafından ödendi" - ancak yapay zeka kaynağını yansıtacak şekilde değiştirildi: "Yapay zeka tarafından oluşturulan bu reklamın ücreti Kongre Komitesi için Sam Jones tarafından ödendi." Daha güçlü bir sürüm şunları gerektirebilir: "Yapay zeka tarafından oluşturulan bu mesaj, Kongre Komitesi için Sam Jones tarafından size gönderiliyor çünkü Clogger bunu yapmanın Sam Jones'a oy verme şansınızı %0.0002 artıracağını tahmin etti." En azından, seçmenlerin kendileriyle konuşanın bir robot olduğunu bilmeyi hak ettiğine ve nedenini de bilmeleri gerektiğine inanıyoruz.
Clogger gibi bir sistemin olasılığı, insan toplu güçsüzleştirme biraz insanüstü gerektirmeyebilir yapay genel zeka. Milyonlarca insanın pek çok düğmesine etkili bir şekilde basabilecek güçlü yeni araçlara sahip aşırı istekli kampanyacılar ve danışmanlar gerektirebilir.
Yazarlar Hakkında
Arkon Fung, Vatandaşlık ve Özyönetim Profesörü, Harvard Kennedy Okulu ve Lawrence Lessig, Hukuk ve Liderlik Profesörü, Harvard Üniversitesi
Bu makale şu adresten yeniden yayınlandı: Konuşma Creative Commons lisansı altında. Okumak Orijinal makale.
Editörün Eki: Yapay zekanın seçimleri ele geçirme ve demokrasiyi baltalama potansiyeli, dikkatimizi gerektiren acil bir endişedir. Bu makalenin vurguladığı gibi, Clogger gibi yapay zeka odaklı siyasi kampanyaların yükselişi, seçmen davranışını benzeri görülmemiş bir ölçekte etkileyen makinelerle seçim sonuçlarını yeniden şekillendirebilir. Seçimler halkın iradesine göre değil, yapay zeka manipülasyonunun etkinliğine göre belirleneceğinden, böyle bir değişimin sonuçları geniş kapsamlı olacaktır.
Vatandaşların bu güçsüzleşmesini önlemek ve demokrasiyi korumak için proaktif önlemler almalıyız. AI sistemlerinin seçimlerdeki etkisini sınırlayan sağlam gizlilik koruması ve düzenlemeler çok önemlidir. Şeffaflığı sağlayarak, yapay zeka tarafından üretilen içerik için net feragatnameler uygulayarak ve yapay zekanın sorumlu kullanımını teşvik ederek, demokratik süreçlerin bütünlüğünü koruyabilir ve toplumumuzun temel değerlerini koruyabiliriz.
Tetikte kalmamız ve yapay zekanın seçimlerde ortaya koyduğu zorlukların üstesinden gelmek için toplu olarak çalışmamız çok önemlidir. Bunu yaparak, toplumlarımızın temelini oluşturan demokratik idealleri koruyabilir ve teknolojinin gücünün insanların çıkarları ve özlemleriyle uyumlu olduğu bir geleceği güvence altına alabiliriz.
İlgili Kitaplar:
Tiranlık Üzerine: Yirminci Yüzyıldan Yirmi Ders
kaydeden Timothy Snyder
Bu kitap, kurumların önemi, bireysel vatandaşların rolü ve otoriterliğin tehlikeleri de dahil olmak üzere, demokrasiyi korumak ve savunmak için tarihten dersler sunuyor.
Daha fazla bilgi veya sipariş için tıklayın
Şimdi Zamanımız: Güç, Amaç ve Adil Bir Amerika İçin Mücadele
kaydeden Stacey Abrams
Bir politikacı ve aktivist olan yazar, daha kapsayıcı ve adil bir demokrasi vizyonunu paylaşıyor ve siyasi katılım ve seçmen seferberliği için pratik stratejiler sunuyor.
Daha fazla bilgi veya sipariş için tıklayın
Demokrasiler Nasıl Ölür?
Steven Levitsky ve Daniel Ziblatt tarafından
Bu kitap, demokrasinin nasıl korunacağına dair içgörüler sunmak için dünyanın dört bir yanından vaka incelemelerinden yararlanarak, demokrasinin çöküşünün uyarı işaretlerini ve nedenlerini inceliyor.
Daha fazla bilgi veya sipariş için tıklayın
Halk, Hayır: Popülizmin Kısa Tarihi
Thomas Frank tarafından
Yazar, Amerika Birleşik Devletleri'ndeki popülist hareketlerin bir tarihini sunuyor ve demokratik reform ve ilerlemeyi engellediğini öne sürdüğü "anti-popülist" ideolojiyi eleştiriyor.
Daha fazla bilgi veya sipariş için tıklayın
Bir Kitapta veya Daha Azında Demokrasi: Nasıl Çalışır, Neden Çalışmaz ve Düzeltmek Neden Düşündüğünüzden Daha Kolay
David Litt tarafından
Bu kitap, güçlü ve zayıf yönleri de dahil olmak üzere demokrasiye genel bir bakış sunuyor ve sistemi daha duyarlı ve hesap verebilir hale getirmek için reformlar öneriyor.
