Fakey oyununun ekran görüntüleri. Mihai Avram ve Filippo Menczer

Sosyal medya arasında ABD'deki başlıca haber kaynakları ve dünya çapında. Ancak kullanıcılar, aşağıdakiler de dahil olmak üzere sorgulanabilir doğruluk içeriğine maruz kalmaktadır: komplo teorileri, clickbait, hyperpartisan içeriği, sözde bilim ve hatta fabrikasyon “sahte haber” raporları.

Çok fazla dezenformasyonun yayınlanmış olması şaşırtıcı değildir: Spam ve çevrimiçi dolandırıcılık suçlular için kazançlıve hükümet ve siyasi propaganda verimi hem partizan hem de finansal faydalar. Ama aslında düşük güvenilirlikli içerik çok hızlı ve kolay bir şekilde yayılır İnsanların ve sosyal medya platformlarının ardındaki algoritmaların manipülasyona açık olduğunu göstermektedir.

Araştırmamız, sosyal medya ekosistemini hem kasıtlı hem de kazayla yanlış bilgilendirmeye karşı savunmasız bırakan üç tür önyargı belirlemiştir. Bu yüzden bizim Sosyal Medyada Gözlemevi Indiana Üniversitesi'nde bina araçlar İnsanların bu önyargılardan haberdar olmalarına ve kendilerini istismar etmek için tasarlanmış dış etkilerden korumalarına yardımcı olmak için.

Sosyal Medya Gözlemevinde geliştirilen araçları açıklama:

{youtube}https://youtu.be/BIv9054dBBI{/youtube}

Beyindeki önyargı

Bilişsel önyargılar, beynin her insanın her gün karşılaştığı bilgileri işleme biçiminden kaynaklanmaktadır. Beyin sadece sınırlı miktarda bilgiyle ilgilenebilir ve çok fazla gelen uyaranlara neden olabilir bilgi yüklemesi. Bunun kendi içinde sosyal medyadaki bilgilerin kalitesi üzerinde ciddi etkileri var. Kullanıcıların sınırlı ilgisine yönelik dik rekabetin, bazı fikirler düşük kaliteye rağmen viral hale geliyor - insanlar yüksek kaliteli içeriği paylaşmayı tercih ettikleri zaman bile.

Ezilmekten kaçınmak için beyin hileler sayısı. Bu yöntemler genellikle etkilidir, ancak aynı zamanda önyargılı olmak Yanlış bağlamlarda uygulandığında.

Bir bilişsel kısayol, bir kişi sosyal medya akışında görünen bir hikayeyi paylaşıp paylaşmamaya karar verirken olur. İnsanlar manşetin duygusal çağrışımlarından çok etkilenir, bu bir makalenin doğruluğunun iyi bir göstergesi olmasa da. Çok daha önemli parçayı kim yazdı.

Bu önyargıya karşı koymak ve insanların paylaşmadan önce bir iddianın kaynağına daha fazla dikkat etmesine yardımcı olmak için geliştirdik kötü işte, mobil haber okuryazarlığı oyunu (ücretsiz Android ve iOSana akım ve düşük güvenilirlikli kaynaklardan gelen haber makalelerinin bir karışımını içeren tipik bir sosyal medya haber akışını simüle etmek. Oyuncular güvenilir kaynaklardan gelen haberleri paylaşmak ve gerçekleri kontrol etmek için şüpheli içeriği işaretlemek için daha fazla puan alır. Bu süreçte, hiperpartisan iddiaları ve duygusal açıdan yüklü manşetler gibi kaynak güvenilirliğinin sinyallerini tanımayı öğreniyorlar.

Toplumda önyargı

Başka bir önyargı kaynağı toplumdan geliyor. İnsanlar doğrudan akranlarıyla bağlantı kurduğunda, arkadaş seçimini yönlendiren sosyal önyargılar gördükleri bilgileri etkilemeye başlar.

Aslında, araştırmamızda mümkün olduğunu bulduk Twitter kullanıcısının politik eğilimlerini belirleme sadece arkadaşlarının partizan tercihlerine bakarak. Bunların yapısı analizimiz partizan iletişim ağları Bulunan sosyal ağlar özellikle bilginin yayılmasında etkilidir - doğru ya da değil - ne zaman birbirlerine yakın bağlanmış ve toplumun diğer yerlerinden bağlantısı kesilmiş.

Kendi sosyal çevrelerinden gelirse bilgiyi daha olumlu değerlendirme eğilimi yaratır “yankı odaları“Bilinçli veya kasıtsız olarak manipülasyon için olgunlaşmış olan. Bu, neden bu kadar çok sayıda çevrimiçi sohbetin neden geliştiğini açıklamaya yardımcı olur “Biz onlara karşı biz” yüzleşmeleri.

Çevrimiçi sosyal ağların yapısının kullanıcıları dezenformasyona karşı nasıl savunmasız hale getirdiğini incelemek için, Hoaxydüşük güvenilirlikli kaynaklardan gelen içeriğin yayılmasını izleyen ve görselleştiren ve gerçekleri kontrol eden içerikle nasıl rekabet ettiğini gösteren bir sistem. 2016 ABD başkanlık seçimlerinde Hoaxy tarafından toplanan verilerin analizi, yanlış bilgi paylaşan Twitter hesaplarının olduğunu gösteriyor neredeyse tamamen kesilmiş Gerçek-denetçiler tarafından yapılan düzeltmelerden.

Yanlış yayılma hesaplarını incelediğimizde, birbirlerini neredeyse sadece retweetleyen çok yoğun bir çekirdek hesap grubu bulduk - birkaç bot dahil. Bilgiyi denetleyen kuruluşların, yanlış biçimlendirilmiş gruptaki kullanıcılar tarafından hiç bahsedilmediği veya bahsedildiği tek zaman, meşruiyetlerini sorgularken veya yazdıklarının tam tersini iddia ederken oldu.

Makinedeki Önyargı

Üçüncü önyargı grubu doğrudan insanların çevrimiçi gördüklerini belirlemek için kullanılan algoritmalardan kaynaklanmaktadır. Hem sosyal medya platformları hem de arama motorları bunları kullanır. Bu kişiselleştirme teknolojileri, her bir kullanıcı için yalnızca en ilgi çekici ve alakalı içeriği seçmek üzere tasarlanmıştır. Ancak bunu yaparken, kullanıcıların bilişsel ve sosyal yanlılıklarını pekiştirerek, onları manipülasyona daha savunmasız bırakabilir.

Örneğin, ayrıntılı birçok sosyal medya platformunda yerleşik reklam araçları dezenformasyon kampanyacılarının yararlanmalarına izin ver onay önyargı by mesajları uyarlama zaten onlara inanmaya meyilli olan insanlara.

Ayrıca, bir kullanıcı sık sık belirli bir haber kaynağından Facebook bağlantılarını tıklarsa, Facebook o kişiye o sitenin içeriğinden daha fazlasını gösterme eğilimi. Bu sözde “filtre balonu“Etki, insanları farklı perspektiflerden izole ederek onaylama yanlılığını güçlendirir.

Kendi araştırmamız, sosyal medya platformlarının, kullanıcıları Wikipedia gibi sosyal olmayan medya sitelerine göre daha az farklı kaynaklara maruz bıraktığını gösteriyor. Çünkü bu, tek bir kullanıcı için değil, bütün bir platform düzeyinde olduğu için buna homojenlik önyargısı.

Sosyal medyanın bir diğer önemli bileşeni, en çok tıklamayı alanın ne olduğuna göre platformda trend gösteren bilgidir. Biz buna diyoruz popülerlik önyargısıÇünkü popüler içeriği tanıtmak için tasarlanmış bir algoritmanın platformdaki bilgilerin kalitesini olumsuz yönde etkileyebileceğini bulduk. Bu aynı zamanda mevcut bilişsel önyargıları besler ve kalitesinden bağımsız olarak popüler görünen şeyleri pekiştirir.

Tüm bu algoritmik önyargılar tarafından manipüle edilebilir sosyal botlarsosyal medya hesapları aracılığıyla insanlarla etkileşime giren bilgisayar programları. Twitter gibi çoğu sosyal bot Big Ben, zararsızdır. Bununla birlikte, bazıları gerçek yapılarını gizler ve bu gibi kötü niyetli amaçlar için kullanılır. dezenformasyonu artırmak veya yanlış Bir taban hareketi hareketi oluşturma“astroturfing” olarak da adlandırdık. bu tür bir manipülasyon kanıtı 2010 ABD ara seçimlerinde.

Bu manipülasyon stratejilerini incelemek için, denilen sosyal botları tespit etmek için bir araç geliştirdik. Botometer. Botometer, bot hesaplarını algılamak için, Twitter hesaplarının binlerce farklı özelliğini inceleyerek, gönderilerinin yapıldığı zamanlar, ne sıklıkta tweet attığını ve takip ettiği ve yeniden tweetilediği hesapları inceler. Mükemmel değil, ama o kadar olduğu ortaya çıktı Twitter hesaplarının yüzde 15'u bot olmanın belirtilerini gösteriyor.

Botometreyi Hoaxy ile birlikte kullanarak, 2016 ABD başkanlık kampanyası sırasında yanlış bilgilendirme ağının çekirdeğini analiz ettik. Hem mağdurların bilişsel, onay, hem de popülerlik önyargılarından ve Twitter'ın algoritmik önyargılarından yararlanan birçok robot bulduk.

Bu botlar savunmasız kullanıcılar etrafına filtre baloncukları oluşturabilir, yanlış iddiaları ve yanlış bilgileri besleyebilir. Öncelikle, belirli bir adayı destekleyen insanın dikkatini, adayın hashtaglerini tweetleyerek veya kişiden bahsederek ve tekrar tweetleyerek çekebilir. Ardından, botlar, belirli anahtar kelimelerle eşleşen düşük güvenilirlikli kaynaklardan gelen makaleleri tweetleyerek yanlış iddiaları rakiplerini artırabilir. Bu aktivite aynı zamanda algoritmanın diğer kullanıcılar için geniş çapta paylaşılan sahte hikayeleri vurgulamasını da sağlar.

Karmaşık güvenlik açıklarını anlama

Araştırmamız ve diğerleri, sosyal medyada bireylerin, kurumların ve hatta tüm toplumların nasıl manipüle edilebileceğini gösterse de, birkaç soru cevap vermek için kaldı. Bu farklı önyargıların birbirleriyle nasıl etkileşimde bulunduğunu keşfetmek, potansiyel olarak daha karmaşık güvenlik açıkları oluşturmak özellikle önemlidir.

Bizimki gibi araçlar, internet kullanıcılarına dezenformasyon hakkında daha fazla bilgi ve bu nedenle zararlarından bir dereceye kadar koruma sağlar. Çözümler olacak Muhtemelen sadece teknolojik olmayacakBununla birlikte, muhtemelen bazı teknik yönleri olacaktır. Ancak dikkate almaları gerekir bilişsel ve sosyal yönler problemin.

Yazarlar Hakkında

Giovanni Luca Ciampaglia, Araştırma Görevlisi Yardımcısı, Indiana Üniversitesi Ağ Bilimleri Enstitüsü, Indiana Üniversitesi ve Bilgisayar Bilimleri ve Bilişim Profesörü Filippo Menczer; Karmaşık Ağlar ve Sistem Araştırmaları Merkezi Direktörü, Indiana Üniversitesi

Bu yazı orijinalinde Konuşma. Okumak Orijinal makale.

İlgili Kitaplar

at

Ziyaret ettiğiniz için teşekkürler InnerSelf.com, neredeler 20,000+ "Yeni Tutumlar ve Yeni Olasılıklar"ı tanıtan, yaşamı değiştiren makaleler. Tüm makaleler tercüme edilmiştir 30+ dil. Üye olun haftalık olarak yayınlanan InnerSelf Magazine'e ve Marie T Russell'ın Daily Inspiration'ına. InnerSelf Dergisi 1985'den beri yayınlanmaktadır.