Özel şirketler, bağımsız gözetim veya düzenleme olmadan çevrimiçi nefretle karşı karşıya kalıyorlar, bu da ciddi etkileri ve temel insan hakları ve özgürlükleri için risk teşkil ediyor. (Shutterstock)

Geçtiğimiz günlerde Charlottesville, Va'de silahlı beyaz üstünlükçülerin meşalelerle yürüttüğü yürüyüş, nefret gruplarının nasıl düzenlenmesi gerektiği konusunda tartışmalar yaratmaya devam ediyor. Yürüyüşün ardından kamuoyu baskısının artmasıyla birlikte internet şirketleri, şiddetli nefret söylemi uyandıran web sitelerini platformlarından çıkarmak için koştu.

GoDaddy etki alanı hizmetlerini sonlandırdı neo-Nazi'nin web sitesine The Daily Stormer gibi Google. Web sitelerini çevrimiçi saldırılara karşı koruyan bir şirket olan Cloudflare yasaklı platformundan nefret sitesi. Rusya sitenin yasaklanmasını emretti ülkede barındırılmaktan.

Araştırmam ve kitabım Chokepoints: İnternette Küresel Özel Düzenleme Pek çok internet şirketinin zaten içeriği kaldırdığını ve kullanıcıları “gönüllü olarak” yasakladığını, yani mevzuatın veya herhangi bir adli sürecin bulunmadığını gösteriyor. Google, PayPal, GoDaddy, Twitter ve Facebook gibi başlıca aracılar, çocuk cinsel istismarı içeriği, aşırılıkçılık ve sahte ürünlerdeki yasadışı ticaret için platformlarını gönüllü olarak kullanıyorlar.

Pek çok insan, nefret dolu konuşmaları ve diğer sakıncalı içerikleri damgalamak için bu çabaları anlaşılır biçimde alkışlıyor. Ancak, internet şirketlerinin konuşmanın fiili düzenleyicileri olarak gösterdiği çabalar ciddi sorulara yol açmaktadır: Çevrimiçi içerik nasıl düzenlenmeli? Kim tarafından?

Beyaz üstünlükçüleri desteklemiyorum ve böyle bir konuşmanın polisliğini savunmuyorum. Aksine, bir sonraki davada net bir şekilde olamayacağından çevrimiçi içeriğin nasıl düzenleneceğini ciddi şekilde düşünmemiz gerektiğini söylüyorum.

İcra uygulamaları sıkıntılı derecede opak ve keyfi yorumlamaya eğilimli olduklarından, interneti güçlendirmek için güçlü şirketlere güvenmekle ilgili önemli sorunlar var.

Rahatsız edici emsal

İnternet şirketlerinin Daily Stormer’a karşı olan muhalifleri için tezahüratlarına aykırı bir karşıtlık içinde Cloudflare’nin CEO’su Matthew Prince, dikkat çekici, ihtiyatlı bir bakış açısı sundu. .

İçinde blog yazısı Cloudflare’ın Daily Stormer’a karşı eylemlerini açıklayan Prince, şirketin gerekli süreci konuşma özgürlüğünden daha önemli bir ilke olarak gördüğünü savundu. Süreç, “o sisteme katılırsanız bir sistemin izleyeceği kuralları bilmeniz gerekir” anlamına gelir. ”Bu açıklama, içerik ve çevrimiçi davranışın fiili düzenleyicileri olarak çalışan aracılarla içsel sorunları ele almaktadır.

Bu senenin başlarında, Shopify çalışanları ve yüzlerce binlerce insan çağırdı ve dilekçe Breitbart Media'nın internet mağazasında son derece haklı olan çevrimiçi ticaret platformudur. Eski İcra Başkanı Stephen Bannon aramalar Breitbart “sağ alt platform” Sözde "alt-sağ" - tarafından popüler bir terim Richard Bertrand Spencer - beyaz üstünlükçü, ayrılıkçı, neo-Nazi, faşist, ırkçı, anti-Semitik, İslamofobik ve popülist muhafazakar ideolojilerin bir karışımını kapsar.

Shopify CEO'su Tobias Lütke serbest konuşma savunmasını yaptığını söyledi Ottawa şirketi Breitbart’ın çevrimiçi mağazasını tehdit altında tutmaya devam etti istifa eden çalışanlar. Halktan sonra basınç ve lanse edilen bir taban kampanyası #DeleteShopify daha fazla açığa çıkaran incelemeye öncülük etti şüpheli iş, Shopify oldu zorunlu evlat edinmek “Kabul edilebilir kullanım politikası.”

The Daily Stormer'ın zıt örnekleri ve internet şirketleri tarafından silinmesi ve Shopify'ın Breitbart'a kararlı desteği, yalnızca yoğunlaşmayı vaat eden bir ikilemin uç noktalarında olduğunu gösteriyor.

Keyfi politikalar, düzenleme

İnternet aracıları çok çeşitli konularda güçlü düzenleyiciler olma potansiyeline sahiptir çünkü hızlı ve mahkeme emri olmadan hareket edebilirler. Daha da önemlisi, herhangi bir içeriği sansürleme veya kullanıcıları hizmet şartları sözleşmeleri uyarınca yasaklama konusunda enlemleri var.

PayPal, hizmetlerini kullanıcılara sonlandırma hakkını saklı tutar “herhangi bir nedenle ve herhangi bir zamanda, ”Çoğu aracı kuruluşun hizmet sözleşmesinde yankılanan dil. Keyfi düzenleme kapasitesi böylece aracı kurumların iç kurallarına dönüştürülür.

Prens, Cloudflare’nin Daily Stormer’a yönelik eyleminin, aracıların mahkeme emri olmadan bunu yapmasını gerektirmeden polis konuşmasına emsal teşkil ettiği konusunda uyardı.

Bu aracılar genellikle, şirketlerin kamuya açık (ama büyük ölçüde hesaplanamayan) bir internet düzenlemesi yüzü olmasını tercih eden hükümetlerin emri ile hareket eder. Ancak, bu firmalar yasallığı yasallıktan ayırt etmek, yanlış anlaşılmalara neden olmak ve yanlışlıkla yasal davranışı hedeflemek için genellikle yetersiz donanıma sahiptir.

Eşit derecede sorunlu: Aracıların yürütme süreçleri, içerik denetleyicileri karmaşık, hızlı değişen iç kurallarını keyfi olarak yorumladıkları için çoğu zaman opaktır. Bu sorunlar, aracıların platformlarındaki sorunlu içeriği belirlemek ve kaldırmak için otomatik araçları kullanmasıyla daha da artmaktadır.

Ayrıca, çocuk istismarına veya teröre karşı ilk kez uygulanan kuralların - uygulama eylemi için kayda değer katalizörlerin - daha sonra telif hakkıyla korunan içeriğin izinsiz indirilmesi gibi belirgin şekilde daha az zararlı olan diğer konulara uygulandığında, misyon sürünme endişesi söz konusudur.

Distopya geleceği burada

Düzenleyici çabalar, genellikle şiddetli nefret dolu konuşmaları sansürlemekten, Black Lives Matter'ın yaptığı gibi, bazıları tarafından tartışmalı olarak değerlendirilebilecek diğer konuşmalara kadar genişler. Ayrıca, dünya çapındaki hükümetler aracılara düzenli olarak baskı yapıyor sansür ve takip eleştirmenler ve siyasi muhalifler.

Başlıca aracılar, hükümetler adına içerik denetlemekten veya yüksek profilli protestolara cevap vermekten sorumlu olan düzenleyiciler haline geldiklerinde, kayda değer güçleri artmaktadır. ABD merkezli internet şirketleri, arama, reklam, alan adı tescili, ödeme ve sosyal medya gibi birçok sektöre hâkim durumda. Cloudflare'nın Prensi haklı uyardı “az sayıda dev ağa” bağlı olarak, “az sayıda şirket, neyin online olabileceğini ve neyin olamayacağını büyük ölçüde belirleyecektir”.

Bu distopya geleceği zaten burada.

Daily Stormer'ın çıkarılması hiç şüphesiz dünyayı daha iyi bir yer yapar. Ancak, Facebook ve Twitter gibi şirketlerin karar vermelerini istiyoruz - bağımsız, keyfi ve gizlice - hangi içeriğe erişip paylaşabileceğimizi?

Bu görünüşte anlaşılmaz sorunlar göz önüne alındığında ne yapabiliriz? İlk olarak, protestolar veya medya baskısı temelinde yönetmekten kaçınmalıyız. Yerine, Net bir kurallar dizisine ihtiyacımız var Aracıların, Prens'in önerdiği gibi, tutarlı ve şeffaf bir şekilde ve gerektiği sürece saygı göstermesini sağlamak.

Hükümetler, aracıların düzenleyici sorumluluklarının sınırlarını ve önemini açıklığa kavuşturmalıdır. Son olarak, “sahte haberler, terör ve nefret grupları” olarak adlandırılan belirli krizlere cevap vermekten vazgeçmeliyiz ve bunun yerine interneti nasıl yönetebileceğimiz ve yönetmemiz gerektiği konusunda eleştirel düşünmeliyiz.

Yazar hakkında

Natasha Tusikov, Yardımcı Doçent, Kriminoloji, Sosyal Bilimler Bölümü, York Üniversitesi, Kanada

Bu makale şu adresten yeniden yayınlandı: Konuşma Creative Commons lisansı altında. Okumak Orijinal makale.

İlgili Kitaplar

at InnerSelf Pazarı ve Amazon