Nerede çevrimiçi olursanız olun, birileri web deneyiminizi kişiselleştirmeye çalışıyor. Tercihleriniz önceden engellenmiştir, niyetleriniz ve motivasyonlarınız önceden tahmin edilmiştir. Üç ay önce kısaca baktığınız ekmek kızartma makinesi, uyarlanmış reklam kenar çubuklarına göz atmak için gezinmeye devam ediyor. Ve bu tek yönlü bir yol değil. Aslında, bazı kişiselleştirme sistemlerinin tamamen kişisel olmayan mekaniği sadece dünyayı nasıl gördüğümüzü değil, kendimizi nasıl gördüğümüzü de etkileyebilir.

Her gün olur, çevrimiçi olduğumuz sürece hepimiz için. Facebook'un Haber Kaynağı uyarlanmış içerik sunmaya çalışır “En çok ilgi çeken” bireysel kullanıcılar. Amazon'un tavsiye motoru, önermek için diğer kullanıcıların gezinme alışkanlıkları ile birlikte kişisel veri takibini kullanıyor ilgili ürünler. Google arama sonuçlarını özelleştirirve daha fazlası: örneğin, kişiselleştirme uygulaması Google Asistan “size sormadan önce, gün boyunca ihtiyacınız olan bilgileri vermeyi” amaçlamaktadır. Bu tür kişiselleştirme sistemleri sadece kullanıcılara uygunluk sağlamayı amaçlamaz; Hedefli pazarlama stratejileri sayesinde, birçok kullanımı ücretsiz web hizmeti için de kar elde ediyorlar.

Belki de bu sürecin en bilinen eleştirisi, “Filtre balonu” teorisi. İnternet aktivisti tarafından önerildi Eli PariserBu teori, kişiselleştirmenin web kullanıcılarının deneyimlerini zararlı bir şekilde etkileyebileceğini göstermektedir. Evrensel, çeşitli içeriğe maruz kalmak yerine, kullanıcılar önceden var olan kendi kendini doğrulayan bakış açılarıyla eşleşen algoritmik olarak teslim edilen materyallerdir. Bu nedenle filtre balonu demokratik katılım için bir sorun teşkil etmektedir: zorlu ve çeşitli bakış açılarına erişimi kısıtlayarak, kullanıcılar toplu ve bilgilendirilmiş tartışmalara katılamazlar.

{youtube}6_sim_Wc3mY{/youtube}

Filtre balonunun kanıtlarını bulma girişimleri karışık sonuçlar doğurmuştur. Bazı çalışmalar kişiselleşmenin gerçekten bir konunun “miyop” görüşüne yol açabileceğini göstermiştir; Diğer çalışmalarda Farklı bağlamlarda kişiselleştirmenin aslında kullanıcıların ortak ve çeşitli içerikleri keşfetmelerine yardımcı olabileceğini bulduk. Araştırmam kişiselleşmenin sadece dünyayı nasıl gördüğümüzü değil aynı zamanda kendimizi nasıl gördüğümüzü etkilediğini gösteriyor. Dahası, kişiselleştirmenin kimliklerimiz üzerindeki etkisi, tüketimin filtrelenmesinden kaynaklanmayabilir, ancak bazı durumlarda çevrimiçi kişiselleştirme hiç de “kişisel” değildir.

Veri izleme ve kullanıcı önleme

Bunu anlamak için, çevrimiçi kişiselleştirmenin nasıl gerçekleştirildiğini değerlendirmek faydalıdır. Kişiselleştirme sistemleri bireysel web hareketlerimizi izlese de, bizi “birey” olarak tanıması veya tanıması için tasarlanmamıştır. Bunun yerine, bu sistemler kullanıcıların gerçek zamanlı hareketlerini ve alışkanlıklarını toplu veri setlerinde bir araya getirir ve kullanıcıların hareketleri arasındaki kalıpları ve ilişkileri arar. Bulunan desenler ve korelasyonlar geri çevrildi tanıyabileceğimiz (yaş, cinsiyet, dil ve ilgi alanları gibi) ve içine girebileceğimiz kimlik kategorileri içine. Kişisel olarak alakalı içerik sunmak için toplu kalıplar arayarak, kişiselleştirme aslında dayanmaktadır oldukça kişisel olmayan bir süreç.

Filtre balonu teorisi 2011'te ilk kez ortaya çıktığında, Pariser kişiselleştirme ile ilgili en büyük sorunlardan birinin kullanıcıların bunun olduğunu bilmediğini belirtti. Günümüzde, veri takibi itirazlarına rağmen, birçok kullanıcı farkında ücretsiz hizmetlerin kullanımı karşılığında takip edildiklerini ve bu izlemenin kişiselleştirme biçimleri için kullanıldığını söyledi. Ancak, daha az net olanı, bizim için neyin kişiselleştirildiğinin, nasıl ve ne zaman yapılacağının özellikleridir.

'Kişisel' bulma

Araştırmam, bazı kullanıcıların deneyimlerinin karmaşık derecelerde kişiselleştirildiğini varsaydıklarını gösteriyor. 36 web kullanıcılarının derinlemesine niteliksel bir çalışmasında, Facebook'ta kilo kaybı ürünleri için reklam gördükten sonra, bazı kadın kullanıcılar, Facebook'un onları fazla kilolu veya spor odaklı olarak nitelendirdiklerini varsaydıklarını bildirdi. Aslında, bu kilo kaybı reklamları genel olarak 24-30 yaşındaki kadınlara dağıtıldı. Bununla birlikte, kullanıcılar bazı kişiselleştirme sistemlerinin kişisel olmayan niteliklerinden habersiz olabileceğinden, bu tür hedefli reklamlar, bu kullanıcıların kendilerini nasıl gördükleri üzerinde olumsuz bir etkiye sahip olabilir: Facebook’a söylediklerini söyledikleri için kabaca koymak gerekir.

Bu etkiye sahip olabilecek sadece reklamcılık amaçlı değildir: Google Now kullanıcılarının şimdi bir avuç 18 ve 19 yaşındaki Google Now kullanıcısı tarafından yapılan etnografik ve uzunlamasına bir çalışmada, bazı katılımcıların uygulamanın olağanüstü derecede karmaşık bir şekilde kişiselleştirme yeteneğine sahip olduğunu varsaydıklarını gördüm. . Kullanıcılar, Google’ın ebeveynlerinin hissedar olduğunu bildiği için Google Asistan’ın kendilerine bilgi stokları gösterdiklerini düşündüklerini veya Google’ın (yanlış) “iş” için “işe gidişi” nden önceden ayrıldığını, çünkü katılımcılar bir keresinde YouTube hesaplarında okula yaşlandıklarından yalan söylediklerini bildirdi . Bu küçük çaplı çalışmanın tüm Google Asistan kullanıcılarının katılımlarını temsil etmediğini söylemeye gerek kalmadan devam ediyor: ancak bu şahıslar için Google Asistan'ın öngörücü vaatlerinin neredeyse yanılmaz olduğunu gösteriyor.

Aslında, kullanıcı merkezli tasarım eleştirileri Google’ın çıkarımlarının gerçekliğinin çok daha fazla kişisel olmadığını öne sürüyor: Google Asistan “İdeal kullanıcı” - veya en azından - hisse senetleri ile ilgileniyor ve tüm kullanıcıların işe giden çalışanlar olduğunu düşünüyor. Bu tür eleştiriler, Google’ın kişiselleştirme çerçevesini büyük ölçüde yapılandıran bu varsayımlar olduğunu vurgulamaktadır (örneğin, uygulamanın bağlılığı sayesinde). önceden tanımlanmış “kart” kategorileri Çalışmalarım sırasında kullanıcıların sadece kadınların İngiltere futbol kulüpleri yerine erkekleri “takip etmesine” izin veren “Spor” gibi). Ancak, uygulamanın varsayımlarını sorgulamak yerine, çalışmam katılımcıların kendilerini beklenen normların dışına yerleştirdiklerini gösteriyor: Google'a, kişisel deneyimlerinin nasıl görünmesi gerektiğini anlatmaları için Google'a güvendi.

Her ne kadar bunlar kişisel olmayan algoritmik çıkarım ve kullanıcı varsayımının en uç örnekleri gibi görünse de, neyin kişiselleştirildiğinden, ne zaman veya nasıl daha sık karşılaşılan sorunlardan emin olamadığımız gerçeğidir. Bana göre, bu kullanıcı ifadeleri, çevrimiçi içeriğin uyarlanmasının, demokrasi için zararlı olabileceği gerçeğinin ötesinde etkileri olduğunu vurgulamaktadır. Kişiselleştirmenin bazen kişisel olmayan çerçeveler yoluyla işleyebileceğini anlamaya başlamazsak, bize nasıl davranmamız gerektiğini ve tam tersi olmak yerine kim olmamız gerektiğini anlatmak için kişiselleştirmeye çok fazla güven duyduğumuzu öneriyorlar.

Yazar hakkında

Tanya Kant, Medya ve Kültürel Çalışmalar Bölümü Öğretim Üyesi, University of Sussex

Bu yazı orijinalinde Konuşma. Okumak Orijinal makale.

İlgili Kitaplar

at InnerSelf Pazarı ve Amazon