Shutterstock.

Farkında olsanız da olmasanız da, büyük veriler sizi ve hayatınızı nasıl yaşadığınızı etkileyebilir. Sosyal medyayı kullanırken yarattığımız veriler, internette gezinmek ve spor kıyafetleri giyen herkes toplanır, kategorize edilir ve kullanılır işletmeler tarafından ve eyalet bize profilleri oluşturmak için. Bu profiller daha sonra, ürünleri ve hizmetleriyle ilgili reklamları, bunları satın alma olasılığı yüksek olanlara hedeflemek veya devlet kararlarını bildirmek için kullanılır.

Büyük veri, devletlerin ve şirketlerin bilgimize erişmelerini, birleştirmelerini, analiz etmelerini ve açığa vurmalarını sağlar - ama eksik ve potansiyel olarak yanlış - hayatımızın profilleri. Bunu, bizim hakkımızdaki verilerde ve bize benzer profilleri olan insanlarda yapabileceklerimiz hakkında öngörülerde bulunmalarını belirleyerek yaparlar.

Ancak, büyük veri analitiği algoritmalara ve istatistiklere dayandığından, bu demek oldukları anlamına gelmez doğru, tarafsız veya doğal olarak nesnel. Büyük veriler, grup davranışı hakkında bilgiler sağlayabilirken, bunlar bireysel davranışları belirlemede mutlaka güvenilir bir yol değildir. Aslında, bu yöntemler olabilir ayrımcılığa kapı açmak ve insanların insan haklarını tehdit etmek - sana karşı bile çalışıyor olabilirler. İşte büyük veri analizlerinin adaletsizliğe yol açabileceği dört örnek.

1. Kredi puanlarını hesaplama

Hakkında büyük kararlar almak için büyük veriler kullanılabilir. kredi uygunluğuipotek verilip verilmeyeceğini veya ne kadar yüksek araba sigortası primler olmalı. Bu kararlar sizin tarafınızdan sosyal medya mesajları ve risk veya güvenilirlik seviyenizi belirtmek için alınan diğer uygulamalardan gelen veriler.

Ancak, eğitim geçmişiniz veya yaşadığınız yer gibi veriler bu değerlendirmeler için uygun veya güvenilir olmayabilir. Bu tür veriler ırk veya sosyoekonomik statü için bir vekil olarak hareket edebilir ve kredi riski konusunda kararlar almak için kullanılması ayrımcılığa neden olabilir.

2. İş aramaları

Büyük veri belirlemek için kullanılabilir iş ilanı gören veya röportaj için kısa listeye girenlerin listesi. İş ilanları belirli yaş gruplarında hedeflenebilir, 25 ila 36 yaşındakiler gibiGenç ve yaşlı işçilerin bazı iş ilanlarını bile görmelerini engelleyen ve yaş ayrımcılığı riski taşıyan.

Otomasyon, adayları daha etkin bir şekilde filtrelemek, sıralamak ve sıralamak için de kullanılır. Ancak bu tarama süreci, insanları aşağıdaki gibi göstergeler temelinde hariç tutabilir. gidip gelme mesafeleri. İşverenler, daha uzun bir işe sahip olanların uzun süreli bir işte kalmalarının daha az olası olduğunu düşünebilirler, ancak bu aslında uygun fiyatlı konutların konumu nedeniyle şehir merkezinden daha fazla yaşayan insanlara karşı ayrımcılık yapabileceğini düşünebilir.

3. Şartlı tahliye ve kefalet kararları

ABD ve İngiltere'de, büyük veri riski değerlendirme modelleri, yetkililere, insanların izin verilip verilmediğine karar vermelerine yardımcı olmak için kullanılır. şartlı tahliye veya kefaletveya belirtilen rehabilitasyon programları. Ayrıca, bir suçlunun topluma ne kadar risk getirdiğini değerlendirmek için de kullanılabilir, bu bir hakimin bir cümlenin uzunluğunu belirlerken dikkate alabileceği bir faktördür.

Bu değerlendirmelerde yardımcı olmak için hangi verilerin kullanıldığı tam olarak belli değil, dijital polislik hızlanır, bu programların aşağıdaki gibi açık kaynak bilgileri içermesi muhtemeldir. sosyal medial aktivite - Zaten yapmazlarsa.

Bu değerlendirmeler yalnızca bir kişinin profiline bakmayabilir, aynı zamanda başkalarıyla nasıl karşılaştırılacağını da gösterir. Bazı polis kuvvetleri var tarihsel olarak aşırı polislik belirli azınlık toplulukları, orantısız sayıda bildirilen suç olayına yol açmaktadır. Bu veriler bir algoritmaya verilirse, risk değerlendirme modellerini çarpıtır ve doğrudan etkileyen ayrımcılığa neden olur. bir insanın özgürlük hakkı.

4. Veteriner başvuruları

Geçen yıl, ABD'nin Göçmenlik ve Gümrük İcra Ajansı (ICE), otomatik bir araç tanıtmak istediğini açıkladı “aşırı vize veteriner”Programı. Başvuru sahiplerinin Birleşik Devletlere “olumlu katkı yapıp yapmayacağını” ve herhangi bir ulusal güvenlik sorununun ortaya çıkıp çıkamayacağını değerlendirmek için otomatik olarak ve sürekli olarak sosyal medya hesaplarını tarar.

Düşünce, düşünce, ifade ve dernek kurma özgürlüğüne riskler sunmanın yanı sıra, bu programın belirli milletlerden veya dinlerden insanlara karşı ayrımcılığa maruz kalması konusunda önemli riskler vardı. Yorumcular “algoritma gereği Müslüman yasağı” olarak nitelendirdi.

Proğram yakın zamanda çekilmiş“bildiren ajansın istediği izleme kalitesini sağlayabilecek“ kullanıma hazır ”bir yazılım bulunmadığı temelinde. Ancak satın alma belgelerine bu tür hedeflerin dahil edilmesi, teknoloji endüstrisinin tasarım açısından ayrımcı programlar geliştirmek için kötü teşvikler yaratabilir.

Büyük veri analizinin, bireylerin yaşamdaki fırsatlarını etkileyebilecek şekillerde çalıştığı konusunda hiçbir soru yok. Fakat şeffaflık eksikliği Büyük verilerin nasıl toplandığı, kullanıldığı ve paylaşıldığı konusunda insanların hangi bilgilerin ne zaman, nasıl ve ne zaman kullanıldığını bilmesini zorlaştırır. Büyük veri analitiği, bireylerin verilerini uygunsuz kullanımdan koruyamaması için çok karmaşıktır. Bunun yerine, devletler ve şirketler büyük veri kullanımlarının ayrımcılığa yol açmamasını sağlamak için düzenlemeler yapmak ve uygulamak zorundadırlar.

Yazarlar Hakkında

Lorna McGregor, Direktör, İnsan Hakları Merkezi, PI ve Eş Direktörü, ESRC İnsan Hakları, Büyük Veri ve Teknoloji Büyük Hibe, Essex Üniversitesi; Essex Hukuk Fakültesi Uluslararası İnsan Hakları Hukuku Öğretim Görevlisi Daragh Murray, Essex Üniversitesive İnsan Hakları Kıdemli Araştırmacısı Vivian Ng, Essex Üniversitesi

Bu yazı orijinalinde Konuşma. Okumak Orijinal makale.

Bunlara göre kitaplar

Yazar hakkında

at

Ziyaret ettiğiniz için teşekkürler InnerSelf.com, neredeler 20,000+ "Yeni Tutumlar ve Yeni Olasılıklar"ı tanıtan, yaşamı değiştiren makaleler. Tüm makaleler tercüme edilmiştir 30+ dil. Üye olun haftalık olarak yayınlanan InnerSelf Magazine'e ve Marie T Russell'ın Daily Inspiration'ına. InnerSelf Dergisi 1985'den beri yayınlanmaktadır.