Verilerinizi paylaştığınızda ne olacağını biliyor musunuz? mtkang / shutterstock.com

Hayatın her yönü yapay zeka algoritmaları ile yönlendirilebilir - sabah işe gidilmesi için hangi rotayı seçeceğinizden, kiminle çıkacağınıza karar vermenize, öngörücü polislik gibi karmaşık yasal ve adli konulara kadar.

Google ve Facebook gibi büyük teknoloji şirketleri, detaylı müşteri verilerinin devasa mağdurları hakkında bilgi edinmek için AI kullanıyor. Bu, reklamverenlerin belirli kullanıcı gruplarını daraltmak için kullandıkları bir strateji olan mikro hedefleme gibi uygulamalarla kullanıcıların toplu tercihlerinden para kazanmalarını sağlar.

Buna paralel olarak, birçok kişi artık platformlarına ve algoritmalarına kendi hükümetlerinden ve sivil toplumlarından daha fazla güvenmektedir. Ekim ayındaki bir 2018 çalışması, insanların “algoritma takdir“” Bir algoritmadan, bir insandan ziyade bir algoritmadan olduğunu düşündüklerinde tavsiyeye güvenecekleri ölçüde.

Geçmişte, teknoloji uzmanları hakkında endişeli "dijital bölünme" bilgisayarlara ve internete erişebilenler ile erişemeyenler arasında. Dijital teknolojilere daha az erişimi olan hane halkları para kazan ve beceri biriktir.

Ancak, dijital cihazlar çoğaldıkça, bölme artık sadece erişim ile ilgili değildir. İnsanlar bilgi yükü ve yaşamlarının her alanına nüfuz eden algoritmik kararların bolluğu ile nasıl başa çıkıyor?

Savavi kullanıcılar cihazlardan uzaklaşıyor ve algoritmaların yaşamlarını nasıl etkilediğinin farkında oluyorlar. Bu arada, daha az bilgiye sahip olan tüketiciler kararlarını yönlendirmek için algoritmalara daha fazla güveniyorlar.

Bağlı kalmalı mıyım yoksa fişini mi çekmelisin? PRYZMAT / shutterstock.com

Yapay zekanın arkasındaki gizli sos

Yeni dijital bölünmenin asıl nedeni, benim görüşüme göre bilgi sistemlerini inceleyen biri olarak, çok az insan algoritmaların nasıl çalıştığını anlıyor. Kullanıcıların çoğu için, algoritmalar kara kutu olarak görülmektedir.

AI algoritmaları veriyi alır, matematiksel bir modele uyarlar ve bir tahmin ortaya koyar. hangi şarkıların tadını çıkarabilirsin için kaç yıl hapishanede birileri harcanmalı. Bu modeller geçmiş verilere ve önceki modellerin başarısına göre geliştirilmiş ve ayarlanmıştır. Çoğu insan - hatta bazen algoritma tasarımcılarının kendileri - modelin içinde neler olduğunu gerçekten bilmiyorlar.

Araştırmacılar uzun zamandır endişelenmek algoritmik adalet hakkında. Örneğin, Amazon'un AI tabanlı işe alma aracı çıktı kadın adayları görevden alma. Amazon'un sistemi seçici olarak ayıklanıyordu dolaylı olarak cinsiyetlendirilmiş kelimeler - Erkeklerin “idam” ve “yakalanan” gibi günlük konuşmalarda daha fazla kullanılması muhtemel kelimeler.

Diğer çalışmalar Yargı algoritmalarının ırkçı bir biçimde taraflı olduğunu, zavallı sanıkları diğerlerinden daha uzun süre cezalandırdığını göstermiştir.

Avrupa Birliğinde yakın zamanda onaylanan Genel Veri Koruma Yönetmeliğinin bir parçası olarak, “Açıklama hakkı” algoritmaların kararlarında kullandıkları kriterler. Bu yasa, bir tarif kitabı gibi algoritmik karar verme sürecini ele almaktadır. Düşünce tarifi tarif ederseniz, algoritmanın yaşamınızı nasıl etkilediğini anlayabilirsiniz.

Bu arada, bazı yapay zeka araştırmacıları olan algoritmaları zorladılar adil, hesap verebilir ve şeffaf, Hem de yorumlanabiliryani, kararlarını insanların anlayabileceği ve güvenebileceği süreçlerle almaları gerektiği anlamına gelir.

Şeffaflığın ne etkisi olacak? İçinde bir çalışmaöğrenciler bir algoritma ile derecelendirildiler ve akranlarının puanlarının final notuna uyacak şekilde nasıl ayarlandığına dair farklı açıklamalar yaptılar. Daha şeffaf açıklamaları olan öğrenciler aslında algoritmaya daha az güvendiler. Bu, yine dijital bir bölünmeyi öneriyor: Algoritmik farkındalık, sisteme daha fazla güvenilmesini sağlamıyor.

Fakat şeffaflık her derde deva değil. Bir algoritmanın genel süreci çizilse bile, Ayrıntılar hala çok karmaşık olabilir kullanıcılar anlamak için. Şeffaflık, yalnızca algoritmaların karmaşıklıklarını kavrayacak kadar karmaşık olan kullanıcılara yardımcı olacaktır.

Örneğin, 2014’te, Federal Reserve’in eski başkanı Ben Bernanke başlangıçta otomatik bir sistem tarafından ipotek kredisi reddedildi. Böyle bir ipotek finansmanı başvurusunda bulunan çoğu kişi, algoritmaların kredi itibarlarını nasıl belirleyebileceğini anlayamaz.

Algoritma bugün ne yapmalı? Maria Savenko / shutterstock.com

Yeni bilgi ekosisteminden çıkmak

Algoritmalar insanların yaşamını çok fazla etkilese de, katılımcıların sadece küçük bir bölümü tamamen katılım sağlayacak kadar karmaşıktır. algoritmalar hayatlarını nasıl etkiler.

Algoritmanın farkında olan kişi sayısı hakkında pek fazla istatistik yoktur. Çalışmalar kanıt buldu algoritmik kaygıalgoritmaları kullanan platformlar arasında derin bir güç dengesizliğine yol açan ve onlara bağımlı olan kullanıcılar.

Facebook kullanımı üzerine bir çalışma Katılımcılar, Facebook'un haber akışlarını küratörlüğüne yönelik algoritmasından haberdar olduklarında, katılımcıların% 83'i, algoritmadan yararlanmaya çalışmak için davranışlarını değiştirirken,% 10 civarında Facebook kullanımını azalttığını tespit etti.

Pew Araştırma Merkezi'nden bir Kasım 2018 raporu halkın büyük bir çoğunluğunun, belirli kullanımlar için algoritmaların kullanımıyla ilgili kaygıları olduğunu belirtti. % 66'in kişisel finans puanlarını hesaplamak için algoritmaların adil olmayacağını, 57% ise otomatik özgeçmiş taraması için aynı olduğunu belirtti.

Bireylerin küçük bir kısmı, algoritmaların kişisel verilerini nasıl kullandıklarını kontrol eder. Örneğin, Hu-Manity platformu kullanıcılara izin veriyor Verilerinin ne kadarının toplandığını kontrol etme seçeneği. Çevrimiçi ansiklopedi Everipedia kullanıcılara küratörlük sürecinde paydaş olma yeteneği sunar; bu, kullanıcıların bilgilerin nasıl toplandığını ve onlara nasıl sunulacağını da kontrol edebileceği anlamına gelir.

Bununla birlikte, platformların büyük bir çoğunluğu ya son kullanıcılarına bu esnekliği ya da algoritmanın tercihlerini nasıl kullandıklarını haber akışını iyileştirirken veya içerik önerme konusunda kullanma hakkını vermez. Seçenekler varsa, kullanıcılar bunları bilmiyor olabilir. Facebook kullanıcılarının% 74'i bir ankette bulunduğunu söyledi Platformun kişisel çıkarlarını nasıl karakterize ettiğini bilmiyorum.

Benim görüşüme göre, yeni dijital okuryazarlık bir bilgisayar kullanmak ya da internette olmak değil, her zaman takılı bir yaşam tarzının sonuçlarını anlamak ve değerlendirmek.

Bu yaşam tarzı üzerinde anlamlı bir etkiye sahiptir insanlar başkalarıyla nasıl etkileşimde bulunur; yetenekleri üzerine yeni bilgilere dikkat et; ve üzerinde karar alma süreçlerinin karmaşıklığı.

Artan algoritmik kaygı, ekonomideki paralel kaymalarla da yansıtılabilir. Küçük bir grup birey otomasyondan kazanımları yakalamakbirçok işçi güvencesiz pozisyon.

Algoritmik küratörlükten çıkmak bir lüks - ve bir gün sadece seçkin bir azın için mevcut olan bereketin sembolü olabilir. O zaman soru, dijital bölünmenin yanlış tarafındakiler için ölçülebilir zararların ne olacağıdır.

Yazar hakkında

Anjana Susarla, Bilgi Sistemleri Doçenti, Michigan State University

Bu makale şu adresten yeniden yayınlandı: Konuşma Creative Commons lisansı altında. Okumak Orijinal makale.

İlgili Kitaplar

at InnerSelf Pazarı ve Amazon