Hükümetin Bizim İçin Karar Vermek İçin Kullandığı Algoritmaları Bilmeliyiz

Hükümetin Bizim İçin Karar Vermek İçin Kullandığı Algoritmaları Bilmeliyiz

Ceza adalet sistemlerinde, kredi piyasaları, istihdam alanları, yüksek öğrenime kabul süreçleri ve hatta sosyal medya ağlarıveri odaklı algoritmalar şimdi karar vermeyi yönlendir ekonomik, sosyal ve sivil yaşamlarımıza dokunacak şekilde. Bu yazılım sistemleri, büyük popülasyonlarda tutarlı bir şekilde işlem yapılmasını sağlayan insan yapımı veya veri kaynaklı kuralları kullanarak bilgileri sıralar, sınıflandırır, ilişkilendirir veya filtreler.

Ancak bu tekniklerden verimlilik kazanılabilirken, aynı zamanda dezavantajlı gruplara karşı liman önyargıları or yapısal ayrımcılığı güçlendirmek. Örneğin, ceza adaleti açısından, geniş bir grup insanda ölçülen istatistiksel eğilimlere dayanarak bir bireyin şartlı tahliyesi hakkında karar vermek adil olur mu? Ayrımcılık istatistiksel bir model uygulamasından kaynaklanabilir mi? Bir eyaletin nüfusu diğerine demografik olarak farklı bir popülasyon için mi geliştirildi?

Kamunun, kamu kurumlarında da dahil olmak üzere kamusal alanda kullanılan algoritmaların önyargısını ve gücünü anlaması gerekir. Katıldığım bir çaba, denilen algoritmik hesap verebilirlik, bu tür sistemlerin etkilerini daha net ve daha anlaşılır hale getirmeyi amaçlamaktadır.

Mevcut şeffaflık teknikleri, algoritmalara uygulandığında, insanların bu sistemlerin nasıl işlediğini - durumlarını izleyebilmelerini, denetlemelerini ve eleştirmelerini sağlayabilir. Ne yazık ki, devlet kurumları algoritmalar ve bunların hem bireyleri hem de genel olarak halkı önemli ölçüde etkileyen kararlardaki kullanımları ile ilgili sorular için hazırlıksız görünmektedir.

Kamu incelemesine algoritmalar açmak

Geçen yıl federal hükümet çalışmaya başladı cezaevindeki mahkumların serbest bırakılmalarının yeniden bırakılma olasılığının belirlenmesine yardımcı olmak için bilgisayarlı veri analizini kullanmanın artıları ve eksileri. Bireyleri düşük, orta veya yüksek riskli olarak puanlamak, asgari güvenlik cezaevine güvenli bir şekilde gönderilebilecek veya hatta “yarıya kadar bir eve” güvenli bir şekilde gönderilebilecek veya belirli bir türden faydalanabilecek kişileri tespit etmek için konut ve tedavi kararlarına yardımcı olabilir psikolojik bakım

Bu bilgi adalet sürecini daha verimli ve daha ucuz hale getirebilir ve hatta hapishane kalabalığını azaltabilir. Yüksek riskli suçlulara benzer düşük riskli suçluların ele alınması gösterilmiştir bazı çalışmalarda “hasta” bir suçlu olmalarını ve sapkın davranışları için tedaviye ihtiyaç duymalarını içselleştirmelerine öncülük etmek. Bunları ayırmak böylece serbest bırakıldığında yeniden doğuşa yol açacak olumsuz davranışların gelişimini azaltabilir.

Mahkumların yeniden ayrılma riskini puanlamaya yönelik veriler ve algoritmalar zaten var devletler tarafından yaygın olarak kullanılır tutuklu yargılama, denetimli serbestlik, şartlı tahliye ve hatta cezayı yönetmek için. Ancak farkedilmeden gitmeleri kolaydır - genellikle alçakgönüllü bürokratik evraklara benziyorlar.


InnerSelf'ten En Son Haberleri Alın


Tipik olarak, algoritmalar kamu görevlileri tarafından doldurulmuş basitleştirilmiş puan tablolarına indirgenerek altta yatan hesaplamaları çok az anlarlar. Örneğin, bir dava çalışanı, dava görevlisinin mahkumun şiddet içeren bir suçtan mahkum olduğunu, ilk tutuklama sırasında genç olduğunu ve liseden mezun olmadığını veya ceza almadığını belirten bir formu kullanarak bir mahk evaluatemu değerlendirebilir. GED. Bu faktörler ve kişi ve suçla ilgili diğer özellikler, mahkumun şartlı tahliye incelemesi için uygun olup olmadığını belirten bir puanla sonuçlanır.

Formun yanı sıra, puanlama sistemi de, genellikle incelenen değişkenler ve genel bir risk skoru oluşturmak için nasıl bir araya geldikleri gibi, algoritma ile ilgili temel özellikleri açıklar. Ancak algoritmik şeffaflık için önemli olan, bu tür formların nasıl tasarlandığını, geliştirildiğini ve değerlendirildiğini bilmektir. Ancak o zaman halk, puanlara ulaşmada yer alan faktörlerin ve hesaplamaların adil ve makul olup olmadığını veya bilgisiz ve taraflı olduğunu bilir.

Bilgi Edinme Özgürlüğü Yasasını Kullanma

Ellerimizi bu formlar ve destekleyici materyaller üzerine almak için birincil aracımız yasa ve özellikle de bilgi özgürlüğü yasalarıdır. Bunlar, devlette şeffaflığı sağlamak için halkın elindeki en güçlü mekanizmalar arasındadır. Federal düzeyde Bilgi Özgürlüğü Yasası (FOIA) halkın federal hükümetten belgeleri resmi olarak talep etmesini ve karşılığında almayı beklemesini sağlar. Benzer statüler var her eyalet için.

1966'te yürürlüğe giren FOIA, bilgisayar kullanımının yaygın bir şekilde kullanılmasından önce ve büyük miktarda veri topluluğunun, bireyleri yönetmek ve tahminlerde bulunmak için yazılım sistemlerinde rutin olarak kullanılmasından önce oluşturulmuştur. Oldu bazı ilk araştırmalar FOIA’nın yazılım kaynak kodunun açıklanmasını kolaylaştırabildiği konusunda. Ancak, mevcut yasaların 21. Yüzyıl halkının ihtiyaçlarına cevap verip vermediğiyle ilgili bir soru var: FOIA algoritmaları yapabilir miyiz?

Algoritma saydamlığında bir vaka çalışması

Bu soruya cevap vermek için yola çıktım. Philip Merrill Gazetecilik Fakültesi Maryland Üniversitesi'nde yardımcı doçent olduğum yer. 2015'un sonbaharında, meslektaşım Sandy Banisky'nin medya hukuk sınıfı ile birlikte çalışarak, öğrencileri 50 eyaletlerinin her birine FOIA istekleri gönderme konusunda yönlendirdik. Şartlı tahliye ve tahliye, kefalet veya ceza kararları gibi ceza adaletinde kullanılan algoritmalarla ilgili belgeler, matematiksel açıklamalar, veriler, validasyon değerlendirmeleri, sözleşmeler ve kaynak kodları sorduk.

Bir sömestr boyunca sürecek bir proje olarak, çaba, mutlaka çok sayıda engel ve nispeten az sayıda başarı ile zamanla sınırlandırıldı. Pek çok gazetecinin soruşturmasında olduğu gibi, kime - ve nasıl - sorulacağını sormak bile zor. Cezai adalet sisteminin farklı alanlarından farklı kurumlar sorumlu olabilir (ceza mahkemeler tarafından yapılabilir, ancak tahliye dairesi tarafından yapılan şartlı tahliye yönetimi).

Doğru kişiyi belirledikten sonra bile, öğrenciler hükümet yetkililerinin, hangi bilgileri istediklerini iletmeyi zorlaştıran farklı terminoloji kullandıklarını gördüler. Bazen öğrenciler, “ceza adaleti algoritmalarını” açıklamayacak kadar bilgili olmayan bir kamu görevlisine açıklamak için çok çalışmak zorunda kaldılar. Geçmişe bakıldığında, “devletler tarafından sıklıkla kullanılan bir terim olduğu için“ risk değerlendirme araçları ”istemek daha etkili olabilirdi.

Cevapların ele alınması

Colorado gibi bazı devletler, düzmece, algoritmaların kamu görevlilerinin kamuya açılmasını gerektiren devlet yasalarını açan bir “belge” olarak kabul edilmeyen yazılımda bulunduğunu söyleyerek reddetti. Farklı devletlerin yazılım kullanımını açıklama konusunda farklı kuralları vardır. Bu bazen bir 2004 gibi mahkemelerde ortaya çıkmıştır. Detroit şehrine karşı dava bitişik bir şehre tahsil edilen su ücretlerini hesaplama formülünün halka açık hale getirilmesi gerekip gerekmediği konusunda.

Kendi çabalarımızda ceza adaleti algoritmasının yalnızca bir matematiksel tanımını aldık: Oregon 16 değişkenleri ve ağırlıkları Orada yeniden modellemeyi tahmin etmek için kullanılan bir modelde. Kuzey Dakota eyaleti, mahkumların şartlı tahliye için dikkate alınabileceği tarihleri ​​belirlemek için kullanılan denklemi gösteren bir Excel elektronik tablosu yayınladı. Idaho ve New Mexico'dan, bu devletlerin kullandığı rivayet risk değerlendirmelerinin bazı açıklamalarını içeren belgeler aldık, ancak bunların nasıl geliştirildiklerine ya da onaylandıklarına dair detaylar yoktu.

Dokuz ülke, bilginin gerçekten bir şirkete ait olduğu iddiasına dayanarak ceza adaleti algoritmalarıyla ilgili ayrıntıları açıklamadıklarını reddetti. Bu, algoritmanın serbest bırakılmasının onu geliştiren firmaya zarar vereceği yönündedir. Ortak bir yeniden değerlendirme risk anketi, LSI-R olarak adlandırılır, telif hakkı ile korunan ticari bir ürün olduğu ortaya çıkıyor. Hawaii ve Maine gibi devletler halka açıklanmasını engellediğini iddia etti.

Louisiana, yeni bir risk değerlendirme tekniğinin geliştiricisiyle olan sözleşmesinin, istenen bilginin altı ay boyunca serbest bırakılmasını yasakladığını söyledi. Kentucky eyaleti ile sözleşmesini gösterdi hayırsever vakıf nedeni olarak daha fazla ayrıntı açıklayamadı. Özel bilgilere ilişkin endişeler meşru olabilir, ancak hükümetin özel şirketlerle rutin olarak sözleşme yaptığı göz önüne alındığında, bu endişeleri açıklanabilir ve gerçekten meşru bir adalet sistemine karşı nasıl dengede tutarız?

İyileştirmeler yapmak

Çok ihtiyaç duyulan FOIA reformu şu anda müzakere altında Kongre tarafından. Bu, yasanın modernleştirilmesi için bir fırsat sağlar, ancak önerilen değişiklikler hükümetteki algoritmaların artan kullanımını karşılamak için hala çok az şey yapar. Algoritmik şeffaflık bilgisi kodlanmış olabilir Hükümetin her zamanki işin bir parçası olarak düzenli bir şekilde oluşturduğunu ve kamuya açıkladığı raporlarına.

Bir toplum olarak, kamu bilgi memurlarının eğitilmelerini talep etmeliyiz ki halktan algoritmalar isterken karşılaşabilecekleri terminolojide okuryazar ve akıcı olurlar. Federal hükümet, görevi hakkında iletişim kurmak ve soruşturmalarını hükümet otomasyonuna dahil etmek gibi bir ombudsman olan “algoritmalar czar” için yeni bir pozisyon bile yaratabilir.

Araştırmamızda aldığımız belgelerin hiçbiri ceza adaleti risk değerlendirme formlarının nasıl geliştirildiğini veya değerlendirildiğini bize söylemedi. Algoritmalar hayatlarımızı giderek daha fazla yönettiğinden, vatandaşların daha fazla şeffaflığa ihtiyacı var - ve talep etmeli -.

Yazar hakkında

Diakopoulos NicholasColumbia Üniversitesi’nde Dijital Gazetecilik Tow Center, Tow Fellow, Nicholas Diakopoulos; Yardımcı Doçent, Maryland Üniversitesi. Araştırmaları, algoritmik hesap verebilirlik, anlatı veri görselleştirmesi ve haberlerde sosyal bilgisayar kullanımı üzerinde durularak hesaplama ve veri gazeteciliği alanındadır.

Bu yazı orijinalinde Konuşma. Okumak Orijinal makale.

İlgili Kitaplar

{amazonWS: searchindex = Kitaplar; anahtar kelimeler = dijital gizlilik; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

InnerSelf'i takip et

facebook-icontwitter-ikonrss-ikon

E-posta ile son alın

{Emailcloak = off}