Teknoloji Neden İnsan Haklarını Risk Altına Alıyor?

Teknoloji Neden İnsan Haklarını Risk Altına Alıyor?
Spainter_vfx / Shutterstock.com

Gibi filmler 2001: A Space Odyssey, Blade Runner ve Terminatör sinema ekranlarımıza haydut robotlar ve bilgisayar sistemleri getirdi. Ancak bu günlerde, böyle klasik bilim kurgu gösterileri gerçeklikten çok uzak gözükmüyor.

Giderek, özerk ve zeki hesaplamalı teknolojilerle yaşıyor, çalışıyor ve oynuyoruz. Bu sistemler, bağımsız muhakeme ve karar verme kapasitesine sahip yazılım ve donanımı içerir. Bizim için fabrika katında çalışıyorlar; ipotek alıp alamayacağımıza karar veriyorlar; aktivite ve zindelik seviyelerimizi izler ve ölçer; salon zeminlerimizi temizliyor ve çimlerimizi kesiyorlar.

Özerk ve akıllı sistemler, gündelik yönleri de dahil olmak üzere sosyal, ekonomik, politik ve özel yaşamlarımızın hemen hemen her yönünü etkileme potansiyeline sahiptir. Bunların çoğu masum görünüyor, ancak endişelenmek için sebepler var. Hesaplamalı teknolojiler her insan hakkını, yaşam hakkından mahremiyet hakkına, ifade özgürlüğünü sosyal ve ekonomik haklara kadar etkiler. Peki, insan haklarını robotik ve yapay zeka (AI) tarafından gittikçe artan bir şekilde şekillendiren teknolojik bir ortamda nasıl savunabiliriz?

AI ve insan hakları

İlk olarak, artan makine özerkliğinin insanların durumunu baltalayacağına dair gerçek bir korku var. Bu korku, akıllı makineler zarar verdiğinde, yasal veya ahlaki bir anlamda, kimin göz önünde bulundurulacağı konusunda netlik eksikliği ile birleşir. Ancak insan hakları konusundaki endişemizin odağının gerçekten yatması gerektiğinden emin değilim. haydut robotlar, şu anda göründüğü gibi. Daha ziyade, robotların ve yapay zekanın insan kullanımı ve adaletsiz ve eşitsiz siyasi, askeri, ekonomik ve sosyal bağlamlarda konuşlandırılmaları konusunda endişelenmeliyiz.

Bu endişe, genellikle katil robotlar olarak tanımlanan ölümcül özerk silah sistemlerine (LAWS) ilişkin olarak özellikle önemlidir. Bizim gibi AI silah yarışına doğru ilerleyin, BM'nin yargısız, özlü veya keyfi idamlarla ilgili özel raportörü Christof Heyns gibi insan hakları alimleri ve kampanyacıları, LAWS kullanımının özerk robotik sistemler koyacağından korkuyor yaşam ve ölüm kararlarından sorumlusınırlı veya insan kontrolü olmadan.

AI ayrıca savaş ve sürveyans uygulamaları arasındaki bağlantıda devrim yaratıyor. Gibi gruplar Uluslararası Robot Silah Kontrolü Komitesi (ICRAC) kısa bir süre önce Google’ın Proje Mavenyargısız infazlar için kullanılabilecek insansız hava aracı kamera görüntülerini analiz etmek için makine öğrenmesini kullanan askeri bir program. Icrac temyiz Kullanıcılarına topladığı verilerin asla askeri amaçlar için kullanılmadığından emin olmak için Google’a, şirketin projeye katılımıyla ilgili protestolara katılır. Google geçenlerde açıkladı yenilenmeyecek sözleşmesi.

2013'te, sürveyans uygulamalarının kapsamı Edward Snowden tarafından vurgulanmıştır. âyetlerini. Bunlar bize gizlilik hakkı tehdidi ve istihbarat servisleri, devlet kurumları ve özel şirketler arasında veri paylaşımı konusunda çok şey öğretti. Son tartışmalar çevreleyen Cambridge AnalyticaFacebook gibi sosyal medya platformlarının kullanılmasıyla kişisel verilerin toplanması, ifade özgürlüğü hakkına zarar veren bu kez manipülasyon ve demokratik seçimlere müdahale etme konusunda ciddi kaygılara yol açmaya devam ediyor.


InnerSelf'ten En Son Haberleri Alın


Bu arada, kritik veri analistleri zorluyor ayrımcı uygulamalar AI'nın “beyaz adam sorunu” dediği şeyle ilişkili. Bu, mevcut veriler üzerinde eğitilen AI sistemlerinin, polislik, adli kararlar veya istihdam gibi alanlarda ayrımcı uygulamaları sürdüren mevcut ırk ve cinsiyet klişelerini çoğaltması konusundaki endişedir.

AI, klişeleri çoğaltabilir ve hapsedebilir.
AI, klişeleri çoğaltabilir ve hapsedebilir.
Ollyy / Shutterstock.com

Belirsiz botlar

Hesaplanan teknolojilerin insan hakları ve fiziksel, politik ve dijital güvenlik üzerindeki potansiyel tehdidi yakın zamanda yayınlanan bir çalışmada vurgulanmıştır. Yapay Zekanın Kötü Amaçlı Kullanımı. Bu Cambridge Üniversitesi raporunda ifade edilen endişeler ciddiye alınmalıdır. Fakat bu tehditlerle nasıl başa çıkmalıyız? İnsan hakları robotik ve AI dönemi için hazır mı?

Bu dönem için mevcut insan hakları ilkelerini güncelleme çalışmaları devam etmektedir. Bunlar arasında BM İş ve İnsan Haklarına İlişkin Çerçeveleme ve Rehber İlkeler, yazma girişiminde Dijital çağ için Magna Carta ve Yaşam Enstitüsünün Geleceği Asilomar AI PrensipleriEtik araştırmalar için kılavuz ilkeleri belirleyen, değerlere bağlılık ve AI'nın uzun vadeli faydalı gelişimine bağlılık.

Bu çabalar övgüye değer ancak yeterli değil. Hükümetler ve devlet kurumları, siyasi partiler ve özel şirketler, özellikle de önde gelen teknoloji şirketleri, AI'nın etik kullanımına bağlı kalmalıdır. Ayrıca, etkili ve uygulanabilir bir yasal kontrole de ihtiyacımız var.

Hangi yeni önlemleri alırsak alınsın, hayatımızın otonom makineler ve akıllı sistemler ile artan bir şekilde karıştığını kabul etmek önemlidir. Bu dolaşma tıbbi araştırma ve tedavi gibi alanlarda, ulaşım sistemimizde, sosyal bakım ortamlarında ve çevreyi koruma çabalarında insan refahını artırmaktadır.

Ancak diğer alanlarda bu dolaşma endişe verici umutları atar. İşlem ve davranışlarımızı izlemek ve izlemek, adımlarımızı, konumumuzu, sağlığımızı, zevklerimizi ve dostluklarımızı izlemek için hesaplamalı teknolojiler kullanılır. Bu sistemler insan davranışını şekillendirir ve özgürlüğümüzü kısıtlayan ve insan haklarının fikirlerini ve ideallerini baltalayan kendini gözetleme uygulamalarına yönelir.

KonuşmaVe işte temelde yatıyor: hesaplamalı teknolojilerin çift kullanım kapasitesi, faydalı ve kötü niyetli uygulamalar arasındaki çizgiyi bulanıklaştırıyor. Dahası, hesaplamalı teknolojiler, bireysel vatandaşlar, devlet ve kurumları ve özel şirketler arasındaki eşitsiz güç ilişkilerinde derinden etkilenmiştir. Etkin ulusal ve uluslararası kontrol ve dengeler sisteminden ayrılmaları durumunda, insan haklarımız için gerçek ve endişe verici bir tehdit oluşturmaktadır.

Yazar hakkında

Birgit Schippers, Araştırma Görevlisi, Senatör George J Mitchell Küresel Barış, Güvenlik ve Adalet Enstitüsü, Belfast Kraliçe'nin Üniversitesi

Bu yazı orijinalinde Konuşma. Okumak Orijinal makale.

İlgili Kitaplar

{amazonWS: searchindex = Kitaplar; Birgit Schippers = kendini; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

InnerSelf'i takip et

facebook-icontwitter-ikonrss-ikon

E-posta ile son alın

{Emailcloak = off}