Yapay Zeka Sistemleri Demokrasiyi Nasıl Tehdit Edebilir?

gizlilik

ABD teknolojisi devi Microsoft bir Çinli askeri üniversite ile takım kurdu geliştirmek yapay zeka sistemleri Bu, devlet gözetim ve sansür yeteneklerini potansiyel olarak artırabilir. İki ABD senatörleri herkese açık olarak kınadı ortaklık, ama ne Çin Ulusal Savunma Teknolojisi Üniversitesi Microsoft'tan istediği tek endişe değil.

As araştırmam gösteriyordijital baskının gelişi derinden etkiliyor vatandaş ve devlet arasındaki ilişki. Yeni teknolojiler, bireysel insanları izlemek, izlemek ve denetlemek için benzeri görülmemiş yetenekleri olan hükümetleri silahlandırıyor. Güçlü gelenekleri olan demokrasilerde bile hükümetler hukukun üstünlüğü kendilerini suistimal için cazip bulmak bu yeni yetenekler.

ile eyaletlerde sorumlu olmayan kurumlar ve sık insan hakları ihlalleri, AI sistemleri büyük olasılıkla daha büyük hasara neden olacaktır. Çin belirgin bir örnektir. Liderliği AI teknolojilerini coşkuyla benimsedi ve dünyayı kurdu en karmaşık gözetim devleti in Sincan eyaleti, vatandaşların günlük hareketlerini ve akıllı telefon kullanımlarını takip etmek.

Bu teknolojilerin kullanımı soğutma modelini sunar Diğer otokratlar ve demokratik toplumlar açmak için doğrudan bir tehdit teşkil etmektedir. Diğer hükümetlerin bu AI gözetim düzeyini çoğalttığına dair hiçbir kanıt bulunmamasına rağmen, Çinli şirketler aynı temel teknolojileri dünyaya aktif olarak ihraç ediyorlar.

ABD’deki yapay zeka araçlarına bağımlılığı artırmak

Yapay zeka sistemleri modern dünyanın her yerinde akıllı telefonlar, internet arama motorları, dijital ses asistanları ve Netflix film kuyrukları yayınlanmasına yardımcı oluyor. Birçok insan fark edemedi AI'nın ne kadar hızlı bir şekilde genişlediğinin, analiz edilmesi gereken sürekli veri miktarları, algoritmaları ve gelişmiş bilgisayar yongalarını geliştirmesi sayesinde.

Ne zaman daha fazla bilgi edinilebilir ve analizler kolaylaştıysa, hükümetler ilgileniyor - sadece otoriter olanlar değil. Örneğin ABD'de, 1970'ler, FBI, CIA ve NSA gibi devlet kurumlarının kurdukları vahiyleri gördü. geniş yerel gözetim ağları sivil hak protestocularını, siyasi aktivistleri ve Kızılderili gruplarını izlemek ve taciz etmek. Bu sorunlar ortadan kalkmadı: Günümüzde dijital teknoloji, daha fazla kurumun daha fazla müdahaleci gözetim yürütme kabiliyetini derinleştirmiştir.

gizlilik Algoritmalar, polisin en çok nereye odaklanması gerektiğini öngörüyor? Arnout de Vries

Örneğin, ABD polisi AI teknolojilerini hevesle kucakladı. Olan yazılımı kullanmaya başladılar suçların nerede olacağını tahmin etmek için devriye memurlarının nereye gönderileceğine karar vermek. Ayrıca kullanıyorlar yüz tanıma ve DNA analizi cezai soruşturmalarda. Ancak bu sistemlerin analizleri göstermektedir bu sistemlerin eğitildiği veriler sık sık önyargılı haksız sonuçlarGibi Sahte Amerikalıların suç işlemeye daha yatkın olduğunu belirleme diğer gruplardan daha.

Dünyada AI gözetimi

Otoriter ülkelerde, AI sistemleri iç kontrol ve gözetimi doğrudan destekleyebilir, iç güvenlik kuvvetleri büyük miktarda bilgi işlemektedir. - sosyal medya yayınları, kısa mesajlar, e-postalar ve telefon aramaları dahil - daha hızlı ve verimli bir şekilde. Polis sosyal eğilimleri belirleyebilir ve belirli insanlar bu sistemler tarafından açığa çıkan bilgilere dayanarak rejimi tehdit edebilir.

Örneğin, Çin hükümeti AI’yı Çin’deki etnik azınlıklara ev sahipliği yapan bölgelerde geniş çaplı baskılarda kullandı. Sincan ve Tibet'teki gözetim sistemleri “Orwellian. ”Bu çabalar dahil zorunlu DNA örnekleri, Wi-Fi ağı, hepsi entegre veri analiz platformlarına bağlı olan yüz tanıma kameralarını izler ve yaygınlaştırır. Bu sistemlerin yardımı ile Çinli yetkililer, ABD Dışişleri Bakanlığı'na göre, aralarında “keyfi olarak gözaltına alındı”. 1 ve 2 milyon insan.

My araştırmalar dünyadaki 90 ülkelerine bakıyor Tayland, Türkiye, Bangladeş ve Kenya dahil olmak üzere kapalı otoriterden hatalı demokrasilere kadar çeşitli hükümet tipleri. Çinli firmaların olduğunu buldum AI gözetim teknolojisinin ihracatı bu ülkelerin en azından 54’ine Sık sık, bu teknoloji Çin'in amiral gemisi bir parçası olarak paketlenmiştir Kemer ve Yol Girişimikapsamlı bir karayolları, demiryolları, enerji boru hatları ve telekomünikasyon ağlarını finanse eden dünya nüfusunun% 60’ine hizmet ediyor ve küresel GSYİH'nın% 40'ini oluşturan ekonomiler.

Örneğin, Çinli şirketler gibi Huawei ve ZTE’de “akıllı şehirler” inşa ediliyor Pakistan, Filipinler ve Kenya, kapsamlı yerleşik gözetim teknolojisine sahiptir. Örneğin, Huawei takıldı Bonifacio Küresel Şehir Filipinler’de “internete bağlı yüksek çözünürlüklü kameralarla”24 / 7 akıllı güvenlik gözetimi Suçu tespit etmek ve trafiği yönetmek için veri analitiği ile. ”

gizlilik Filipinler’deki Bonifacio Global City’de birçok güvenlik kamerası bulunuyor. alveo land / Wikimedia Commons

Hikvision, Yitu ve SenseTime gibi yerlerde kullanım için son teknoloji yüz tanıma kameraları sağlıyor Singapur - sürveyans programının oluşturulmasını ilan eden Lamba direğine monte edilmiş 110,000 kameralar şehir devleti çevresinde. Zimbabve bir yaratıyor ulusal görüntü veritabanı yüz tanıma için kullanılabilir.

Bununla birlikte, gelişmiş ekipmanların kar için satılması, teknolojiyi açık bir jeopolitik amaç ile paylaşmaktan farklıdır. Bu yeni yetenekler küresel sürveyans için tohum ekebilir: Hükümetler nüfuslarını yönetmek ve güçlerini korumak için Çin teknolojisine giderek daha fazla bağımlı hale geldikçe, Çin'in gündemine uyum sağlamak için daha fazla baskıyla karşı karşıya kalacaklar. Fakat şimdilik, Çin'in temel güdüsünün, yeni teknolojiler piyasasına hakim olmak ve bu süreçte çok para kazanmak olduğu anlaşılıyor.

AI ve dezenformasyon

Hem kapsamlı hem de ince taneli gözetim yetenekleri sağlamanın yanı sıra, AI baskıcı hükümetlerin mevcut bilgileri manipüle etmesine ve dezenformasyonu yaymasına yardımcı olabilir. Bu kampanyalar otomatik veya otomasyon destekli olabilir ve dağıtılabilir aşırı kişiselleştirilmiş mesajlar yönelik - veya karşı - belirli insanlar veya gruplar.

AI ayrıca yaygın olarak adlandırılan teknolojinin de altını çiziyordeepfake, ”İçinde algoritmalar oluşturulur gerçekçi video ve ses sahteciliği. Gerçekler ile kurgu arasındaki suların çamurlanması, bir adayın bir rakibin yaptığını ve gerçekte olmayan şeyleri söyleyerek sahte videolar yaratabildiği sıkı bir seçimde faydalı olabilir.

Derin bir sahte video, ileri teknolojinin bazı tehlikelerini göstermektedir.

Benim görüşüme göre, demokrasilerdeki politika yapıcılar, AI sistemlerinin kendi toplumlarına ve dünyadaki otoriter rejimler altında yaşayan insanlara karşı risklerini dikkatlice düşünmelidir. Kritik bir soru, kaç ülkenin Çin'in dijital gözetim modelini benimseyeceğidir. Ancak, çekiciliği hisseden sadece otoriter ülkeler değil. Ayrıca, teknolojiyi yayan sadece Çinli şirketler değil: Pek çok ABD şirketi, Microsoft dahil, ancak IBM, Cisco ve Thermo Fisher Ayrıca, kötü hükümetlere gelişmiş yetenekler sağlamıştır. AI'nın yanlış kullanımı otokratik devletlerle sınırlı değildir.Konuşma

Yazar hakkında

Steven Feldstein, Frank ve Bethine Kilisesi Halkla İlişkiler Başkanı ve Doçent, Kamu Hizmeti Okulu, Boise Eyalet Üniversitesi

Bu makale şu adresten yeniden yayınlandı: Konuşma Creative Commons lisansı altında. Okumak Orijinal makale.

İlgili Kitaplar

{amazonWS: searchindex = Kitaplar; anahtar kelimeler = AI gözetimi; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

InnerSelf'i takip et

facebook-icontwitter-ikonrss-ikon

E-posta ile son alın

{Emailcloak = off}