Özerk Teknolojilerde Güven Bulma ve Anlama

Özerk Teknolojilerde Güven Bulma ve AnlamaFotoğraf: Norbert Aepli, İsviçre (Kullanıcı: Noebu)

2016'te, kendi kendine sürüş arabaları genel kullanıma girdi. Uber'in özerk araçları her yerde oldu Pittsburgh'da yaşadığım mahallelerde ve kısaca San Francisco’da. ABD Ulaştırma Bakanlığı yayınlandı yeni düzenleyici rehberlik onlar için. Sayısız kâğıtlar ve sütunlar otomobilleri nasıl sürdüğünü anlattı meli çözmek etik ikilemler işler ters gittiğinde. Ve ne yazık ki, 2016 da otonom bir aracı içeren ilk ölüm.

Özerk teknolojiler hızlı bir şekilde ulaştırma sektörünün ötesine, sağlık hizmeti, ileri siber güvenlik ve hatta özerk silahlar. 2017'te, bu teknolojilere güvenip güvenemeyeceğimize karar vermemiz gerekiyor. Bu beklediğimizden çok daha zor olacak.

Güven karmaşık ve çeşitlidir, fakat aynı zamanda hayatımızın anahtar bir parçasıdır. Genellikle teknolojiye güveniriz öngörülebilirliğe dayalı: Belirli bir durumda ne yapacağını biliyorsanız, nedenini bilmesem bile, bir şeye güvenirim. Örneğin, bilgisayarıma güveniyorum çünkü ayrılacağı zaman da dahil olmak üzere nasıl çalışacağını biliyorum. Farklı ya da şaşırtıcı şekilde davranmaya başlarsa güvenmeyi bırakıyorum.

Buna karşılık, karıma olan güvenim dayanıyor inançlarını, değerlerini ve kişiliğini anlama. Daha genel olarak, kişilerarası güven, tam olarak diğer kişinin ne yapacağını bilmek anlamına gelmez - karım beni bazen şaşırtıyor! - ama neden onlar gibi davranıyorlar. Ve elbette, ne yapacaklarını ve nedenlerini bilirsek, her ikisine de birine (veya bir şeye) güvenebiliriz.

Kendini süren otomobillere ve diğer özerk teknolojiye duyduğumuz güvene dair temelleri hem etik hem de psikolojik açıdan inceliyorum. Bunlar cihazdır, tahmin edilebilirlik anahtar gibi görünebilir. Ancak, özerklikleri nedeniyle, diğer insanlara güvenme şeklimizle onlara güvenmeyi öğrenmenin önemini ve değerini - ve öğrenmenin zorluğunu - dikkate almamız gerekir.

Özerklik ve öngörülebilirlik

Kendi kendini süren otomobiller dahil teknolojilerimizin tahmin edebileceğimiz ve bekleyebileceğimiz şekilde davranmasını istiyoruz. Tabii ki, bu sistemler diğer araçlar, yayalar, hava koşulları ve benzeri dahil, içeriğe oldukça duyarlı olabilir. Genel olarak, yine de, aynı ortamda tekrar tekrar yerleştirilen kendi kendini süren bir arabanın her zaman aynı şekilde davranması beklenebilir. Ancak bu yüksek oranda öngörülebilen arabalar yalnızca otomatik olmaktan ziyade özerk olur mu?

Orada var olmuştur çok farklı girişimleri için tanımlamak özerklikFakat hepsinde ortak bir nokta var: Özerk sistemler kendi (temelli) kararlarını ve planlarını yapabilir ve böylece beklenenden farklı davranabilirler.


InnerSelf'ten En Son Haberleri Alın


Aslında, özerkliği kullanmanın bir nedeni (otomasyondan farklı olarak), tam olarak bu sistemlerin beklenmedik ve şaşırtıcı, haklı olsa da, eylem yollarını izleyebilmesidir. Örneğin, DeepMind's AlphaGo Son Go serisinin ikinci maçını Lee Sedol'e karşı kazandı; hiçbir insan oyuncunun yapamayacağı bir hareket, ancak yine de doğru hareketti.. Ancak bu aynı sürprizler öngörülebilirliğe dayalı güven oluşturmayı zorlaştırıyor. Yalnızca tahmin edilebilirliğe dayanan güçlü güven, kesin olarak tahmin edilebilir oldukları için (otomatik olarak otomatik çalıştığı varsayılarak) yalnızca otomatik veya otomatik sistemler için tartışılabilir.

Sürprizler kucaklayan

Tabii ki, diğer insanlar bizi sık sık şaşırtıyor ve biz de onlara, kendimiz için ölüm kalım gücü verse bile, dikkate değer derecede güvenebiliriz. Askerler, yoldaşlarına karmaşık, düşmanca ortamlarda güveniyorlar; bir hasta, bir tümör eksize etmek için cerrahına güvenir; ve daha sıradan bir damarda, karım beni güvenle kullanmam konusunda güveniyor. Bu kişilerarası güven, sürprizleri benimsememize olanak tanıyor, bu yüzden belki de kendi kendini süren otomobillerde kişilerarası güven gibi bir şey geliştirebiliriz?

Genel olarak, kişilerarası güven, kesin bir karar veremeseniz bile neden birinin belirli bir şekilde hareket ettiğini anlayabilmenizi gerektirir. Karım tam olarak nasıl süreceğimi bilemeyebilir, ama araba sürerken kullanacağım nedenleri biliyor. Ve aslında bir başkasının bir şeyi neden yaptığını anlamak nispeten kolaydır çünkü kesin olarak farklı "ham maddeler" ile - inançlarımız, arzularımız ve deneyimlerimizle - hepimiz aynı şekilde düşünür ve düşünürüz.

Aslında, sürekli ve bilinçsizce, bizim gibi kabaca düşündüklerini, akıl verdiklerini ve karar verdiklerini varsayarak, büyük ölçüde eylemlerine dayanan diğer insanların inanç ve istekleri hakkında çıkarımlar yaparız. Tüm bu çıkarımlar ve paylaşılan (insan) bilişimize dayanan akıl yürütme, başkasının sebeplerini anlamamızı ve böylece zaman içinde kişilerarası güven oluşturmamızı sağlar.

İnsan gibi mi düşünüyorsun?

Özerk teknolojiler - özellikle kendi kendini süren otomobiller - insanlar gibi düşünmeyin ve karar vermeyin. Her ikisi de çaba gösterdi geçmiş ve sonİnsan gibi düşünen ve düşünen bilgisayar sistemleri geliştirmek. Bununla birlikte, son yirmi yıl boyunca devam eden sürekli bir makine öğrenme teması, yapay zeka sistemlerimizin insani yollarla çalışmasını zorunlu kılmamakla kesin olarak elde edilen büyük kazanımlar olmuştur. Bunun yerine, makine öğrenme algoritmaları ve AlphaGo gibi sistemler genellikle insan uzmanlarından daha iyi performans belirli, yerelleşmiş sorunlara odaklanarak ve sonra bunları insanlardan oldukça farklı bir şekilde çözerek.

Sonuç olarak, özerk bir teknolojiyi insani inanç ve arzular açısından yorumlama girişimleri olağanüstü derecede ters gidebilir. Bir insan sürücü yoldaki topu gördüğünde, çoğumuz otomatik olarak yavaşlar, peşinden koşturabilecek bir çocuğa vurmamak için. Eğer otonom bir arabaya binersek ve sokağa bir top atışı görürsek, arabanın onu tanımasını ve koşan çocuklar için durmaya hazır olmasını bekliyoruz. Bununla birlikte, araba yalnızca önlenmesi gereken bir engel görüyor olabilir. Yavaşlamadan saparsa, gemideki insanlar alarma geçebilir - ve bir çocuk tehlikede olabilir.

Kendi kendine süren bir arabanın “inançları” ve “arzuları” hakkındaki çıkarımlarımız, kesinlikle, kesinlikle otomobilin insan benzeri herhangi bir inanç veya arzusu olmadığı için, kesinlikle önemli bir şekilde hatalı olacaktır. Kendini süren bir arabaya, sürüşünü izleyerek kişilerarası güveni geliştiremeyiz, çünkü eylemlerinin arkasındaki nedenleri doğru bir şekilde çıkarmayacağız.

Tabii ki, toplum veya pazar yeri müşterileri, kendi kendine süren arabaların insani (psikolojik) özelliklere sahip olduğu konusunda ısrar edebilirler; Bu strateji tamamen yeni bir anlam kazandıracaktır.insan merkezli tasarım“Sistemler özel olarak tasarlandığından, onların eylemleri insanlar tarafından yorumlanabilir. Ama aynı zamanda roman dahil gerektiriyor algoritmalar ve teknikleri kendi kendini süren otomobilde, hepsi kendi kendine süren otomobiller ve diğer özerk teknolojiler için mevcut araştırma ve geliştirme stratejilerinden büyük bir değişikliği temsil eder.

Kendi kendini süren otomobiller, ulaşım altyapımızı pek çok faydalı yolla radikal bir şekilde yeniden şekillendirme potansiyeline sahiptir, ancak yalnızca onları gerçekten kullanacak kadar güvenebiliyorsak. Ve ironik olarak, kendi kendine sürüş arabaları değerli kılan özellik - farklı durumlar için esnek, özerk karar verme - tam olarak onlara güvenmeyi zorlaştırıyor.

Konuşma

authirhere

David Danks, Felsefe ve Psikoloji Profesörü, Carnegie Mellon University

Bu yazı orijinalinde Konuşma. Okumak Orijinal makale.

İlgili Kitaplar:

{amazonWS: searchindex = Kitaplar; anahtar kelimeler = kendi kendini süren arabalar; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

InnerSelf'i takip et

facebook-icontwitter-ikonrss-ikon

E-posta ile son alın

{Emailcloak = off}

EDİTÖRLERDEN

Hepimiz Evde Okuldayız ... Planet Earth'te
by Marie T. Russell, İçsel
Zorlu zamanlarda ve büyük olasılıkla çoğunlukla zorlu zamanlarda, "bunun da geçeceğini" ve her sorun veya krizde öğrenilecek bir şey olduğunu hatırlamamız gerekir.
Gerçek Zamanlı Sağlığı İzleme
by Robert Jennings, InnerSelf.com
Bana göre bu süreç ileride çok önemli. Diğer cihazlarla birlikte artık insanların sağlığını gerçek zamanlı olarak uzaktan izleyebiliyoruz.
Coronavirus Mücadelesinde Doğrulama İçin Gönderilen Oyun Değişen Ucuz Antikor Testi
by Alistair Smout ve Andrew MacAskill
LONDRA (Reuters) - Yaklaşık 10 $ 'a mal olacak 1 dakikalık bir koronavirüs antikor testinin arkasındaki bir İngiliz şirketi, doğrulama için laboratuvarlara prototip göndermeye başladı.
Korku Salgınıyla Nasıl Mücadele Edilir
by Marie T. Russell, İçsel
Barry Vissell tarafından birçok insana bulaşan korku salgını ile ilgili bir mesaj paylaşılıyor ...
Gerçek Liderlik Neye benziyor ve nasıl görünüyor
by Robert Jennings, InnerSelf.com
Orgeneral Todd Semonite, Mühendisler Birliği ve Ordu Mühendisleri Genel Komutanı, Rachel Maddow ile Ordu Mühendisler Birliği'nin diğer federal kurumlarla nasıl çalıştığı hakkında konuşuyor ve…
Ne İşe Yarar: Vücudumu Dinlemek
by Marie T. Russell, İçsel
İnsan vücudu inanılmaz bir yaratımdır. Ne yapacağımıza dair girdimize ihtiyaç duymadan çalışır. Kalp atışı, akciğer pompası, lenf düğümleri işlerini yapar, tahliye işlemi çalışır. Vücut…