Fotoğraf: Norbert Aepli, İsviçre (Kullanıcı: Noebu)
2016'te, kendi kendine sürüş arabaları genel kullanıma girdi. Uber'in özerk araçları her yerde oldu Pittsburgh'da yaşadığım mahallelerde ve kısaca San Francisco’da. ABD Ulaştırma Bakanlığı yayınlandı yeni düzenleyici rehberlik onlar için. Sayısız kâğıtlar ve sütunlar otomobilleri nasıl sürdüğünü anlattı meli çözmek etik ikilemler işler ters gittiğinde. Ve ne yazık ki, 2016 da otonom bir aracı içeren ilk ölüm.
Özerk teknolojiler hızlı bir şekilde ulaştırma sektörünün ötesine, sağlık hizmeti, ileri siber güvenlik ve hatta özerk silahlar. 2017'te, bu teknolojilere güvenip güvenemeyeceğimize karar vermemiz gerekiyor. Bu beklediğimizden çok daha zor olacak.
Güven karmaşık ve çeşitlidir, fakat aynı zamanda hayatımızın anahtar bir parçasıdır. Genellikle teknolojiye güveniriz öngörülebilirliğe dayalı: Belirli bir durumda ne yapacağını biliyorsanız, nedenini bilmesem bile, bir şeye güvenirim. Örneğin, bilgisayarıma güveniyorum çünkü ayrılacağı zaman da dahil olmak üzere nasıl çalışacağını biliyorum. Farklı ya da şaşırtıcı şekilde davranmaya başlarsa güvenmeyi bırakıyorum.
Buna karşılık, karıma olan güvenim dayanıyor inançlarını, değerlerini ve kişiliğini anlama. Daha genel olarak, kişilerarası güven, tam olarak diğer kişinin ne yapacağını bilmek anlamına gelmez - karım beni bazen şaşırtıyor! - ama neden onlar gibi davranıyorlar. Ve elbette, ne yapacaklarını ve nedenlerini bilirsek, her ikisine de birine (veya bir şeye) güvenebiliriz.
Kendini süren otomobillere ve diğer özerk teknolojiye duyduğumuz güvene dair temelleri hem etik hem de psikolojik açıdan inceliyorum. Bunlar cihazdır, tahmin edilebilirlik anahtar gibi görünebilir. Ancak, özerklikleri nedeniyle, diğer insanlara güvenme şeklimizle onlara güvenmeyi öğrenmenin önemini ve değerini - ve öğrenmenin zorluğunu - dikkate almamız gerekir.
Özerklik ve öngörülebilirlik
Kendi kendini süren otomobiller dahil teknolojilerimizin tahmin edebileceğimiz ve bekleyebileceğimiz şekilde davranmasını istiyoruz. Tabii ki, bu sistemler diğer araçlar, yayalar, hava koşulları ve benzeri dahil, içeriğe oldukça duyarlı olabilir. Genel olarak, yine de, aynı ortamda tekrar tekrar yerleştirilen kendi kendini süren bir arabanın her zaman aynı şekilde davranması beklenebilir. Ancak bu yüksek oranda öngörülebilen arabalar yalnızca otomatik olmaktan ziyade özerk olur mu?
Orada var olmuştur çok farklı girişimleri için tanımlamak özerklikFakat hepsinde ortak bir nokta var: Özerk sistemler kendi (temelli) kararlarını ve planlarını yapabilir ve böylece beklenenden farklı davranabilirler.
Aslında, özerkliği kullanmanın bir nedeni (otomasyondan farklı olarak), tam olarak bu sistemlerin beklenmedik ve şaşırtıcı, haklı olsa da, eylem yollarını izleyebilmesidir. Örneğin, DeepMind's AlphaGo Son Go serisinin ikinci maçını Lee Sedol'e karşı kazandı; hiçbir insan oyuncunun yapamayacağı bir hareket, ancak yine de doğru hareketti.. Ancak bu aynı sürprizler öngörülebilirliğe dayalı güven oluşturmayı zorlaştırıyor. Yalnızca tahmin edilebilirliğe dayanan güçlü güven, kesin olarak tahmin edilebilir oldukları için (otomatik olarak otomatik çalıştığı varsayılarak) yalnızca otomatik veya otomatik sistemler için tartışılabilir.
Sürprizler kucaklayan
Tabii ki, diğer insanlar bizi sık sık şaşırtıyor ve biz de onlara, kendimiz için ölüm kalım gücü verse bile, dikkate değer derecede güvenebiliriz. Askerler, yoldaşlarına karmaşık, düşmanca ortamlarda güveniyorlar; bir hasta, bir tümör eksize etmek için cerrahına güvenir; ve daha sıradan bir damarda, karım beni güvenle kullanmam konusunda güveniyor. Bu kişilerarası güven, sürprizleri benimsememize olanak tanıyor, bu yüzden belki de kendi kendini süren otomobillerde kişilerarası güven gibi bir şey geliştirebiliriz?
Genel olarak, kişilerarası güven, kesin bir karar veremeseniz bile neden birinin belirli bir şekilde hareket ettiğini anlayabilmenizi gerektirir. Karım tam olarak nasıl süreceğimi bilemeyebilir, ama araba sürerken kullanacağım nedenleri biliyor. Ve aslında bir başkasının bir şeyi neden yaptığını anlamak nispeten kolaydır çünkü kesin olarak farklı "ham maddeler" ile - inançlarımız, arzularımız ve deneyimlerimizle - hepimiz aynı şekilde düşünür ve düşünürüz.
Aslında, sürekli ve bilinçsizce, bizim gibi kabaca düşündüklerini, akıl verdiklerini ve karar verdiklerini varsayarak, büyük ölçüde eylemlerine dayanan diğer insanların inanç ve istekleri hakkında çıkarımlar yaparız. Tüm bu çıkarımlar ve paylaşılan (insan) bilişimize dayanan akıl yürütme, başkasının sebeplerini anlamamızı ve böylece zaman içinde kişilerarası güven oluşturmamızı sağlar.
İnsan gibi mi düşünüyorsun?
Özerk teknolojiler - özellikle kendi kendini süren otomobiller - insanlar gibi düşünmeyin ve karar vermeyin. Her ikisi de çaba gösterdi geçmiş ve sonİnsan gibi düşünen ve düşünen bilgisayar sistemleri geliştirmek. Bununla birlikte, son yirmi yıl boyunca devam eden sürekli bir makine öğrenme teması, yapay zeka sistemlerimizin insani yollarla çalışmasını zorunlu kılmamakla kesin olarak elde edilen büyük kazanımlar olmuştur. Bunun yerine, makine öğrenme algoritmaları ve AlphaGo gibi sistemler genellikle insan uzmanlarından daha iyi performans belirli, yerelleşmiş sorunlara odaklanarak ve sonra bunları insanlardan oldukça farklı bir şekilde çözerek.
Sonuç olarak, özerk bir teknolojiyi insani inanç ve arzular açısından yorumlama girişimleri olağanüstü derecede ters gidebilir. Bir insan sürücü yoldaki topu gördüğünde, çoğumuz otomatik olarak yavaşlar, peşinden koşturabilecek bir çocuğa vurmamak için. Eğer otonom bir arabaya binersek ve sokağa bir top atışı görürsek, arabanın onu tanımasını ve koşan çocuklar için durmaya hazır olmasını bekliyoruz. Bununla birlikte, araba yalnızca önlenmesi gereken bir engel görüyor olabilir. Yavaşlamadan saparsa, gemideki insanlar alarma geçebilir - ve bir çocuk tehlikede olabilir.
Kendi kendine süren bir arabanın “inançları” ve “arzuları” hakkındaki çıkarımlarımız, kesinlikle, kesinlikle otomobilin insan benzeri herhangi bir inanç veya arzusu olmadığı için, kesinlikle önemli bir şekilde hatalı olacaktır. Kendini süren bir arabaya, sürüşünü izleyerek kişilerarası güveni geliştiremeyiz, çünkü eylemlerinin arkasındaki nedenleri doğru bir şekilde çıkarmayacağız.
Tabii ki, toplum veya pazar yeri müşterileri, kendi kendine süren arabaların insani (psikolojik) özelliklere sahip olduğu konusunda ısrar edebilirler; Bu strateji tamamen yeni bir anlam kazandıracaktır.insan merkezli tasarım“Sistemler özel olarak tasarlandığından, onların eylemleri insanlar tarafından yorumlanabilir. Ama aynı zamanda roman dahil gerektiriyor algoritmalar ve teknikleri kendi kendini süren otomobilde, hepsi kendi kendine süren otomobiller ve diğer özerk teknolojiler için mevcut araştırma ve geliştirme stratejilerinden büyük bir değişikliği temsil eder.
Kendi kendini süren otomobiller, ulaşım altyapımızı pek çok faydalı yolla radikal bir şekilde yeniden şekillendirme potansiyeline sahiptir, ancak yalnızca onları gerçekten kullanacak kadar güvenebiliyorsak. Ve ironik olarak, kendi kendine sürüş arabaları değerli kılan özellik - farklı durumlar için esnek, özerk karar verme - tam olarak onlara güvenmeyi zorlaştırıyor.
authirhere
David Danks, Felsefe ve Psikoloji Profesörü, Carnegie Mellon University
Bu yazı orijinalinde Konuşma. Okumak Orijinal makale.
İlgili Kitaplar:
at InnerSelf Pazarı ve Amazon
