Napolyon geçmişten ders alabilirdi. Adolph Northen tarafından resim/wikipedia

Tarihi bilmemenin onu tekrar ettirdiği klişedir. Pek çok kişinin de belirttiği gibi, tarihten öğrendiğimiz tek şey, tarihten nadiren bir şey öğrenmemizdir. İnsanlar meşgul Asya'da kara savaşları tekrar ve tekrar. Ayrıca aynı flört hatalarını defalarca tekrarlıyorlar. Ama bu neden oluyor? Ve teknoloji buna bir son verecek mi?

Bir konu unutkanlık ve “miyopi”: Geçmiş olayların şimdiki olaylarla ne kadar ilgili olduğunu görmüyoruz, ortaya çıkan modele bakıyoruz. Napolyon, Moskova'ya yürüyüşü ile İsveç kralı arasındaki benzerlikleri fark etmiş olmalıydı. Charles XII'nin aynı şeyi yapma konusundaki başarısız girişimi Ondan yaklaşık bir asır önce.

Biz de öğrenmede kötü işler ters gittiğinde Bir kararın neden yanlış olduğunu ve bunun bir daha tekrarlanmasını nasıl önleyeceğimizi belirlemek yerine, genellikle olayların utanç verici gidişatını görmezden gelmeye çalışırız. Bu, bir dahaki sefere benzer bir durum ortaya çıktığında, benzerliği görmediğimiz ve hatayı tekrarladığımız anlamına gelir.

Her ikisi de bilgi ile ilgili sorunları ortaya çıkarır. İlk durumda, kişisel veya geçmiş bilgileri hatırlayamayız. İkincisinde, bilgi mevcut olduğunda kodlamayı başaramayız.

Bununla birlikte, ne olacağını verimli bir şekilde çıkaramadığımız zaman da hatalar yaparız. Belki de durum üzerinde düşünmek için çok karmaşık veya çok zaman alıcıdır. Ya da olan biteni yanlış yorumlama eğilimindeyiz.

Teknolojinin rahatsız edici gücü

Ama kesinlikle teknoloji bize yardım edebilir mi? Artık bilgileri beynimizin dışında depolayabilir ve onu geri almak için bilgisayarları kullanabiliriz. Bu, öğrenmeyi ve hatırlamayı kolaylaştırmalı, değil mi?

Bilgilerin saklanması, iyi bir şekilde geri alınabildiğinde yararlıdır. Ancak hatırlamak, bir dosyayı bilinen bir yerden veya tarihten almakla aynı şey değildir. Hatırlamak, benzerlikleri tespit etmeyi ve bir şeyleri akla getirmeyi içerir.

Bir yapay zekanın (AI) da kendiliğinden benzerlikleri aklımıza getirebilmesi gerekir - genellikle istenmeyen benzerlikler. Ancak olası benzerlikleri fark etmede başarılıysa (sonuçta, tüm interneti ve tüm kişisel verilerimizi arayabilir), genellikle yanlış olanları da fark edecektir.

Başarısız tarihler için, hepsinin akşam yemeği içerdiğini not edebilir. Ama sorun asla yemek değildi. Ve masanın üzerinde laleler olması tam bir tesadüftü - onlardan kaçınmak için bir sebep yoktu. Flört hatalarını sık sık tekrarlıyoruz. 

Bu, bizi umursamadığımız şeyler hakkında muhtemelen can sıkıcı bir şekilde uyaracağı anlamına gelir. Hassasiyetini azaltmak, gerektiğinde uyarı alamama riskini artırmak anlamına gelir.

Bu temel bir sorundur ve her danışman için geçerli olduğu kadar geçerlidir: temkinli danışman çok sık ağlar, iyimser danışman riskleri kaçırır.

İyi bir danışman, güvendiğimiz kişidir. Onlar da bizim kadar ihtiyatlı davranıyorlar ve ne istediğimizi bildiklerini biliyoruz. Bunu bir insan danışmanda ve hatta bir yapay zekada bulmak zordur.

Teknoloji hataları nerede durdurur? Aptal provası çalışıyor. Kesme makineleri, ellerinizi bıçaklardan uzak tutarak düğmeleri basılı tutmanızı gerektirir. Operatörün iş göremez hale gelmesi durumunda bir "emniyet anahtarı" bir makineyi durdurur.

Mikrodalga fırınlar, kapağı açıldığında radyasyonu kapatır. Füzeleri fırlatmak için, iki kişinin aynı anda bir odada anahtarları çevirmesi gerekir. Burada dikkatli tasarım, hataların yapılmasını zorlaştırır. Ancak daha az önemli durumları yeterince umursamıyoruz, bu da oradaki tasarımı çok daha az aptalca hale getiriyor.

Teknoloji iyi çalıştığında, genellikle ona çok fazla güveniriz. Otopilot sistemlerinin şaşırtıcı verimliliği nedeniyle, havayolu pilotları bugün geçmişe göre daha az gerçek uçuş saatine sahiptir. Otopilot başarısız olduğunda bu kötü bir haberdir ve pilotun durumu düzeltmek için daha az deneyimi vardır.

ilk bir yeni nesil petrol platformu (Sleipnir A) battı çünkü mühendisler, üzerine etki eden kuvvetlerin yazılım hesaplamasına güveniyordu. Model yanlıştı, ancak sonuçları o kadar ikna edici bir şekilde sunuyordu ki, güvenilir görünüyorlardı.

Teknolojimizin çoğu inanılmaz derecede güvenilirdir. Örneğin, internette kaybolan veri paketlerinin perde arkasında nasıl sürekli olarak bulunduğunu, hata düzeltme kodlarının gürültüyü nasıl ortadan kaldırdığını veya sigortaların ve yedekliliğin cihazları nasıl güvenli hale getirdiğini fark etmiyoruz.

Ancak karmaşıklık seviyelerini üst üste yığdığımızda, çok güvenilmez görünüyor. Zoom videosu geciktiğinde, yapay zeka programı yanlış yanıt verdiğinde veya bilgisayar çöktüğünde fark ediyoruz. Yine de 50 yıl önce bilgisayar ya da araba kullanan birine bunların gerçekte nasıl çalıştığını sorarsanız, ikisinin de daha az yetenekli ve daha az güvenilir olduklarını fark edeceksiniz.

Teknolojiyi, kullanımı çok rahatsız edici veya güvensiz hale gelene kadar daha karmaşık hale getiriyoruz. Parçalar daha iyi ve daha güvenilir hale geldikçe, neyin işe yaradığına bağlı kalmak yerine genellikle yeni heyecan verici ve kullanışlı özellikler eklemeyi seçiyoruz. Bu sonuçta teknolojiyi olabileceğinden daha az güvenilir hale getirir.

hatalar yapılacak

AI'nın hatalardan kaçınmak için iki ucu keskin bir kılıç olmasının nedeni de budur. Otomasyon genellikle çalıştığında işleri daha güvenli ve verimli hale getirir, ancak başarısız olduğunda sorunu çok daha büyük hale getirir. Özerklik, akıllı yazılımın düşüncemizi tamamlayabileceği ve üzerimizdeki yükü kaldırabileceği anlamına gelir, ancak istediğimiz gibi düşünmediğinde yanlış davranabilir.

Ne kadar karmaşıksa, hatalar o kadar fantastik olabilir. Son derece zeki bilim adamlarıyla uğraşan herkes, sağduyuları onları başarısızlığa uğrattığında büyük bir ustalıkla işleri ne kadar iyi alt üst edebildiklerini bilir - ve yapay zekanın insan sağduyusu çok azdır.

Bu aynı zamanda AI'nın karar verme sürecine rehberlik etmesi konusunda endişelenmek için derin bir nedendir: yeni tür hatalar yaparlar. Biz insanlar insan hatalarını biliyoruz, yani onlara dikkat edebiliriz. Ancak akıllı makineler asla hayal bile edemeyeceğimiz hatalar yapabilir.

Dahası, AI sistemleri insanlar tarafından programlanır ve eğitilir. Ve bu tür sistemlerin birçok örneği var. önyargılı ve hatta bağnaz olmak. İlgili insanlar açıkça onlardan kaçınmaya çalışsalar bile, önyargıları taklit ederler ve insan dünyasındaki hataları tekrarlarlar.

Sonunda hatalar olmaya devam edecek. Dünya hakkında yanılmamızın, hatırlamamız gereken her şeyi hatırlamamamızın ve teknolojimizin beladan kaçınmamıza neden mükemmel bir şekilde yardımcı olamamasının temel nedenleri var.

Ancak hataların sonuçlarını azaltmak için çalışabiliriz. Geri alma düğmesi ve otomatik kaydetme, bilgisayarlarımıza sayısız belge kaydetmiştir. Londra'daki Anıt, tsunami taşları Japonya'da ve diğer anıtlar bize belirli riskleri hatırlatmak için hareket ediyor. İyi tasarım uygulamaları hayatımızı daha güvenli hale getirir.

Sonuçta tarihten bir şeyler öğrenmek mümkündür. Amacımız hayatta kalmak ve hatalarımızdan ders çıkarmak olmalı, bunların olmasını engellememeli. Teknoloji bize bu konuda yardımcı olabilir, ancak ondan gerçekte ne istediğimizi dikkatlice düşünmeli ve buna göre tasarım yapmalıyız.

Yazar hakkında

Anders Sandberg, James Martin Araştırma Görevlisi, Future of Humanity Institute & Oxford Martin School, Oxford Üniversitesi

Bu makale şu adresten yeniden yayınlandı: Konuşma Creative Commons lisansı altında. Okumak Orijinal makale.