Otomatik Bir Dünyada Her Şey Yanlış Gittiğinde Hala Ne Yapacağımızı Bilebilir miyiz?

Hem giderek daha karmaşık olan bir dünyada yaşıyoruz otomatik. Dolayısıyla, daha karmaşık problemlerle uğraşmak zorunda olduğumuz gibi, otomasyon beklenmedik durumlara cevap verirken veya işler ters gittiğinde bizi daha savunmasız bırakabilecek bir insan becerisi atrofisine yol açıyor. Konuşma

Yi hesaba kat Air France Uçuşunun Son dakikaları 447Paris, Fransa için Brezilya, Rio de Janeiro'dan ayrıldıktan sonra Mayıs 2009'te Atlantik'e çarptı.

Uçuş kaydedici belli oldu kokpitte son derece karışıklık. Uçak, 15 at'de tekrar tekrar “durma, durma” diyen otomatik bir sesle eğildi. Yine de pilotlar çıldırıyordu, bunlardan biri şöyle diyordu: “[…] hiçbir şey anlamıyoruz.”

Burası, kötü durumlu uçuşun giriş ve çıkışlarına gidilecek yer değil, acil durumlarla otomatik olarak ilgilenmek üzere tasarlanan herhangi bir sistemin, tasarımcıların yaşayabileceği azınlıklar için bozulmuş bir beceri tabanı bıraktığını belirtmek yerine öngörme.

Konuşan Moda dünyasıMichigan Üniversitesi'nde endüstri mühendisi olan Nadine Sarter, belirli bir uçak yapımında yer alan beş mühendisle yapılan bir sohbeti hatırlıyor.


kendi kendine abone olma grafiği


'Peki ya bu nasıl çalışıyor?' Diye sormaya başladım. Ve cevaplar üzerinde anlaşamadılar. Yani, eğer bu beş mühendis aynı fikirde olmazsa, kötü pilot, o özel durumla karşılaşırsa… iyi şanslar.

Sonuçta, ustalıkla uçan yüksek karmaşık uçaklara sahip uçakların karmaşıklığı, bir robota dış kaynaklı olarak verildi. uçuş mühendisleri tüm amaçlara ve amaçlara gitti Kokainlerden. Sadece eski pilotlar ve eski hava kuvvetleri pilotları bu ayrıntılı becerileri korurlar.

Terra firma'a geri dönersek, otonom bir sürüş dünyasında, ne olursa olsun hiçbir pratik deneyimi olmayan gelecek nesillerin tümü olabilir. sürüş ve gezinme bir araç.

Biz zaten bir göstergesi görüyoruz ne yanlış gidebilir insanlar kontrolden çıktığında otonom sistemler.

İçine bir soruşturma Tesla Model S'nin otomatik pilotla ölümcül çarpması Şirketin sürücülere “sistem kısıtlamaları” hakkında bilgi sağladığını belirtti. Bu durumda, dikkat etmek hala sürücülere kalmış.

Ancak bir kişinin kontrolleri ele geçirme şansı ne olurdu, geleceklerinde işler ters gitmeye başlarsa tamamen özerk araç. Yaklaşmakta olan felaketin ilk işaretlerini nasıl belirleyeceğini bile biliyorlar mı?

Yolumuzu mu kaybettin?

Bunu sürmek, her yeniliğin gerçekten iyi olduğuna inanan teknolojik bir determinizmdir. Gelişen teknolojiler henüz insan olmanın ne olduğunu tanımlayabilirken, zorluk riski tanımak ve işlerin yanlış gitmediğinden emin olmak için ne yapmalı.

Karmaşıklığa eklediğimiz gibi, özellikle özerk bir sürüşle daha da zorlaşıyor. banliyö trenleri, hava taksileri ve teslimat uçağı.

Sistem tasarımcıları, bilgisayar işlem yükünü paylaşmak için daha büyük ve iç içe geçmiş sistemler inşa ediyorlar; bu, yarattıkları bozulma için aday olmalarını sağlıyor. Her şey birbirine bağlandıktan sonra, sorunların çözüm gibi kolayca yayılabildiğini, bazen daha fazlasını da görmezden geliyorlar.

Otomatik bir dünyanın büyüyen ve büyük karmaşıklığı da benzer riskler doğuruyor.

Tehlike noktaları

Gördüğünüzde, ihtiyaç duyulan şey, başarısızlık noktaları varken ağları ücretsiz olarak kesmek veya içinde başka bir yerde arıza noktaları varken en azından tek bir ağın parçalarını kapatmaktır.

Bu “adacılık”, ağı iç güç taleplerini sürdürebilecek parçalara bölme olanağı sağlayan akıllı elektrik şebekelerinin bir özelliğidir. Modelleme göstermiştir daha az bağlantı daha fazla güvenliğe yol açabilir.

Yeni ortaya çıkan karmaşıklık bilimi, birbiriyle bağlantılı ağlarda tehlike noktalarının nerede olabileceğini belirlemekte yardımcı olabilir mi? Marten Scheffer ve arkadaşları Öyle düşünmüştüm. Doğal sistemlerinin davranışı ile ekonomik ve finansal sistemler arasında benzerlikler olduğunu görmüştü.

Onun önceki iş göllerde, mercan resifleri, denizler, ormanlar ve otlaklar, iklim, besin yükü ve habitat kaybı gibi kademeli değişime maruz kalan ortamların, onları bazen geri dönüşü olmayan bir düşük duruma çeviren devrilme noktalarına ulaşabileceğini keşfetti.

Finansal piyasaların istikrarı ile boğuşan bankacılar ve ekonomistler, kritik eşiklere ve sistem bozulmasına olan yakınlığın işaretlerini geliştirmek için ekoloji, epidemiyoloji ve klimatoloji araştırmacılarından öğrenebilir mi?

Şubat ayında 2016, bunların hepsi bir araya geldi karmaşıklık teorisi ve finansal düzenleme üzerine bir makale bir ekonomist, bankacı, fizikçi, iklimbilimci, ekolojist, zoolog, veteriner ve epidemiyolog gibi çok çeşitli uzmanlar tarafından birlikte yazılmıştır.

Küresel sosyoekonomik ve finansal sistemler için gerçek zamanlı olarak stres testleriyle beslenen veri, yöntem ve göstergelerin çevrimiçi entegrasyonunu tavsiye ettiler. İlki, hava gibi diğer karmaşık sistemlerle başa çıkmada elde edilenlere benzer.

Özerk bir sürüş dünyası örneğimizin ağ istikrarı sorunlarına nasıl katlandığını görmeye başlayabiliriz. Birbirine bağlı özerk araç ağını hayal edin.

Potansiyel olarak trajik sonuçlara yol açmadan önce, böyle bir ağdaki potansiyel arıza noktalarını nasıl tespit edeceğinizi ve izole edeceğinizi bilmeye açık bir ihtiyaç vardır. Bu, tek bir otonom araçta sürücüyü ve yolcuyu herhangi bir sistem arızasından korumaktan daha fazlasıdır.

Bu çok disiplinli gelişmeleri sert sonuçlardan kaçınmak için bu tür büyük ölçekli ağların istikrarını anlamada nasıl kullanabileceğimizi düşünme zamanı.

Yazar hakkında

Peter Fisher, Yardımcı Doçent, Küresel, Kentsel ve Sosyal Etütler, RMIT Üniversitesi

Bu yazı orijinalinde Konuşma. Okumak Orijinal makale.

İlgili Kitaplar

at InnerSelf Pazarı ve Amazon