Matematikçi ve teorik biyolog Jack D. Cowan, 1956'da, Londra'ya yaptığı bir yıllık gezi sırasında, 20'li yaşlarının başında, Wilfred Taylor'ı ve tuhaf yeni arkadaşını ziyaret etti.öğrenme makinesi”. Vardığında, karşılaştığı "devasa aparat yığını" karşısında şaşkına döndü. Cowan sadece durup "makinenin kendi işini yapmasını" izleyebildi. Yaptığı şey bir "ilişkisel hafıza şeması" uygulamaktı; bağlantıları nasıl bulacağını ve veriyi nasıl geri alacağını öğrenebiliyor gibi görünüyordu.
Bir yığın kablo ve kutu içinde elle birbirine lehimlenmiş hantal devre blokları gibi görünebilirdi ama Cowan'ın tanık olduğu şey bir sinir ağının ilk analog formuydu; günümüzün en gelişmiş yapay zekasının öncüsüydü. çok tartışıldı ChatGPT hemen hemen her komuta yanıt olarak yazılı içerik oluşturma yeteneğiyle. ChatGPT'nin temelindeki teknoloji bir sinir ağıdır.
Cowan ve Taylor durup makinenin çalışmasını izlerken, bu görevi tam olarak nasıl yerine getirdiğine dair hiçbir fikirleri yoktu. Taylor'ın gizemli makine beyninin cevabı, onun "analog nöronlarında", makine hafızasının yaptığı çağrışımlarda ve en önemlisi, otomatik işleyişinin tam olarak açıklanamamasında bulunabilir. Bu sistemlerin amacını bulması ve bu gücün kilidinin açılması onlarca yıl alacaktır.
Sinir ağı terimi geniş bir sistem yelpazesini içerir, ancak merkezi olarak IBM'e göreYapay sinir ağları (YSA) veya simüle edilmiş sinir ağları (SNN) olarak da bilinen bu sinir ağları, makine öğreniminin bir alt kümesidir ve derin öğrenme algoritmalarının kalbinde yer alır. En önemlisi, terimin kendisi ve şekli ve "yapısı, biyolojik nöronların birbirlerine sinyal verme şeklini taklit ederek insan beyninden ilham almıştır".
İlk aşamalarında değerleri konusunda bazı şüpheler kalmış olabilir, ancak yıllar geçtikçe yapay zeka modası sinir ağlarına doğru yöneldi. Artık bunların yapay zekanın geleceği olduğu anlaşılıyor. Bunların bizim için ve insan olmanın ne anlama geldiği konusunda büyük etkileri var. Duyduk son zamanlarda bu endişelerin yankıları etkilerine güven sağlamak için yeni yapay zeka gelişmelerini altı aylık bir süre boyunca duraklatma çağrılarıyla birlikte.
Sinir ağını yalnızca parlak, göz alıcı yeni aygıtlarla ilgili olarak göz ardı etmek kesinlikle bir hata olacaktır. Onlar zaten hayatımızda iyice yerleşmiş durumdalar. Bazıları pratiklik açısından güçlüdür. 1989 yılına kadar AT&T Bell Laboratuvarlarında Yann LeCun liderliğindeki bir ekip, bir sistemi eğitmek için geri yayılım tekniklerini kullandı. el yazısı posta kodlarını tanır. son Microsoft'tan duyuru Bing aramalarının yapay zeka tarafından destekleneceği ve onu "web için yardımcı pilotunuz" haline getireceği, keşfettiğimiz şeylerin ve onları nasıl anladığımızın giderek bu tür otomasyonun bir ürünü olacağını gösteriyor.
Kalıpları bulmak için geniş verilerden yararlanan yapay zeka, benzer şekilde görüntü tanıma gibi şeyleri hızlı bir şekilde yapmak üzere eğitilebilir ve bu da bunların sisteme dahil edilmesini sağlar. yüz tanıma, örneğin. Kalıpları tanımlama yeteneği, aşağıdakiler gibi birçok başka uygulamaya yol açmıştır: borsaları tahmin etmek.
Sinir ağları, yorumlama ve iletişim kurma şeklimizi de değiştiriyor. İlginç bir başlık tarafından geliştirildi Google Beyin Ekibi, Google Translate sinir ağının bir diğer öne çıkan uygulamasıdır.
Bunlardan biriyle Satranç ya da Shogi oynamak istemezsiniz. Kuralları kavramaları, stratejileri ve kayıtlı tüm hareketleri hatırlamaları, oyunlarda son derece iyi oldukları anlamına gelir (her ne kadar ChatGPT Wordle ile mücadele). İnsan Go oyuncularını (Go, herkesin bildiği gibi zorlu bir strateji masa oyunudur) ve Satranç büyük ustalarını rahatsız eden sistemler, sinir ağlarından yapılmış.
Ancak erişim alanları bu örneklerin çok ötesine geçiyor ve genişlemeye devam ediyor. Yalnızca "sinir ağları" ifadesinin tam olarak belirtilmesiyle sınırlı bir patent araştırması, 135,828 sonuç veriyor. Bu hızlı ve devam eden genişlemeyle birlikte yapay zekanın etkisini tam olarak açıklayabilme şansımız daha da azalabilir. Araştırmamda incelediğim sorular bunlar ve algoritmik düşünme üzerine yeni kitabım.
'Bilinmezliğin' gizemli katmanları
Sinir ağlarının tarihine baktığımızda, günümüzü tanımlayan veya gelecekte muhtemelen daha derin bir etkiye sahip olacak otomatik kararlar hakkında bize önemli bir şey söylüyor. Onların varlığı aynı zamanda bize yapay zekanın kararlarını ve etkilerini zamanla daha da az anlayabileceğimizi söylüyor. Bu sistemler sadece kara kutular değil, bir sistemin görülemeyen veya anlaşılamayan gizli parçaları da değil.
Bu farklı bir şeydir, kökleri bu sistemlerin amaçlarına ve tasarımına dayanan bir şeydir. Açıklanamayana dair uzun süredir devam eden bir arayış var. Sistemin ne kadar opak olursa o kadar özgün ve gelişmiş olduğu düşünülür. Bu sadece sistemlerin daha karmaşık hale gelmesiyle ya da fikri mülkiyetin kontrolünün erişimi kısıtlamasıyla (her ne kadar bunlar bunun bir parçası olsa da) ilgili değil. Bunun yerine, onları yönlendiren ahlak anlayışının "bilinmezlik" konusunda özel ve yerleşik bir ilgiye sahip olduğunu söylemektir. Gizem, sinir ağının biçimine ve söylemine bile kodlanmıştır. Derin bir şekilde yığılmış katmanlarla gelirler - dolayısıyla derin öğrenme deyimi - ve bu derinliklerin içinde daha da gizemli görünen "gizli katmanlar" bulunur. Bu sistemlerin gizemleri yüzeyin derinliklerindedir.
Yapay zekanın hayatımızdaki etkisi ne kadar büyük olursa, bunun nasıl ve neden olduğunu da o kadar az anlayacağız. Bugün yapay zekaya yönelik açıklanabilir güçlü bir baskı var. Nasıl çalıştığını ve kararlara ve sonuçlara nasıl ulaştığını bilmek istiyoruz. AB potansiyel olarak “kabul edilemez riskler” ve hatta “tehlikeli” uygulamalardan o kadar endişe duymaktadır ki şu anda ilerlemektedir yeni bir Yapay Zeka Yasası “Güvenli, güvenilir ve etik yapay zekanın geliştirilmesi” için “küresel bir standart” oluşturmayı amaçlıyor.
Bu yeni yasalar açıklanabilirlik ihtiyacına dayanacak, bunu talep ediyorum “Yüksek riskli yapay zeka sistemleri için yüksek kaliteli veri, dokümantasyon ve izlenebilirlik, şeffaflık, insan gözetimi, doğruluk ve sağlamlık gereksinimleri, yapay zekanın temel haklara ve güvenliğe yönelik risklerini azaltmak için kesinlikle gereklidir”. Bu sadece kendi kendine giden arabalar gibi şeylerle ilgili değil (her ne kadar güvenliği sağlayan sistemler AB'nin yüksek riskli yapay zeka kategorisine girse de), gelecekte insan haklarına etkileri olacak sistemlerin ortaya çıkacağı endişesi de var.
Bu, yapay zekanın faaliyetlerinin kontrol edilebilmesi, denetlenebilmesi ve değerlendirilebilmesi için yapay zekada şeffaflığa yönelik daha geniş çağrıların bir parçasıdır. Bir başka örnek ise Kraliyet Cemiyeti'nin açıklanabilir yapay zeka hakkında politika brifingi Burada "dünya çapındaki politika tartışmalarında, yapay zeka destekli sistemlerin tasarımı ve dağıtımına etik ilkeleri yerleştirme çabalarının bir parçası olarak, bir tür yapay zeka açıklanabilirliğine yönelik çağrılar giderek daha fazla görülüyor".
Ancak sinir ağlarının hikayesi bize, gelecekte bu hedefe yaklaşmak yerine muhtemelen ondan uzaklaşacağımızı söylüyor.
İnsan beyninden ilham alındı
Bu sinir ağları karmaşık sistemler olabilir ancak bazı temel ilkelere sahiptirler. İnsan beyninden ilham alarak biyolojik ve insani düşünme biçimlerini kopyalamaya veya simüle etmeye çalışıyorlar. Yapı ve tasarım açısından bunlar IBM ayrıca açıklıyor“bir giriş katmanı, bir veya daha fazla gizli katman ve bir çıkış katmanı içeren düğüm katmanlarından” oluşur. Bunun içinde “her düğüm veya yapay nöron diğerine bağlanır”. Çıktı oluşturmak için girdi ve bilgiye ihtiyaç duyduklarından, "öğrenmek ve zaman içinde doğruluklarını geliştirmek için eğitim verilerine güvenirler". Bu teknik ayrıntılar önemlidir ancak bu sistemleri insan beyninin karmaşıklığına göre modelleme isteği de önemlidir.
Bu sistemlerin ardındaki tutkuyu kavramak, bu teknik detayların pratikte ne anlama geldiğini anlamak açısından hayati önem taşıyor. İçinde 1993 görüşmeSinir ağı bilimcisi Teuvo Kohonen, "sinir sistemimizin içgüdüsel olarak yaptığına benzer bir şeyi" çalıştıran "kendi kendini organize eden" bir sistemin "benim hayalim olduğu" sonucuna vardı. Örnek olarak Kohonen, "kendi kendini organize eden" bir sistemin, kendi kendini izleyen ve yöneten bir sistemin "her uçakta, jet uçağında, her nükleer güç istasyonunda veya her makine için bir izleme paneli olarak kullanılabileceğini" resmetti. araba". Bunun gelecekte "sistemin hangi durumda olduğunu hemen görebileceğiniz" anlamına geleceğini düşündü.
Temel amaç, çevreye uyum sağlayabilen bir sisteme sahip olmaktı. Anında ve özerk olacak, sinir sistemi tarzında işleyecek. Çok fazla insan müdahalesine ihtiyaç duymadan kendi kendini idare edebilecek sistemlere sahip olmak hayalimdi. Beynin, sinir sisteminin ve gerçek dünyanın karmaşıklıkları ve bilinmeyenleri, çok geçmeden sinir ağlarının gelişimini ve tasarımını şekillendirecek.
'Bunda şüpheli bir şeyler var'
Ancak 1956'ya ve o tuhaf öğrenme makinesine dönersek, Cowan'ın dikkatini hemen çeken şey Taylor'ın onu inşa ederken benimsediği uygulamalı yaklaşımdı. Parça ve parçaların birleştirilmesi konusunda açıkça ter dökmüştü. Taylor, Cowan gözlemlendi Bu sistemlerin hikayesiyle ilgili bir röportaj sırasında "bunu teorik olarak yapmadı ve bilgisayarda da yapmadı". Bunun yerine, elindeki aletlerle "donanımı gerçekten inşa etti". Maddi bir şeydi, parçaların birleşimiydi, hatta belki de bir mekanizmaydı. Cowan, Taylor'ın "onu inşa etmek ve onunla oynamak için birkaç yıl harcadığını" belirtiyor ve "tümü analog devrelerle yapıldı". Bir deneme yanılma durumu.
Anlaşılır bir şekilde Cowan gördüklerini kavramak istiyordu. Taylor'ın bu öğrenme makinesini kendisine açıklamasını sağlamaya çalıştı. Açıklamalar gelmedi. Cowan, Taylor'a bu işin nasıl yürüdüğünü anlatmasını sağlayamadı. Analog nöronlar bir sır olarak kaldı. Cowan'a göre daha şaşırtıcı olan sorun, Taylor'ın "neler olup bittiğini gerçekten anlamaması"ydı. Bu sadece farklı uzmanlıklara sahip iki bilim insanı arasındaki iletişimin anlık bir kopuşu değildi, bundan daha fazlasıydı.
Bir de 1990'ların ortalarından röportajCowan, Taylor'ın makinesini düşünerek, "bugüne kadar yayınlanan makalelerde onun nasıl çalıştığını tam olarak anlayamadığınızı" ortaya çıkardı. Bu sonuç, bilinmeyenin sinir ağlarına nasıl derinden gömülü olduğunu gösteriyor. Bu sinir sistemlerinin açıklanamazlığı, yaklaşık yetmiş yıl öncesine dayanan temel ve gelişim aşamalarından beri mevcuttur.
Bu gizem bugün de varlığını sürdürüyor ve ilerleyen yapay zeka biçimlerinde bulunacak. Taylor'ın makinesinin yaptığı çağrışımların işleyişinin anlaşılmazlığı, Cowan'ın "bunda şüpheli bir şeyler" olup olmadığını merak etmesine yol açtı.
Uzun ve karışık kökler
Cowan, birkaç yıl sonra kendi çalışmasının kabulü sorulduğunda Taylor'la yaptığı kısa ziyarete geri döndü. Cowan, 1960'larda insanların "analog bir sinir ağının amacını anlamakta biraz yavaş" olduğunu düşünüyordu. Cowan'ın hatırladığı kadarıyla bu, Taylor'ın 1950'lerde yaptığı, "analog nöronlara" dayanan "ilişkisel hafıza" üzerine çalışmasına rağmen böyleydi. Nobel ödüllü sinir sistemleri uzmanı, Leon N. Cooper, şu sonuca vardı: 1960'larda beyin modelinin uygulanmasıyla ilgili gelişmelerin "derin gizemler arasında" değerlendirildiği ortaya çıktı. Bu belirsizlik nedeniyle bir sinir ağının neler başarabileceğine dair şüpheler devam ediyordu. Ama işler yavaş yavaş değişmeye başladı.
Yaklaşık 30 yıl önce sinir bilimci Walter J. Freeman, "dikkat çekiciSinir ağları için bulunan bir dizi uygulama, onları "temelde yeni bir tür makine" olarak görmediği gerçeğini zaten yorumluyordu. Önce teknolojinin gelmesi ve ardından bunun için daha sonra uygulamaların bulunması nedeniyle bunlar yavaş yavaş ilerliyordu. Bu zaman aldı. Aslında sinir ağı teknolojisinin köklerini bulmak için Cowan'ın Taylor'ın gizemli makinesine yaptığı ziyaretten daha da geriye gidebiliriz.
Sinir ağı bilimcisi James Anderson ve bilim gazetecisi Edward Rosenfeld kaydetti Sinir ağlarının geçmişi 1940'lara kadar uzanıyor ve kendi tanımladıkları gibi "insan sinir sistemlerini anlamaya ve en azından biraz da olsa bizim gibi davranan yapay sistemler inşa etmeye" yönelik bazı erken girişimler var. Ve böylece 1940'larda insan sinir sisteminin gizemleri aynı zamanda hesaplamalı düşünme ve yapay zekanın da gizemleri haline geldi.
Bu uzun hikayeyi özetleyen bilgisayar bilimi yazarı Larry Hardesty'nin dikkat çektiği Sinir ağları şeklindeki derin öğrenmenin "70 yıldan fazla bir süredir modası geçip gittiğini" söylüyor. Daha spesifik olarak şunu ekliyor: "Bu sinir ağları ilk olarak 1944'te, bazen ilk bilişsel bilim departmanı olarak da adlandırılan şeyin kurucu üyeleri olarak 1952'de MIT'ye taşınan iki Chicago Üniversitesi araştırmacısı Warren McCulloch ve Walter Pitts tarafından önerildi."
Başka bir yerde, 1943 Bazen teknolojinin ilk yılı olarak verilen tarihtir. Her iki durumda da, yaklaşık 70 yıldır yapılan açıklamalar, sinir ağlarının modaya girip çıktığını, çoğu zaman ihmal edildiğini, ancak bazen tutunduğunu ve daha ana akım uygulamalara ve tartışmalara girdiğini öne sürüyor. Belirsizlik devam etti. Bu ilk geliştiriciler, araştırmalarının öneminin sıklıkla, yıllar ve bazen de on yıllar sonra amacına ulaşana kadar gözden kaçırıldığını belirtiyorlar.
1960'lardan 1970'lerin sonlarına doğru ilerlerken, bu sistemlerin bilinmeyen özelliklerine ilişkin başka hikayeler de bulabiliriz. O zaman bile, yani otuz yıl sonra, sinir ağı hâlâ bir amaç duygusu bulamamıştı. Psikoloji alanında geçmişi olan ve 1986'da yayınlanan ve daha sonra dikkatleri yeniden sinir ağlarına çekecek bir dizi kitabın ortak yazarı olan David Rumelhart, kendisini sinir ağlarının geliştirilmesi konusunda işbirliği yaparken buldu. meslektaşı Jay McClelland ile.
Meslektaş olmalarının yanı sıra yakın zamanda Minnesota'daki bir konferansta da birbirleriyle tanışmışlardı; burada Rumelhart'ın “hikayeyi anlama” konusundaki konuşması delegeler arasında bazı tartışmalara yol açmıştı.
Bu konferansın ardından McClelland, modelleri daha etkileşimli olacak şekilde birleştirebilecek bir sinir ağının nasıl geliştirilebileceğine dair bir düşünceyle geri döndü. Burada önemli olan Rumelhart'ın anısı "bilgisayarda saatlerce, saatlerce ve saatlerce kurcalama".
Oturduk ve tüm bunları bilgisayarda yaptık ve bu bilgisayar modellerini oluşturduk ama onları anlamadık. Neden çalıştıklarını, neden çalışmadıklarını ya da onlarla ilgili neyin kritik olduğunu anlamadık.
Taylor gibi Rumelhart da kendini sistemle uğraşırken buldu. Onlar da işleyen bir sinir ağı yarattılar ve daha da önemlisi, bunun nasıl ve neden bu şekilde çalıştığından emin değillerdi; görünüşte verilerden öğreniyor ve bağlantılar buluyorlardı.
Beyni taklit etmek - katman katman
Sinir ağlarının kökenlerini tartışırken beynin görüntüsünün ve bunun çağrıştırdığı karmaşıklığın asla çok uzakta olmadığını fark etmiş olabilirsiniz. İnsan beyni bu sistemler için bir tür şablon görevi görüyordu. Özellikle erken aşamalarda, hala en büyük bilinmeyenlerden biri olan beyin, sinir ağının nasıl çalışabileceğine dair bir model haline geldi.
Yani bu deneysel yeni sistemler, işleyişi büyük ölçüde bilinmeyen bir şey üzerine modellendi. Nörobilgisayar mühendisi Carver Mead açıklayıcı konuştu özellikle çekici bulduğu "bilişsel buzdağı" kavramından. Farkında olduğumuz ve görünen, bilinç buzdağının yalnızca görünen kısmıdır. Geri kalanın ölçeği ve biçimi yüzeyin altında bilinmiyor.
1998 olarak, James AndersonBir süredir sinir ağları üzerinde çalışan bilim adamı, konu beyin üzerine araştırmalara geldiğinde "en büyük keşfimiz, gerçekte ne olup bittiğini bilmediğimizin farkındalığı gibi görünüyor" dedi.
Ayrıntılı bir hesapta 2018'de Financial TimesTeknoloji muhabiri Richard Waters, sinir ağlarının nasıl "insan beyninin nasıl çalıştığına ilişkin bir teori üzerine modellendiğini, tanımlanabilir bir model ortaya çıkana kadar verileri yapay nöron katmanlarından aktardığını" kaydetti. Waters'a göre bu durum zincirleme bir sorun yaratıyor, çünkü "geleneksel bir yazılım programında kullanılan mantık devrelerinin aksine, bir bilgisayarın neden belirli bir yanıt bulduğunu tam olarak belirlemek için bu süreci izlemenin bir yolu yok." Waters'ın vardığı sonuç, bu sonuçların geri alınamayacağı yönündedir. Verileri birçok katmandan alan bu tip beyin modelinin uygulanması, cevabın kolayca takip edilemeyeceği anlamına gelir. Çoklu katmanlama bunun nedeninin iyi bir parçasıdır.
dayanıklılık ayrıca bu sistemlerin "insan beynini temel alarak modellendiğini" gözlemledi. Bu, beyinle eşleşmeye çalışmak için daha fazla işlem karmaşıklığı oluşturma isteğini beraberinde getiriyor. Bu amacın sonucunda “birbirine yoğun bir şekilde bağlı olan binlerce hatta milyonlarca basit işlem düğümünden oluşan” bir sinir ağı ortaya çıkıyor. Veriler bu düğümlerden yalnızca bir yönde hareket eder. Hardesty, "bireysel bir düğümün, veri aldığı altındaki katmandaki birkaç düğüme ve veri gönderdiği üst katmandaki birkaç düğüme bağlanabileceğini" gözlemledi.
İnsan beyninin modelleri, bu sinir ağlarının en başından beri nasıl tasarlandığı ve tasarlandığının bir parçasıydı. Beynin kendisinin o zamanın bir gizemi olduğunu (ve birçok açıdan hala öyle olduğunu) düşünürsek bu özellikle ilginçtir.
'Uyum, oyunun tamamıdır'
Mead ve Kohonen gibi bilim insanları, içinde bulunduğu dünyaya gerçekten uyum sağlayabilecek bir sistem yaratmak istiyorlardı. Şartlarına cevap verecektir. Mead, sinir ağlarının değerinin, bu tür adaptasyonu kolaylaştırabilmeleri olduğu konusunda açıktı. O zamanlar ve bu hırsı yansıtarak, Mead eklendi adaptasyon üretmenin “oyunun tamamı” olduğu. "Gerçek dünyanın doğası gereği" bu uyarlamanın gerekli olduğunu düşündü ve bunun "mutlak bir şey yapamayacak kadar değişken" olduğu sonucuna vardı.
Bu sorunun özellikle dikkate alınması gerekiyordu çünkü bunun "sinir sisteminin uzun zaman önce çözdüğü" bir şey olduğunu düşünüyordu. Bu yenilikçiler yalnızca beynin ve onun bilinmeyenlerinin görüntüsü üzerinde çalışmakla kalmıyor, aynı zamanda bunu "gerçek dünya" vizyonuyla ve bunun getirdiği belirsizlikler, bilinmeyenler ve değişkenlikle birleştiriyorlardı. Mead, sistemlerin koşullara yanıt verebilmesi ve uyum sağlayabilmesi gerektiğini düşünüyordu. olmadan talimat.
1990'larda aynı sıralarda, matematik, psikoloji ve biyomedikal mühendisliğinde çalışan bilişsel sistemler uzmanı Stephen Grossberg - şunu da savundu adaptasyon uzun vadede önemli bir adım olacaktı. Grossberg, sinir ağı modellemesi üzerinde çalışırken, kendi kendine bunun tamamen "biyolojik ölçüm ve kontrol sistemlerinin, hızla dalgalanan bir dünyaya gerçek zamanlı olarak hızlı ve istikrarlı bir şekilde uyum sağlayacak şekilde nasıl tasarlandığıyla ilgili" olduğunu düşündü. Daha önce Kohonen'in “kendi kendini organize eden” bir sistem “rüyasında” gördüğümüz gibi, “gerçek dünya” kavramı, tepki ve adaptasyonun bu sistemlere kodlandığı bağlam haline geliyor. Gerçek dünyanın nasıl anlaşıldığı ve hayal edildiği, şüphesiz bu sistemlerin uyum sağlamak üzere nasıl tasarlandığını şekillendirir.
Gizli katmanlar
Katmanlar çoğaldıkça derin öğrenme yeni derinliklere ulaştı. Sinir ağı, eğitim verileri kullanılarak eğitilir: Zorluk açıklandı, "alt katmana - girdi katmanına - beslenir ve sonraki katmanlardan geçerek karmaşık yollarla çarpılır ve bir araya getirilir, ta ki en sonunda radikal bir dönüşümle çıktı katmanına ulaşana kadar." Katman sayısı arttıkça dönüşüm artar ve girişten çıkışa olan mesafe artar. Hardesty, örneğin oyunlarda Grafik İşleme Birimlerinin (GPU'ların) geliştirilmesinin, "1960'ların tek katmanlı ağlarının ve 1980'lerin iki ila üç katmanlı ağlarının on, 15 ve hatta 50'ye çıkmasını mümkün kıldığını" ekledi. Günümüzün katmanlı ağları”.
Sinir ağları derinleşiyor. Aslında, Hardesty'ye göre "'derin öğrenme'deki 'derin'in ifade ettiği şey" bu katmanların eklenmesidir. Bunun önemli olduğunu öne sürüyor çünkü "şu anda yapay zeka araştırmasının hemen hemen her alanında en iyi performans gösteren sistemlerden derin öğrenme sorumludur".
Ancak gizem daha da derinleşiyor. Sinir ağlarının katmanları arttıkça karmaşıklıkları da arttı. Bu derinliklerde “gizli katmanlar” olarak adlandırılan katmanların da büyümesine yol açmıştır. Bir sinir ağındaki optimum gizli katman sayısına ilişkin tartışma devam etmektedir. Medya teorisyeni Beatrice Fazi yazdı "Derin bir sinir ağının, ilk nöron katmanı (girdi katmanı) ile son katman (çıkış katmanı) arasına sıkıştırılmış gizli sinir katmanlarına dayanan derin bir sinir ağının çalışma şekli nedeniyle, derin öğrenme teknikleri çoğu zaman şeffaf değildir veya kullanıcılar için bile okunamaz durumdadır. bunları başlangıçta kuran programcılar”.
Katmanlar arttıkça (gizli katmanlar da dahil), daha da az açıklanabilir hale geliyorlar - hatta görünen o ki onları yaratanlar için bile. Benzer bir noktaya değinen önde gelen ve disiplinler arası yeni medya düşünürü Katherine Hayles ayrıca not “Sistem hakkında ne kadar bilgi sahibi olabileceğimizin sınırları var; bu, sinir ağı ve derin öğrenme algoritmalarındaki 'gizli katman' ile ilgili bir sonuç”.
Açıklanamayanın peşinde
Birlikte ele alındığında, bu uzun gelişmeler teknoloji sosyologlarının çalışmalarının bir parçasıdır. Taina Bucher “bilinmeyen sorunsalı” olarak adlandırdı. Bilimsel bilgi üzerine etkili araştırmasını yapay zeka alanına genişleten Harry Collins şunu belirtti Sinir ağlarının amacı, en azından başlangıçta bir insan tarafından üretilebilmesidir, ancak “bir kez yazıldığında program kendi hayatını yaşar; büyük bir çaba harcamadan programın tam olarak nasıl çalıştığı gizemli kalabilir”. Bu, kendi kendini organize eden bir sisteme dair uzun süredir hayal edilen hayallerin yankılarını taşıyor.
Buna şunu da eklemek isterim ki, bu sistemlerin ilk aşamalarından itibaren bilinmeyenin, hatta belki de bilinemeyecek olanın peşinde koşulmuştur. Yapay zekanın hayatımızdaki etkisi ne kadar büyük olursa, bunun nasıl veya neden olduğunu da o kadar az anlayacağız.
Ancak bu, günümüzün çoğuna pek uymuyor. Yapay zekanın nasıl çalıştığını ve bizi etkileyen kararlara ve sonuçlara nasıl ulaştığını bilmek istiyoruz. Yapay zekadaki gelişmeler dünyaya dair bilgimizi ve anlayışımızı, ne keşfettiğimizi, bize nasıl davranıldığını, nasıl öğrendiğimizi, tükettiğimizi ve etkileşimde bulunduğumuzu şekillendirmeye devam ettikçe, bu anlama dürtüsü de büyüyecek. Açıklanabilir ve şeffaf yapay zeka söz konusu olduğunda, sinir ağlarının hikayesi bize gelecekte bu hedefe yaklaşmak yerine muhtemelen ondan uzaklaşacağımızı söylüyor.
David Bira, Sosyoloji Profesörü, York Üniversitesi
Bu makale şu adresten yeniden yayınlandı: Konuşma Creative Commons lisansı altında. Okumak Orijinal makale.
