Geleceğin tarihçileri 2023'ü yapay zekanın (AI) ortaya çıkışında bir dönüm noktası olarak görebilirler. Ama bu geleceğin kanıtlanıp kanıtlanmayacağı ütopik, kıyamet or arasında bir yerde kimsenin tahmininde.

Şubat ayında ChatGPT, ulaşılan en hızlı uygulama rekorunu kırdı 100 milyon kullanıcı. Bunu Google, Amazon, Meta ve diğer büyük teknoloji firmalarının benzer "geniş dilli" yapay zeka modelleri izledi; bunlar toplu olarak eğitim, sağlık hizmetleri ve diğer birçok bilgi yoğun alanı dönüştürmeye hazır görünüyor.

Bununla birlikte, Mayıs ayında yapay zekanın zarar verme potansiyelinin altı çizildi. uğursuz beyan önde gelen araştırmacılar tarafından imzalanmıştır:

Yapay zeka nedeniyle yok olma riskinin azaltılması, salgın hastalıklar ve nükleer savaş gibi toplumsal ölçekteki diğer risklerin yanı sıra küresel bir öncelik olmalıdır.

Kasım ayında, yapay zeka riskine ilişkin artan endişeye yanıt olarak, 27 ülke (Birleşik Krallık, ABD, Hindistan, Çin ve Avrupa Birliği dahil) İngiltere'deki Bletchley Park'ta düzenlenen yapay zeka güvenliği zirvesinde yapay zekanın güvenli bir şekilde geliştirilmesini sağlamak için işbirliği sözü verdi. için herkesin faydası.

Bunu başarmak için araştırmacılar şunlara odaklanır: yapay zeka hizalaması – yani yapay zeka modellerinin insan değerleri, tercihleri ​​ve hedefleri ile tutarlı olduğundan nasıl emin olunacağı. Ancak bir sorun var; yapay zekanın sözde "karanlık sır”: Büyük ölçekli modeller o kadar karmaşıktır ki kara kutu gibidir, kimsenin tam olarak anlaması imkansızdır.

Yapay zekanın kara kutu sorunu

Her ne kadar yapay zeka sistemlerinin şeffaflığı ve açıklanabilirliği önemli araştırma hedefleriBu tür çabaların inovasyonun çılgın hızına ayak uydurması pek mümkün görünmüyor.

Kara kutu metaforu, insanların yapay zeka hakkındaki inançlarının neden haritanın her yerinde olduğunu açıklıyor. Tahminler ütopyadan yok oluşa kadar uzanıyor ve hatta birçoğu yapay bir genel zekanın (AGI) yakında gerçekleşeceğine inanıyor. duyarlılığa ulaşmak.

Ancak bu belirsizlik sorunu daha da karmaşık hale getiriyor. Yapay zeka uyumu iki yönlü bir yol olmalıdır: Yapay zeka modellerinin yalnızca insan niyetleriyle tutarlı olmasını sağlamakla kalmamalı, aynı zamanda yapay zeka hakkındaki inançlarımızın da doğru olmasını sağlamalıyız.

Bunun nedeni, farkında olmasak bile, bu inançlarla uyumlu gelecekler yaratma konusunda son derece becerikli olmamızdır.

Lafta "beklenti etkileri”veya kendini gerçekleştiren kehanetler psikolojide iyi bilinmektedir. Araştırmalar, kullanıcıların inançlarını manipüle etmenin yalnızca nasıl davrandıklarını etkilemediğini gösterdi. yapay zeka ile etkileşime girama nasıl yapay zeka kullanıcıya uyum sağlar.

Başka bir deyişle, inançlarımızın (bilinçli veya bilinçsiz) yapay zekayı nasıl etkilediği, felaket olanlar da dahil olmak üzere herhangi bir sonucun olasılığını potansiyel olarak artırabilir.

Yapay zeka, hesaplama, mantık ve aritmetik

Yapay zekanın temelini anlamak için daha derinlemesine araştırmamız gerekiyor; tıpkı Alice Harikalar Diyarında olduğu gibi, tavşan deliğinden aşağı inip bizi nereye götürdüğünü görmemiz gerekiyor.

Öncelikle yapay zeka nedir? Bilgisayarlarda çalışır ve otomatik hesaplama da öyle. Kökeninden itibaren “perseptron” – 1943 yılında nörofizyolog tarafından matematiksel olarak tanımlanan yapay bir nöron Warren McCulloch ve mantıkçı Walter Pitts – Yapay zeka bilişsel bilimler, sinir bilimi ve bilgisayar bilimi ile iç içe geçmiş durumda.

Bu yakınlaşma zihinleri, beyin ve makineler Yapay zeka makine tarafından hesaplandığı için doğal zekanın (zihin) beyin tarafından hesaplanması gerektiği yönünde yaygın bir inanca yol açmıştır.

Peki hesaplama nedir? 19. yüzyılın sonlarında matematikçiler Richard Dedekind ve Giuseppe Fıstık bir dizi aksiyom önerdi aritmetiğin mantık terimleriyle tanımlanmasıve tüm matematiğin güvenli bir temele oturtulması için ilham veren girişimler resmi temel.

Her ne kadar mantıkçı Kurt Gödel daha sonra bu hedefin olduğunu kanıtladı ulaşılamaz, onun çalışması matematikçilerin (ve şifre kırıcıların) başlangıç ​​noktasıydı Alan Turing. Onun "Turing makinesi”, yapabilen soyut bir cihaz evrensel hesaplama, bilgisayar biliminin temelidir.

Algının derin yapısı

Dolayısıyla hesaplama, aritmetiği mantıkta tanımlama çabalarına kadar uzanan matematiksel fikirlere dayanmaktadır. Ama aritmetik bilgimiz mevcut mantıktan önce. Yapay zekanın temelini anlamak istiyorsak daha da ileri gitmeli ve aritmetiğin kendisinin nereden geldiğini sormalıyız.

Meslektaşlarım ve ben son zamanlarda aritmetiğin “derin yapı” algısı. Bu yapı, algımızı belirli şekillerde şekillendiren renkli camlar gibidir, böylece dünya deneyimlerimiz düzenli ve yönetilebilir olur.

Aritmetik, başka bir öğe vermek üzere öğe çiftlerini birleştiren bir dizi öğeden (sayılardan) ve işlemlerden (toplama, çarpma) oluşur. Şunu sorduk: tüm olasılıklar arasında neden sayılar elementtir ve toplama ve çarpma işlemleri nedendir?

Biz gösterdik matematiksel kanıt algının derin yapısının olasılıkları sınırladığı varsayıldığında ortaya aritmetiğin çıktığı ortaya çıktı. Başka bir deyişle, zihnimiz soyut dünyaya, fiziksel dünyaya ilişkin deneyimimizi şekillendiren aynı "renkli gözlüklerle" baktığında, sayıları ve aritmetiği "görür".

Aritmetik matematiğin temeli olduğundan, bunun anlamı matematiğin zihnin bir yansıması olduğu, onun temel doğasının ve yaratıcılığının sembollerle ifadesi olduğudur.

Algının derin yapısı diğer hayvanlarla da paylaşıldığı ve dolayısıyla evrimin bir ürünü olduğu halde, matematiği yalnızca insanlar icat etmiştir. Bu bizim en samimi yaratımımızdır ve yapay zekanın gelişimini mümkün kılarak belki de en önemli sonucumuzdur.

Zihnin Kopernikçi devrimi

Bizim hesabımız aritmetiğin kökeni 18. yüzyıl filozofu Immanuel Kant'ın görüşleriyle tutarlıdır. Ona göre dünyaya dair bilgimiz, asla çıkaramadığımız renkli camlara benzer şekilde, duyu deneyiminden önce var olan uzay ve zamanın "saf sezgileri" tarafından yapılandırılmıştır.

Kant iddiasını ileri sürdü felsefe “Zihnin Kopernik devrimi” idi. Kant, eski gökbilimcilerin Dünya'nın hareketinden habersiz oldukları için Güneş'in Dünya etrafında döndüğüne inandıkları gibi, tüm bilginin Güneş'ten türetildiğine inanan filozofların da olduğunu savundu. duyu deneyimi (örneğin John Locke ve David Hume) zihnin algıyı nasıl şekillendirdiğini gözden kaçırmışlardır.

Her ne kadar Kant'ın görüşleri şu şekilde şekillenmiş olsa da zamanının doğa bilimleri, kanıtladılar çağdaş psikolojide etkili.

Aritmetiğin bir olduğunu kabul etmek algımızın doğal sonucuve dolayısıyla biyolojik temelli olması, hesaplama anlayışımızda benzer bir Kantçı değişime işaret ediyor.

Hesaplama, matematiksel gerçeğin soyut bir alanında bizden "dışarıda" veya ayrı değildir; zihnimizin doğasına içkindir. Zihin hesaplamadan daha fazlasıdır; beyin bir bilgisayar değildir. Aksine, yapay zekanın temeli olan hesaplama, tıpkı matematik gibi, zihnin doğasının ve yaratıcılığının sembolik bir ifadesidir.

Promethean ateşi

Yapay zeka açısından etkileri nelerdir? Öncelikle yapay zeka bir zihin değildir ve asla duyarlı olamayacaktır. Zihnimizi buluta yükleyerek biyolojik doğamızı aşıp ölümsüzlüğe ulaşabileceğimiz fikri yalnızca fantezi.

Ancak yapay zekanın dayandığı zihin ilkeleri tüm insanlık (ve muhtemelen diğer canlılar da) tarafından paylaşılırsa, bireysel zihinlerimizin sınırlarını aşmak mümkün olabilir.

Hesaplama evrensel olduğundan, giderek birbirine bağlanan sanal ve fiziksel dünyalarımızda seçtiğimiz herhangi bir sonucu simüle etmekte ve yaratmakta özgürüz. Bu şekilde yapay zeka gerçekten bizim Promethean ateşitanrılardan çalınan insanlığa bir hediye Yunan mitolojisi.

Küresel bir medeniyet olarak muhtemelen bir dönüm noktasındayız. Yapay zeka duyarlı hale gelip karar vermeyecek hepimizi öldür. Ancak bununla kendimizi “kıyamet”e uğratma konusunda oldukça yetenekliyiz; beklenti gerçekliği yaratabilir.

Yapay zeka uyumunu, emniyetini ve emniyetini sağlamaya yönelik çabalar hayati önem taşıyor ancak farkındalık ve kolektif bilgelikten yoksunsak yeterli olmayabilir. Alice gibi bizim de rüyadan uyanmamız ve zihnimizin gerçekliğinin ve gücünün farkına varmamız gerekiyor.

Randolph Grace, Psikoloji Profesörü, Canterbury Üniversitesi

Bu makale şu adresten yeniden yayınlandı: Konuşma Creative Commons lisansı altında. Okumak Orijinal makale.