Bir grup önde gelen bilgisayar bilimcisi ve diğer teknoloji endüstrisi ileri gelenleri, yapay zeka teknolojisine altı aylık bir ara verilmesi çağrısında bulunuyor. (Shutterstock)
Bilgisayar bilimcileri ve teknoloji endüstrisi liderleri tarafından yakın zamanda yazılmış bir açık mektup yapay zeka geliştirmeye altı aylık bir yasak çağrısı vardır İnternette geniş ilgi gördü. Hatta Kanada'nın İnovasyon Bakanı François-Philippe Champagne mektuba Twitter'dan yanıt verdi.
Kâr amacı gütmeyen Future of Life Institute tarafından yayınlanan mektup, tüm AI laboratuvarlarından ChatGPT'nin arkasındaki model olan GPT-4'ten daha güçlü AI sistemlerini eğitmeyi bırakmasını istedi. Mektup, yapay zekanın "kimsenin - yaratıcılarının bile - anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol edemeyeceği, her zamankinden daha güçlü dijital zihinler geliştirmek ve dağıtmak için kontrolden çıkmış bir yarışa kilitlendiğini" savunuyor.
Mektup, yapay zekanın "güçlü dijital beyinler" haline geldiğini veya gelebileceğini varsayıyor - bir AI'nın gelişiminin uzun vadeli yorumu o gelecekteki endişeler yerine bugün AI hakkında önemli tartışmaları görmezden gelir.
Uzun vadecilik ve AI
Uzun vadecilik yapay zekanın kontrolden çıkmış bir süper zeka haline gelerek insanlığın geleceği için uzun vadeli veya varoluşsal riskler oluşturduğu inancı.
Süper zeki yapay zekalarla ilgili endişeler genellikle bilim kurgu konusudur. AI fantezileri Silikon Vadisi'ndeki birçok korkudan biri bu yol açabilir karanlık kehanetler. Ama gibi Eziyet Nexus meme, bu endişeler ihtiyata değil büyük bir yatırıma dönüşüyor. Çoğu büyük teknoloji firmasının sahip olduğu sorumlu yapay zeka ekiplerini işten çıkarın.
ChatGPT, açıkça süper zekaya giden bir yol değildir. Açık mektup, ChatGPT gibi AI dil teknolojisini bilişsel bir atılım olarak görüyor - bir AI'nın genel görevlerde insanlarla rekabet etmesine olanak tanıyan bir şey. Ama bu sadece bir görüş.
ChatGPT'yi, onun GPT-4 modelini ve diğer dil öğrenme modellerini “rastlantısal papağanlar” sadece çevrimiçi öğrendiklerini tekrar ederler, böylece görünmek insanlara göre akıllı
Süper zekanın kör noktaları
Uzun vadecilik, süper zekayı daha acil konulara göre önceliklendiren doğrudan politika çıkarımlarına sahiptir. AI'nın güç dengesizlikleri. Uzun vadeciliğin bazı savunucuları hatta süper zekayı durdurmak için düzenlemeyi iklim acil durumunu ele almaktan daha acil olarak düşünün.
Yapay zeka politikasının sonuçları hemen gerçekleşir, çok da uzak olmayan konulardır. GPT-4 internetin tamamında eğitildiğinden ve açıkça ticari amaçlara sahip olduğundan, adil işlem ve adil kullanım hakkında sorular ortaya çıkarır.
Yapay zeka tarafından oluşturulan metinlerin ve resimlerin telif hakkına tabi olup olmadığını hala bilmiyoruz., çünkü makineler ve hayvanlar telif hakkına sahip olamaz.
Gizlilik konuları söz konusu olduğunda, ChatGPT'nin yaklaşımını başka bir yapay zeka uygulamasından ayırt etmek zordur. net görüş yapay zekası. Her iki AI modeli de açık internette toplanan büyük miktarda kişisel bilgi kullanılarak eğitildi. İtalya'nın veri koruma kurumu, ChatGPT'yi gizlilik endişeleri nedeniyle yasakladı.
Bu acil riskler, vahşi felsefe ve teknik çözümler arasında gidip gelen açık mektupta, tam önümüzde olan sorunları görmezden gelerek bahsedilmeden bırakılıyor.
Pragmatizmi bastırmak
Mektup, ortak yazarımla birlikte tanımladığımız eski bir dinamiği takip ediyor. yapay zeka yönetişimi hakkında gelecek hakemli bölüm. Yapay zekayı ya varoluşsal bir risk ya da sıradan ve teknik bir şey olarak görme eğilimi var.
Bu iki uç arasındaki gerilim, açık mektupta sergileniyor. Mektup, "teknik yapay zeka güvenlik araştırması için sağlam kamu finansmanı" çağrısında bulunmadan önce "gelişmiş yapay zekanın Dünya üzerindeki yaşam tarihinde derin bir değişikliği temsil edebileceğini" iddia ederek başlıyor. İkincisi, AI'nın sosyal zararlarının yalnızca çözülmesi gereken teknik projeler olduğunu öne sürüyor.
Bu iki uca odaklanmak, yapay zekanın yukarıda belirtilen acil risklerini pragmatik bir şekilde tartışmaya çalışan önemli sesleri dışarıda bırakır. emek sorunları ve daha fazlası.
Açık mektuba gösterilen ilgi Kanada'da özellikle sorunludur çünkü diğer iki mektup, sanatçılar ve sivil özgürlükler kuruluşları, aynı miktarda ilgi görmedi. Bu mektuplar, yapay zeka yönetişiminden etkilenenleri korumak için reformlar ve daha sağlam bir yaklaşım çağrısında bulunuyor.
AI mevzuatına yönelik gereksiz bir dikkat dağıtma
Hükümetin açık mektuba verdiği yanıtlar, Kanada'nın mevzuata sahip olduğunu vurguladı - Yapay Zeka ve Veri Yasası (AIDA). AI'nın uzun vadeli riskleri, şimdi AIDA gibi mevzuatı aceleye getirmek için kullanılıyor.
AIDA, uygun bir AI yönetişim rejimine yönelik önemli bir adımdır, ancak AI'dan etkilenenlere danışmak daha iyidir uygulanmadan önce. Algılanan uzun vadeli korkulara yanıt vermek için aceleye getirilemez.
Mektubun AI mevzuatını aceleye getirme çağrıları, bugün AI araştırmalarını yürüten aynı birkaç firmaya avantaj sağlayabilir. Danışmaya, kamu okuryazarlığını geliştirmeye ve AI'dan etkilenenleri dinlemeye zaman kalmadan AIDA, AI'nın hesap verebilirliğini ve denetimini zaten teknolojiden yararlanmak için iyi konumlanmış kurumlara devrederek yeni bir AI denetim endüstrisi için bir pazar yaratma riskini alır.
İnsanlığın kaderi söz konusu olmayabilir, ancak yapay zekanın iyi yönetişimi kesinlikle söz konusu.
Yazar hakkında
Fenwick McKelvey, Bilgi ve İletişim Teknolojileri Politikası Doçenti, Concordia Üniversitesi
Bu makale şu adresten yeniden yayınlandı: Konuşma Creative Commons lisansı altında. Okumak Orijinal makale.
