Bilgi değerli bir üründür. Ve teknoloji sayesinde, milyonlarca terabayt çevrimiçi.

ChatGPT gibi yapay zeka (AI) araçları artık bu bilgileri bizim adımıza yönetiyor; bunları derliyor, özetliyor ve bize geri sunuyor.

Ancak bilgi yönetiminin yapay zekaya "dışarıdan sağlanması" - her ne kadar uygun olsa da - bazı sonuçlar doğuruyor. Sadece etkilemekle kalmaz ne düşünüyoruz, ancak potansiyel olarak da Nasıl düşünürüz.

Hangi bilgilerin kalıcı olacağına ve neyin bir kenara bırakılacağına yapay zeka algoritmalarının karar verdiği bir dünyada ne olur?

Kişiselleştirilmiş yapay zekanın yükselişi

Üretken yapay zeka araçları, yüzlerce gigabayt veri üzerinde eğitilmiş modeller üzerine kuruludur. önceden var olan veriler. Bu verilerden bağımsız olarak metin, resim, ses ve video içeriğinin nasıl oluşturulacağını öğreniyorlar ve "en olası" yanıtı bir araya getirerek kullanıcı sorgularına yanıt verebiliyorlar.

ChatGPT'yi kullananlar milyonlarca insanbir yıldan kısa bir süre önce kamuoyuna açıklanmış olmasına rağmen. Haziran ayında eklenen özel yanıtlar Zaten etkileyici olan chatbot'u daha da kullanışlı hale getirdi. Bu özellik, kullanıcıların botu ne için kullandıklarını ve nasıl yanıt vermesini istediklerini açıklayan özelleştirilmiş talimatları kaydetmelerine olanak tanır.

Bu, "kişiselleştirilmiş yapay zeka"nın birkaç örneğinden biridir: kullanıcının özel ihtiyaçlarına ve tercihlerine uygun içerik üreten bir yapay zeka araçları kategorisi.

Başka bir örnek ise Meta'nın yakın zamanda piyasaya sürülmesidir. sanal asistan, Meta Yapay Zeka. Bu sohbet robotu Meta'nın WhatsApp, Messenger ve Instagram gibi platformlarında sohbet edebilir, görseller oluşturabilir ve görevler gerçekleştirebilir.

Yapay zeka araştırmacısı ve DeepMind kurucu ortağı Mustafa Süleyman, açıklar Kişiselleştirilmiş yapay zekanın bir teknolojiden çok bir ilişki olduğu düşünülüyor:

Bir arkadaş. […] O gerçekten her zaman yanınızda olacak ve yanınızda olacak, sizinle birlikte yaşayacak – temelde takımınızda. Bunu, yanınızda harika bir koçun olması gibi düşünmeyi seviyorum.

Ancak bu teknolojiler aynı zamanda tartışmalıdır ve endişeler dile getirilmektedir. veri sahipliği, önyargı ve yanlış bilgi.

Teknoloji şirketleri bu sorunlarla mücadele etmenin yollarını bulmaya çalışıyor. Örneğin Google, yapay zeka tarafından üretilen arama özetlerine kaynak bağlantıları ekledi. Arama Üretken Deneyim (SGE) aracı bu yılın başında ateş altındaydı. teklif etmek Yanlış ve sorunlu yanıtlar.

Teknoloji zaten düşüncemizi değiştirdi

Üretken yapay zeka araçları (özellikle de bize kişiselleştirilenler) düşünme şeklimizi nasıl değiştirecek?

Bunu anlamak için internetin hayatımıza ilk girdiği 1990'lı yılların başlarına bir göz atalım. İnsanlar birdenbire bankacılık, aşçılık, öğretmenlik veya seyahat gibi hemen hemen her şey hakkında bilgiye erişebildiler.

Yaklaşık 30 yıl sonra yapılan çalışmalar, bu küresel "kovan zihnine" bağlı olmanın bilişimizi, hafızamızı ve yaratıcılığımızı nasıl değiştirdiğini gösterdi.

Örneğin, eşdeğerine anında erişime sahip olmak 305.5 milyar sayfa Bilginin artması insanların meta-bilgi – yani bilgi hakkındaki bilgileri. Bunun bir etkisi de “Google etkisi”: çevrimiçi aramanın bilgi bulma yeteneğimizi arttırdığı ancak bu bilginin ne olduğuna dair hafızamızı azalttığı bir olgu.

Bir yandan, düşüncelerimizi arama motorlarına aktarmanın zihinsel rezervlerimizi serbest bıraktığı gösterilmiştir. problem çözme ve yaratıcı düşünme. Öte yandan, çevrimiçi bilgi erişimi artan dikkat dağınıklığı ve bağımlılık.

Araştırmalar aynı zamanda çevrimiçi aramanın (alınan bilginin niceliği veya niteliğinden bağımsız olarak) bilişsel özgüven. Yani kendi “akıllılarımıza” olan inancımızı artırır.

Bunu şu gerçekle birleştirin: bilgiyi sorgulamak zahmetlidir – ve arama motorumuza ne kadar çok güvenirsek, o kadar az eleştirel davranırız sonuçlarıyla ilgilenmek – ve benzeri görülmemiş miktarda bilgiye erişimin bizi neden daha akıllı kılmadığını görebilirsiniz.

Düşüncemizi 'dışarıdan mı sağlamalıyız?

Günümüzün üretken yapay zeka araçları, bize arama sonuçlarını sunmaktan çok daha ileri gidiyor. Bizim için bilgiyi bulurlar, değerlendirirler, sentezlerler ve bize geri sunarlar.

Bunun sonuçları ne olabilir? İnsan liderliğindeki kalite kontrolü için baskı yapılmadan görünüm umut verici değil.

Üretken yapay zekanın tanıdık, objektif ve ilgi çekici yanıtlar üretme yeteneği, bizi risklere karşı daha savunmasız bıraktığı anlamına geliyor bilişsel önyargılar.

The otomasyon yanlılığıörneğin, insanın makine kaynaklı bilgilerin bütünlüğünü abartma eğilimidir. Ve sadece maruz kalma Bunun etkisi, tanıdık veya kişisel olarak sunulan bilgilere güvenme olasılığımızın daha yüksek olmasıdır.

Sosyal medyadaki araştırmalar bu tür önyargıların etkisini anlamamıza yardımcı olabilir. 2016 yılında yapılan bir araştırmada Facebook kullanıcıları şunları bildirdi: kendini daha "bilgili" hissetmek gerçekte ne kadarını okuduklarına değil, çevrimiçi olarak yayınlanan haber içeriğinin miktarına dayanmaktadır.

Şunu da biliyoruz:filtre kabarcıklarıSosyal medya algoritmaları tarafından oluşturulan ve yayınlarımızın ilgi alanlarımıza göre filtrelendiği "maddeler", maruz kaldığımız içeriğin çeşitliliğini sınırlıyor.

Bu bilgi daraltma sürecinin arttığı gösterilmiştir. ideolojik kutuplaşma İnsanların alternatif bakış açılarını dikkate alma eğilimini azaltarak. Ayrıca maruz kalma olasılığımızı arttırdığı da gösterilmiştir. sahte haberler.

Yapay Zekayı aptallaştırmak için değil, bilgeleştirmek için kullanmak

Üretken yapay zeka şüphesiz toplum için harika şeyler yapma potansiyeline sahip devrim niteliğinde bir güçtür. sağlayarak eğitim sistemimizi yeniden şekillendirebilir. kişiselleştirilmiş içerikhızlandırarak çalışma uygulamalarımızı değiştirin. yazma ve bilgi analizive sınırlarını zorlayın Bilimsel keşif.

Hatta başkalarıyla iletişim kurmamıza ve bağlantı kurmamıza yardımcı olarak ilişkilerimizi olumlu yönde değiştirme potansiyeline sahiptir ve zaman zaman bir iletişim aracı olarak da işlev görebilir. sentetik arkadaşlık biçimi.

Ancak geleceği yargılamanın tek yolu geçmişe bakmaksa, belki de şimdi hem internetin hem de sosyal medyanın algımızı nasıl değiştirdiğini düşünmenin ve bazı şeyleri uygulamamızın zamanıdır. ihtiyati önlemler. geliştirme Yapay zeka okuryazarlığı İnsanın özerkliğini ve eleştirel düşünmeyi teşvik eden yapay zeka araçlarının tasarlanması gibi, başlamak için iyi bir yerdir.

Eninde sonunda, hem kendimizi hem de kendimizi anlamamız gerekecek. ve yapay zekanın güçlü ve zayıf yönleri Bu "düşünen" yoldaşların, listenin en başında yer alan geleceği değil, istediğimiz geleceği yaratmamıza yardımcı olmasını sağlamak.

Sarah Vivienne Bentley, Araştırma Bilimcisi, Sorumlu Yenilik, Data61, CSIRO; Claire Mason, Baş Araştırma Bilimcisi, CSIRO, ve Einat Grimberg, Teknoloji ve Sosyal Bilimler Doktora Sonrası Araştırma Görevlisi, CSIRO

Bu makale şu adresten yeniden yayınlandı: Konuşma Creative Commons lisansı altında. Okumak Orijinal makale.