AI sohbet robotları daha güçlü hale geliyor, ancak çıkarlarınıza en uygun şekilde çalışıp çalışmadıklarını nasıl anlarsınız? 

Amazon'un sesli asistan AI sistemi Alexa'ya Amazon'un tekel olup olmadığını sorarsanız, bilmediğini söyleyerek. Bunu yapmak çok zaman almaz diğer teknoloji devlerini azarlamak, ancak kendi kurumsal ebeveyninin yanlışları hakkında sessiz.

Alexa bu şekilde yanıt verdiğinde, geliştiricisinin çıkarlarını sizin çıkarlarınızın önüne koyduğu açıktır. Yine de genellikle bir yapay zeka sisteminin kime hizmet ettiği o kadar açık değildir. Bu sistemler tarafından istismar edilmekten kaçınmak için insanların yapay zekaya şüpheyle yaklaşmayı öğrenmesi gerekecek. Bu, verdiğiniz girdiyi kasıtlı olarak oluşturmak ve çıktısı hakkında eleştirel düşünmek anlamına gelir.

Daha sofistike ve daha az ezberci yanıtlarıyla yeni nesil yapay zeka modelleri, konuştuklarında kimin fayda sağladığını söylemeyi zorlaştırıyor. İnternet şirketlerinin gördüklerini kendi çıkarları için manipüle etmesi yeni bir şey değil. Google'ın arama sonuçları ve Facebook beslemeniz ücretli girişlerle dolu. Facebook, Tik tak ve diğerleri, platformda geçirdiğiniz süreyi en üst düzeye çıkarmak için beslemelerinizi manipüle eder, bu da daha fazla reklam görüntülemesi anlamına gelir, refahınız üzerinde.

Yapay zeka sistemlerini bu diğer internet hizmetlerinden ayıran şey, ne kadar etkileşimli oldukları ve bu etkileşimlerin nasıl giderek ilişkilere dönüşeceğidir. Sizin için geziler planlayacak, sizin adınıza müzakere edecek veya terapist ve yaşam koçu olarak hareket edecek yapay zekaları tasavvur etmek için günümüz teknolojilerinden çok fazla tahminde bulunmanız gerekmiyor.

Muhtemelen 24/7 yanınızda olurlar, sizi yakından tanırlar ve ihtiyaçlarınızı tahmin edebilirler. Web'deki geniş hizmet ve kaynak ağına yönelik bu tür bir konuşma arabirimi, ChatGPT gibi mevcut üretken yapay zekaların yetenekleri dahilindedir. olma yolunda ilerliyorlar kişiselleştirilmiş dijital asistanlar.

Olarak güvenlik uzmanı ve veri bilimcisi, bu yapay zekalara güvenmeye başlayan insanların günlük yaşamda gezinmek için onlara dolaylı olarak güvenmek zorunda kalacağına inanıyoruz. Bu, yapay zekaların gizlice başka biri için çalışmadığından emin olmaları gerektiği anlamına gelir. İnternette, sizin için çalışıyor gibi görünen cihazlar ve hizmetler zaten gizlice size karşı çalışıyor. Akıllı TV'ler seni gözetlemek. Telefon uygulamaları verilerinizi toplayın ve satın. Birçok uygulama ve web sitesi sizi karanlık desenlerle manipüle etmek, tasarım öğeleri web sitesi ziyaretçilerini kasıtlı olarak yanıltmak, zorlamak veya aldatmak. Bu, gözetim kapitalizmive AI bunun bir parçası olmak için şekilleniyor. AI, sizin üzerinizden para kazanmak için sizi gözetlemeye indirgenen gözetim kapitalizminde bir rol oynuyor.

Karanlıkta

Büyük olasılıkla, AI ile çok daha kötü olabilir. Bu AI dijital asistanının gerçekten yararlı olması için sizi gerçekten tanıması gerekecek. Telefonunuzun sizi tanımasından daha iyi. Google aramasının sizi tanımasından daha iyi. Belki de yakın arkadaşlarınızdan, yakın partnerlerinizden ve terapistinizden daha iyi sizi tanır.

Günümüzün önde gelen üretken yapay zeka araçlarına güvenmek için hiçbir nedeniniz yok. bir kenara bırakın halüsinasyonlar, GPT ve diğer büyük dil modellerinin ürettiği uydurma "gerçekler". Önümüzdeki birkaç yıl içinde teknoloji geliştikçe bunların büyük ölçüde temizleneceğini umuyoruz.

Ancak yapay zekaların nasıl yapılandırıldığını bilmiyorsunuz: nasıl eğitildiklerini, onlara hangi bilgilerin verildiğini ve hangi talimatları izlemeleri gerektiğini bilmiyorsunuz. Örneğin, araştırmacılar Gizli kuralları ortaya çıkardı Microsoft Bing sohbet robotunun davranışını yönetenler. Büyük ölçüde iyi huyludurlar ancak her an değişebilirler.

Para kazanmak

Bu AI'ların çoğu, en büyük teknoloji tekellerinden bazıları tarafından çok büyük maliyetlerle yaratılır ve eğitilir. Ücretsiz ya da çok düşük maliyetle insanların kullanımına sunuluyor. Bu şirketlerin bir şekilde onlardan para kazanması gerekecek. Ve internetin geri kalanında olduğu gibi, bu da bir şekilde gözetleme ve manipülasyonu içeriyor.

Chatbot'unuzdan bir sonraki tatilinizi planlamasını istediğinizi hayal edin. Belirli bir hava yolunu veya otel zincirini veya restoranı sizin için en iyisi olduğu için mi yoksa üreticisi işletmelerden komisyon aldığı için mi seçti? Google aramadaki ücretli sonuçlarda, Facebook'taki haber akışı reklamlarında ve Amazon sorgularındaki ücretli yerleşimlerde olduğu gibi, bu ücretli etkilerin zaman içinde daha gizli olması muhtemeldir.

Chatbot'unuzdan politik bilgiler istiyorsanız, chatbot'un sahibi olan şirketin politikalarına göre sonuçlar çarpık mı? Yoksa ona en çok parayı ödeyen aday mı? Ya da modeli eğitirken verileri kullanılan kişilerin demografik görüşleri? AI ajanınız gizlice bir ikili ajan mı? Şu anda, bilmenin bir yolu yok.

Kanunen güvenilir

İnsanların teknolojiden daha fazlasını beklemesi gerektiğine ve teknoloji şirketlerinin ve yapay zekaların daha güvenilir hale gelebileceğine inanıyoruz. Avrupa Birliği'nin önerdiği AI Yasası yapay zeka modellerini eğitmek için kullanılan veriler hakkında şeffaflık, potansiyel yanlılığın hafifletilmesi, öngörülebilir risklerin açıklanması ve endüstri standardı testler hakkında raporlama gerektiren bazı önemli adımlar atıyor. Avrupa Birliği AI düzenlemesi ile ilerliyor.

Mevcut yapay zekaların çoğu uymamak ortaya çıkan bu Avrupa mandası ile ve buna rağmen son dürtükleme Senato Çoğunluk Lideri Chuck Schumer'den, ABD bu tür düzenlemelerde çok geride.

Geleceğin yapay zekaları güvenilir olmalıdır. Hükümet, AI ürünleri için güçlü tüketici korumaları sağlamadığı sürece, insanlar AI'nın potansiyel risklerini ve önyargılarını tahmin etmek ve insanların onlarla yaşadıkları deneyimler üzerindeki en kötü etkilerini azaltmak için kendi başlarına olacaklar.

Bu nedenle, bir yapay zeka aracından bir seyahat tavsiyesi veya siyasi bilgi aldığınızda, ona bir reklam panosu veya bir kampanya gönüllüsü gibi aynı şüpheci gözle yaklaşın. Tüm teknolojik sihirbazlığına rağmen, AI aracı aynı olmaktan biraz daha fazlası olabilir.

Yazar hakkında

Bruce Schneier, Kamu Politikasında Yardımcı Öğretim Görevlisi, Harvard Kennedy Okulu ve Nathan Sanders, Bağlı şirket, Berkman Klein İnternet ve Toplum Merkezi, Harvard Üniversitesi

Bu makale şu adresten yeniden yayınlandı: Konuşma Creative Commons lisansı altında. Okumak Orijinal makale.