Getty Images
Yapay Zeka (AI) hızla ilerliyor ve klinik bakımda önemli bir destek aracı haline gelecek. Araştırma, AI algoritmalarının doğru bir şekilde yapabileceğini gösteriyor melanomları tespit etmek ve gelecekteki meme kanserlerini tahmin etmek.
Ancak yapay zekanın rutin klinik kullanıma entegre edilmesinden önce, algoritmik önyargı sorununu ele almalıyız. AI algoritmaları, ayrımcılığa ve gizlilik sorunlarına yol açabilecek doğal önyargılara sahip olabilir. AI sistemleri, gerekli gözetim veya insan girdisi olmadan da kararlar alıyor olabilir.
AI'nın potansiyel olarak zararlı etkilerine bir örnek, bir uluslararası proje Çığır açan tıbbi tedaviler geliştirerek hayat kurtarmak için yapay zekayı kullanmayı amaçlayan. Bir deneyde ekip, yeni bir yapay zeka modelinin "zarar vermesi" için seçenekler oluşturmak üzere "iyi" yapay zeka modelini tersine çevirdi.
Altı saatten daha kısa bir eğitimde, tersine çevrilmiş AI algoritması, birçoğu mevcut savaş ajanlarından daha tehlikeli olan on binlerce potansiyel kimyasal savaş ajanı üretti. Bu, kimyasal bileşiklerle ilgili aşırı bir örnektir, ancak yapay zekanın bilinen ve muhtemelen bilinemez etik sonuçlarını değerlendirmek için bir uyandırma çağrısı görevi görür.
Klinik bakımda AI
Tıpta, insanların en özel verileriyle ve çoğu zaman hayatlarını değiştiren kararlarla ilgileniriz. Sağlam yapay zeka etik çerçeveleri zorunludur.
The Avustralya Epilepsi Projesi insanların hayatlarını iyileştirmeyi ve klinik bakımı daha yaygın hale getirmeyi amaçlar. Binlerce epilepsi hastasından alınan gelişmiş beyin görüntüleme, genetik ve bilişsel bilgilere dayanarak, yapay zekayı şu amaçlarla kullanmayı planlıyoruz: şu anda cevaplanamayan soruları cevapla.
Bu kişinin nöbetleri devam edecek mi? Hangi ilaç en etkilidir? Beyin cerrahisi uygulanabilir bir tedavi seçeneği midir? Bunlar, modern tıbbın ele almakta zorlandığı temel sorulardır.
Bu projenin yapay zeka lideri olarak asıl endişem, yapay zekanın hızlı hareket etmesi ve düzenleyici gözetimin asgari düzeyde olması. Bu sorunlar, yakın zamanda bir etik çerçeve AI'yı klinik destek aracı olarak kullanmak için. Bu çerçeve, yapay zeka teknolojilerimizin açık, güvenli ve güvenilir olmasını sağlamayı ve aynı zamanda klinik bakımda kapsayıcılığı ve adaleti geliştirmeyi amaçlamaktadır.
Öyleyse önyargıyı azaltmak ve algoritmalar üzerindeki kontrolü elimizde tutmak için yapay zeka etiğini tıpta nasıl uygularız? "Çöp içeri, çöp dışarı" bilgisayar bilimi ilkesi yapay zeka için geçerlidir. Küçük örneklemlerden önyargılı veriler topladığımızı varsayalım. Yapay zeka algoritmalarımız muhtemelen önyargılı olacak ve başka bir klinik ortamda tekrarlanamayacak.
Çağdaş yapay zeka modellerinde önyargı örnekleri bulmak zor değil. Popüler büyük dil modelleri (örneğin ChatGPT) ve gizli yayılma modelleri (DALL-E ve Kararlı Yayılma) nasıl olduğunu gösterir. açık önyargılar cinsiyet, etnik köken ve sosyoekonomik statü ile ilgili olabilir.
Araştırmacılar, basit kullanıcı istemlerinin etnik, cinsiyete dayalı ve sınıfsal klişeleri sürdüren görüntüler oluşturduğunu keşfetti. Örneğin, bir doktor istemi çoğunlukla üretir OECD ülkelerindeki tüm doktorların yaklaşık yarısı kadın olduğu için gerçekle tutarsız olan erkek doktorların görüntüleri.
Tıbbi yapay zekanın güvenli bir şekilde uygulanması
Önyargı ve ayrımcılığı önlemenin çözümü önemsiz değildir. Sağlıkta eşitliğin sağlanması ve klinik araştırmalarda kapsayıcılığın teşvik edilmesi muhtemeldir. birincil çözümler tıbbi yapay zekadaki önyargılarla mücadele etmek için.
Cesaret verici bir şekilde, ABD Gıda ve İlaç İdaresi yakın zamanda önerdi çeşitliliği zorunlu kılmak klinik çalışmalarda. Bu öneri, daha az önyargılı ve toplum temelli klinik araştırmalara doğru bir hareketi temsil etmektedir.
İlerlemenin önündeki bir başka engel de sınırlı araştırma fonudur. AI algoritmaları tipik olarak pahalı olabilen önemli miktarda veri gerektirir. Araştırmacılara AI uygulamalarına uygun klinik olarak ilgili verileri toplamak için gerekli kaynakları sağlayan gelişmiş finansman mekanizmaları oluşturmak çok önemlidir.
Ayrıca, AI algoritmalarının iç işleyişini her zaman bilmemiz ve sonuçlara ve tavsiyelere nasıl ulaştıklarını anlamamız gerektiğini savunuyoruz. Bu kavram genellikle AI'da "açıklanabilirlik" olarak adlandırılır. Optimum sonuçlar için insanların ve makinelerin birlikte çalışması gerektiği fikriyle ilgilidir.
Tahminin modellerde uygulanmasını "yapay" zeka yerine "artırılmış" olarak görmeyi tercih ediyoruz - algoritmalar sürecin bir parçası olmalı ve tıp meslekleri karar verme sürecini kontrol etmelidir.
Açıklanabilir algoritmaların kullanımını teşvik etmenin yanı sıra şeffaf ve açık bilimi destekliyoruz. Bilim adamları, şeffaflığı ve tekrarlanabilirliği artırmak için AI modellerinin ayrıntılarını ve metodolojilerini yayınlamalıdır.
Yapay zekanın tıbbi bakımda güvenli bir şekilde uygulanmasını sağlamak için Aotearoa Yeni Zelanda'da neye ihtiyacımız var? Yapay zeka etiğiyle ilgili kaygılar, öncelikle alandaki uzmanlar tarafından yönetilir. Bununla birlikte, AB-temelli AI düzenlemeleri gibi hedeflenen yapay zeka düzenlemeleri Yapay Zeka Yasası bu etik mülahazaları ele alarak önerilmiştir.
Avrupa AI yasası memnuniyetle karşılanmaktadır ve "güvenli AI" içinde çalışan insanları koruyacaktır. İngiltere hükümeti geçtiğimiz günlerde yayımladı AI düzenlemesine proaktif yaklaşım, AI güvenliğine yönelik diğer hükümet yanıtları için bir plan görevi görüyor.
Aotearoa'da, AI güvenliğine karşı reaktif değil proaktif bir duruş benimsemeyi savunuyoruz. Yapay zekayı klinik bakımda ve diğer alanlarda kullanmak için etik bir çerçeve oluşturacak ve yorumlanabilir, güvenli ve tarafsız yapay zeka sağlayacaktır. Sonuç olarak, bu güçlü teknolojinin topluma fayda sağlarken onu zarardan koruduğuna olan güvenimiz artacaktır.
Yazar hakkında
Mangor Pedersen, Psikoloji ve Nörobilim Doçenti, Auckland Teknoloji Üniversitesi
Bu makale şu adresten yeniden yayınlandı: Konuşma Creative Commons lisansı altında. Okumak Orijinal makale.
İlgili Kitaplar:
Beden Skoru Tutar: Travmanın İyileşmesinde Beyin Zihin ve Beden
ile Bessel van der Kolk
Bu kitap, travma ile fiziksel ve zihinsel sağlık arasındaki bağlantıları araştırıyor, iyileşme ve iyileşme için içgörüler ve stratejiler sunuyor.
Daha fazla bilgi veya sipariş için tıklayın
Nefes: Kayıp Bir Sanatın Yeni Bilimi
James Nestor tarafından
Bu kitap, nefes alma bilimini ve pratiğini araştırıyor, fiziksel ve zihinsel sağlığı iyileştirmek için içgörüler ve teknikler sunuyor.
Daha fazla bilgi veya sipariş için tıklayın
Bitki Paradoksu: Hastalığa ve Kilo Almaya Neden Olan "Sağlıklı" Besinlerdeki Gizli Tehlikeler
Steven R. Gundry tarafından
Bu kitap diyet, sağlık ve hastalık arasındaki bağlantıları araştırıyor ve genel sağlık ve sıhhati iyileştirmek için içgörüler ve stratejiler sunuyor.
Daha fazla bilgi veya sipariş için tıklayın
Bağışıklık Kodu: Gerçek Sağlık ve Radikal Yaşlanma Karşıtı için Yeni Paradigma
kaydeden Joel Greene
Bu kitap, epigenetik ilkelerinden yararlanarak ve sağlık ve yaşlanmayı optimize etmek için içgörüler ve stratejiler sunarak sağlık ve bağışıklığa yeni bir bakış açısı sunuyor.
Daha fazla bilgi veya sipariş için tıklayın
Eksiksiz Oruç Rehberi: Aralıklı, Alternatif Gün ve Uzun Süreli Oruçla Vücudunuzu İyileştirin
Jason Fung ve Jimmy Moore tarafından
Bu kitap, genel sağlık ve sıhhati iyileştirmek için içgörüler ve stratejiler sunarak oruç bilimini ve uygulamasını araştırıyor.
hangi
