Labmedya - Laboratuvar ve Sağlık Gazetesi

Çalışma, X-ışınlarını ve tomografi taramalarını okumak için eğitilmiş bir yapay zekâ programının bir kişinin ırkını yüzde 90 doğrulukla tahmin edebileceğini buldu, ama çalışmayı yürüten bilim insanlarının bilgisayarın bunu nasıl çözdüğüne dair hiçbir fikirleri yok. Radyologlar aynı şekilde ırkı yüzde 50 doğrulukla belirleyebiliyorlar. Uzmanlar bu olayın ten rengini belirleyen pigment olan melaninle ilgisi olmasından şüpheleniliyorlar. Araştırmacılar, sistemin daha koyu renklerin daha yüksek seviyede melanin içerdiğini tespit ettiğini ve bu bilgiyi ırk tahmin etmede kullanabileceğini söylüyor.

Amerika Birleşik Devletleri, Kanada, Avustralya ve Tayvan'dan bilim insanlarını içeren araştırma ekibi, öncelikle her görüntünün kişinin ırkıyla etiketlendiği standart röntgen ve tomografi taramaları veri setlerini kullanarak yapay zekâ sistemini eğittiler. Görüntüler, göğüs, el ve omurga dahil olmak üzere vücudun farklı bölgelerinden oluşmaktaydı. Bilgisayar tarafından incelenen teşhis görüntüleri, ten rengi veya saç dokusu gibi belirgin bir ırk belirteci içermiyordu.

Yazılıma çok sayıda etiketli görüntü gösterildikten sonra bu görüntülerden farklı olarak etiketlenmemiş görüntü kümeleri gösterildi. Program, görüntülerdeki insanların ırkını, genellikle yüzde 90'ın oldukça üzerinde, dikkate değer bir doğrulukla tespit edebildi. Aynı boy, yaş veya cinsiyetteki insanlardan alınan görüntüler analiz edildiğinde bile, yapay zekâ, siyahi ve beyaz hastaları doğru bir şekilde ayırt edebildi.

Araştırmacılar yaptıkları açıklamada ırkı doğru tahmin edip buna dayalı olarak farklı sonuçlar veren algoritmaların ortaya çıkmasından endişelendiklerini belirttiler.

Makalede şu ifadelere yer verildi, “Tıbbi görüntü analizine dahil olan tüm geliştiricilerin, düzenleyicilerin ve kullanıcıların derin öğrenme modellerinin kullanımını son derece dikkatli bir şekilde düşünmelerini şiddetle tavsiye ediyoruz, çünkü bu tür bilgiler tıbbi uygulamada var olan ırksal eşitsizlikleri sürdürmek veya daha da kötüleştirmek için kullanılabilir.”

Makale:

 https://www.thelancet.com/journals/landig/article/PIIS2589-7500(22)00063-2/fulltext