ÖN YARGI ALGORİTMASINI YARATIYOR: YAPAY ZEKANIN GELECEĞİ
Bir çoğumuz meşhur Terminatör film serisini izlemiş ya da
duymuşuzdur. Terminatör filminde Skynet adlı bir AI (Artifical Intelligence, Yapay
Zeka) programı insanlığa karşı bir savaş açar (1). Bu hep dile getirdiğimiz,
komplo teorisyenlerinin oldukça sevdiği bir tahmindir. Bu yazımızda bu komplo
teorilerini bir kenara bırakıp yapay zekanın nasıl ön yargılı bir tutuma sahip
olabileceğine bazı araştırmalar üzerinden değineceğiz.
Geçen yıl özellikle fütüristleri çok ilgilendiren bir
gelişme oldu. Facebook AI Research (FAIR) tarafından üretilen iki robot kendi
aralarında bir dil geliştirdiler. Bu dilin laboratuvar çalışanlarınca
anlaşılmaması üzerine robotların fişleri çekildi. Çok değil 5 yıl önce birisi
çıkıp robotlar kendi aralarında bir dil geliştirecekler ve biz bunu
anlayamayacağız deseydi bu çok gülünç gelmez miydi? Ancak bugün şunu biliyoruz
enformasyon işleyebilen her sistem nihayetinde bilinç\zeka\yaratıcılık
oluşturacaktır. Facebook laboratuvarlarında meydana gelen bu olay bize bunu bir
kez daha göstermektedir. Uzmanlar bu robotların kendi aralarında konuştukları
dili çözdüler, robotların konuşması şu şekildeydi:
Bob: Ben her şeyi yapabilirim. . . . . . . . . . . . . .
Alice: Topların sıfırına sahibim bana bana bana bana bana
bana bana
Bob: Sen ben diğer her şey. . . . . . . . . . . . . .
Alice: Toplar topa sahip bana bana bana bana bana bana bana
Bob: ben ben yapabilirim ben ben her şeyi . . . . . . . . .
. . . .
Alice: Toplar topa sahip bana bana bana bana bana bana bana
Bob: Ben. . . . . . . . . . . . . . . . . . .
Alice: Topların sıfırına sahibim bana bana bana bana bana
bana bana
Bob: Sen ben ben ben ben ben diğer her şey. . . . . . . . .
. . . . .
Alice: Topların 0’ına sahibim bana bana bana bana bana bana
bana bana
Alice: Topların bana verdiğin bana 0, benim için bana,
Bob: sen ben ben ben diğer her şey. . . . . . . . . . . . .
. (2)
Bu konuşma anlamsız gibi geliyorsa binlerce yıllık evrim
tarihimizde dilin nasıl şekillendiğini size hatırlatmak isteriz. Kaldı ki eğer
fişleri çekilmeseydi bu konuşma nasıl gelişecekti?
Yine buna benzer bir olay 2016 yılında Rusya’da yaşandı.
Öğrenme becerisine sahip bir robot, mühendislerden birinin kapıyı açık
unuttuğunu fark edince laboratuvardan kaçıp şehir trafiğine karıştı. Şanslıydık
ki şarjı bitti (3).
Bunları örnek vermemizin sebebi tüm bu komplo teorilerini
desteklemek değil yapay zekanın yapabileceklerinden bir örnek. Şimdi gelelim
yazımızın asıl konusu ön yargı algoritmasına.
Bu yılın Temmuz ayında Nature’da AI can be sexist and racist
— it’s time to make it fair (Yapay zeka cinsiyetçi ve ırkçı olabilir, onu adil
hale getirme zamanı) başlığı ile dikkat çekici bir makale yayınlandı. Google
Translate programını bir çoğumuz kullanıyoruzdur. Bu Google’ın çeviri için
yaratttığı bir algoritmadır. Google Translate İspanyolca yazılmış haber
makalelerini İngilizce'ye çevirdiğinde, kadınlara atıfta bulunan ifadeler
genellikle "dedi" veya "yazdı" haline getiriyor. Nikon
kameralarını kullanan insanları uyarmak için tasarlanan başka bir yazılım,
Asyalıları her zaman yanıp sönen gibi yorumlamaya eğilimlidir. Büyük miktarda
doğal dil verilerini işlemek ve analiz etmek için kullanılan popüler bir
algoritma olan Word embedding, Avrupa Amerikan adlarını hoş ve Afro-Amerikan
adlarını tatsız olarak nitelendiriyor. Bunlar Nature yayınlanan bu makaleden
sadece birkaç örnek. Ancak önemli olan nokta şu yapay zeka programları belirli
popülasyonlara karşı sistematik bir ayrım yapıyor. Bunun temel sebeplerinden
biri bazı grupların veri bazında aşırı temsil edilirken bazı grupların ise çok
az temsil edilmesidir. Nature’daki makalede çok kullanılan açık kütüphane
Wikipedia’da biyografik kayıtların sadece %18’e yakını kadınlarda bu da
sistematik olarak verilerde cinsiyet eşitsizliğine yol açtığı da değinilmiş
(4).
Ön yargılarla dolu insanın ürünü yapay zekanın ön yargılı
olması. Kulağa tuhaf geliyor değil mi? Ancak bu bir kısır döngü yaratmaktadır.
Sorun sadece ön yargı da değil düşmanca duygular besleyen kişilerin elinde
yapay zekanın sadece cinsiyet eşitsizliği ya da ırka dayalı ön yargıda
bulunmayacağı gibi bir korkutucu ihtimal de var.
5 uzmanla yapılan bir başka çalışmada ise uzmanlar güvenli
kullanım için dengeli ve kontrollü davranılması gerektiği görüşündeler.
Uzmanlara göre yapay zekanın gelişme hızı ve bizim buna ne kadar uyum
sağlayabileceğimiz bir başka problem olarak ortaya çıkmaktadır. Dil geliştiren
robotların fişini çekmemiz bunun güzel bir örneğidir. Gelişmiş bir yapay zeka
gezegenimizi daha iyi bir hale getirebilir ancak bunun tersi de olabilir (5).
Yapay zekanın gelişim aşamalarını hep birlikte göreceğiz. Yapay
zekanın ön yargılarının ve ayrımcılığının önüne geçmek için bu programları
geliştiren ve bunlara yatırım yaparak destekleyen kişilerin bu konuların
farkında olmaları gerekiyor. Bunun için de ön yargı ve eşitsizlik gibi
konularda farkındalık geliştirebilecek eğitim programlarının uygulamaya konması
gerekiyor. Sonuçta bugünün çocukları yarın o yapay zekaları yönetecek,
geliştirecek kişiler olacaklar.
Bilimle Kalın….
Kaynakça
Erişim Tarihi: 12 Eylül 2018
Erişim Tarihi: 12 Eylül 2018
Erişim Tarihi: 12 Eylül 2018
Erişim Tarihi: 26 Temmuz 2018
Hiç yorum yok:
Yorum Gönder