Makine öğrenmesi algoritmaları şimdiye kadar otoriteler tarafından öğrenme şekilleri olan gözetimli ve gözetimsiz öğrenme şeklinde gruplandırılmaktaydı. Rob Walker, bu yılki Pegaworld etkinliğinde konuya yeni bir bakış açısı getirerek gözetimli öğrenme algoritmalarını opak yani mat ve transparan yapay zeka algoritmaları şeklinde grupladı. İşin aslı, güneşin altında yeni bir şey yok! Makinenin karara nasıl ulaştığının insanlar tarafından açıklabilmesi ya da açıklanamamasından esinle bu yeni kelimeler kullanılmış. Ama hakkını da vermek gerekir ki Walker’un bu yeni tanımları çok yaratıcı olmuş.
Nöral ağlar, genetik algoritmalar gibi opak yapay zeka algoritmaları çok güçlü olsalar da kararla ilgili sonuca nasıl ulaşıldığının yorumlanması neredeyse imkansızdır. Bu nedenledir ki bu algoritmalar için kara kutu tabiri kullanılıyor.
Buna karşın, karar ağaçları ve rastgele orman gibi transparan yapay zeka algoritmalarıyla alınan karara nasıl ulaşıldığı insanlar tarafından rahatlıkla okunabilmekte, anlaşılabilmekte ve yorumlanabilmektedir.
Peki karara nasıl ulaşıldığının açıklanabilmesi ne kadar önemli bir kıstastır? Kredi değerlendirmesi sonucu gibi konular yasal düzenlemeler gereği açıklanabilir olmak zorundadır. Ama bunun dışında kalan konularda kararın doğruluğu, çoğunlukla kararın alınış yönteminden daha önemlidir. Aşkta ve savaşta her şey mubahtır, değil mi?
Aşkta ve Savaşta Her Şey Mübah mıdır?
Örneğin NASA tarafından geliştirilmiş bu evrimleştirilmiş anten, bir opak yapay zeka algoritması olan genetik algoritma tarafından dizayn edilmiştir. Nedeni açıklanamasa da şimdiye kadar üretilmiş en iyi anten ışıma örüntüsü üretir. Sonuç olarak bu anten şimdiye kadar üretilmiş en iyi antendir ve nasıl tasarlandığı da önemli değildir.
Öte yandan, opak yapay zeka algoritmasına güvenmek körü körüne inanmayı gerektirir. Microsoft’un Tay adını verdiği chatbot’unu hatırlayanlarınız vardır. Microsoft bu konuşma botunu derin öğrenme üzerine inşa etmişti. Ancak Tay, ırkçı ve soykırımı destekler sözleri sebebiyle, şalteri Microsoft tarafından kapatılana kadar 16 saat yaşabildi. Aslında bu konuda Microsoft’un bir suçu bulunmuyor. Şirket, sadece Tay’i opak yapay zeka algoritması üzerine kurarken ırkçı söylemler karşısında neye dönüşeceğini öngörememişti.
Hesabını kışa göre yap, yaz çıkarsa bahtına atasözü bilirsiniz. Defansif davranış, kara kutulara güvenmemenizi önerir. Walker aynı konferansta Pegasystems‘in adeta göbeğine yerleştirdikleri yapay zeka modülünü kontrol için tasarladıkları T tuşunun duyurusunu yaptı. T harfi transparanlığın kısaltmasıyken aynı zamanda İngilizce trust yani Türkçesiyle güven anlamına da gelmekte. Bu tuşun aktive edilmesi halinde tüm opak yapay zeka algoritmaları devre dışı kalmakta. Öte yandan, opak yapay zeka algoritmalarının, transparan algoritmalara göre daha güçlü eğilim gösterdikleri de yadsınamaz bir gerçek.
Peki siz hangisini seçerdiniz? Güveni mi yoksa gücü mü?
Bu yazı, Yazılımcının Seyir Defteri blog’undaki Transparency in AI yazısından Türkçe’ye çevrilmiştir.