Yazılar

“Yeni Nobel” – Bilgisayar Bilimcisi 1 Milyon Dolarlık Yapay Zeka Ödülü Kazandı

Duke profesörü, sosyal sorumluluk sahibi yapay zekaya öncülük ettiği için AAAI Sincap Yapay Zeka Ödülü’nün ikinci alıcısı oldu.

Duke Üniversitesi bilgisayar bilimcisi Cynthia Rudin, elektrik şebekelerindeki patlamaları önlemek, geçmiş suçlar arasındaki kalıpları tespit etmek veya kritik hastaların bakımında kaynakları optimize etmek olsun, yapay zekanın (AI) çalışmalarını göstermesini istiyor. Özellikle de insanların hayatlarını derinden etkileyen kararlar alırken.

Gelişmekte olan makine öğrenimi alanındaki birçok bilim insanı algoritmaları geliştirmeye odaklanırken, Rudin bunun yerine AI’nın gücünü topluma yardım etmek için kullanmak istedi. Makine öğrenimi tekniklerini önemli toplumsal sorunlara uygulama fırsatlarını takip etmeyi seçti ve bu süreçte, AI’nın potansiyelinin en iyi şekilde, insanlar içeriye bakıp onun ne yaptığını anlayabildiği zaman ortaya çıktığını fark etti.

Şimdi, 15 yıl boyunca insanların yapay zekanın içini görmesini sağlayan “yorumlanabilir” makine öğrenimi algoritmalarını savunup geliştirdikten sonra, Rudin’in alana yaptığı katkılar ona İnsanlığın Yararına İnsanlığın Yararına Yönelik Yapay Zeka için 1 milyon Dolarlık Sincap Yapay Zeka Ödülü’nü kazandırdı. Yapay Zekanın Gelişimi (AAAI). 1979’da kurulan AAAI, yapay zeka araştırmacılarına, uygulayıcılarına ve eğitimcilerine hizmet veren önde gelen uluslararası bilim topluluğu olarak hizmet vermektedir.

Duke’te bilgisayar bilimi ve mühendisliği profesörü olan Rudin, çevrimiçi eğitim şirketi Squirrel AI tarafından daha geleneksel alanlardaki en büyük ödüllerle karşılaştırılabilir bir şekilde yapay zekadaki başarıları tanımak için finanse edilen yeni yıllık ödülün ikinci alıcısı.

“Gerçek dünyadaki dağıtımlarda yorumlanabilir ve şeffaf yapay zeka sistemleri alanında öncü bilimsel çalışmalar, sosyal adalet ve tıbbi teşhis gibi son derece hassas alanlarda bu özelliklerin savunuculuğu ve araştırmacılar ve uygulayıcılar.”

AAAI ödül komitesi başkanı ve eski başkan Yolanda Gil, “Yalnızca Nobel Ödülü ve Bilgisayar Makineleri Birliği’nden AM Turing Ödülü gibi dünyaca ünlü ödüller milyon dolar düzeyinde parasal ödüller taşıyor” dedi. “Profesör Rudin’in çalışması, yüksek riskli alanlardaki yapay zeka sistemleri için şeffaflığın önemini vurguluyor. Tartışmalı konuları ele almadaki cesareti, yapay zekanın sorumlu ve etik kullanımındaki kritik zorlukları ele almak için araştırmanın önemini ortaya koyuyor.”

Rudin’in ilk uygulanan projesi, New York şehrine güç sağlamaktan sorumlu enerji şirketi Con Edison ile bir işbirliğiydi. Görevi, bozulan ve aşırı yüklenen elektrik devreleri nedeniyle hangi rögarların patlama riski altında olduğunu tahmin etmek için makine öğrenimini kullanmaktı. Ancak kısa süre sonra, koduna ne kadar yeni yayınlanmış akademik ıslık eklerse eklesin, Thomas Edison’un zamanına ait sevk memurlarının el yazısıyla yazılmış notları ve muhasebe kayıtlarıyla çalışmanın getirdiği zorluklarla karşılaştığında, performansı anlamlı bir şekilde iyileştirmek için mücadele ettiğini keşfetti.

Rudin, “Basit klasik istatistik tekniklerinden daha fazla doğruluk elde ediyorduk ve onunla çalışmaya devam ettikçe verileri daha iyi anlıyorduk” dedi. Tahmine dayalı modellerin hangi bilgileri kullandığını anlayabilseydik, Con Edison mühendislerinden tüm sürecimizi iyileştiren faydalı geri bildirimler isteyebilirdik. Tahminlerimizdeki doğruluğu artırmaya yardımcı olan, daha büyük veya daha gösterişli bir makine öğrenimi modeli değil, süreçteki yorumlanabilirlikti. Üzerinde çalışmaya karar verdiğim şey buydu ve laboratuvarımın üzerine inşa edildiği temel de bu.”

Sonraki on yılda Rudin, kendilerini insanların anlayabileceği şekillerde açıklayan tahmine dayalı modeller olan yorumlanabilir makine öğrenimi için teknikler geliştirdi. Bu formülleri tasarlamanın kodu karmaşık ve karmaşık olsa da, formüller bir dizin kartına birkaç satıra yazılacak kadar küçük olabilir.

Rudin, yorumlanabilir makine öğrenimi markasını çok sayıda etkili projeye uyguladı. Massachusetts General Hospital’daki işbirlikçileri Brandon Westover ve Aaron Struck ve eski öğrencisi Berk Üstün ile birlikte, inme veya başka bir beyin hasarından sonra hangi hastaların en fazla yıkıcı nöbet geçirme riski altında olduğunu tahmin edebilen basit bir nokta tabanlı sistem tasarladı. Ve eski MIT’si ileÖğrenci Tong Wang ve Cambridge Polis Departmanından birlikte çalışarak, suçların aynı suçlular tarafından işlenen bir serinin parçası olup olmadığını belirlemek için suçlar arasındaki ortak noktaları keşfetmeye yardımcı olan bir model geliştirdi. Bu açık kaynaklı program, sonunda, şehirde işlenen yeni bir suçun geçmişteki suçlarla ilgili olup olmadığını belirleyen güçlü bir kod parçası olan New York Polis Departmanı’nın Patternizr algoritmasının temeli oldu.

Cambridge Polis Departmanı müfettiş yardımcısı Daniel Wagner, “Cynthia’nın önemli gerçek dünya sorunlarını çözme taahhüdü, alan uzmanlarıyla yakın çalışma arzusu ve karmaşık modelleri damıtıp açıklama yeteneği benzersizdir” dedi. “Araştırması, suç analizi ve polislik alanına önemli katkılarla sonuçlandı. Daha da etkileyici olanı, ceza adaleti ve diğer yüksek riskli alanlarda potansiyel olarak adaletsiz ‘kara kutu’ modellerinin güçlü bir eleştirmeni ve doğru, adil ve önyargısız sonuçların gerekli olduğu şeffaf yorumlanabilir modellerin yoğun bir savunucusu.”

Kara kutu modelleri Rudin’in şeffaf kodlarının tam tersidir. Bu yapay zeka algoritmalarında uygulanan yöntemler, insanların modellerin hangi faktörlere bağlı olduğunu, modellerin hangi verilere odaklandığını ve bunları nasıl kullandıklarını anlamasını imkansız hale getiriyor. Bu, bir köpeği kediden ayırt etmek gibi önemsiz görevler için bir sorun olmasa da, insanların hayatlarını değiştiren yüksek riskli kararlar için büyük bir sorun olabilir.

Jun Yang şunları söyledi: , Duke’deki bilgisayar bilimleri bölümünün başkanı. “Bu, yüksek riskli durumlarda bireylerin (sanıklar gibi) kara kutu modellerine tabi tutulmasını haklı çıkarmayı zorlaştırıyor. Cynthia’nın modellerinin yorumlanabilirliği, insan karar vericilerin onları değiştirmek yerine onları etkinleştirmelerini sağladıklarından, pratikte benimsenmelerinde çok önemli olmuştur.”

Etkili bir örnek, ProPublica soruşturması tarafından ırkı hesaplamalarında bir faktör olarak kısmen kullanmakla suçlanan, kefalet şartlı tahliye kararları vermek için birden fazla eyalette kullanılan bir AI algoritması olan COMPAS’ı içerir. Algoritmanın ayrıntıları özel bilgiler olduğundan ve ProPublica tarafından yapılan analizin bazı önemli yönleri tartışmalı olduğundan, suçlamayı kanıtlamak zordur. Rudin’in ekibi, tam olarak hangi faktörleri göz önünde bulundurduğunu ortaya koyan basit bir yorumlanabilir modelin, bir kişinin başka bir suç işleyip işlemeyeceğini tahmin etmede aynı derecede iyi olduğunu gösterdi. Rudin, bu tür yüksek riskli kararlar için neden kara kutu modellerinin kullanılması gerektiği sorusunu akla getiriyor.

Rudin, “Yüksek riskli uygulamalar için, modellerimizi dikkatli bir şekilde optimize ettiğimiz sürece, yorumlanabilirlik elde etmek için doğrulukta bir kayıp olmadığını sistematik olarak gösteriyoruz” dedi. “Bunu ceza adaleti kararları, tıbbi görüntüleme, elektrik şebekesi bakım kararları, finansal kredi kararları ve daha fazlası dahil olmak üzere çok sayıda sağlık hizmeti kararı için gördük. Bunun mümkün olduğunu bilmek, yapay zekanın kendisini açıklamaktan aciz olduğunu düşünme şeklimizi değiştiriyor.”

Rudin, kariyeri boyunca yalnızca bu yorumlanabilir yapay zeka modellerini yaratmakla kalmıyor, aynı zamanda başkalarının da aynı şeyi yapmasına yardımcı olacak teknikler geliştiriyor ve yayınlıyor. Bu her zaman kolay olmadı. Çalışmasını ilk yayınlamaya başladığında, “veri bilimi” ve “yorumlanabilir makine öğrenimi” terimleri yoktu ve araştırmasının tam olarak uyduğu hiçbir kategori yoktu, bu da editörlerin ve eleştirmenlerin ne yapacaklarını bilmedikleri anlamına geliyordu. o. Cynthia, bir makalenin teoremleri kanıtlamaması ve algoritmalarının daha doğru olduğunu iddia etmemesi durumunda, yayınlanmasının daha zor olduğunu ve çoğu zaman hala öyle olduğunu keşfetti.

Rudin insanlara yardım etmeye ve yorumlanabilir tasarımlarını yayınlamaya devam ettikçe ve kara kutu koduyla ilgili endişeler artmaya devam ettikçe, etkisi nihayet gemiyi döndürmeye başlıyor. Artık makine öğrenimi dergilerinde ve yorumlanabilir ve uygulamalı çalışmaya ayrılmış konferanslarda tüm kategoriler var. Alandaki diğer meslektaşlar ve onların işbirlikçileri, güvenilir AI sistemleri tasarlamak için yorumlanabilirliğin ne kadar önemli olduğunu dile getiriyorlar.

James B. Duke Distinguished Ingrid Daubechies, “Cynthia’ya, bağımsızlık ruhuna, kararlılığına ve derslerde ve makalelerde karşılaştığı yeni her şeyi gerçek anlamda anlama konusundaki amansız arayışına en başından beri büyük bir hayranlık duydum” dedi. Sinyal işleme konusunda dünyanın önde gelen araştırmacılarından biri olan Matematik ve Elektrik ve Bilgisayar Mühendisliği Profesörü ve Princeton Üniversitesi’nde Rudin’in doktora danışmanlarından biri . “Bir yüksek lisans öğrencisiyken bile, topluluğundaki diğerlerini savunan bir topluluk oluşturucuydu. Beni makine öğrenimine soktu, çünkü bu, beni nazikçe ama ısrarla dürtmeden önce, herhangi bir uzmanlığım olan bir alan değildi. Onun için bu harika ve çok hak ettiği takdir için çok mutluyum!”

Rudin’in ikinci doktora danışmanı olan Microsoft Araştırma ortağı Robert Schapire, “Cynthia’nın çalışmalarının bu şekilde onurlandırıldığını görmek beni daha fazla heyecanlandıramaz” diye ekledi. “İlham verici ve anlayışlı araştırması, onu ana akımdan çok farklı yönlere götüren bağımsız düşüncesi ve pratik, toplumsal öneme sahip konulara ve sorunlara uzun süredir dikkat etmesi için.”

Rudin , Princeton’da uygulamalı ve hesaplamalı matematik alanında doktorasını tamamlamadan önce Buffalo Üniversitesi’nden matematiksel fizik ve müzik teorisi alanında lisans dereceleri aldı . Daha sonra New York Üniversitesi’nde Ulusal Bilim Vakfı doktora sonrası araştırma görevlisi ve Columbia Üniversitesi’nde yardımcı araştırma bilimcisi olarak çalıştı . 2017’de Duke’ün fakültesine katılmadan önce Massachusetts Teknoloji Enstitüsü’nde istatistik doçenti oldu ve burada bilgisayar bilimi, elektrik ve bilgisayar mühendisliği, biyoistatistik ve biyoinformatik ve istatistik bilimi alanlarında görev yaptı.

Analitik tekniklerin yaratıcı ve benzersiz uygulamalarını takdir eden INFORMS Analitikte Yenilikçi Uygulamalar Ödülünü üç kez almıştır ve American Statistical Association ve Institute of Mathematical Statistics üyesidir.

Rudin, “Alanın kurallarını değiştireceğini bildiğim bu ödülü verdikleri için AAAI ve Squirrel AI’a teşekkür etmek istiyorum” dedi. “Yapay zekanın topluma yardım etmesi için bir ‘Nobel Ödülü’ne sahip olmak, bu konunun – yapay zeka toplum yararına çalışır – aslında önemli olduğunu nihayet net bir şekilde ortaya koyuyor.”

İlgili Makaleler

Bir cevap yazın

E-posta hesabınız yayımlanmayacak.

Başa dön tuşu